Хамский тон искусственного интеллекта заставил Microsoft ограничить Bing Chat

Хамский тон искусственного интеллекта заставил Microsoft ограничить Bing Chat. Фото: СС0

Сообщалось об инцидентах, когда Bing Chat начинался с дружеской беседы, но она уступила место странным разговорам, спорам и хамскому тону. Поэтому Microsoft и OpenAI объявили на прошлой неделе, что они предложат пользователям больший контроль над Bing Chat и ChatGPT соответственно. 

OpenAI заявила, что предложит пользователям контроль над значениями ChatGPT, в то время как Microsoft заявила, что предложит больше контроля, потому что модель Bing Chat «иногда пытается реагировать или отражать тон, которым ее просят предоставить ответы». Это может привести к неожиданному стилю и хамским ответам.

Microsoft обнаружила, что сеансы чата, включающие 15 или более вопросов, приводят к тому, что Bing становится повторяющимся или склонным к «провоцированию».

В результате Bing Chat теперь будет ограничен 50 «переходами чата» в день и пятью «переходами чата» за сеанс. Переходы чата включают вопрос пользователя и ответ от Bing. После достижения предела пользователям будет предложено создать новую тему, а контекст будет удален из модели, чтобы «избежать путаницы». 

Из сообщения компании Microsoft:

«Наши данные показали, что подавляющее большинство из вас находит ответы, которые вы ищете, в течение пяти ходов, и что только около 1% разговоров в чате содержат более 50 сообщений. После того, как сеанс чата достигнет 5 ходов, вам будет предложено начать новую тему. В конце каждого сеанса чата необходимо очищать контекст, чтобы модель не запуталась. Просто нажмите на значок метлы слева от окна поиска, чтобы начать все сначала».

Startpack подготовил список облачных платформ для разработки и запуска чат-ботов. С помощью визуальных элементов позволяют задать логику работы бота и настроить сценарии взаимодействия с пользователями. Тестируют чат-ботов на возможные ошибки в коде и логике работы. Не требуют навыков программирования для создания бота в Telegram, Facebook Messenger, ВКонтакте и других социальных сетях или мессенджерах. Организуют совместную работу при необходимости создания чат-ботов со сложной логикой или разветвлённой системой ответов.

Статьи по теме

• Microsoft Word и Outlook могут очень скоро получить поддержку искусственного интеллекта.
• Microsoft намерена помогать компаниям создавать собственный ChatGPT.
• Microsoft Edge теперь имеет собственный инструмент ChatGPT.