У чат-бота Amazon Q есть серьезные проблемы с точностью и конфиденциальностью

У чат-бота Amazon Q есть серьезные проблемы с точностью и конфиденциальностью. Фото: СС0
Как сообщает издание Platformer, Q «испытывает серьезные «галлюцинации» и утечку конфиденциальных данных». «Галлюцинации» – это ошибка, при которой модель искусственного интеллекта «придумывает» информацию.
Информация, которую раскрывает чат-бот включает расположение центров обработки данных AWS, внутренние программы скидок и даже сведения о невыпущенных функциях.
Представитель Amazon опроверг утверждения о том, что чат-бот раскрывает конфиденциальную информацию.
Из сообщения представителя Amazon:
«Не было выявлено никаких проблем с безопасностью. Мы ценим все отзывы, которые уже получили, и продолжим настраивать Q по мере того, как он переходит от предварительной версии продукта к общедоступному.»
Q — это чат-бот, ориентированный на бизнес, который можно настроить для помощи сотрудникам в выполнении различных рабочих функций, а также для ответа на вопросы и создания контента.
В Amazon заявили, что несколько компаний уже используют Q. Среди них Accenture, Amazon, BMW Group, Gilead, Mission Cloud, Orbit Irrigation и Wunderkind.
Вместо того, чтобы получать информацию из Интернета, как это делают многие другие чат-боты, Q вместо этого извлекает ответы из «информационных хранилищ компании, кодовых баз и корпоративных систем», что делает ситуацию еще более проблематичной, если эта информация неверна или конфиденциальна.
Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.
Статьи по теме