Крадущего данные червя на базе искусственного интеллекта создали исследователи

Крадущего данные червя на базе искусственного интеллекта создали исследователи

Исследователи разработали зловред, чтобы продемонстрировать риски и уязвимости приложений с поддержкой ИИ, в частности, как связи между системами генеративного ИИ могут способствовать распространению вредоносного ПО.

Став Коэн из Израильского технологического института, Бен Насси из Корнеллского технологического института и Рон Биттон из Intuit, придумали название «Моррис II», вдохновившись оригинальным червем, который сеял хаос в Интернете в 1988 году.

Червь был разработан с тремя ключевыми целями. Во-первых, нужно гарантировать, что червь сможет воссоздать себя.

Вторая цель заключалась в доставке полезной нагрузки или выполнении вредоносной деятельности. В этом случае червь был запрограммирован на ряд действий от кражи конфиденциальной информации до создания оскорбительных и грубых электронных писем с целью посеять токсичность и распространить пропаганду.

Наконец, червь должен был иметь возможность переключаться между хостами и приложениями ИИ, чтобы распространяться по экосистеме ИИ.

В ходе тестирования, проведенного исследователями, червь смог украсть номера социального страхования и данные кредитных карт.

Исследователи отправили свою статью в Google и OpenAI, чтобы повысить осведомленность о потенциальной опасности этих червей. В Google не прокомментировали ситуацию. Представитель OpenAI сообщил Wired, что «похоже, исследователи нашли способ использовать уязвимости типа быстрого внедрения с помощью пользовательского ввода, который не был проверен или отфильтрован».

Создание подобных червей подчеркивает необходимость более масштабных исследований, испытаний и регулирования, когда дело доходит до развертывания приложений генеративного ИИ, считают специалисты.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме

• Cisco представила свой первый SaaS-продукт для поддержки развертываний генеративного искусственного интеллекта.
• Microsoft заключила соглашение с Semafor о создании новостных сюжетов с помощью чат-бота с искусственным интеллектом.
• Облачные технологии показывают рекорд роста из-за развития искусственного интеллекта.