Microsoft Copilot мог быть взломан с помощью очень низкотехнологичных методов

Исследователи кибербезопасности нашли способ заставить Microsoft 365 Copilot собирать конфиденциальные данные, такие как пароли, и отправлять их третьим лицам-злоумышленникам с помощью «контрабанды ASCII».

Microsoft Copilot мог быть взломан с помощью очень низкотехнологичных методов. Фото: из архива компании

Для атаки с использованием ASCII-контрабанды требовалось три вещи: Copilot для Microsoft 365, читающий содержимое электронного письма или прикрепленного документа; доступ к дополнительным программам, таким как Slack, и возможность «контрабанды» приглашения с помощью «специальных символов Unicode, которые отражают ASCII, но на самом деле не видны в пользовательском интерфейсе».

Как объясняют исследователи из Embrace the Red, которые обнаружили уязвимость, Microsoft 365 Copilot можно заставить читать и анализировать содержимое входящих сообщений электронной почты и вложений. Если это электронное письмо или вложение говорит Microsoft 365 Copilot искать пароли, адреса электронной почты или другие конфиденциальные данные в Slack или где-либо еще, он сделает это.

В конечном итоге, если такой вредоносный запрос скрыт во вложении или электронном письме с помощью специальных символов Unicode, которые делают его невидимым для жертвы, она может, сама того не осознавая, дать указание своему чат-боту передать конфиденциальные данные третьим лицам-злоумышленникам.

Чтобы доказать свою точку зрения, исследователи поделились с Microsoft демонстрациями эксплойтов. На них видно, как можно извлечь и затем расшифровать конфиденциальные данные, такие как коды многофакторной аутентификации ( MFA ).

Из сообщения исследователей безопасности:

«Электронная почта — не единственный способ доставки для такого эксплойта. Документы по совместному использованию или извлечение RAG могут также использоваться в качестве подсказки для инъекций.»

Исследователи рекомендовали разработчикам блокировать интерпретацию тегов Unicode в Copilot 365.

В Microsoft занимаются решением этой проблемы.

Startpack подготовил список антивирусных продуктов, которые помогают защитить IT-активы компании от заражения зловредами. Список содержит продукты российских и зарубежных разработчиков. Помимо защиты от вирусов, решения позволяют хранить и управлять паролями, разворачивать антиспам-системы, проводить резервное копирование данных, защищать не только персональные компьютеры, но и серверы, а также локальные сети предприятия.

Статьи по теме