Расследование вымогателя JadePuffer: ИИ брал на себя технику, но стратегию диктовали люди

Специалисты облачного security-провайдера Sysdig опубликовали официальные разъяснения по нашумевшему инциденту с вымогательским ПО JadePuffer, который ранее многие поспешили назвать первым в истории полностью автономным агентом на основе искусственного интеллекта.
Расследование вымогателя JadePuffer: ИИ брал на себя технику, но стратегию диктовали люди

Расследование вымогателя JadePuffer: ИИ брал на себя технику, но стратегию диктовали люди. Фото: СС0

Эти разъяснения меняют картину: хотя ИИ действительно впечатляюще справлялся с технической стороной атаки, ключевые стратегические решения, включая выбор целей, настройку инфраструктуры управления и передачу украденных учётных данных, принимались людьми, которые оставались главными действующими лицами и лишь делегировали агенту исполнительские функции.

Старший директор по исследованию угроз Sysdig Майкл Кларк в своём детальном анализе подчеркнул, что JadePuffer не добывал доступ самостоятельно, а получил его из рук злоумышленников, которые заранее скомпрометировали системы и вручную ввели первоначальные учётные данные, после чего агент разворачивался в атакуемой среде и начинал действовать по заданному сценарию.

Тем не менее, технические возможности JadePuffer вызывают серьёзное беспокойство: проникнув в инфраструктуру через известную уязвимость в приложении Langflow, он автономно перемещался по сети, похищал конфиденциальные данные, шифровал более 1,3 тыс. конфигурационных записей и даже самостоятельно корректировал свои действия при сбоях, перестраивая параметры и повторяя попытки в среднем за 31 секунду, причём на каждом этапе агент оставлял комментарии на естественном языке, поясняющие его «ход мыслей», а финальным аккордом становилась автоматически сгенерированная записка с требованием выкупа.

Вопрос о том, какая именно модель лежала в основе этого агента, остаётся открытым: хотя в процессе атаки были обнаружены API-ключи от OpenAI, Anthropic, DeepSeek и Gemini, расследование показало, что это были всего лишь похищенные «активы» агента, а не его движок, и исследователи склоняются к версии, что злоумышленники использовали открытую весовую модель с удалёнными ограничениями безопасности.

Этот инцидент ярко демонстрирует новую реальность киберпреступного мира — модель гибридного взаимодействия, где человек отвечает за замысел и ресурсы, а ИИ берёт на себя рутинную, но критически важную работу по взлому, масштабированию и обходу защиты, и хотя сегодня агенты всё ещё не способны на самостоятельное стратегическое планирование, эксперты предупреждают, что стремительное удешевление таких автоматизированных инструментов в ближайшем будущем может привести к лавинообразному росту подобных атак.

Компаниям следует не только думать о запретах на использование ИИ, но и в первую очередь закрывать уязвимости в критических интерфейсах и внедрять политику минимальных привилегий, чтобы разорвать саму цепочку, по которой агент получает возможность наносить ущерб.

Упомянутые сервисы
DeepSeek Нейросеть для генерации текста, кода и работы с документами.
Нейросеть для генерации текста, кода и работы с документами.
Gemini Чат-бот от Google для общения с нейросетью, поиска информации и создания контента.
Чат-бот от Google для общения с нейросетью, поиска информации и создания контента.

Больше интересного

Актуальное

Завтраки в кафе: как проверить меню и экономику до запуска Яндекс восстановил более 99 % данных на Диске «Чёрная пятница» в сервисе финучёта Adesk — до 6 месяцев подписки в подарок
Ещё…

Популярные теги