В Webflow нашли способ не дать ИИ случайно раскрыть секреты

Инженеры компании Webflow создали инструмент с открытым исходным кодом, который предотвращает попадание конфиденциальных данных в контекстное окно AI-агента, после того как в ходе отладки модель едва не раскрыла реальный токен сессии AWS.

В Webflow нашли способ не дать ИИ случайно раскрыть секреты. Фото: из архива компании

Утилита под названием ctxcop перехватывает вывод команд, содержимое файлов и другие данные до того, как они попадут в модель, и заменяет любую информацию, похожую на учётные данные, на заглушку, при этом сама команда выполняется с реальными значениями, а модель просто не видит секрет.

Инструмент работает как хук для таких систем, как Claude Code, Cursor и других агентов, подключаясь к событиям выполнения команд и чтения файлов, чтобы сканировать выходные данные по правилам betterleaks — форка Gitleaks с расширенными возможностями обнаружения секретов.

Разработчики подчёркивают, что инструмент не является полноценным брандмауэром и не заменяет сетевые средства контроля, но закрывает конкретную границу утечки через контекстное окно модели, и его использование не требует создания учётных записей или настройки прокси.

Код проекта распространяется под лицензией MIT, и команда Webflow уже опубликовала документацию по установке и интеграции с различными агентскими фреймворками.

Несмотря на то что большинство провайдеров LLM имеют надёжные контракты и не обучаются на пользовательских данных, у них всё равно остаются логи, поэтому безопаснее не передавать третьей стороне больше информации, чем необходимо для выполнения задачи, и ctxcop реализует именно этот принцип на практике.