Платформа DigitalOcean обеспечила безопасное выполнение задач ИИ-агентов

Платформа DigitalOcean обеспечила безопасное выполнение задач ИИ-агентов. Фото: СС0

Чтобы исключить риски, связанные с предоставлением искусственному интеллекту полного доступа к критической инфраструктуре, разработчики внедрили трехуровневую систему защиты, полностью основанную на декларативных конфигурационных файлах, а не на ручном мониторинге.

Первый уровень безопасности гарантирует, что учетные данные никогда не попадают в непосредственное распоряжение агента: специальный шлюз действий (Action Gateway) автоматически прикрепляет токены авторизации непосредственно в момент вызова API, полностью исключая их передачу через промпт, транскрипт или логи языковой модели.

Второй уровень опирается на политики среды выполнения с открытым исходным кодом NVIDIA OpenShell, которая через изолированные микровиртуальные машины Firecracker жестко ограничивает файловую систему, разрешая запись только в специально отведенные директории и блокируя любые попытки повышения привилегий.

Третий уровень контролирует сетевой трафик по принципу запрета по умолчанию, разрешая агенту устанавливать исходящие соединения исключительно с заранее утвержденным списком хостов, при этом любой запрос к внешним ресурсам за пределами этого списка немедленно блокируется прокси-сервером.

Подобный подход позволяет делегировать агенту выполнение сложных производственных задач, таких как перенос баз данных и настройка политик доступа, сохраняя при этом абсолютный контроль над средой исполнения.

В компании подчеркивают, что установка этих жестких границ является нативной функцией платформы Harness Runtime, что избавляет разработчиков от необходимости внедрять сторонние инструменты безопасности и позволяет заранее декларировать пределы допустимых действий для любых автономных ИИ-систем в облаке.