Инструмент по поиску уязвимостей на базе искусственного интеллекта разработали в Google

Команда аналитиков безопасности Google Project Zero представила новую структуру, направленную на улучшение автоматизированных исследований уязвимостей с использованием больших языковых моделей.
Инструмент по поиску уязвимостей на базе искусственного интеллекта разработали в Google

Инструмент по поиску уязвимостей на базе искусственного интеллекта разработали в Google. Фото: СС0

Проект Naptime использует ИИ для воспроизведения систематических методов, используемых исследователями в области безопасности человека, чтобы снизить нагрузку на персонал.

Инициатива получила свое название благодаря своему потенциалу, позволяющему работникам «регулярно вздремнуть», пока ИИ выполняет сложные задачи по исследованию уязвимостей.

Сергей Глазунов и Марк Брэнд из Google Project Zero отметили, что «Naptime использует специализированную архитектуру для расширения возможностей LLM по проведению исследований уязвимостей».

Ключевые компоненты архитектуры Naptime включают в себя инструмент Code Browser, который позволяет агенту ИИ перемещаться по целевой кодовой базе, подобно тому, как инженеры используют Chromium Code Search; инструмент Python, который позволяет запускать скрипты Python в изолированных средах; инструмент Debugger, который наблюдает за поведением программы с различными входными данными; и инструмент Reporter, который отслеживает ход выполнения задачи и проверяет условия успеха.

Глазунов и Бранд добавили, что Naptime позволяет проводить исследования уязвимостей, которые точно имитируют итеративный, основанный на гипотезах подход экспертов по безопасности человека.

Несмотря на то, что проект Google Naptime находится на ранней стадии, он знаменует собой "значительный шаг вперед в автоматизированном исследовании уязвимостей, потенциально помогая сократить пробелы, оставленные традиционными методами, и одновременно решая проблему текущей нехватки квалифицированных кадров", утверждают специалисты.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме

Больше интересного

Актуальное

Help desk vs service desk: что выбрать для качественной поддержки клиентов
Как правильно выбрать диаграмму в зависимости от типа данных
OpenAI купила приложение для видеоконференций
Ещё…