Новый инструмент Microsoft с открытым исходным кодом может защитить ИИ от взлома
Microsoft выпускает инструмент, который помогает организациям защитить системы искусственного интеллекта от атак с использованием машинного обучения
Microsoft выпустила инструмент с открытым исходным кодом под названием Counterfit, который помогает разработчикам тестировать безопасность систем искусственного интеллекта (AI).Новый инструмент Microsoft с открытым исходным кодом может защитить ИИ от взлома. Фото: Pixabay
Компания Microsoft опубликовала проект Counterfit на GitHub и отмечает, что предыдущее исследование, которое она провела, показало, что большинству организаций не хватает инструментов для борьбы с состязательным машинным обучением, пишет ZDnet.
Читайте в тему:
· Новый зловред Pingback использует туннелирование ICMP.
· Владельцев iPhone и iPad призывают обновить устройства.
· Хакеры используют ошибку SonicWall.
Сообщение в блоге Microsoft: «Этот инструмент появился из-за нашей собственной потребности в оценке уязвимостей систем ИИ Microsoft».
Microsoft описывает инструмент командной строки как «универсальный инструмент автоматизации для масштабной атаки на несколько систем ИИ», который сотрудники Microsoft используют для тестирования своих собственных моделей ИИ. Microsoft также изучает возможности использования Counterfit на этапе разработки ИИ.
Инструмент можно развернуть через Azure Shell из браузера или установить локально в среде Anaconda Python.
Бизнесу: Teams наконец-то получит автоматическую запись собраний. Функция станет доступной в следующем обновлении продукта Microsoft.
Microsoft заявляет, что инструмент командной строки может оценивать модели, размещённые в любой облачной среде, локально или в пограничных сетях. Counterfit также не зависит от модели и стремится быть независимым от данных, применительно к моделям, использующим текст, изображения или общий ввод.
Сообщение в блоге Microsoft: «Наш инструмент делает опубликованные алгоритмы атак доступными для сообщества специалистов по безопасности и помогает предоставить расширяемый интерфейс для создания, управления и запуска атак на модели искусственного интеллекта».
Этот инструмент частично может использоваться для предотвращения состязательного машинного обучения, когда злоумышленник обманывает модель машинного обучения с помощью манипулятивных данных, например, взлом McAfee на старых Tesla с камерами MobileEye , который обманом заставил их неверно истолковать ограничение скорости, поместив чёрную ленту на знаки скорости. Другой пример - катастрофа с чат -ботом Microsoft Tay , когда бот писал в Твиттере расистские комментарии.
Его рабочий процесс также был разработан в соответствии с широко используемыми структурами кибербезопасности, такими как Metasploit или PowerShell Empire .
Сообщение в блоге Microsoft: «Инструмент поставляется с предварительно загруженными опубликованными алгоритмами атак, которые можно использовать для запуска операций красной команды для уклонения и кражи моделей искусственного интеллекта».
Этот инструмент также может помочь в сканировании уязвимостей систем ИИ и создании журналов для записи атак на целевую модель.
Бизнесу: Oracle модернизирует своё аналитическое облако. Компания объявила об обновлении пользовательского интерфейса и новых возможностях на базе искусственного интеллекта для своего сервиса Analytics Cloud.
Microsoft протестировала Counterfit с несколькими клиентами, в том числе с аэрокосмическим гигантом Airbus, клиентом Microsoft, разрабатывающим платформу искусственного интеллекта для служб искусственного интеллекта Azure.
Матильда Роуд, старший исследователь кибербезопасности в Airbus: «ИИ все чаще используется в промышленности; жизненно важно позаботиться о защите этой технологии, особенно, чтобы понять, где в проблемном пространстве могут быть реализованы атаки на функциональные области. Выпуск инструментов с открытым исходным кодом от такой организации, как Microsoft, для специалистов-практиков по безопасности для оценки безопасности систем искусственного интеллекта приветствуется и является чётким признаком того, что отрасль серьёзно относится к этой проблеме».
Startpack также подготовил список систем управления облачными сервисами для решения корпоративных и персональных задач. Готовые решения по переходу на облачные технологии без участия программистов или системных администраторов. Возможность интеграции нескольких сервисов в единую инфраструктуру — от офисных пакетов до CRM- и ERP-систем.
Особая рекомендация: Битрикс24 — полный комплект инструментов для работы компании. Включает CRM для продаж, задачи и проекты, контакт-центр, конструктор сайтов и интернет-магазинов, социальных сетей компании. Бесплатный тариф для небольших компаний до 12 сотрудников.
Полезная новость? Прокомментируйте её или кликните на значок «+» ниже!
Комментариев пока не было