OpenAI и Anthropic договорились о сотрудничестве с Институтом США по тестированию безопасности ИИ

Правительство США объявило о соглашениях с ведущими стартапами в области искусственного интеллекта OpenAI и Anthropic о помощи в тестировании и оценке их будущих технологий на предмет безопасности.

OpenAI и Anthropic договорились о сотрудничестве с Институтом США по тестированию безопасности ИИ. Фото: СС0

В соответствии с соглашениями, Институт безопасности искусственного интеллекта США получит ранний доступ к новым крупным моделям искусственного интеллекта от компаний для оценки возможностей и рисков, а также для совместной работы над методами смягчения потенциальных проблем.

Институт безопасности искусственного интеллекта является частью Национального института стандартов и технологий Министерства торговли (NIST). Соглашения были заключены в расках смягчения потенциально катастрофических рисков искусственного интеллекта посредством регулирования, например, спорного законопроекта о безопасности искусственного интеллекта Калифорнии SB 1047, который недавно был принят Ассамблеей штата.

Из сообщения заявила Элизабет Келли, директора Института безопасности ИИ:

«Безопасность имеет решающее значение для подпитки прорывных технологических инноваций. Эти соглашения — только начало, но они являются важной вехой в нашей работе по содействию ответственному управлению будущим ИИ.»

Группа будет тесно сотрудничать с Институтом безопасности ИИ Великобритании, чтобы предоставить обратную связь по потенциальным улучшениям безопасности, говорится в заявлении. Ранее команда Anthropic тестировала свою модель Sonnet 3.5 совместно с Институтом безопасности ИИ Великобритании перед выпуском технологии. Организации США и Великобритании заявляли, что будут работать вместе над внедрением стандартизированного тестирования.

Институт безопасности ИИ США был создан в 2023 году в рамках Указа администрации Байдена-Харрис об ИИ и призван разрабатывать тестирование, оценки и руководящие принципы для ответственных инноваций ИИ.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме