Сэм Альтман призвал к созданию глобальной системы управления ИИ по образцу МАГАТЭ

Сэм Альтман призвал к созданию глобальной системы управления ИИ по образцу МАГАТЭ. Фото: из архива компании

По замыслу Альтмана, оно будет напоминать по своей структуре Международное агентство по атомной энергии и должен объединить представителей правительств, независимых технических экспертов и других заинтересованных сторон для экспертного анализа рисков и выработки согласованных правил.

В своей авторской колонке в Financial Times Альтман подчеркнул, что текущие системы ИИ, ещё недавно считавшиеся научной фантастикой, уже стали реальностью, а в ближайшие один-два года появятся системы «поразительной мощи», которые изменят материальные условия жизни человечества в масштабах, сравнимых лишь с электрификацией.

Он предупредил, что, если мировое сообщество не выработает общие стандарты, отдельные страны получат непропорционально большое влияние, и призвал не допустить концентрации всей мощи ИИ в руках одной компании или государства, что может привести к катастрофическим последствиям.

Предложение Альтмана прозвучало на фоне обострившейся геополитической напряжённости вокруг контроля над передовыми моделями ИИ, что стало особенно очевидно после недавнего инцидента, когда Министерство торговли США на несколько недель заблокировало доступ иностранных граждан к новейшим моделям Anthropic Fable 5 и Mythos 5, вызвав обеспокоенность в Европе по поводу уязвимости перед американским экспортным контролем.

На саммите G7 во Франции, где лидеры ведущих демократических стран встретились с главами OpenAI, Anthropic, Google DeepMind и других компаний, Альтман и его коллеги, включая Дарио Амодеи и Демиса Хассабиса, призвали демократические государства не дробить свои усилия, а создать общий механизм управления доступом к передовым моделям, чтобы не допустить, чтобы авторитарные режимы оказались в выигрыше из-за разобщённости Запада.

Амодеи предложил системное управление доступом к моделям, контроль цепочек поставок полупроводников и совместное противодействие рискам использования ИИ в кибератаках и биотерроризме.

Однако ключевой вопрос остаётся открытым: как обеспечить соблюдение стандартов, если, в отличие от ядерных материалов, AI-модели обучаются внутри дата-центров с минимальной внешней видимостью, и как предотвратить тайную гонку лабораторий, не превращая инициативу в добровольный свод рекомендаций.

Аналитики Brookings Institution предупреждают, что G7 должна принять предложение индустрии о помощи в разработке стандартов, но только на условии, что итоговое соглашение будет обязательным для исполнения, а не добровольным, иначе вместо реальной системы сдержек и противовесов мир получит лишь очередную декларацию о намерениях.

Альтман признаёт, что технология развивается быстрее, чем институты, и что предстоит ещё много работы, но он убеждён, что только совместные усилия всего международного сообщества позволят направить развитие ИИ по безопасному и подконтрольному пути, приносящему пользу всему человечеству.