Угрожающий человечеству искусственный интеллект, возможно, разработали в OpenAI

Исследователи OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта перед увольнением генерального директора.

Угрожающий человечеству искусственный интеллект, возможно, разработали в OpenAI. Фото: СС0

Накануне пятидневного увольнения генерального директора OpenAI Сэма Альтмана несколько штатных исследователей написали письмо совету директоров, предупреждая о мощном открытии в сфере искусственного интеллекта.

По их словам, оно может угрожать человечеству, сообщают источники Reuters.

По словам одного из спикеров агентства, во внутреннем сообщении сотрудникам администрация компании признала наличие проекта под названием Q*.

Источники в OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в разработке так называемого общего искусственного интеллекта (AGI). В OpenAI определяют AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.

В своем письме совету директоров исследователи отметили «мощь ИИ и потенциальную опасность». Источники агентства не уточняют, какие именно проблемы безопасности были упомянуты.

Исследователи также отметили работу группы «ученых по искусственному интеллекту», существование которой подтвердили многочисленные источники.

По словам одного из спикеров, группа, сформированная путем объединения предыдущих команд «Code Gen» и «Math Gen», изучала, как оптимизировать существующие модели ИИ, чтобы улучшить их рассуждения и, в конечном итоге, выполнять научную работу.

Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлек инвестиции и вычислительные ресурсы от Microsoft, необходимые для разработки AGI, пишет агентство.

Сам Альтман на прошлой неделе косвенно подтвердил прорыв в исследованиях. На саммите Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско, он заявил, что, по его мнению, серьезные достижения уже не за горами.

Из сообщения Сэма Альтмана:

«Четыре раза за всю историю OpenAI, последний раз был только за последние пару недель, мне приходилось присутствовать в комнате, когда мы как бы отодвигаем завесу невежества и отодвигаем границу открытий вперед, и сделать это — профессиональная честь всей жизни.»

На следующий день Альтман был внезапно уволен. Как ранее сообщал Startpack, после этого он был нанят Microsoft.

В поддержку Альтмана высказались более 500 специалистов OpenAI, которые пригрозили увольнением и переходом в Microsoft, если Альтман не будет восстановлен в должности.

В Microsoft пообещали нанять всех сотрудников, уволившихся из OpenAI и платить им соответствующее вознаграждение.

Через пять дней после увольнения администрация OpenAI решила снова назначить Сэма Альтмана генеральным директором.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме