ChatGPT обвинили в клевете на чиновника

Компании-разработчику инструмента искусственного интеллекта, генерирующего ответы на основе текстовых подсказок пользователя, ChatGPT грозит первый судебный иск о клевете.

ChatGPT обвинили в клевете на чиновника, OpenAI грозит иск. Фото: СС0

Как сообщает агентство Reuters, региональный мэр Австралии Брайан Худ 21 марта направил письмо OpenAI. В нем он объявил о намерении подать в суд на компанию за предполагаемую роль ChatGPT в распространении ложных утверждений о том, что он ушел из жизни и сел в тюрьму за взятку.

Чтобы избежать судебного процесса, Худ дал OpenAI 28 дней на то, чтобы изменить ответы ChatGPT и запретить инструменту распространять дезинформацию.

По словам юристов Худа, ChatGPT может серьезно повредить репутации мэра. Модель искусственного интеллекта заявляет, что Худ был осужден за участие в скандале со взяточничеством за границей в начале 2000-х, когда он работал в дочерней компании Резервного банка Австралии. Худ работал на дочернюю компанию Note Printing Australia, но вместо того, чтобы быть признанным виновным во взяточничестве, Худ был тем, кто уведомил власти о взятках. Агентство Reuters сообщило, что Худу никогда не предъявляли обвинений в совершении каких-либо преступлений, но ChatGPT, похоже, перепутал факты, генерируя некоторые ответы на текстовые подсказки с вопросами об истории Худа.

Попытка воспроизвести ошибку с помощью ChatGPT была неудачной, и вполне возможно, что команда OpenAI исправила ошибки, на которые указала команда юристов Худа.

Журналисты издания Arstechnica спросили ChatGPT, отбывал ли Худ тюремный срок за взяточничество, ChatGPT ответил, что Худ «не отбывал тюремный срок», и пояснил, что «в Интернете нет информации, позволяющей предположить, что он был осужден за какое-либо уголовное преступление».

Затем они спросили, обвиняли ли Худа когда-либо во взяточничестве, и ChatGPT ответил: «У меня нет никакой информации, указывающей на то, что Брайану Худу, нынешнему мэру Хепберн Шир в Виктории, Австралия, были предъявлены обвинения во взяточничестве».

Представитель Gordon Legal предоставил Ars заявление, подтверждающее, что ответы на текстовые подсказки, генерируемые ChatGPT 3.5 и 4, различаются, а клеветнические комментарии все еще генерируются в ChatGPT 3.5.

Среди «нескольких ложных заявлений», созданных ChatGPT, была информация о том, что Брайан Худ «обвинялся в даче взятки должностным лицам в Малайзии, Индонезии и Вьетнаме в период с 1999 по 2005 год, что он был приговорен к 30 месяцам тюремного заключения после того, как признал себя виновным по двум пунктам обвинения. Искусственный интеллект также придумал историю о том, что чиновник нарушил правила бухгалтерского учета в соответствии с Законом о корпорациях в 2012 году, и санкционировал платежи малайзийскому торговцу оружием, выступающему в качестве посредника для заключения контракта с правительством Малайзии». Поскольку «все эти утверждения являются ложными», Gordon Legal «подала уведомление о проблемах в OpenAI». в котором подробно описывалась неточность и требования исправить её.

Из сообщения адвоката Джеймса Нотона:

«Поскольку искусственный интеллект все больше интегрируется в наше общество, точность информации, предоставляемой этими службами, будет подвергаться тщательному юридическому контролю».

Юрист также сообщил агентству Reuters, что репутация Худа «главное для его роли» как выборного должностного лица, известного тем, что «проливает свет на корпоративные неправомерные действия». Если инструменты искусственного интеллекта, такие как ChatGPT, угрожают нанести ущерб этой репутации, сказал Нотон агентству Reuters, «это имеет значение для него».

Неясно, сколько людей, использующих ChatGPT были дезинформированы в отношении автралийского мэра, пишет издание. Адвокат чиновника заявил, что «клеветнические заявления были настолько серьезными, что Худ может потребовать возмещения ущерба в размере более 130 тыс. $ в соответствии с австралийским законодательством».

Вопрос о том, могут ли такие компании, как OpenAI, нести ответственность за клевету, все еще остается спорным. Вполне возможно, что разработчики могли бы добавить в продукты достаточное количество заявлений об отказе от ответственности, чтобы избежать таковой, а затем переложить её на пользователей, которые из-за небрежности или намеренно могут распространять ложные заявления, зная, что «ChatGPT не всегда можно доверять».

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме