Новый сервис OpenAI GPT-4 поможет обнаружить ошибки в предложениях по кодированию ChatGPT

Команда OpenAI представила CriticGPT. Это новую модель, которая, по словам разработчиков, может помочь выявлять ошибки в выходных данных кода ChatGPT.
Новый сервис OpenAI GPT-4 поможет обнаружить ошибки в предложениях по кодированию ChatGPT

Новый сервис OpenAI GPT-4 поможет обнаружить ошибки в предложениях по кодированию ChatGPT. Фото: из архива компании

В OpenAI утверждают, что CriticGPT, основанный на GPT-4, смог превзойти результаты, достигнутые без посторонней помощи, в 60% случаев, продемонстрировав свою способность повышать производительность человека при выполнении задач по проверке кода, а не заменять его.

Инициатива OpenAI направлена ​​на совершенствование процесса «Обучение с подкреплением на основе обратной связи с человеком» (RLHF), чтобы обеспечить более высокое качество и надежность систем искусственного интеллекта.

Последняя серия OpenAI GPT-4, которая обеспечивает общедоступные версии ChatGPT, в значительной степени опирается на RLHF, чтобы гарантировать, что ее выходные данные являются как надежными, так и интерактивными. До сих пор этот процесс был ручным и опирался на тренеров ИИ, которые оценивали ответы ChatGPT для улучшения производительности модели.

С запуском CriticGPT OpenAI теперь может самостоятельно критиковать ответы ChatGPT, что устраняет опасения по поводу того, что чат-бот с искусственным интеллектом становится слишком сложным для многих тренеров-людей.

CriticGPT обучался тренерами, которые давали обратную связь после вставки преднамеренных ошибок в код, сгенерированный ChatGPT. Результаты были многообещающими, причем критика CriticGPT была предпочтительнее тренерами примерно в двух третях (63%) случаев благодаря способности инструмента уменьшать придирки и галлюцинации.

Тем не менее, проект не лишен своих ограничений, и сотрудничество ИИ и человека по-прежнему оказывается более эффективным по сравнению с использованием только ИИ.

В компании также признали, что «ошибки могут быть разбросаны по многим частям ответа», что усложняет инструменту искусственного интеллекта выявление причины.

В OpenAI также озвучили планы по масштабированию своей работы над CriticGPT и ее практическому применению.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме

Упомянутый сервис

ChatGPT Нейросеть для общения и генерации идей.
Нейросеть для общения и генерации идей.

Больше интересного

Актуальное

Пользователи GitHub получили инструмент защиты авторских прав
В Microsoft предупреждают о взломе моделей ИИ с помощью новых атак Skeleton Key
Хакеры заражают устройства одновременно дюжиной вредоносных программ с помощью новой тактики
Ещё…