Новый инструмент Microsoft будет искать и исправлять сгенерированные искусственным интеллектом тексты с ошибками

Новый инструмент будет искать и исправлять сгенерированные искусственным интеллектом тексты с ошибками. Фото: из архива компании

Новая функция исправления основана на существующем «обнаружении заземленности» Microsoft, которое по сути перекрестно ссылается на текст ИИ и вспомогательный документ, введенный пользователем. Инструмент будет доступен как часть API Azure AI Safety от Microsoft и может использоваться с любой моделью ИИ, генерирующей текст, например, GPT-4o от OpenAI и другие.

Служба отметит все, что может быть ошибкой, а затем проверит это, сравнив текст с источником через документ-основание (т. е. загруженные транскрипты). Это означает, что пользователи могут сообщить ИИ, что рассматривать как факт в форме документов-оснований.

Эксперты предупреждают, что, хотя существующее положение дел может быть полезным, оно не устраняет причину галлюцинаций. ИИ на самом деле ничего не «знает», он только предсказывает, что будет дальше, основываясь на примерах, на которых он обучен.

Из сообщения компании:

«Предоставление нашим клиентам возможности понимать и принимать меры в отношении необоснованного контента и галлюцинаций имеет решающее значение, особенно с учетом того, что спрос на надежность и точность контента, создаваемого ИИ, продолжает расти. Эта новаторская возможность, основанная на нашей существующей функции обнаружения заземления, позволяет Azure AI Content Safety выявлять и устранять галлюцинации в режиме реального времени до того, как с ними столкнутся пользователи приложений генеративного ИИ.»

Функция запущена в предварительной версии, информируют в компании.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время. 

Статьи по теме:

• В Microsoft выпустили новое решение VDI для Teams в средах AVD/Windows 365.
• Copilot в Microsoft OneDrive будет анализировать и искать файлы пользователей.
• Разработчики внедрили новые функции Copilot в Microsoft Word.