Salesforce учит ИИ говорить правду

Компания Salesforce представила руководство по стратегиям противодействия галлюцинациям искусственного интеллекта, предлагая компаниям рассматривать обучение нейросетей как найм нового ценного сотрудника.
Salesforce учит ИИ говорить правду

Salesforce учит ИИ говорить правду. Фото: из архива компании

Поскольку внедрение ИИ без настройки контекста приводит к выдумыванию фактов, платформа делает ставку на использование чистых данных из CRM-системы в качестве единственного источника истины. Это позволяет инструментам не гадать, а опираться на проверенную информацию о клиенте, что критически важно для сохранения доверия.

Для защиты репутации бренда Salesforce выделяет пять ключевых стратегий настройки ИИ.

Во-первых, необходимо создать основанную на фактах структуру, где каждый запрос обоснован конкретными данными из досье клиента. Например, вместо общего ответа помощник должен ссылаться на номер учетной записи и дату подписки, что исключает отклонение от темы.

Во-вторых, требуется защита доверия клиентов через явное разрешение системе отвечать «Я не знаю». Согласно исследованиям Salesforce, 74% представителей малого и среднего бизнеса согласны внедрять ИИ только при наличии гарантий безопасности, поэтому блокировка фальсификации становится приоритетом.

В-третьих, рекомендуется запрашивать диапазоны значений вместо абсолютных цифр. В бизнесе редко бывают однозначные ответы, и запрос стоимости привлечения клиента в диапазоне от 45 до 85 $ дает более реалистичную картину для планирования бюджета, чем одна фиксированная сумма.

В-четвертых, выходные данные должны быть привязаны к бизнес-метрикам. Запросы на анализ кампаний должны быть направлены на повышение конкретных показателей, таких как коэффициент кликабельности (CTR), что превращает абстрактные советы в измеримые действия.

В-пятых, необходимо требовать от системы самопроверки. Инструмент должен пошагово объяснять свою логику, указывать источники данных и отмечать утверждения без доказательств, передавая итоговое решение на проверку человеку.

Эффективность этого подхода подтверждается историей компании SkySync. Подключив свои инструменты к базе данных Salesforce, они автоматизировали процесс обработки лидов, сократив время выполнения задачи с трех дней до пяти минут. Для начала работы с такими инструментами Salesforce предлагает активировать базовую версию Agentforce 360 или начать бесплатное использование платформы.

Упомянутые сервисы
Salesforce Service Cloud Автоматизация поддержки клиентов.
Автоматизация поддержки клиентов.
Salesforce Sales Cloud Онлайн-система для централизованного управления бизнес-процессами. Включает в себя функции CRM, аналитики, маркетинга и продаж.
Онлайн-система для централизованного управления бизнес-процессами. Включает в себя функции CRM, аналитики, маркетинга и продаж.

Больше интересного

Актуальное

Завтраки в кафе: как проверить меню и экономику до запуска Яндекс восстановил более 99 % данных на Диске «Чёрная пятница» в сервисе финучёта Adesk — до 6 месяцев подписки в подарок
Ещё…

Популярные теги