IBM обещает укрепить доверие к генеративному искусственному интеллекту с помощью платформы Watsonx.governance

В IBM представили новую платформу Watsonx.governance, призванную помочь организациям управлять рисками и соблюдением требований при развертывании больших языковых моделей (LLM).

IBM обещает укрепить доверие к генеративному искусственному интеллекту с помощью платформы Watsonx.governance. Фото: СС0

Watsonx.governance — это третье подразделение платформы искусственного интеллекта (ИИ) и управления данными Watsonx от IBM, предназначенное для поддержки организаций, использующих и масштабирующих инструменты ИИ.

Новое решение, которое будет доступно 5 декабря 2023 года, «поможет организациям ответственно развертывать инструменты генеративного ИИ, обеспечивая соблюдение собственных внутренних политик управления ИИ и готовясь к будущим нормативным актам, этическим соображениям и рискам».

Из сообщения старшего вице-президента по управлению продуктами и развитию IBM Software:

«Watsonx.governance — это универсальный сервис для компаний, которым сложно развернуть и управлять моделями LLM и ML. Он предоставляет предприятиям инструменты, необходимые для автоматизации процессов управления ИИ, мониторинга своих моделей и принятия корректирующих мер, и все это с повышенными требованиями. Его способность превращать нормативные акты в осуществимую политику станет еще более важной для предприятий по мере того, как новое регулирование ИИ будет распространяться во всем мире.»

По мнению представителей IBM, новое программное обеспечение улучшит управление ИИ, удовлетворяя три ключевые потребности бизнеса, связанные с его развертыванием. Сюда входит управление жизненным циклом, оценка модели и оценка рисков.

Управление жизненным циклом заключается в предоставлении автоматических оповещений заинтересованным сторонам, когда модели работают не так, как они были должны, а также в создании документации о том, как модели разрабатывались и внедрялись.

В IBM заявили, что это будет иметь жизненно важное значение для демонстрации того, что организации соблюдают правила.

По словам представителей IBM, Watsonx.governance будет оценивать модели, предоставляя различные показатели, связанные с точностью, отклонением или предвзятостью модели.

Сюда входят показатели, указывающие на безопасность модели путем оценки использования потенциально вредной лексики или того, как обрабатывается ввод и вывод личной информации (PII).

Наконец, программное обеспечение предоставит показатели работоспособности модели на основе размера набора данных, на котором она обучалась, а также пропускной способности и задержки.

Инструмент поможет автоматизировать многие основные функции и задачи, связанные с управлением ИИ, а также определить области, где требуется вмешательство человека для обеспечения подотчетности и прозрачности.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме