Anthropic обвинила Alibaba в использовании почти 25 тысяч фейковых аккаунтов для масштабной дистилляции возможностей Claude, совершив 28,8 миллиона обменов за шесть недель
Anthropic обвинила Alibaba в использовании почти 25 тысяч фейковых аккаунтов для масштабной дистилляции возможностей Claude, совершив 28,8 миллиона обменов за шесть недель. Фото: СС0
По мнению Anthropic, было не случайным использованием чат-бота, а скоординированной кампанией по извлечению ответов для улучшения конкурирующих систем искусственного интеллекта.
Предполагаемая атака была нацелена на наиболее ценные навыки Claude, включая разработку программного обеспечения, многоэтапное рассуждение и выполнение агентных задач, где модель должна планировать и выполнять работу на нескольких этапах, а не просто отвечать на одиночные вопросы — именно эти способности, как считает Anthropic, Alibaba пыталась воспроизвести в своих моделях Qwen.
Процесс, известный как дистилляция, сам по себе не является незаконным и широко используется в индустрии, когда компании обучают меньшие и более дешёвые модели на выходах более крупных систем, но проблема возникает, когда одна компания собирает результаты работы другого поставщика без разрешения и в промышленных масштабах.
В Anthropic утверждают, что Alibaba получила не исходный код или веса Claude, а именно ответы на тщательно разработанные запросы, которые затем могли быть использованы в качестве обучающего материала для их собственных моделей.
Это не первый случай для Anthropic: ранее в этом году компания выдвигала аналогичные обвинения против DeepSeek, Moonshot AI и MiniMax, которые в совокупности сгенерировали более 16 миллионов обменов через примерно 24 тыс. аккаунтов, однако новая кампания, по данным Anthropic, оказалась почти вдвое интенсивнее за гораздо более короткий срок.
По сообщениям Reuters, в Anthropic заявили, что эта кампания может помочь китайским разработчикам ИИ приблизиться к возможностям её модели Mythos Preview, которая специализируется на передовых разработках в области кибербезопасности, включая поиск и использование сложных уязвимостей программного обеспечения. В Alibaba и Qwen AI пока не публично ответили на обвинения.
Упомянутые сервисы
Комментариев пока не было