В DigitalOcean появился унифицированный пакетный вывод для моделей OpenAI и Anthropic
В DigitalOcean появился унифицированный пакетный вывод для моделей OpenAI и Anthropic. Фото: из архива компании
Переход с синхронной обработки на асинхронную снижает затраты до 50 процентов — например, пакет из 50 тыс. запросов к Claude Opus 4.6 обходится в 437,5 $ вместо 875 $ при выводе в реальном времени.
Ключевое преимущество — единый интерфейс: один API, одна аутентификация, один счёт и общая панель управления для обоих провайдеров. Пакетные задания выполняются на выделенном канале, не влияя на квоты production-трафика и не вызывая ошибок ограничения скорости.
Входные файлы загружаются в DigitalOcean Spaces по предварительно подписанным URL, результаты хранятся 30 дней. В панели управления доступны очередь заданий с отслеживанием статуса в реальном времени и аналитика потребления токенов.
Дополнительно функция реализована как MCP-сервер, что позволяет ИИ-агентам в IDE создавать пакетные задания и получать результаты без ручного вмешательства. Пакетный вывод ориентирован на задачи с большими объёмами данных, не критичные к задержкам: обогащение каталогов, классификацию обращений в поддержку, модерацию контента, оценку моделей и обработку документов.
Упомянутый сервис
Комментариев пока не было