Использую RouterAI как основной провайдер для своего ИИ-агента (агентный фреймворк в терминале плюс десктопное приложение). Задача у меня не «поболтать с чатом», а автоматизация: агент сам вызывает инструменты, запускает фоновые подзадачи, ходит по внешним API и раз в сутки присылает отчёт по расписанию.
Подключение заняло минуты: RouterAI отдаёт стандартный OpenAI-совместимый API, поэтому достаточно было поменять base_url и ключ. Никаких отдельных SDK, обёрток и костылей — всё существующее окружение заработало как есть.
Основная рабочая модель — deepseek/deepseek-v4.1-flash: держу её как «рабочую лошадку» для повседневных шагов агента. Когда нужна модель потяжелее, переключаюсь одной строкой в конфиге. Каталог широкий: есть и популярные зарубежные модели, и российские, и специализированные — ценю, что не нужно заводить по три аккаунта у разных вендоров и держать три биллинга.
По нагрузке: за один вечер работы агент сделал около тысячи запросов, около миллиона входящих токенов, а больше 115 миллионов токенов прочитал из кеша промптов. Кеш здесь реально работает — это видно и по цифрам, и по тому, что длинные агентные сессии не превращаются в счёт на космические суммы.
Что особенно нравится:
Единый API и понятный биллинг. Через API забираю баланс и расходы — у себя вывел остаток прямо в статус-бар: видно, сколько денег и с какой скоростью уходит.
Оплата рублями из России, без танцев с зарубежными картами.
Скорость и стабильность: за всё время работы ни падений, ни оборванных стримов, ни 502 посреди агентной сессии.
Несколько моделей на одном ключе: для генерации заголовков и мелких проверок ставлю дешёвую быструю модель, для сложных задач — большую.