Разработчики Marvis от Tencent запустил функцию пользовательских моделей с интеграцией Kimi, Zhipu GLM и локальных моделей с открытым исходным кодом

Разработчики Marvis от Tencent запустили функцию пользовательских моделей с интеграцией Kimi, Zhipu GLM и локальных моделей с открытым исходным кодом. Фото: из архива компании

Сервис также поддерживает подключение локально развернутых моделей с открытым исходным кодом с синхронизацией между различными устройствами.

Это обновление даёт пользователям свободу выбора модели в зависимости от конкретной задачи — одни модели лучше справляются с написанием длинных текстов, другие с генерацией кода, третьи выделяются скоростью и экономической эффективностью, и теперь можно переключаться между ними прямо во время общения через раздел «Настройки — Управление моделями».

Примечательно, что Marvis предоставляет каждому пользователю бесплатную ежедневную квоту в 10 млн токенов, однако при использовании сторонних сервисов через пользовательские модели расходы списываются с собственного аккаунта пользователя, а не с ежедневной квоты, что позволяет активным пользователям обходить ограничения бесплатного тарифа.

Особое внимание привлекла поддержка локальных моделей, которая снижает требования к производительности устройства — теперь пользователи, ценящие конфиденциальность данных или желающие сократить расходы на API-вызовы, могут запускать модели с открытым исходным кодом на своих компьютерах через сторонние приложения и настраивать их в Marvis в «режиме эффективности», причём все данные остаются локальными и не передаются через облачные серверы, что идеально для сценариев с высокими требованиями к безопасности.

Кроме того, пользовательские настройки моделей привязываются к учётной записи и автоматически синхронизируются между всеми устройствами — Windows, Mac, iOS, Android и iPad — так что офисные работники, часто переключающиеся между компьютерами и мобильными устройствами, могут использовать единую конфигурацию без повторного добавления моделей.

Функция уже доступна в последней версии Marvis, и пользователи могут опробовать её в разделе настроек, что отражает общий отраслевой тренд на отделение ИИ-помощников от базовых моделей, позволяя пользователям экспериментировать с новыми моделями без замены всего приложения и без необходимости переключаться между несколькими помощниками.