DeepSeek выпустила DSpark — систему декодирования с открытым исходным кодом, ускоряющую генерацию больших моделей на 60–85% без изменения ответов
DeepSeek выпустила DSpark — систему декодирования с открытым исходным кодом, ускоряющую генерацию больших моделей на 60–85% без изменения ответов. Фото: из архива компании
В отличие от многих исследовательских проектов, DSpark уже работает в эксплуатационной среде DeepSeek, а сам релиз включает техническую статью, контрольные точки моделей на Hugging Face и полный код обучения под лицензией MIT, что делает технологию доступной для адаптации к другим открытым моделям, включая Qwen от Alibaba и Gemma от Google.
В основе системы лежат два ключевых нововведения: полуавторегрессионная генерация и планировщик верификации на основе уверенности. Первое решает проблему классических параллельных моделей-черновиков, которые угадывают несколько токенов одновременно, но теряют связность на длинных блоках, порождая бессмысленные комбинации вроде «of problem» вместо «of course» или «no problem».
DSpark сохраняет быстрый параллельный каркас, добавляя к нему лёгкий последовательный модуль (по умолчанию Markov head), который учитывает зависимости между соседними токенами и поднимает эффективную длину принимаемых черновиков на 26–30% относительно авторегрессионного подхода Eagle3 и на 16–18% по сравнению с параллельным DFlash.
Второе нововведение решает не менее важную практическую проблему: верификация черновых токенов целевой моделью не бесплатна и в условиях высокой загрузки оборачивается колоссальным расходом вычислительных ресурсов.
DSpark использует специальный confidence head для оценки вероятности, с которой каждый позиция в черновике пройдёт проверку, а затем динамически определяет оптимальную длину верифицируемого блока в зависимости от системной нагрузки и предсказанной достоверности. Такой подход предотвращает ситуацию, когда статическое многотокеновое декодирование пытается проверить несколько позиций, но при высокой параллельности большинство из них отвергается, лишь снижая общую пропускную способность системы.
DeepSeek также опубликовала DeepSpec — полноценную кодовую базу для обучения и оценки моделей спекулятивного декодирования, включая этапы подготовки данных, генерации целевого кэша и калибровки черновиков.
Это означает, что DSpark не привязан к экосистеме DeepSeek и может быть воспроизведён для других открытых моделей, хотя для каждой целевой модели требуется отдельное обучение чернового модуля, а не просто загрузка готового веса.
В сообществе разработчики уже начали тестирование: ранние эксперименты с однопоточным DeepSeek-V4-Flash показали около 60 токенов в секунду с DSpark против 40 с предыдущим подходом MTP-1 и 26 без спекулятивного декодирования, что соответствует заявленным ускорениям.
Стратегически этот релиз укрепляет позиции DeepSeek как поставщика не только мощных моделей, но и эффективной инженерной инфраструктуры. В то время как многие оптимизации вывода так и остаются на страницах статей, DSpark предоставляет воспроизводимый код, готовые контрольные точки и подробную документацию.
Для корпоративных команд, особенно использующих собственные открытые модели в продакшене, это означает, что следующая волна повышения производительности ИИ будет обусловлена не столько увеличением размеров моделей, сколько их более интеллектуальным запуском в условиях реальных нагрузок.
Упомянутый сервис
Комментариев пока не было