NVIDIA направила огромные вычислительные мощности на поддержку DeepSeek V4

Выход DeepSeek V4 стал заметным апгрейдом в мире ИИ — разработчики серьёзно переработали архитектуру, сократив нагрузку на вычисления и память. И, похоже, железо уже догоняет амбиции модели.

Обновлённая версия требует всего 27% вычислений на один токен по сравнению с прошлым поколением, а использование KV-кэша сократилось до 10% даже при контексте в миллион токенов. Вместе с этим представили две версии модели: Pro с размером до 1,6 триллиона параметров и более лёгкую Flash на 284 миллиарда.

На старте NVIDIA заявила о полной поддержке DeepSeek V4 на архитектуре Blackwell. По их данным, новые GPU уже способны обеспечивать около 3500 токенов в секунду на одну карту, хотя это лишь начальные показатели, которые будут расти по мере оптимизации.

Ключевую роль играет использование квантования FP4, позволяющего снижать задержки и уменьшать нагрузку на память. В связке с оптимизированными CUDA-ядрами и продвинутой параллелизацией это даёт заметный прирост производительности.

Интересно, что поддержку аналогичных инструкций получат и будущие чипы Huawei Ascend 950, ожидаемые в 2026 году. Это означает, что DeepSeek V4 сможет эффективно работать не только на западных GPU, но и на китайских решениях, усиливая конкуренцию на рынке ИИ.