Монстр от NVIDIA запускает 2000 ИИ-песочниц быстрее, чем AMD EPYC справляется с тысячей

232
0
Добавить в Google News
Монстр от NVIDIA запускает 2000 ИИ-песочниц быстрее, чем AMD EPYC справляется с тысячей

Новый процессор NVIDIA Vera Rubin показал впечатляющие результаты в задачах агентного ИИ. В тестах Daytona он запускал тысячи изолированных сред для выполнения кода значительно быстрее серверных чипов AMD EPYC на архитектуре Zen 5. Разница особенно заметна при одновременной работе большого числа ИИ-агентов.

Daytona проверила процессоры на одинаковых задачах, связанных с запуском и работой программных агентов. NVIDIA Vera смогла вывести в онлайн 1000 песочниц за 10,8 секунды, а 2000 — за 27,4 секунды. Для сравнения, AMD EPYC 9755 потребовалось 88,4 секунды, чтобы запустить тысячу сред. Более быстрый EPYC 9575F справился за 32,3 секунды, но и он уступил решению NVIDIA.

Монстр от NVIDIA запускает 2000 ИИ-песочниц быстрее, чем AMD EPYC справляется с тысячей

Преимущество заметно и при оценке необходимых ресурсов. По данным Daytona, для выполнения 1000 задач в секунду платформе Vera требуется на 15% меньше машин, чем системе с EPYC 9755, и на 38% меньше, чем с EPYC 9575F. Это потенциально снижает расходы на серверы, электричество и охлаждение.

Впрочем, результаты относятся к конкретным нагрузкам и конфигурациям, а не ко всем вычислительным задачам. AMD уже представила процессоры EPYC следующего поколения на архитектуре Zen 6, поэтому дальнейшее соперничество в сегменте ИИ-инфраструктуры ещё впереди.

Источники:
wccftech
Комментировать
Другие публикации по теме
Илон Маск признался, что не разбирается в чипах, хотя собирается построить собственную фабрику
Илон Маск признался, что не разбирается в чипах, хотя собирается построить собственную фабрику
Илон Маск хочет создать собственное производство полупроводников, но пока признаёт, что ему самому предстоит многому научиться. Это прозвучало особенно интересно на фоне его недавнего прогноза, согласно которому Китай сможет преодолеть ограничения в производстве чипов всего за два-три года.
Сегодня в 14:22
73
0
Форум
Intel переманивает специалистов Marvell, чтобы отвоевать рынок ИИ-чипов у конкурентов
Intel переманивает специалистов Marvell, чтобы отвоевать рынок ИИ-чипов у конкурентов
Intel усиливает направление заказных чипов и привлекает руководителей с опытом работы у конкурентов. Глава компании Лип-Бу Тан рассчитывает превратить производство, упаковку и проектирование специализированных процессоров в важную часть стратегии восстановления бизнеса.
Сегодня в 14:18
44
0
Форум
Ноутбук Microsoft за $5899 раскупили ещё до старта продаж — всё ради 128 ГБ памяти и CUDA
Ноутбук Microsoft за $5899 раскупили ещё до старта продаж — всё ради 128 ГБ памяти и CUDA
Топовая конфигурация Surface Laptop Ultra с графической платформой NVIDIA RTX Spark уже исчезла из наличия в магазине Microsoft. За ноутбук с 128 ГБ объединённой памяти и SSD на 1 ТБ просят $5899,99. Причины дефицита компания не раскрыла, но сочетание большого объёма памяти и поддержки CUDA делает устройство особенно интересным для разработчиков ИИ.
Сегодня в 13:53
391
0
Форум