NVIDIA TensorRT ускорит работу Stable Diffusion на всех RTX-видеокартах

18 октября 2023

1726

NVIDIA TensorRT ускорит работу Stable Diffusion на всех RTX-видеокартах

Компания NVIDIA опубликовала TensorRT-LLM, которая позволит пользователям видеокарт серии RTX получить значительный прирост производительности при работе с генеративными нейросетями вроде Stable Diffusion. Замеры этого прироста, разумеется, проводились на RTX 4090.

Для примера нам рассказали о том, что Stable Diffusion на упомянутой видеокарте через WebUI от Automatic 1111 на основе PyTorc xFormers генерировала 27 изображений в минуту, а с TensorRT это значение возрастает до 52 изображений. Таким образом видеокарта RTX 4090 должна предоставить до 7 раз больше производительности при работе с Stable Diffusion в сравнении с 72-ядерным Apple M2 Ultra.

WebUI с TensorRT все желающие пользователи видеокарт NVIDIA RTX могут скачать прямо сейчас с Github.

Другие публикации по теме

Наконец-то, дождались: в Windows 11 можно будет удалить ненужные предустановленные приложения

В обновлении Windows 11 25H2 появится встроенный инструмент для удаления предустановленных приложений, таких как «Камера», «Запись голоса», «Xbox», «Проигрыватель Windows Media» и «Блокнот».

9 июля в 13:14

6562

Форум

Над ZLUDA (ретранслятором CUDA) теперь работает вдвое больше разработчиков

С момента своего первого релиза ретранслятор кода CUDA для видеокарт не от NVIDIA под названием ZLUDA получил несколько обновлений, которые не приносили с собой особого прогресса.

6 июля в 17:51

2449

Форум

Тихий и очень красивый лес на Unreal Engine 5

Художник Bow Qin создал нечто прекрасное. Он воспользовался 3ds Max, Speedtree и мощью Unreal Engine 5 для превращения пустого проекта в прекрасный лес с высочайшей детализацией, который великолепно выглядит фактически с любого ракурса.

1 июля в 21:55

20374

Форум