Энтузиасты вдвое ускорили производительность на GeForce RTX 20, RTX 30 и RTX 40

15678
31
Добавить в Google News
Энтузиасты вдвое ускорили производительность на GeForce RTX 20, RTX 30 и RTX 40

Видеокарты NVIDIA GeForce RTX потребительского сегмента могут оказаться заметно мощнее в задачах искусственного интеллекта, чем принято считать. Энтузиасты нашли способы обойти программные ограничения нескольких поколений GPU и добиться прироста вычислительной производительности до двух раз без замены драйверов и увеличения энергопотребления.

Для GeForce RTX 30 на архитектуре Ampere модификация повышает скорость выполнения операций, связанных с матричными вычислениями FP/BF16 с накоплением FP32. На RTX 3090 Ti это позволило ускорить умножение матриц в формате BF16 до 80%. Решение поддерживает карты на чипах GA102, GA103, GA104 и GA106. Отдельный проект для RTX 40 на архитектуре Ada Lovelace показал ещё более впечатляющий результат: RTX 4090 увеличила производительность вычислений FP16 с накоплением до 331,6 Тфлопс против исходных 165,6 Тфлопс. Разблокировка заявлена для GPU AD102, AD103 и AD106.

По данным TechPowerUp, подобные модификации позволяют приблизить вычислительные возможности игровых видеокарт к профессиональным ускорителям NVIDIA. Особенно заметной разница может стать при запуске локальных языковых моделей: повышается скорость обработки входных данных и генерации токенов. Аналогичный подход применили и к GeForce RTX 20 на архитектуре Turing, также добившись заявленного двукратного прироста.

Однако есть нюанс: модификации необходимо активировать при загрузке системы, до привязки карты к драйверам NVIDIA, а вмешательство в работу GPU лишает гарантии. Поэтому эксперимент выглядит заманчиво для энтузиастов ИИ, но превращать свою видеокарту в вычислительного монстра придётся на собственный страх и риск.

Источники:
techpowerup
Комментировать
Другие публикации по теме
Intel готовит процессоры Razor Lake-S к выходу в 2028 году с поддержкой сокета LGA 1954
Intel готовит процессоры Razor Lake-S к выходу в 2028 году с поддержкой сокета LGA 1954
Intel, похоже, намерена отказаться от привычной практики частой смены платформ. По данным инсайдера Jaykihn, настольные процессоры Razor Lake-S должны выйти в 2028 году и будут использовать тот же сокет LGA 1954, что и предшествующее семейство Nova Lake-S. Это позволит сохранить совместимость материнских плат между несколькими поколениями чипов.
Вчера в 16:05
869
1
Форум
В Калифорнии украли шесть палет оборудования NVIDIA на $11,4 млн
В Калифорнии украли шесть палет оборудования NVIDIA на $11,4 млн
В США расследуют крупную кражу груза NVIDIA стоимостью 11,4 млн долларов. Злоумышленники сумели забрать шесть палет дорогостоящего оборудования, воспользовавшись грузовиком, который выдавал себя за транспорт компании по перевозке продуктов питания.
Вчера в 15:51
252
4
Форум
NVIDIA выкатила бесплатный симулятор распаковки GeForce 8800 GTX из 2006 года — для его запуска требуется RTX 4070 и 32 ГБ ОЗУ
NVIDIA выкатила бесплатный симулятор распаковки GeForce 8800 GTX из 2006 года — для его запуска требуется RTX 4070 и 32 ГБ ОЗУ
В честь грядущего двадцатилетия культового графического ускорителя GeForce 8800 GTX, вышедшего 8 ноября 2006 года и впервые познакомившего индустрию с архитектурой унифицированных шейдеров G80 и платформой CUDA, компания NVIDIA совместно с 3D-художником Диланом Брауном выпустила в Steam бесплатную интерактивную технодемку GeForce 8800 GTX – 20 Years of a Legend.
6 ноября в 10:00
4257
4
Форум