Две GTX 580 в SLI стояли у истоков современного ИИ: откровение главы NVIDIA Дженсена Хуанга

Генеральный директор NVIDIA Дженсен Хуанг в рамках подкаста Joe Rogan Podcast раскрыл, что изобретение Deep Learning началось в 2012 году с использования двух обычных игровых видеокарт GeForce GTX 580 в режиме SLI.

В 2011 году исследователи из Университета Торонто (Алекс Крижевский, Илья Суцкевер и Джеффри Хинтон) работали над улучшением распознавания изображений в компьютерном зрении. Они создали архитектуру под названием AlexNet (восемь слоев, около 60 миллионов параметров). AlexNet превзошла ведущие на тот момент алгоритмы распознавания изображений более чем на 70%, что немедленно привлекло внимание всей индустрии.

Хуанг рассказал, что разработчики AlexNet тренировали свою революционную нейросеть на паре флагманских игровых видеокарт GTX 580 с 3 ГБ памяти каждая, работающих в SLI. Сеть была оптимизирована для одновременной работы на обеих GPU, что значительно сокращало время обучения.

Этот эпизод стал поворотным моментом, хотя сама NVIDIA в то время практически не инвестировала в исследования ИИ; основное внимание уделялось игровой 3D-графике и развитию CUDA.

По словам Хуанга, осознав, что глубокое обучение может решать глобальные проблемы, NVIDIA в 2012 году перенаправила все свои инвестиции, разработку и исследования на эту технологию. Дженсен Хуанг подчеркнул, что если бы не пара GTX 580, запустивших AlexNet, NVIDIA, возможно, не стала бы тем гигантом в сфере ИИ, каким она является сегодня.