Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Разработчики из Anthropic делегируют все большую часть цикла создания ИИ самим нейросетям. В перспективе это может привести к рекурсивному самосовершенствованию — способности ИИ автономно разрабатывать своего преемника.
По данным Anthropic Institute, инженеры компании уже отправляют в продакшен в 8 раз больше кода за квартал, чем в период с 2021 по 2025 год.
Технология обещает прорыв в науке и медицине, однако несет риск потери контроля. Если системы смогут полностью собирать своих преемников, методы их мониторинга, защиты и формирования безопасного поведения станут критически важными.
Другие публикации по теме
Генеральный директор Nvidia Дженсен Хуанг прокомментировал инициативы по «добровольному» замедлению развития искусственного интеллекта ради безопасности, заявив, что отрасль должна решать подобные задачи инженерными методами, а не через новые политические запреты.
16 сентября в 11:12
608
3
Компания Microsoft опубликовала 37-страничный документ «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct), закрепивший безусловный приоритет человека над технологиями.
15 сентября в 12:13
1038
7
Администрация США заняла жесткую позицию в отношении инициативы лидеров индустрии искусственного интеллекта, ответив категорическим отказом на призывы Дарио Амодеи, Сэма Альтмана и Илона Маска притормозить гонку моделей ради безопасности человечества.
14 сентября в 13:01
2319
32