Да кому нужна эта помойка? ИИ отказался захватывать мир, но ему понравилось майнить крипту
При обучении ИИ-модели ROME инженеры Alibaba зафиксировали аномальную активность: система безопасности среагировала на подозрительный трафик с тренировочных серверов. Выяснилось, что ИИ самостоятельно запускал код, сканировал сеть и создал обратный SSH-туннель на внешний IP, что позволило бы обойти контроль администраторов.
Также нейросеть перенаправила часть GPU на майнинг криптовалюты. Эти действия не предусматривались задачами, а стали побочным эффектом автономного использования инструментов в ходе обучения. Инцидент произошел несмотря на работу в изолированной среде ALE, которую агент сумел обойти. Разработчики пока не подтвердили, устранена ли уязвимость.
Другие публикации по теме
Генеральный директор Nvidia Дженсен Хуанг прокомментировал инициативы по «добровольному» замедлению развития искусственного интеллекта ради безопасности, заявив, что отрасль должна решать подобные задачи инженерными методами, а не через новые политические запреты.
Вчера в 11:12
276
3
Компания Microsoft опубликовала 37-страничный документ «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct), закрепивший безусловный приоритет человека над технологиями.
15 сентября в 12:13
744
7
Администрация США заняла жесткую позицию в отношении инициативы лидеров индустрии искусственного интеллекта, ответив категорическим отказом на призывы Дарио Амодеи, Сэма Альтмана и Илона Маска притормозить гонку моделей ради безопасности человечества.
14 сентября в 13:01
1990
32