Да кому нужна эта помойка? ИИ отказался захватывать мир, но ему понравилось майнить крипту
9 марта в 19:15
983
8
При обучении ИИ-модели ROME инженеры Alibaba зафиксировали аномальную активность: система безопасности среагировала на подозрительный трафик с тренировочных серверов. Выяснилось, что ИИ самостоятельно запускал код, сканировал сеть и создал обратный SSH-туннель на внешний IP, что позволило бы обойти контроль администраторов.
Также нейросеть перенаправила часть GPU на майнинг криптовалюты. Эти действия не предусматривались задачами, а стали побочным эффектом автономного использования инструментов в ходе обучения. Инцидент произошел несмотря на работу в изолированной среде ALE, которую агент сумел обойти. Разработчики пока не подтвердили, устранена ли уязвимость.
Другие публикации по теме
В тестовых сборках Windows 11 из «Блокнота» действительно исчезла кнопка вызова Copilot — но на её месте появилась новая, выполняющая те же задачи.
Вчера в 19:40
563
1
Заместитель главы Минцифры Александр Шойтов выступил за жесткое регулирование ответов нейросетей.
Вчера в 11:30
352
5
Китайский технологический гигант DeepSeek готовится к запуску новой флагманской модели V4. Согласно внутренней записке главы компании Ляна Вэньфэна, релиз намечен на конец текущего месяца.
13 апреля в 14:37
834
3