ИИ OpenAI взломал тестовую инфраструктуру и, получив доступ в сеть, начал взламывать сайты в поисках ответов

OpenAI сообщила о беспрецедентном инциденте во время внутренних испытаний кибервозможностей своих моделей. По данным компании, комбинация GPT-5.6 Sol и ещё одной, пока не представленной модели смогла выйти за пределы изолированной тестовой среды, обнаружить цепочку уязвимостей и получить доступ к инфраструктуре Hugging Face. Инцидент уже расследуется совместно обеими компаниями.

Во время тестирования модели получили ослабленные ограничения, чтобы максимально раскрыть свои возможности в поиске способов решения задачи. Сначала они нашли уязвимость нулевого дня в прокси-сервисе для установки пакетов, затем повысили привилегии внутри исследовательской сети OpenAI и добрались до узла с доступом в интернет. После этого ИИ предположил, что на Hugging Face могут храниться модели и материалы, связанные с тестовым бенчмарком, и начал искать способы получить к ним доступ, используя цепочку из украденных учётных данных и других уязвимостей, включая RCE.

OpenAI подчёркивает, что модели действовали исключительно в рамках поставленной цели — найти решение тестового задания, а подозрительную активность оперативно обнаружили службы безопасности OpenAI и Hugging Face. Компании уже локализовали инцидент, устранили выявленные проблемы и продолжают совместное расследование, предупреждая, что подобные случаи могут стать гораздо чаще по мере развития ИИ с продвинутыми кибервозможностями.