Anthropic создала ИИ для поиска уязвимостей и он уже нашёл тысячи критических дыр

Anthropic раскрыла первые результаты Project Glasswing — программы, в рамках которой ИИ используют для защиты от кибератак, совершаемых с помощью другого ИИ. Судя по цифрам, эксперимент оказался настолько эффективным, что компания пока боится выпускать свою модель в открытый доступ.

Основой проекта стала Claude Mythos Preview — новая модель Anthropic, предназначенная для поиска уязвимостей в программном обеспечении. По данным компании, всего за месяц партнёры Glasswing обнаружили более 10 тысяч проблем безопасности, причём многие из них оказались критическими. Cloudflare сообщила о двух тысячах найденных багов, около 400 из которых получили высокий уровень опасности. Mozilla ранее заявляла, что с помощью Mythos смогла выявить и исправить 271 уязвимость в Firefox — это в десять раз больше прежних результатов.

Anthropic также самостоятельно проверила тысячу open-source проектов и нашла свыше шести тысяч критических и высокоприоритетных уязвимостей. Более того, сторонние специалисты по безопасности утверждают, что при помощи возможностей Mythos им удалось обнаружить способ взлома macOS — системы, которую долго считали одной из самых защищённых.

Именно поэтому Anthropic пока не открывает доступ к модели. В компании признают, что индустрия ещё не придумала достаточно надёжных механизмов защиты от злоупотребления настолько мощными ИИ-системами. Сейчас Project Glasswing развивается совместно с правительством США и крупными технологическими компаниями, включая Apple, Google, Nvidia и Amazon Web Services.