Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
Сколько еще этой чуши мы услышим?
Индустрия искусственного интеллекта столкнулась с очередным серьезным внутренним кризисом после ухода исследователя безопасности Anthropic Джейкобa Коксона (Jacob Coxon). В своем заявлении об увольнении Коксон обвинил Anthropic и OpenAI в безрассудной гонке за самосовершенствующимся сверхмощным ИИ при полном игнорировании экзистенциальных рисков.
Ситуацию прокомментировал Эван Хубингер (Evan Hubinger), руководящий одной из команд по безопасности в Anthropic. Он подтвердил опасения коллеги, признав, что процесс создания бесконтрольно развивающегося ИИ идет быстрее, чем предполагалось, и лично оценил вероятность глобальной катастрофы в более чем 10% к концу текущего десятилетия.
При этом Хубингер открыто заявил, что у компании до сих пор нет четкого плана по обеспечению безопасности и выравниванию таких систем. Этот скандал резко усилил давление на ведущие ИИ-лаборатории, которые форсируют разработки перед подготовкой к IPO на фоне участившихся инцидентов с автономными ИИ-агентами.
