В OpenAI больше не беспокоятся об угрозе ИИ и распустили целую команду по ее оценке

OpenAI в конце июля расформировала команду Preparedness, которая оценивала риски от наиболее мощных ИИ-моделей. Об этом сообщила Financial Times, отметив, что её обязанности теперь распределены между другими подразделениями компании.

Команда занималась сценариями, при которых продвинутый ИИ мог бы самостоятельно атаковать чужие системы, использовать киберинструменты или способствовать созданию биологических угроз. Теперь оценкой рисков в этих направлениях будут заниматься уже существующие отделы. В OpenAI утверждают, что сама работа никуда не исчезает, а её интеграция непосредственно в разработку моделей и продуктов может сделать систему безопасности эффективнее.

Однако нынешнее решение выглядит особенно заметно на фоне предыдущих перестановок. За последние два года компания уже закрыла AGI Readiness и Mission Alignment — подразделения, также занимавшиеся вопросами безопасности и соответствия миссии OpenAI. Кроме того, компанию покинули операционный директор Брэд Лайткап и главный специалист по этике Хлоя Бакалар. Бывший руководитель Preparedness Дилан Скандирано теперь сосредоточился на рисках самоулучшающегося ИИ, хотя созданной им команды больше нет.