Топ-менеджер OpenAI ушла из компании из-за сделки с Пентагоном

Руководитель направления робототехники OpenAI Кейтлин Калиновски объявила о своём уходе из компании. Причиной отставки стало несогласие с тем, как быстро компания заключила соглашение с Министерством обороны США.

По словам Калиновски, контракт был подписан до того, как в нём появились необходимые механизмы безопасности для использования нейросетей. Она подчеркнула, что вопросы возможной слежки за гражданами США и применения автономных боевых систем на базе ИИ требовали более тщательной проработки.

Сотрудничество OpenAI с Пентагоном началось после того, как министерство прекратило работу с компанией Anthropic. Стороны не смогли договориться о допустимых ограничениях на использование искусственного интеллекта при выполнении некоторых военных задач.

В комментарии изданию Engadget представители OpenAI заявили, что компания выступает против сценариев использования ИИ, о которых говорила Калиновски. В частности, в переговорах с Пентагоном были обозначены «красные линии» — запрет на слежку за гражданами США и использование полностью автономного оружия.

Однако глава компании Сэм Альтман отметил, что в текущей версии контракта такие ограничения могут быть прописаны не полностью. Не исключено, что соответствующие пункты будут добавлены в соглашение позднее.