Anthropic отказалась снять ограничения на использование нейросетей в военных целях

Компания Anthropic, разработчик семейства нейросетей Claude, не согласится на требования Министерства обороны США снять ограничения на использование своих моделей в военных целях. Ранее глава Минобороны Пит Хегсет поставил компании ультиматум: он потребовал устранить все ограничения, пригрозив в противном случае отказаться от контракта на 200 миллионов долларов.

Глава Anthropic Дарио Амодей пояснил позицию компании. По его словам, Anthropic открыта к сотрудничеству с государственными ведомствами, но принципиально не готова поддерживать применение своих нейросетевых моделей для целей массовой слежки или разработки полностью автономного оружия. В компании считают, что такие сценарии несут существенные этические и социальные риски.

Срок, отведённый Минобороны для принятия решения, истекает вечером 27 февраля. Если Anthropic не изменит свою позицию, возможны два развития событий. С одной стороны, Министерство обороны может прекратить сотрудничество с компанией и отказаться от использования её нейросетей в своих проектах — это приведёт к потере крупного контракта на 200 миллионов долларов. С другой стороны, ведомство вправе прибегнуть к специальным правовым механизмам: закон предусматривает возможность принудить компанию к выполнению требований в интересах национальной безопасности.