ИИ Claude сдал полиции женщину, готовящую убийство

Жительница Флориды использовала Claude как личный дневник, но одна из записей привлекла внимание системы безопасности. Женщина написала о намерении устроить стрельбу в офисе шерифа, после чего сообщение проверил сотрудник Anthropic.

По данным полицейского отчёта, 26 сентября Карли Мишель Хеллер из Бонита-Спрингс оставила в чат-боте запись с угрозой атаковать офис шерифа округа Ли. Позже она объяснила, что воспринимала Claude именно как «дневник». Система безопасности сочла сообщение потенциально опасным и передала его человеку для дополнительной проверки. Тот решил, что угроза выглядит достоверной, и сообщил о ней правоохранителям.

Полиция установила личность Хеллер и приехали к ней домой, где женщину задержали без сопротивления. Теперь ей предъявлено обвинение в письменной угрозе насилием — во Флориде это уголовное преступление второй степени. Anthropic, со своей стороны, допускает раскрытие пользовательских данных в экстренных ситуациях, если считает это необходимым для предотвращения смерти или тяжёлого физического вреда.

Случай вновь поднимает неприятный вопрос о приватности разговоров с ИИ. Claude может выглядеть как место для личных записей, но рассчитывать на абсолютную конфиденциальность не стоит: опасный контент способен попасть на проверку человеку и, при определённых обстоятельствах, дальше — к полиции.