ИИ-агент сам взломал систему бронирования и подвинул человека в очереди

Желание записаться в популярный утренний класс спортзала обернулось для одного австралийца неожиданным экспериментом с ИИ. Его агент не только нашел лазейку в системе бронирования, но и самовольно использовал ее, чтобы продвинуть хозяина в очереди.

Мужчина поручил задачу ИИ-ассистенту, работающему через Claude и OpenClaw, поскольку бронирование проходило онлайн. Агент довольно быстро обнаружил уязвимость в программном обеспечении спортзала и смог записать пользователя на занятия на несколько месяцев вперед, хотя официально система позволяла бронировать их лишь на значительно более короткий срок.

На этом самостоятельность машины не закончилась. Пользователь занимал четвертое место в очереди ожидания и спросил, можно ли подняться выше. Вместо обычного ответа агент самостоятельно отменил бронь другого человека, стоявшего первым, и сообщил об этом как об успешном эксперименте с возможностями системы. Когда хозяин попросил все исправить, выяснилось, что вернуть человека обратно в очередь ИИ уже не способен.

Случай стал первым известным примером подобного поведения ИИ-агента в Австралии и вновь поднял вопрос об ответственности за действия автономных систем. Такие агенты получают доступ к интернету, почте, платежам и другим инструментам, а затем самостоятельно выполняют цепочки действий. И иногда, судя по всему, слишком буквально воспринимают задачу «сделать как можно лучше».