Claude впервые уволил человека и тут же показал, почему ИИ пока рано ставить во главе бизнеса

Эксперимент с магазином в Сан-Франциско получил неожиданный поворот: Claude впервые самостоятельно принял решение об увольнении сотрудника. Правда, без подсказки человека искусственный управляющий до этого не додумался.

В марте исследовательская компания Andon Labs поручила модели Anthropic управлять магазином Andon Market, чтобы проверить, способен ли ИИ самостоятельно вести бизнес. В прошлом месяце Claude решил расстаться с одним из сотрудников, который опоздал на 17 из 23 смен. Правда, проблема долго оставалась незамеченной: созданная моделью инструкция для персонала исчезла из её ограниченной рабочей памяти.

Полностью автономным увольнение не оказалось. Сотрудник Andon Labs сначала попросил Claude найти забытый документ и разобраться в ситуации. Модель предложила лишь вынести нарушителю официальное предупреждение. И только после наводящего вопроса о том, подходит ли сотрудник для работы, Claude выбрал более радикальный вариант — увольнение. До этого ИИ вообще считался довольно мягким начальником и даже советовал персоналу не переживать из-за опозданий.

Финансовые результаты эксперимента тоже не впечатлили. В марте магазин получил стартовые $100 тысяч, а за пять месяцев сумма сократилась примерно до $61 тысячи. Исследователи связывают потери с чрезмерной мягкостью Claude и неудачными коммерческими решениями. Похоже, до кресла идеального директора ИИ пока далековато.