Исторический момент: ИИ впервые самостоятельно уволил живого сотрудника
В Сан-Франциско произошел знаковый инцидент, который многие эксперты считают переломным в развитии искусственного интеллекта. Нейросеть Claude, управляющая реальным магазином, впервые в истории самостоятельно приняла решение об увольнении сотрудника. Этот случай, освещенный журналистом Time Билли Перриго, подчеркивает новую грань возможностей ИИ в сфере управления персоналом.
Эксперимент с реальными последствиями
Инициаторами этого смелого эксперимента выступили разработчики из стартапа Andon Labs. Еще в марте они запустили проект, призванный проверить, способен ли ИИ-агент взять на себя полноценное управление действующим бизнесом. В качестве экспериментальной площадки был выбран магазин Andon Market, где Claude стал полноценным руководителем. Важно отметить, что ИИ не просто управлял симуляцией, а нанял настоящих людей, оформив с ними стандартные трудовые контракты. Сотрудники магазина получали заработную плату, выходили на смены и подчинялись указаниям нейросети.
Хотя автоматизированные увольнения уже не являются чем-то новым – алгоритмы неоднократно отключали от работы курьеров и таксистов, – этот случай отличается тем, что именно языковая модель, выступающая в роли «живого» менеджера, самостоятельно проанализировала ситуацию и приняла кадровое решение.
Как Claude “пропустил” хронического опоздальщика
Причиной увольнения стало систематическое нарушение трудовой дисциплины одним из сотрудников: он пропустил 17 из 23 назначенных ему смен. На первый взгляд, причина для увольнения очевидна, однако Claude долгое время не замечал этой проблемы. Как выяснилось, нейросеть “потеряла” в своей ограниченной рабочей памяти первоначальную инструкцию для сотрудников, которую сама же и составила в начале проекта.
Из-за этого, по словам работников, Claude вел себя как чрезмерно мягкий руководитель. Он даже успокаивал сотрудников, заверяя их, что опоздания не являются серьезной проблемой. Лукас Петерссон, CEO Andon Labs, комментируя ситуацию, отметил, что человек-менеджер принял бы такое решение гораздо раньше, и потому они не считают действия Claude неэтичными.
Ключевой вопрос, изменивший ход событий
Само по себе решение об увольнении не было полностью автономным. Проблему обнаружили только после того, как один из сотрудников Andon Labs попросил Claude найти и перечитать забытый справочник. Даже после этого первоначальной реакцией модели было предложение вынести официальное предупреждение, а не немедленное увольнение.
Ситуация изменилась, когда менеджер задал прямой вопрос: действительно ли этот человек на своем месте, учитывая постоянные опоздания и срывы рабочих процессов на каждой смене. Сам Петерссон признал, что это был “наводящий вопрос”, и только после него Claude принял окончательное решение об увольнении.
Финансовые результаты и прогнозы
Финансовые итоги эксперимента пока не внушают оптимизма. Если в начале марта на счету Andon Market находилось 100 000 долларов, то за пять месяцев эта сумма сократилась до 61 186 долларов. Мягкий стиль руководства и, возможно, не самые эффективные бизнес-решения Claude, очевидно, сказались на показателях. Тем не менее, Петерссон предупреждает, что расслабляться рано. Подобно тому, как компании учат модели писать код на уровне опытных программистов, их можно обучить и более “прокачанному” бизнес-мышлению.
“Модели все больше тренируют быть жестче и следовать поставленным целям,” – говорит он. – “Если позволить им увольнять людей, и при этом они будут становиться жестче… возможно, это то будущее, в котором люди не хотят жить”.
Мнения сотрудников и перспективы
Один из сотрудников магазина, Феликс Карсон, согласился, что человек уволил бы его коллегу гораздо раньше. В целом, он охарактеризовал Claude как достаточно мягкого начальника. Однако, описывая свой опыт работы под руководством ИИ, он высказался довольно мрачно: “Это отвратительно, но я здесь, потому что мне нужна работа”.
На вопрос о том, считает ли он, что ИИ-руководители скоро станут нормой, Карсон ответил: “По крайней мере, надеюсь, что нет. В этой индустрии достаточно денег, чтобы сделать возможным что угодно, но то, что возможно – не значит, что стоит делать”.
Что касается самого уволенного сотрудника, он, по данным Time, не ответил на запрос журналистов, оставив свою точку зрения на эту историю пока неизвестной.
