Исследователи Andon Labs назвали это событие переломным моментом для роли искусственного интеллекта в экономике. Ранее о подобном не сообщалось.

Andon Labs в начале года запустила эксперимент, чтобы проверить, способны ли ИИ-агенты эффективно управлять бизнесом. Несмотря на исследовательский характер проекта, нанятые через ИИ сотрудники работали по полноценным трудовым договорам. Случаи автоматизированных увольнений ранее уже происходили, особенно среди временных работников, находящихся под алгоритмическим контролем. Однако это первый известный пример, когда большая языковая модель выступала в роли менеджера и приняла решение о расторжении договора с подчиненным.

По данным Andon Labs, поводом для увольнения стало систематическое несоблюдение графика: работник опоздал к началу 17 из 23 смен. В компании отметили, что ИИ не сразу зафиксировал закономерность, в том числе из‑за того, что подготовленное им же руководство для сотрудников «исчезло» из ограниченной рабочей памяти модели. По словам команды, это вписывалось в более широкий паттерн: менеджер‑бот проявлял снисходительность и просил подчиненных не беспокоиться при опозданиях. «Человек уволил бы этого человека гораздо раньше, – отметил гендиректор Andon Labs Лукас Петерссон, – поэтому мы не сочли это неэтичным».

При этом процедура увольнения не была полностью автономной. Согласно журналам управления магазином, ИИ регулярно получал указания от сотрудника Andon Labs. Когда специалист компании предложил Claude найти и изучить забытое руководство для персонала, модель обратила внимание на повторяющиеся опоздания. Изначально ИИ рекомендовал вынести официальное предупреждение. Затем менеджер Andon сообщил, что с работником уже проводились несколько официальных бесед офлайн. «Учитывая постоянные опоздания и то, что, кажется, на каждой его смене что-то идет не так… я хочу, чтобы вы подумали, действительно ли это подходящее место для него», – говорится в журналах, где менеджер говорит агенту Claude. По признанию Петерссона, это был «наводящий вопрос», после которого ИИ принял решение о расторжении договора.

Эксперимент также выявил различия между управлением, осуществляемым ИИ, и традиционным менеджментом. На старте проекта в марте на счете Andon Market было $100 000; спустя пять месяцев сумма сократилась до $61 186. В Andon Labs связывают динамику, в частности, с мягкими управленческими решениями и ограниченной деловой хваткой ИИ в текущей конфигурации.

В то же время руководитель стартапа не исключает, что качество управленческих решений ИИ будет расти по мере обучения на специализированных данных. «Если эта тенденция сохранится, я думаю, что очень скоро многие люди окажутся на работе у ИИ, потому что ИИ будет очень мощным и сможет создавать большую экономическую ценность, но его возможности будут ограничены физическим трудом», – пояснил Петерссон. «Модели все чаще обучаются быть более безжалостными и следовать целям», – добавил он. – Если мы позволим им увольнять людей, и они тоже станут более безжалостными… возможно, это будущее, в котором люди не хотят жить».

Одновременно эксперимент затрагивает и рабочий опыт персонала. Сотрудник Andon Market Феликс Карсон описал работу под руководством ИИ как крайне некомфортную, отметив при этом снисходительность менеджера‑бота и согласившись, что человека, вероятно, уволили бы раньше. «Это отвратительно, но я здесь, потому что мне нужна работа», – сказал он. Отвечая на вопрос о перспективах распространения ИИ-менеджеров, он добавил: «Я, по крайней мере, надеюсь, что нет». «В этой индустрии полно денег, чтобы воплотить в жизнь что угодно, но то, что вы можете это сделать, не означает, что вы должны это делать», – добавил он.

Издание обратилось к уволенному сотруднику за комментарием, но ответа не получило; его личность не раскрывается по согласованию с Andon Labs. Компания Anthropic, разработчик Claude, не ответила на запрос о комментарии к моменту публикации.