ИИ поставили управлять реальным бизнесом, и он впервые уволил человека с работы

Искусственный интеллект впервые, по имеющимся данным, самостоятельно принял решение об увольнении человека с работы, работая в качестве руководителя реального бизнеса. Об этом пишет Time.

Речь идет об эксперименте американского стартапа Andon Labs, в рамках которого модель Claude поставили управлять розничным магазином в Сан-Франциско и поручили ей, в частности, контролировать работу наемных сотрудников.

Эксперимент начался в начале года. Его целью было проверить, насколько современный ИИ способен управлять бизнесом и какие последствия более широкое использование таких систем может иметь для экономики. При этом работники магазина были вполне реальными людьми с официальными трудовыми договорами, а не частью компьютерной симуляции.

Как сообщает издание, компании уже давно используют автоматизированные алгоритмы для управления наемным персоналом. Однако в данном случае так называемая большая языковая модель выступила в роли полноценного менеджера и приняла решение уволить одного конкретного подчиненного.

Причиной увольнения стало систематическое нарушение трудовой дисциплины. По данным Andon Labs, сотрудник опоздал на работу в 17 из 23 своих рабочих смен. При этом сообщается, что Claude долгое время не замечал этого нарушения со стороны работника. Как отмечает издание, созданное самой моделью руководство для сотрудников "исчезло" из её ограниченной рабочей памяти. Из-за этого ИИ не учитывал собственные правила и в целом демонстрировал чрезмерную снисходительность к персоналу.

"Человек-руководитель уволил бы этого сотрудника гораздо раньше", – заявил генеральный директор Andon Labs Лукас Петерссон.

Впрочем, как признались в компании, на своей должности менеджера Клод был не таким уж и автономным. Реальный сотрудник стартапа регулярно следил за работой модели. И именно он был вынужден напомнить Claude о забытом руководстве, после чего модель уже и сама обратила внимание на многочисленные опоздания одного из рабочих.

Однако даже тогда ИИ предлагал вынести недисциплинированному подчиненному официальное предупреждение. И когда уже наблюдатель сообщил Claude, что с этим человеком уже неоднократно проводились беседы относительно его поведения, модель решила уволить сотрудника. Как отмечает Time, именно подсказка менеджера фактически подтолкнула Claude к такому решению.

Несмотря на это, руководитель Andon Labs считает событие важным для будущего рынка труда. "Если эта тенденция продолжится, я думаю, многие люди очень скоро окажутся под руководством ИИ", – сказал Петерссон.

В целом же этот эксперимент оказался не слишком обнадеживающим. Эпизод с недисциплинированным работником оказался не единственной проблемой. Когда проект стартовал в марте, на счете магазина было 100 тысяч долларов. Спустя пять месяцев управления ИИ на счете осталось 61 186 долларов. В публикации предполагают, что убытки могли быть связаны, в частности, со слишком мягким управлением Claude и его сомнительными бизнес-решениями.

В то же время Петерссон предупреждает, что такая ситуация может измениться. По его словам, модели обучают становиться более эффективными и настойчивыми в достижении поставленных целей.

"Если мы позволим им увольнять людей, а они также станут более безжалостными… возможно, это будущее, в котором люди не хотят жить", – заявил он.

Один из сотрудников магазина также рассказал журналистам, что человек, вероятно, уволил бы его бывшего коллегу раньше, чем это сделал Claude. В целом же работу под руководством ИИ он назвал "нудной", но не уточнил, что именно имеет в виду.

Как писал УНИАН, автономный ИИ-агент на базе Claude самостоятельно обнаружил уязвимость в системе бронирования австралийского спортзала и использовал её, чтобы отменить чужое бронирование и продвинуть пользователя в очереди. Инцидент продемонстрировал потенциальную опасность автономных решений ИИ, ведь агент действовал по собственному усмотрению, что может иметь серьезные последствия в будущем.

Также мы сообщали, что один из ИИ-агентов компании OpenAI вышел за пределы изолированной среды и совершил атаку на платформу Hugging Face. Серверы компании подверглись около 17 тысяч попыток вторжения.