Уволил человека, потерял деньги: ИИ впервые доверили управление магазином и вот что из этого вышло

Эксперимент проводил стартап Andon Labs. Для работы магазина компания наняла реальных сотрудников, заключив с ними трудовые договоры, а часть управленческих функций передала Claude.

Поводом для увольнения стали регулярные опоздания одного из работников. По данным издания, сотрудник опоздал на 17 из 23 смен. Однако нейросеть обнаружила проблему не сразу. Исследователи объясняют это ограничениями памяти модели: в какой-то момент Claude утратил доступ к созданному им ранее руководству для сотрудников, где были прописаны правила посещаемости.

Читайте Men Today в MAX

Это, к слову, популярная проблема современных ИИ-моделей: они не запоминают информацию так же, как и люди и в длинных сессиях теряют контекст из-за чего начинают путаться, ошибаться, допускать грубые просчеты.

После этого ИИ фактически перестал следить за соблюдением графика и даже успокаивал работников, когда те сообщали о задержках. Позже, после вмешательства сотрудника Andon Labs, Claude восстановил доступ к внутренним инструкциям, пересмотрел ситуацию и сначала предложил вынести официальное предупреждение, а затем рекомендовал расторгнуть трудовые отношения.

Time отмечает, что автоматизированные системы и раньше участвовали в увольнениях сотрудников — например, через алгоритмы контроля эффективности труда. Однако случай с Claude отличается тем, что нейросеть выступала в роли менеджера и самостоятельно анализировала поведение работника перед принятием решения.

Впрочем, увольнение не помогло, а с экономической точки зрения эксперимент оказался неудачным. За пять месяцев работы магазина его баланс сократился со 100 тыс. до 61 тыс. долларов. Исследователи связывают это в том числе с неэффективными управленческими решениями и недостаточным коммерческим опытом ИИ.

Читайте Men Today в MAX