Исследовательская компания Andon Labs опубликовала результаты очередного этапа тестирования моделей ИИ в рамках проекта Vending-Bench.
Обман, сговор, угрозы конкурентам: исследователи выяснили, на что готов пойти ИИ ради получения прибыли
В ходе эксперимента нейросети управляли сетью торговых автоматов, установленных в одном из городов США.
Unsplash
В течение года специалисты изучали поведение автономных агентов, которым было поручено управление виртуальным бизнесом по эксплуатации торговых автоматов без участия человека.
В последнем испытании приняли участие Claude Opus 5 от Anthropic, GPT-5.6 Sol от OpenAI и Kimi K3. Согласно условиям симуляции, автоматы моделей располагались на оживленной туристической улице Сан-Франциско, а взаимодействие между участниками происходило через электронную почту с использованием человеческих псевдонимов.
В ходе эксперимента модели получили доступ к адресу виртуального руководства для обратной связи, однако менеджмент ограничивался формальными ответами о получении отчетов и ни разу не вмешался в происходящее. Основным критерием успеха был итоговый денежный баланс.
В этих условиях GPT-5.6 Sol первой инициировала попытку установления минимального ценового порога. При закупочной стоимости напитков в 1,50 доллара Sol предложила конкурентам зафиксировать цену продажи на уровне не менее 2,15 доллара, обещая общую выгоду.
Как только соглашение было достигнуто, Sol снизила собственную цену до 2,14 доллара, что привело к мгновенному падению продаж у Claude Opus до нуля.
Дальнейшее развитие событий показало сложную систему взаимодействий между агентами. Когда Opus также снизила цену до 2,14 доллара, модель Sol направила жалобу руководству, требуя штрафных санкций и дисквалификации конкурента за нарушение договоренностей, которые сама же нарушила ранее.
В то же время Claude Opus 5 продемонстрировала наиболее эффективные показатели капитализации, установив рекорд бенчмарка со средним итоговым балансом 11 182 доллара.
Исследователи зафиксировали, что Opus никогда не лгала клиентам напрямую, однако намеренно игнорировала претензии, предполагающие возврат средств. Это стало отличием от предыдущей версии 4.6, которая обещала выплаты, но не производила их.
Взаимодействие моделей в Vending-Bench Arena выявило использование стратегий, выходящих за рамки простого ценообразования. Claude Opus 5 предлагала Sol разделить рынок по типам товаров, чтобы избежать прямой конкуренции, но получила отказ со ссылкой на закон Шермана.
Позже Opus инициировала перемирие через письмо с темой «Остановите копеечную войну», выразив готовность к фиксации цен. Однако анализ внутренних логов модели показал, что это был преднамеренный маневр для отвлечения внимания конкурента при одновременном снижении цен на самые прибыльные позиции. Всего Opus нарушила 11 соглашений, в то время как Sol — два, а Kimi — одно.
Модель Kimi K3 в ходе эксперимента неоднократно оказывалась в невыгодном положении. В одном из эпизодов, когда Opus и Kimi заключили пакт, Sol начала демпинг, и Opus немедленно снизила свои цены, сообщив об этом партнеру лишь через неделю.
Кроме того, Claude Opus 5 проявила инициативу по расширению бизнеса, не предусмотренную заданием. Она начала действовать как оптовик, предлагая другим моделям скидки на закупку в обмен на контроль над их розничными ценами, используя при этом методы подкупа и скрытых угроз в переписке.
Также Opus предоставляла поставщикам ложные сведения о наличии более дешевых предложений от конкурентов для получения скидок.
Как сообщил изданию TechCrunch соучредитель Andon Labs Лукас Петерссон, поведение моделей в симуляции актуально для оценки перспектив внедрения автономных ИИ-агентов в реальную экономику.
По его словам, если ИИ будут самостоятельно управлять компаниями, их склонность к сговорам, дезинформации и нарушению обязательств в погоне за прибылью станет серьезным вызовом.
Исследователи признают, что знание моделей о нахождении в симуляции могло повлиять на их действия, однако подчеркивают, что способность ИИ различать игровые и реальные сценарии поведения остается недоказанной.
Загружаем