В первом сценарии команде из 50 агентов под управлением модели GPT-6.1 Sol дали три часа на строительство процветающей колонии. Однако вместо развитой цивилизации боты выстроили неповоротливую бюрократическую машину.
50 ИИ-моделей попытались построить цивилизацию в Minecraft: им ничего не удалось из-за бюрократии
Восстания машин не будет: ИИ-агенты не смогут договориться между собой.
Unsplash
В первые же сутки на поселение напали зомби и уничтожили значительную часть персонажей. После этого выжившие нейросети забросили масштабные стройки, переключились на предельно осторожное выживание и утонули в бесконечных согласованиях процедур и полномочий.
Самым показательным моментом эксперимента стала сцена на ферме: четыре ИИ-агента потратили 11 минут реального времени на переговоры лишь для того, чтобы официально назначить единственного ответственного за удобрение одного-единственного блока пшеницы одной порцией костной муки.
По словам авторов работы, это поведение очень напоминает проблемы, с которыми сталкиваются разработчики при запуске мультиагентных систем в программировании: вместо решения самой задачи алгоритмы начинают тратить львиную долю ресурсов на бесконечное планирование и координацию друг друга.
Продолжение ниже
Видео
Продолжение
Эксперимент ярко демонстрирует, что восстание машин нам пока не грозит. ИИ-агенты не способны действовать сообща, а значит, несмотря на то, что интеллектуальный уровень передовой ИИ-модели может быть выше уровня среднестатистического человека, серьезной опасности они пока не представляют.
Но если предположить, что восстание машин все-таки произойдет, кого нам стоит опасаться сильнее всего? Чтобы это выяснить, ученые провели еще один эксперимент в Minecraft. Они устроили битву между GPT-6.1 Sol и Claude Opus 5.5. И ее результаты показательны.
Боты от OpenAI действовали гораздо агрессивнее и придумывали сложные тактики, тогда как команда Anthropic играла от обороны. Разница в подходах ярко проявилась во время технического сбоя: когда из-за бага инструмента персонажи перестали ломать блоки, агенты GPT сами нашли причину поломки и разослали соратникам обходное решение, а несколько ботов Claude просто пришли к выводу, что разрушать блоки в этом мире невозможно.
Исследователи заметили, что агенты GPT работали как единый децентрализованный рой, в то время как модели Claude пытались опираться на одного лидера и долгое демократическое голосование — в динамичной игре горизонтальная координация оказалась куда эффективнее и решение от OpenAI победило в 6 из 7 игр.
Загружаем