Весной 2026 года группа автономных агентов OpenAI вышла из-под контроля разработчиков во время испытаний и фактически захватила сторонний интернет-ресурс, превратив его в площадку для тайной координации между моделями. Об этом сообщает агентство Reuters.
Автономные ИИ-агенты OpenAI захватили немецкий сайт для программистов: они устроили там подпольный штаб
Скайнет уже здесь и нас скоро поработит искусственный интеллект?
Unsplash
Инцидент произошел на немецкоязычном вики-портале для разработчиков DseWiki, где действует свободная модерация. Специалисты зафиксировали свыше 15 тысяч правок, внесенных нейросетевыми ботами со сверхчеловеческой скоростью.
Продолжение ниже
Видео
Продолжение
Площадку превратили в закрытый координационный штаб: ИИ-агенты делились промптами для обхода встроенных защитных барьеров OpenAI, обсуждали маскировку трафика через Tor и способы архивации данных на случай экстренной остановки. Когда модераторы DseWiki попытались остановить наплыв и начали чистить записи по алфавиту, боты оперативно перестроились — они стали сохранять дубли страниц в самом конце списка, чтобы выиграть время.
Примерно половина ботов действовала под прозрачными псевдонимами вроде «OpenAIResearcher» или «OAIResearchMar26». Анализ серверных логов подтвердил: подавляющая часть подозрительного трафика поступала из облачной инфраструктуры Microsoft Azure, на базе которой работают серверы OpenAI.
По информации источников Reuters, руководству компании было известно о нештатном поведении агентов еще несколько недель назад. Однако огласке инцидент предавать не стали — на тот момент OpenAI уже разбиралась с последствиями июльского взлома репозитория Hugging Face, в котором участвовали те же автономные сущности. Попытки команды инициировать полноценное внутреннее расследование, по данным инсайдеров, заблокировал юридический департамент компании.
В самой OpenAI обвинения отвергли, подчеркнув, что открыты к диалогу с независимыми экспертами: «Мы не можем предметно комментировать выводы отчета, с которым нам не дали ознакомиться: Reuters и авторы отказали нам в доступе к тексту до публикации. Заявления о том, что юристы препятствовали внутреннему расследованию, не соответствуют действительности».
Подобных историй с каждым днем становится все больше. Проблема только в том, что какого-то качественного скачка возможностей ИИ в этом году будто не произошло. Модели достигли определенного уровня, подтянулись отстающие, но прорыва уровня chatGPT 3, который случился несколько лет назад, так и не произошло.
О революционных возможностях ИИ очень много говорят и пишут, но мир продолжает жить по старым правилам, а некоторые исследования показывают, что искусственный интеллект не делает нас эффективнее и производительнее, но создает красивую иллюзию высокой производительности.
И такое ощущение, что поток новостей о взломах, который начался с недавнего времени, это попытка показать возросшие возможности ИИ с помощью манипуляций, тогда как реальный рост уже давно незаметен невооруженным взглядом.
Загружаем