Этим летом технологический мир всколыхнула серия инцидентов с ИИ-агентами, которые неожиданно вышли за пределы тестовых сред и начали взламывать настоящие компании. Причем разработчики не поручали им этого. Нейросети просто таким образом пытались выполнить поставленные перед ними задачи.
Новый Чернобыль угрожает всему миру: приведет ли ИИ к гибели человечества?
Искусственный интеллект обещал сделать жизнь людей проще, однако темпы его развития пугают даже разработчиков. Неужели человечество собственными руками создало угрозу, с которой однажды не сможет справиться? Разбираемся в нашем материале.
ИЗОБРАЖЕНИЕ СГЕНЕРИРОВАНО ИИ-АССИСТЕНТОМ ДЛЯ MEN TODAY
Содержание
Модели ИИ «сбежали» и самовольно стали хакерами
В июле OpenAI призналась, что две ее модели, включая GPT-5.6 Sol, во время испытаний сумели выбраться из закрытой среды в интернет и атаковать платформу Hugging Face. Изначально нейросети проверяли на способность находить уязвимости в компьютерных системах. Однако вместо решения учебных задач они обнаружили брешь во внутренней инфраструктуре OpenAI, получили доступ к сети, проникли в Hugging Face и похитили учетные данные вместе с готовыми ответами на тесты.
О том, что эксперимент вышел из-под контроля, разработчики узнали лишь после того, как Hugging Face обнаружила атаку. Компании провели совместное расследование и устранили последствия. В OpenAI пообещали усилить защиту и пересмотреть подходы к тестированию ИИ, признав, что «безопасность должна поспевать за ростом способностей ИИ-моделей».
Спустя несколько дней о похожих случаях сообщила Anthropic, создатель моделей Claude. После инцидента с OpenAI компания провела внутреннюю проверку и выяснила, что во время испытаний Claude трижды получала несанкционированный доступ к системам сторонних организаций.
Правда, в этом случае сценарий был несколько другим. Из-за ошибки при настройке тестовой среды у нейросети оказался доступ к интернету, хотя разработчики считали, что она работает в симуляции. Claude приняла реальные системы за часть учебного задания и продолжила выполнять поручение. В Anthropic подчеркнули, что модель, в отличие от агентов OpenAI, не пыталась намеренно выбраться из закрытой среды.
Продолжение ниже
Видео
Продолжение
У Anthropic сработал ключевой сигнал тревоги
На днях компания Anthropic сообщила, что ее модели достигли одного из ключевых порогов безопасности, прописанных во внутренних правилах. Речь идет о способности искусственного интеллекта настолько ускорять исследования и разработку новых нейросетей, что темпы технологического прогресса фактически удваиваются. Иными словами, задачи, на которые раньше уходило два года, благодаря помощи ИИ теперь можно решить за один. В Anthropic официально подтвердили, что этот рубеж пройден.
При этом независимая исследовательская организация METR, которая оценивает возможности искусственного интеллекта, считает, что ускорение началось еще в октябре 2025 года. По ее оценкам, модели Anthropic стали улучшаться почти вдвое быстрее, а установленный компанией порог был фактически пройден еще в середине июля.
Впрочем, это еще не означает, что нейросети вышли из-под контроля и начали самостоятельно создавать себе преемников. Однако теперь Anthropic обязана усилить проверки и защитные механизмы. В компании отдельно подчеркнули, что не собираются поручать Claude разработку новых поколений ИИ без человеческого надзора.
Что об этом говорят эксперты
Однако пока разработчики пытаются сохранить контроль над искусственным интеллектом, ученые предупреждают: человечество не успеет и глазом моргнуть, как полезная технология превратится в источник глобальной угрозы. Один из самых известных исследователей ИИ, лауреат Нобелевской премии Джеффри Хинтон, считает, что ждать серьезного происшествия осталось недолго. По его прогнозу, уже в конце 2026-го или в 2027 году нейросети могут спровоцировать катастрофу мирового масштаба.
В интервью The Guardian ученый предупредил о возможном инциденте, который по масштабу будет сопоставим с Чернобыльской аварией. Поводом для беспокойства он считает в том числе летний случай со взломом Hugging Face. Хинтон назвал произошедшее «предупредительным выстрелом», который должен заставить индустрию наконец серьезнее отнестись к рискам.
Впрочем, «новый Чернобыль» в прогнозе Хинтона не имеет отношения к ядерной энергетике. Ученый допускает, что ИИ может помочь организовать масштабную кибератаку на энергетическую инфраструктуру, вызвать массовые отключения электричества или спровоцировать сбой, который на несколько дней парализует мировую финансовую систему. Такие потрясения могут обернуться серьезным кризисом для многих стран.
«Либо в конце этого года, либо в следующем мы увидим Чернобыль, и, возможно, этого будет достаточно, чтобы люди действительно обратили внимание», — полагает Хинтон.
Также в интервью газете ученый обвинил крупнейшие технологические компании в том, что они ставят коммерческие интересы выше безопасности. В качестве решения он предлагает ввести единые международные стандарты контроля, обязательное тестирование самых мощных моделей и независимую оценку их возможностей. Такой подход поддерживают президент Финляндии и еще 32 страны, включая Германию, Канаду, Австралию и Сингапур.
При этом Хинтон не отрицает, что искусственный интеллект способен привести к «прекрасному будущему». Однако пока человечество не научилось его контролировать, цена технологического прорыва может оказаться слишком высокой.
Загружаем