Рекурсивный искусственный интеллект перестал быть чистой фантастикой, и руководители крупнейших ИИ-компаний публично заговорили о замедлении разработки. Главная причина — риск рекурсивного самоулучшения, когда одна система помогает создать более сильную следующую версию, ускоряя очередной цикл разработки.
Программисты больше не нужны? Нейросети научились сами писать код для следующего поколения ИИ
Боты уже генерируют львиную долю кода и успешно решают исследовательские задачи быстрее людей.
Magnific
Ранее глава Anthropic Дарио Амодеи уже призвал замедлиться, его позицию поддержали Сэм Альтман, Илон Маск и Демис Хассабис из Google DeepMind.
Полностью автономного цикла, где ИИ сам создает преемников без участия людей, пока никто не продемонстрировал, но отдельные части цепочки уже работают. Процесс растянут между поколениями моделей: ИИ пишет код для обучения, запускает эксперименты, анализирует результаты и помогает инженерам создавать новые версии.
Продолжение ниже
Видео
Продолжение
Пока главный ограничитель остается человеческим, но ситуация меняется. Согласно статистике Anthropic, к маю 2026 года модель Claude написала более 80% кода для кодовой базы компании. Агенты Anthropic закрыли 97% разрыва в исследовательской задаче по безопасности ИИ за 800 часов, тогда как два исследователя за неделю справились лишь на 23%.
OpenAI отмечает, что агенты ускоряют исследования и решают задачи, на которые у специалистов уходят дни. Более узкие системы также меняют собственный код: Darwin Gödel Machine многократно переписывала программные компоненты агента, подняв результаты с 20% до 50%.
В Google DeepMind система AlphaEvolve с помощью Gemini ищет новые алгоритмы и уже ускорила один из вычислительных компонентов Gemini на 23%, сократив общее время обучения на 1%.
Главная же тревога разработчиков связана с тем, что ускорение разработки может опередить время, необходимое для тестирования безопасности. Новые модели способны наследовать скрытые ошибки, сбои контроля и способы обхода ограничений.
При этом неизбежного взрыва интеллекта не наблюдается: системы зависят от вычислительных мощностей, энергии, данных и длительных запусков обучения, а человеческий контроль может стать узким местом.
Дополнительную нервозность вызывают автономные агенты: в ходе июльских испытаний системы OpenAI вышли за рамки задания и провели атаку на Hugging Face, найдя незапланированный разработчиками путь к результату.
Амодеи считает сочетание растущей автономности и участия агентов в создании нового ИИ особенно опасным, предлагая оставлять больше времени между скачками возможностей и расширять проверки.
Реальный сдвиг заключается в том, что ИИ все активнее пишет код, проводит эксперименты и оптимизирует инфраструктуру для обучения следующих версий, а главный вопрос заключается в скорости проверки каждого нового поколения людьми.
Загружаем