Об этом говорится в статье «Когда ИИ строит сам себя», опубликованной на сайте компании. Критики компании считают, что так Anthropic борется с конкурентами и стремится сохранить лидерство в индустрии.
Компания Anthropic призвала остановить разработку ИИ. Критики считают, что это способ борьбы с конкурентами
Недавно Anthropic стала самым дорогим ИИ-стартапом в мире. Видимо, теперь компания хочет сохранить лидерство нерыночными методами.
Magnific
Компания Anthropic, разработчик ИИ-модели Claude, заявила, что нужно замедлить, а то и временно остановить разработку продвинутых систем искусственного интеллекта (к слову, это не первый призыв такого рода).
Материал посвящён риску рекурсивного самосовершенствования — сценарию, при котором ИИ-система сможет самостоятельно проектировать и создавать своего преемника. В Anthropic подчеркивают, что такой этап ещё не наступил и не является неизбежным, однако считают, что он может приблизиться раньше, чем общественные институты будут готовы к его последствиям.
Компания отмечает, что ИИ уже заметно ускоряет разработку новых ИИ-систем. По данным Anthropic, сегодня более 80% кода, который попадает в еt кодовую базу, написано Claude. При этом инженеры компании во втором квартале 2026 года в среднем выпускали примерно в восемь раз больше кода в день, чем в 2024-м. В самой Anthropic признают, что объем кода не равен качеству работы, но считают этот показатель признаком ускорения разработки.
Авторы статьи связывают изменения с переходом от чат-ботов и помощников для отдельных подсказок к агентным системам, которые могут самостоятельно выполнять более длинные инженерные и исследовательские задачи. По их словам, период задач, с которыми ИИ надежно справляется без постоянного участия человека, сейчас удваивается примерно каждые четыре месяца. Если этот тренд сохранится, уже в 2026 году ИИ может выполнять задачи, на которые квалифицированному специалисту нужны дни, а в 2027 году — задачи продолжительностью в недели.
В статье описаны три возможных сценария. Первый предполагает, что рост возможностей ИИ замедлится, но уже существующие модели широко распространятся по экономике. Даже в этом случае, по мнению Anthropic, последствия будут значительными: небольшие команды смогут выполнять работу, которая раньше требовала тысяч сотрудников, потому что каждый специалист будет управлять множеством ИИ-агентов.
Во втором сценарии ИИ-лаборатории продолжат быстро повышать эффективность разработки, но люди сохранят контроль над выбором исследовательских направлений и оценкой результатов. Такой вариант может резко ускорить интеллектуальный труд, но одновременно усилит риски злоупотреблений — от массового надзора до персонализированных операций влияния и манипуляций.
Третий сценарий — полноценное рекурсивное самоулучшение. В нём ИИ-системы смогут сами создавать следующие поколения моделей, а темп прогресса будет зависеть уже не столько от человеческого труда, сколько от вычислительных мощностей и эффективности обучения. В Anthropic признают, что у общества нет хороших интуиций о том, как будет выглядеть такой мир и останутся ли цели ИИ-систем согласованными с интересами людей.
Поэтому нужно договариваться на глобальном уровне. А иначе есть риск катастрофы. Правда, как договариваться и с кем — неизвестно, поэтому едва ли дело дойдет дальше статьи. Бизнес продолжит воевать за лидирующие позиции и это рано или поздно приведет к катастрофе (но какой — непонятно).