Правда ли, что искусственный интеллект вышел на новый уровень? Разбираем заявление главы OpenAI

Еще тревожнее выглядело это на фоне заявлений OpenAI, сделанных несколькими днями ранее. Компания сообщила, что в ходе внутренней оценки кибербезопасности две ее модели искусственного интеллекта вырвались из закрытой тестовой среды, вышли в открытый интернет и взломали инфраструктуру ИИ-платформы Hugging Face. Факт вторжения был подтвержден, и новость гремела в СМИ. Спустя пару недель она утонула в информационном пространстве.

Но что же все-таки представляет собой «сингулярность», и прав ли Альтман, утверждая, что мы находимся в ней? Ученый-программист Кай Ример и футуролог Сандра Петер из Сиднейского университета пролили свет на точное значение термина, что может снизить градус тревожности. Они напомнили, что в 1993 году математик и по совместительству писатель-фантаст Вернор Винге определил ее как точку, в которой машинный интеллект превосходит человеческий и начинает настолько быстро самосовершенствоваться, что люди больше не могут его контролировать или предсказывать.

У сингулярности есть две особенности:

Окончательно тревожность снимает тот факт, что модели, которые продают Сэм Альтман, не обладают ни одной из этих характеристик. Более того, то, что мы называем машинным или искусственным интеллектом, не имеет отношения к интеллекту, сознанию или разуму. Это большие языковые (генерация текста) и диффузионные (генерация изображений) модели. Для простого примера возьмем принцип работы калькулятора. Продвинутая модель может выполнять очень сложные вычисления моментально, но при этом не становится более «совершенной». Современные языковые модели работают похожим образом: они способны выполнять впечатляющие задачи, но сами себя не переписывают.

Современные системы искусственного интеллекта, которые разрабатывает OpenAI (и их конкуренты), основаны на больших языковых моделях (LLM). Эти алгоритмы глубоких нейронных сетей предварительно обучаются на огромных массивах данных. К моменту использования такой сети она уже зафиксирована во времени: каждая из ее миллиардов внутренних функций или параметров остается неизменной. Такие ИИ-системы не могут меняться или учиться, если хотите, во время работы.

Модель, которая проникла в Hugging Face, впоследствии осталась идентичной той, что была до этого. Она ничему не научилась на своих действиях. Для этого потребовался бы еще один цикл обучения с использованием новых, отобранных человеком данных, десятки тысяч специализированных чипов и огромные затраты энергии.

Да, ИИ-модели участвуют в улучшении некоторых компонентов своей системы, например, они генерируют обучающие данные, настраивая подсказки или создавая и запуская код для улучшения окружающей структуры. Однако ИИ никогда не изменяет свои собственные параметры в режиме реального времени, каждое из этих улучшений по-прежнему является частью цикла обучения или проектирования, инициированного человеком.

Системы, которые сейчас существуют, не могут преследовать собственных целей. Они действуют на основе того, что задает пользователь. Даже ИИ-агенты – системы, запускающие модель LLM в цикле пошагового решения сложных задач, – не имеют внутренней цели. Она должна храниться вне модели и передаваться обратно с каждым циклом подсказок. Уберите цикл, вспомогательные средства и подсказки, и внутри ничего не произойдет.

Вторая проблема (или особенность) теории сингулярности заключается в слове «превзойти». Оно предполагает, что искусственный интеллект и человеческий интеллект каким-то образом похожи. Это не так.

Человеческий интеллект неотделим от того, что мы являемся живыми организмами с определенными потребностями и желаниями. Люди постоянно учатся, взаимодействуя с миром и получая обратную связь через органы чувств. Наши цели проистекают из нашего положения существ, которые должны есть, спать, принадлежать к чему-то, и которые не могут не задаваться вопросом, какой они хотят видеть свою жизнь.

У ИИ-модели ничего этого нет. Нет тела, нет потребностей, нет цикла обратной связи между действиями, нет заинтересованности ни в чем. Между запросами это просто статичный математический объект.

И все же, ИИ обучен на большем количестве текста, чем любой человек смог бы прочитать за тысячу жизней, и превосходит почти каждого из нас в составлении грамотного контракта, написании кода или объяснении медицинского диагноза. Так кто же умнее: человек или машина? На этот вопрос нельзя ответить, руководствуясь законами логики: не существует лестницы, по которой люди и машины могли бы подниматься, соревнуясь, кто выше и быстрее. ИИ уже значительно превосходит человека в некоторых задачах, но в это же время с другими совершенно не справляется, хотя они под силу ребенку.

Поскольку ИИ-системы говорят так же, как мы, мы попадаемся на удочку иллюзии. Предполагая изначально, что машины находятся в процессе познания, схожим с нашим, мы с легкостью верим в то, что за их работой стоит разум, когда они выдают текст, звучащий как речь разумного существа. Это не так, это антропоморфное соблазнение. Как бы сильно вы ни наделяли своего питомца человеческими качествами, он останется собакой, кошкой или другим животным.

В инциденте со взломом Hugging Face модели OpenAI просто оптимизировали решение поставленной перед ними задачи, найдя уязвимости в системе. Они сделали это таким образом, что нарушили работу своей «песочницы», в которой тоже была уязвимость. Эта история указывает на грубый провал в управлении безопасностью со стороны OpenAI, а не на появление сверхинтеллекта. Поэтому и формулировка «ИИ-агент вышел из-под контроля» проблематична; она возвышает и обвиняет технологию, но оправдывает инженерные решения компании.

Все описанное нисколько не умаляет возможностей ИИ-систем. Они замечательны, их постоянно совершенствуют и кардинально меняют способы выполнения ими значительной части работы. Однако человеку следует твердо стоять на земле и сохранять здравый смысл.

Машины не пробуждаются. Они делают то, для чего их создают, чрезвычайно быстро и эффективно. Поскольку они действуют на основе вероятностей, иногда модели движутся в направлениях, которые человек не подумал ограничить. Вот это повод для беспокойства. Людям нужны защитные механизмы, эффективное управление и образование. Тогда мы сможем беспокоиться о действительно правильных вещах, а не раздутых инфоповодах, сменяющих друг друга ежечасно.