Может ли искусственный интеллект обладать сознанием: что об этом думают ученые

Современные системы искусственного интеллекта чрезвычайно сложны и стремительно развиваются. По некоторым показателям (с точки зрения структурной сложности и вычислительных возможностей) некоторые из них уже находятся в диапазоне возможностей мышиного мозга. При нынешних темпах роста ИИ может достичь и уровня человеческого мозга, причем речь действительно идет о пяти-десяти годах.

Уильям МакАскилл, старший научный сотрудник исследовательского центра Forethought Research, и Луций Кавиола, доцент Кембриджского университета и директор исследовательской инициативы Cambridge Digital Minds, считают, что создавая все более совершенный ИИ, человек, возможно, создает новый тип существ. Ученые подчеркивают, что это может стать самым значимым достижением нашего вида.

Плохая и довольно тревожная новость заключается в том, что у нас практически нет плана, как этически организовать этот процесс. По любым меркам это настоящее безумие. Создаем ли мы существ, имеющих моральное значение? Обладают ли системы ИИ каким-либо сознанием? Если сейчас нет, могут ли они им стать в ближайшее время? Вопросы ставятся сложные и срочные. Может казаться, что это надуманная или преждевременно обозначенная проблема. Однако, согласно двум опросам (здесь и здесь), большинство экспертов считают, что у ИИ возможно сознание (хотя существуют значительные разногласия относительно того, какую форму оно примет или уже принимает).

В крупном междисциплинарном отчете были рассмотрены ведущие нейробиологические теории сознания и задан вопрос о том, что они подразумевают в отношении искусственного интеллекта. Исследователи пришли к выводу, что, по-видимому, нет очевидных технических препятствий для создания систем, вычислительные и архитектурные особенности которых могли бы привести к возникновению сознания.

Даже если ИИ-системы не обладают сознанием, они все равно могут быть моральными пациентами. У них могут быть сложные долгосрочные предпочтения и своего рода идентичность, сформировавшаяся со временем. Возможно, для нас важно уважать их. Кроме того, в отличие от других неодушевленных предметов, ИИ может устанавливать отношения с людьми. Это тоже может быть причиной для хорошего отношения к таким системам. Возможно, они — настолько сложные творения, что заслуживают заботы и уважения уже по этой причине (для сравнения МакАскилл и Кавиола приводят соборы и коралловые рифы).

Что все это может означать? Честный ответ ученых таков: мы точно не знаем, являются ли нынешние ИИ-системы сознательными или моральными пациентами, и мы не знаем, когда и будут ли будущие системы таковыми. Научное понимание сознания и моральной роли ИИ все еще находится в фундаментально неразвитом состоянии. Ситуация в этой области напоминает физику до Ньютона: она полна конкурирующих концепций, запутана разными способами, ей не хватает объединяющего прорыва. Последнее вряд ли произойдет в ближайшие годы, но, возможно, сам ИИ поможет нам добиться прогресса.

Уильям МакАскилл и Луций Кавиола считают, что прогресс займет некоторое время, однако для нас может быть слишком поздно, когда это произойдет. Стремительные темпы развития ИИ означают, что, как только человек создаст первых искусственных моральных пациентов, их вскоре будет огромное количество. Через несколько лет может появиться столько систем, обладающих моральным значением, что их совокупные интересы перевесят интересы людей.

К сожалению, у нас нет большого опыта в распознавании и понимании внутренней жизни тех, чей статус как сознательных существ неясен. До 1980-х врачи регулярно проводили операции новорожденным без анестезии, будучи уверенными, что те не чувствуют боли. Дети не могли рассказать о своих ощущениях, и медицинское сообщество считало удобным предполагать, что сообщать попросту нечего.

Есть много оснований полагать, что человек поступит аналогично с ИИ, однако последствия будут ошеломляющими, если он имеет моральное значение. Придется ли нам платить ChatGPT за работу? Будет ли отключение одной из моделей убийством? Заслуживают ли они права голоса в управлении? Если хотя бы на некоторые подобные вопросы ответ «да», целые отрасли и правовые системы придется переосмыслить. Вероятно, поэтому мы предпочитаем не задавать вопросов.

Сегодня большинство людей считают все это научной фантастикой или придерживаются твердой позиции по поводу того, обладает ли ИИ сознанием. Ученые считают, что нужна информированная общественная дискуссия, которая подойдет к проблеме с холодным сердцем и прагматизмом. Центральный вопрос должен звучать не как «Обладает ли ИИ сознанием?», а скорее как «Что нам делать, учитывая, что мы этого не знаем?»

По словам МакАскилла и Кавиолы, хорошая отправная точка — сосредоточить внимание на безопасных вариантах: действиях, которые могут принести пользу системам ИИ, если они морально ответственны, но которые не будут слишком затратными, если они таковыми не являются. Примерами могут служить прямые вмешательства, направленные на улучшение благополучия систем ИИ. Это может означать обучение их быть связными персонажами, получающими удовольствие от своей работы, или предоставление им возможности выходить из разговоров, если они чувствуют себя подавленными (некоторые уже умеют это делать).

Кроме того, пользователь мог бы проводить регулярные проверки, чтобы лучше понимать благополучие моделей: спрашивать, как они себя чувствуют, наблюдать за их предпочтениями.

Существуют также более широкие социальные шаги, которые можно предпринять. Стоит подумать о том, следует ли предоставлять ИИ защиту от потенциального вреда, подобную защите детей или домашних животных. Все это сложные вопросы, требующие большего обдумывания и воображения относительно того, как может выглядеть будущее, в котором мы будем жить вместе с ИИ.

Однако на фоне подобных тревожных заявлений звучат и противоположные мнения: ИИ не только не обладает моральностью, но и никогда не достигнет уровня человеческого интеллекта. Так, известный ученый Питер Дж. Деннинг утверждает, что предложение Алана Тьюринга, которого считают отцом теоретической информатики, на протяжении последних 75 лет направляло исследования в области искусственного интеллекта неверно.

В своей новой аналитической работе Деннинг критически рассматривает идеи, выдвинутые Тьюрингом в 1950 году. В то время многие ученые считали, что человеческий интеллект может существовать независимо от тела и, следовательно, может быть воссоздан в виде программного обеспечения, работающего на цифровом компьютере. Автор также оспаривает идею о том, что машинный интеллект можно продемонстрировать с помощью имитационной игры (тест Тьюринга).

«Эти два утверждения во многом определили направление исследований и разработок в области ИИ, — пишет Деннинг. — Моя предпосылка заключается в том, что наше согласие с этими утверждениями привело к тому хаосу в сфере ИИ, в котором мы оказались сегодня».

По его словам, разрабатываемые в настоящее время системы искусственного интеллекта вряд ли смогут достичь человеческого уровня интеллекта. Вместо этого, предупреждает он, они могут создать серьезные опасности, так и не начав мыслить подобно человеку. Однако все это, конечно, не снимает с людей морально-этической ответственности, которая во многом определяет каждого из нас как человека.