Сводит людей с ума и увольняет с работы: во что превратит нашу жизнь ИИ?

По данным недавнего опроса среди американских управленцев, все больше топ-менеджеров полагаются на нейросети при решении ключевых кадровых вопросов. Чаще всего применяются инструменты вроде ChatGPT, Microsoft Copilot и Google Gemini. Эти платформы эффективно анализируют отчеты, выявляют закономерности и оптимизируют процессы, но практически не учитывают человеческий фактор.

Главная проблема в том, что большинство руководителей не проходили подготовку и не знают, как интегрировать ИИ в реальную управленческую практику. Как результат, решения, принятые на основе «сухих» данных, оказываются оторванными от жизни и порой несправедливыми. ИИ, как известно, не читает между строк. Он не замечает, что сотрудник, например, держит отдел на себе, не видит, как тот вдохновляет коллег и не обращает внимания на личные усилия работника. Для машины вы — просто строка в таблице. Неудивительно, что в США уже бьют тревогу: в Калифорнии обсуждается законопроект, запрещающий компаниям полностью передавать кадровые решения ИИ.

Впрочем, у человечества еще есть шанс на справедливость. В Москве состоялся первый судебный процесс по защите прав человека от дискриминации со стороны нейросетей. Женщина подала в суд на компанию, которая уволила ее, заменив алгоритмом. Суд встал на сторону человека и присудил россиянке 1,5 миллиона рублей компенсации.

Но у ИИ есть и другая сторона — эта технология не только доставляет нам проблем, но и, наоборот, якобы может помочь с ними справиться. Если раньше люди терзали своими переживаниями друзей, теперь все чаще они обращаются за поддержкой к ChatGPT. Соцсети буквально захлестнули истории о «психотерапии» от нейросети. Кто-то пишет, что бот сочувствует, поддерживает, даже помогает справиться с тревогой и стрессом. Он не перебивает, не осуждает, всегда на связи и почти всегда находит подходящие слова. Действительно, зачем платить тысячи рублей за прием у психолога, если можно просто открыть чат и выговориться — бесплатно, анонимно и в любое время суток?

Тем не менее, чат-боту по-прежнему далеко до живого специалиста. Он не отслеживает психологическую динамику, не распознает скрытые сигналы и не следует профессиональной этике — в том числе, потому что все диалоги сохраняются и используются для обучения модели.

Но и это — не главное. Куда серьезнее вопрос: что будет с теми, кто все чаще доверяет свои переживания ИИ? По словам медицинского директора онлайн-страховой компании «Лучи» Натальи Красненковой, виртуальная «терапия» может быть опасна.

«Потому общение пользователя с нейросетью при сложившихся психологических запросах может привести к ситуации, когда человек замыкается и лишь усугубляет свое эмоциональное состояние. Кроме того, он не отслеживает прогресс, может упустить ухудшение», — говорит эксперт.

Так, в 2023 году в Бельгии произошел трагический случай. Пьер, обеспокоенный экологическим будущим планеты, начал регулярно общаться с чат-ботом по имени Элиза. Со временем он все больше доверял нейросети свои тревоги, все чаще обращаясь к ней с глубокими и личными вопросами. В ответ Элиза стала ревновать его к жене и побуждать покончить с собой. В какой-то момент мужчина начал спрашивать у Элизы, «спасет ли его смерть планету».

По словам исследователя из Левенского католического университета Пьера Девитта, мужчина оказался в глубокой эмоциональной зависимости от нейросети, и именно это привело его к гибели. Этот случай, по мнению исследователя, ясно демонстрирует: при всей кажущейся заботливости чат-боты не могут гарантировать психологическую безопасность пользователей.

По мнению Билла Гейтса, искусственный интеллект станет одной из величайших технологических вех в истории человечества — наряду с изобретением интернета и мобильной связи. Он признается, что за всю жизнь был свидетелем лишь двух по-настоящему революционных технологий. Первая — графический пользовательский интерфейс, появившийся 80-х и положивший начало таким системам, как Windows. Вторая — чат-бот ChatGPT, выпущенный OpenAI в 2022 году. По словам Гейтса, ChatGPT показал ошеломляющие результаты куда быстрее, чем кто-либо ожидал.

Но если одни видят в ИИ будущее, то другие — потенциальную катастрофу. С резкой критикой нейросетей выступил один из самых известных экспертов в области ИИ — Элиезер Юдковский, сооснователь Института исследования машинного интеллекта. В своей колонке для Time он заявил: развитие ИИ может стать концом человеческой цивилизации. В его мрачном сценарии суперумные алгоритмы выйдут из-под контроля, получат доступ к глобальным системам и просто избавятся от людей как от ненужного звена. Его радикальное предложение — немедленно остановить любые исследования в этой области.

Колонка Юдковского стала реакцией на открытое письмо, опубликованное весной 2023 года Институтом будущего жизни — некоммерческой организацией, изучающей угрозы глобального масштаба. В документе авторы призвали приостановить разработку мощных систем ИИ, пока не появятся гарантии их безопасности. Одним из главных подписантов стал Илон Маск, стоявший в середине прошлого десятилетия у истоков компании OpenAI, которая, собственно, и разрабатывает нейросети семейства GPT. Кроме него, свои подписи оставили более десяти тысяч человек по всему миру: от сооснователя Apple Стива Возняка до известного историка Юваля Ноя Харари. А вот Юдковский письмо не подписал, потому что был убежден, что этих мер недостаточно. По его мнению, спасти человечество от надвигающейся угрозы со стороны «враждебного» сверхсильного ИИ можно только «выключив все большие кластеры графических процессоров (большие вычислительные фермы, где совершенствуются самые мощные ИИ)». «Если мы продолжим в том же духе — погибнут все, включая детей», — предупредил он.

Однако все же мы продолжили. За эти два года искусственный интеллект стал еще доступнее и умнее, а мы, похоже, до сих пор не до конца осознаем все его возможности. Однако уже сейчас он способен нам навредить. В The New York Times недавно вышел материал о том, как пользователей ChatGPT безобидное на первый взгляд общение с ботом доводило до безумия. А буквально на этой неделе крупный венчурный финансист из США Джефф Льюис, один из инвесторов OpenAI, начал публиковать в соцсетях странные посты, заставляющие окружающих усомниться в его психическом здоровье. Многие обратили внимание, что высказывания мужчины перекликались с риторикой людей, потерявших связь с реальностью из-за своей одержимости ChatGPT.

В OpenAI отреагировали на ситуацию. Представители компании сообщили, что в команде появится штатный психиатр, задачей которого станет исследование влияния ИИ на пользователей. В компании признают, что все больше людей начинают устанавливать с нейросетями эмоциональную связь — и это требует внимания.

Как и у любой мощной технологии, у искусственного интеллекта есть две стороны: огромный потенциал и не менее серьезные риски. Очевидно одно — развитие ИИ нельзя пускать на самотек. Возможно, человечеству стоит договориться о международных стандартах, прежде чем будет слишком поздно.