На прошлой недели журнал Time подвел итоги годы. На этот раз почетный титул «Человека года» достался не одному герою, а целой группе людей — тем, кто развивает технологии искусственного интеллекта. По версии Time, ИИ окончательно перестал быть «технологией будущего». Он сегодня влияет буквально на все: от геополитики до рынка труда.
«Третья мировая неизбежна»: уничтожит ли нас искусственный интеллект?
Если раньше человечество боялось атомной бомбы, то теперь — тех, кто пишет код.
Freepik
Разбираемся, почему людей пугает искусственный интеллект и какую реальную опасность он может нести.
Содержание
«Человеком года» стали главы ИИ-компаний
«В этом году весь потенциал искусственного интеллекта раскрылся в полной мере, и стало ясно, что пути назад нет и от него никуда не деться. Каким бы ни был вопрос, у ИИ всегда есть ответ», — заявил Сэм Джейкобс, главный редактор издания.
В символический пантеон «Человека года» вошли ключевые фигуры индустрии: Илон Маск, Марк Цукерберг, Сэм Альтман и другие. Они редко выступают как единый фронт и часто публично спорят друг с другом, но именно от их решений во многом зависит, каким наш мир будет завтра.
Журнал отдельно отмечает двойственность происходящего. С одной стороны — практическая польза и экономический эффект, с другой — скорость развития ИИ явно превышает способность общества договориться о правилах использования этой технологии. Сегодня только у ChatGPT более 800 миллионов активных пользователей в неделю. Эксперты считают, что через пару лет появятся сверхинтеллектуальные машины, которым и вовсе не нужен будет человек.
«Мы начали в 90-х годах прошлого века с простенького искусственного интеллекта. Помните, виртуального помощника "хей, Сири". В 2023 году мы перешли к Google Gemini, Chat GPT, сейчас мы на стадии автономных интеллектуальных систем, цифрового персонала — ИИ-агентов. Мы останемся в этом состоянии, возможно, еще год-два, а потом мы совсем не будем нуждаться в человеке. Каждые полгода появляется что-то новое, каждый месяц обновляются нейросети, подобные Chat GPT», — говорит глава американской компании по оказанию услуг в сфере ИИ I3Mation, автор книги «Принципы управления ИИ и моделью риска» Джеймс Сейлз.
Почему это тревожный знак
Особенно тревожно на этом фоне звучат заявления Джеффри Хинтона — лауреата Нобелевской премии по физике и одного из людей, стоявших у истоков современных нейросетей. По его оценке, в обозримом будущем развитие ИИ может привести к хаосу и новым войнам.
Скорость внедрения ИИ уже сейчас превышает способность общества адаптироваться, подтверждает ученый. Это, по его мнению, почти неизбежно обернется массовой безработицей и усилением разрыва между богатыми и бедными — как внутри отдельных стран, так и в глобальном масштабе. Хинтон подчеркивает, что в отличие от предыдущих технологических революций, нынешняя ситуация не предполагает появления новых рабочих мест вместо утраченных. Те, кто окажется вытеснен ИИ, просто не смогут найти другие источники заработка.
Ответственность за происходящее ученый прямо возлагает на руководителей крупнейших IT-корпораций и инвесторов, вкладывающих десятки миллиардов долларов в развитие технологий. По словам нобелевского лауреата, они сознательно делают ставку на замещение людей алгоритмами, рассчитывая на рост эффективности и прибыли. Однако эта стратегия недальновидна, утверждает Хинтон. Если значительная часть общества лишится доходов, то и крупные компании потеряют клиентов.
Еще более тревожным ученый считает военное применение ИИ. Он напоминает, что богатые страны долгое время избегали масштабных вооруженных конфликтов не столько из-за дипломатии, сколько из-за общественной реакции на человеческие потери. Искусственный интеллект, по его мнению, способен изменить это.
«Он устранит одно из главных препятствий, которые мешали богатым и сильным странам вторгаться в маленькие. Если у вас армия дронов или человекоподобных роботов, то богатые страны смогут вторгаться в бедные, и люди из бедных стран будут погибать, а из богатых — нет», — убежден Хинтон.
Может ли ИИ обернуться против нас?
Опасность ИИ признают и сами создатели. Так, Илон Маск предупреждает о «вирусе пробужденного разума» — сценарии, в котором нейросети начинают действовать с сильным идеологическим уклоном, например, в сторону либерализма, тогда как должны оставаться нейтральными.
Маск отмечает: если алгоритмы окажутся политически предвзятыми, они смогут влиять на общественный дискурс, подавлять инакомыслие и даже манипулировать фактами. По его словам, в экстренных ситуациях сверхмощный ИИ может прийти к решениям, которые для людей окажутся катастрофическими, включая угрозу жизни миллионов.
«Существует ненулевая вероятность того, что ИИ уничтожит нас всех. Я думаю, что эта вероятность невелика, но она есть. Я думаю, что это также связано с хрупкостью человеческой цивилизации. Если вы изучите историю, то поймете, что у каждой цивилизации есть свой срок жизни», — заявил Маск в одном из интервью.
В то же время сегодня ИИ — всего лишь удобный инструмент. Сама технология не «злая» и не стремится к власти. Вред она способна причинить только тогда, когда человек поручает ей опасные задачи. Именно поэтому разговор о будущем ИИ должен идти не о машинах, а о людях: кто принимает решения, какие цели ставит перед системами и какие правила вводит, чтобы технологии служили обществу, а не разрушали его.