На Всемирной конференции по искусственному интеллекту в Шанхае легендарный исследователь нейронных сетей, лауреат Нобелевской премии по физике и премии Тьюринга Джеффри Хинтон вновь выступил с тревожным предупреждением: по мере роста возможностей искусственного интеллекта человечество рискует столкнуться с машиной, которая «захочет захватить мир». Об этом сообщает РБК.
Искусственный интеллект умнеет и может захотеть захватить мир, предупредил «крестный отец» ИИ
Джеффри Хинтон назвал ИИ «тигренком, который может съесть хозяина».
Unsplash
Хинтон, которого называют «крестным отцом ИИ», сравнил современную технологию с тигренком-питомцем.
«Вообще говоря, держать тигренка в качестве домашнего питомца — плохая идея. И есть два варианта: найти способ научить его никогда не хотеть вас есть или избавиться от него», — заявил ученый.
Он добавил, что избавиться от ИИ уже невозможно, поэтому нужно сделать так, чтобы, становясь умнее, он не стремился к доминированию и не захотел «захватить мир».
Теперь исследователь настаивает на создании глобальной сети по безопасности ИИ, где государства будут делиться результатами исследований. «В долгосрочной перспективе это может стать самым важным вопросом для человечества. Хорошая новость заключается в том, что с этой проблемой может столкнуться все человечество вместе», — подчеркнул Хинтон.
С аналогичным призывом выступил премьер-министр Китая Ли Цян, отметивший, что регулирование ИИ должно формироваться на основе «широкого консенсуса». По его словам, Пекин готов обмениваться технологиями и опытом прежде всего со странами глобального Юга.
Заявление Ли Цяна прозвучало на фоне новой стратегии США, предполагающей расширение экспорта американских ИИ-решений союзникам. Китайские власти, со своей стороны, предостерегли от превращения технологий ИИ в «эксклюзивную игру» ограниченного круга стран и корпораций.