Вероятность того, что человечество вымрет из-за искусственного интеллекта, составляет как минимум 95%, если мы продолжим двигаться по нынешнему пути.
Шансов почти нет: бывший инженер Google уверен, что ИИ уничтожит человечество
Человечество на полной скорости несется к пропасти, уверен бывший сотрудник Google Нейт Соарес. Он объяснил, почему считает, что искусственный интеллект почти наверняка приведет нас к гибели.
Unsplash
С таким заявлением изданию The Times выступил Нейт Соарес – бывший инженер Google и Microsoft, а ныне глава некоммерческой организации Machine Intelligence Research Institute, занимающейся вопросами безопасности ИИ.
Эксперт объяснил, что главная проблема кроется в самой сути современных нейросетей.
«Вы берете огромный объем вычислительных мощностей и бросаете его на гигантский объем данных, и это как-то изменяет компьютеры. Никто не знает, что происходит внутри этих вещей. Это очень похожу на машину, которая на всех парах несется к пропасти», — сказал Соарес.
Он даже допустил сценарий, при котором ИИ может создать биологическое оружие для незаметного заражения городов.
Сейчас искусственный интеллект находится на начальной стадии развития. Однако некоторые эксперты считают, что уже в ближайшие 12 месяцев он может достичь уровня «сильного» ИИ, способного мыслить наравне с человеком. А за ним последует и суперинтеллект, который сможет решать задачи, о которых мы можем только мечтать, будь то лекарство от рака или межгалактические перелеты.
В такой ситуации возникает риск, что в какой-то момент ИИ решит, что человечество ему мешает. К тому же у машин будет огромное преимущество: им не нужен сон и еда, а знания они могут передавать мгновенно.
Впрочем, оценка Соареса — одна из самых пессимистичных. Другие видные фигуры в мире технологий смотрят на будущее с большим оптимизмом. Например, глава движения PauseAI Холли Элмор оценивает так называемый P(doom) (вероятность гибели) в 15-20%. Илон Маск согласен с оценкой в 20%, а гендиректор Google Сундар Пичаи называет цифру в 10%.
Кстати, сам Маск недавно скорректировал свой прогноз, заявив, что ИИ станет умнее всех людей, вместе взятых, уже к 2030 году, а умнее любого отдельного человека — менее чем через два года.
Проблема рисков, связанных с ИИ, поднимается и на высоком политическом уровне. Так, в России уже отмечали, что новые технологии могут использоваться в экстремистских целях, усугубляя существующие конфликты.