Билл Гейтс предупредил, что искусственный интеллект почти стал достаточно мощным инструментом, чтобы привести к гибели миллионов и миллиардов людей, если им воспользуются злоумышленники. В интервью NBC News сооснователь Microsoft допустил сценарий, при котором связанные с ИИ события могут привести к гибели около миллиарда человек.
Искуственный интеллект убьет миллиард человек? Билл Гейтс дал тревожный прогноз о будущем человечества
Сам по себе ИИ не представляет большой угрозы, но если им воспользуются злоумышленники...
Соцсети
Высказывание миллиардера тут же разлетелось по СМИ с угрожающими заголовками, однако важно сделать ремарку: Гейтс говорил не о восстании машин и не прогнозировал, что миллиард человек действительно погибнет. Его беспокоит прежде всего использование современных моделей людьми со злым умыслом. ИИ снижает порог входа для сложных кибератак, помогает искать уязвимости и в перспективе может упростить разработку опасных биологических агентов. По словам Гейтса, сочетание мощных ИИ-инструментов и злоумышленников создает угрозу беспрецедентного масштаба.
Продолжение ниже
Видео
Продолжение
Особенно серьезным риском он считает биотерроризм. Еще в августовском эссе Гейтс писал, что ИИ способен упростить создание новых опасных патогенов. К непосредственным угрозам он также относил атаки на больницы, энергосистемы, банки и государственную инфраструктуру.
Гейтс считает, что одних добровольных правил внутри технологических компаний недостаточно. В интервью NBC он призвал власти подключиться к разработке обязательных требований безопасности, мониторинга и контроля за наиболее опасными возможностями ИИ. По его мнению, дополнительные расходы для разработчиков оправданы масштабом потенциального риска.
За последний год позиция Гейтса в отношении ИИ стала заметно осторожнее. Раньше он гораздо чаще говорил о преимуществах технологии для медицины, образования и роста производительности. Теперь предприниматель признает, что без продуманного регулирования последствия могут оказаться отрицательными. При этом от самой технологии он не отказывается: фонд Гейтса недавно объявил, что направит не менее $1 млрд на внедрение ИИ в здравоохранении, образовании и сельском хозяйстве.
При этом он остается одним из немногих бизнесменов, который регулярно рассказывает о рисках и требует государственного регулирования. Возможно, если бы он оставался генеральным директором Microsoft — одного из мировых технологических лидеров, его риторика была бы иной. Но сейчас бизнесмен увлечен инициативами, связанными с развитием общества и имеет возможность думать не о прибыли, а о безопасности.
Загружаем