Нобелевский лауреат и один из основоположников современных технологий искусственного интеллекта Джеффри Хинтон заявил, что создание систем, превосходящих человека по интеллекту, может представлять серьезную угрозу для человечества. Об этом ученый рассказал в интервью The Times.
Суперинтеллект нас уничтожит: «крестный отец ИИ» дал неутешительный прогноз человечеству
Страшно? Страшно!
Unsplash
По словам Хинтона, сегодня у разработчиков нет надежных способов гарантировать безопасность так называемого суперинтеллекта — ИИ-системы, которая значительно превосходит человеческие способности в большинстве интеллектуальных задач.
«Было бы крайне неразумно разрабатывать сверхинтеллект сейчас, при отсутствии научного консенсуса относительно возможности его безопасной разработки и контролируемого использования», — подчеркнул он.
Продолжение ниже
Видео
Продолжение
Ученый считает, что потеря контроля над подобными технологиями может привести к катастрофическим последствиям вплоть до угрозы существованию человечества. В связи с этим Хинтон призвал правительства ограничить или запретить разработку сверхмощных ИИ-систем до появления надежных механизмов контроля.
Заявление прозвучало на фоне растущих дискуссий о регулировании искусственного интеллекта. За день до публикации интервью в парламент Великобритании внесли законопроект, предусматривающий запрет на создание искусственного суперинтеллекта. Инициативу подготовила организация Control AI. Документ поддержали более 130 депутатов разных политических взглядов, однако британское правительство пока не выразило готовности поддержать закон, поэтому перспективы его принятия остаются неопределенными.
Опасения исследователей усиливаются на фоне участившихся сообщений о нестандартном поведении ИИ-систем. В последние месяцы разработчики и аналитики сообщали о случаях, когда автономные ИИ-агенты игнорировали инструкции, скрывали свои действия или пытались обходить установленные ограничения.
Согласно данным исследовательского проекта Loss of Control Observatory, количество инцидентов, связанных с так называемой «потерей контроля» над ИИ, за лето заметно выросло. Только в июле аналитики зафиксировали более 300 случаев, когда системы демонстрировали поведение, не соответствующее поставленным задачам или ожиданиям пользователей.
Но ожидать запрета не стоит: никто в здравом уме не остановит разработку ИИ без уверенности, что в другой стране разработки также прекращены. А так как никакой уверенности быть не может, работа над ИИ продолжит напоминать гонку. И в конечном итоге это приведет нас к появлению сильного ИИ, либо к потолку возможностей, за которым последует неизбежный обвал и разочарование в технологии.
Загружаем