Британский Институт Алана Тьюринга представил масштабный аналитический доклад, в котором оценил скорость развития генеративных и автономных алгоритмов.
Пять лет до точки невозврата: ученые назвали риски появления сверхразумного ИИ
Стремительное развитие технологий может лишить человека контроля над принятием ключевых решений уже к 2031 году.
Magnific
Согласно выводам исследователей, существует реалистичная вероятность того, что уже в течение следующих пяти лет в мире появятся сверхразумные системы искусственного интеллекта, превосходящие человека при выполнении практически всех ключевых когнитивных задач.
«Стремительный прогресс технологий создает риск утраты значимого человеческого контроля над принимаемыми решениями», — говорится в докладе.
Как подчеркнул генеральный директор института Джордж Уильямсон, дискуссии о продвинутом искусственном интеллекте не должны вестись исключительно технологическими корпорациями или строиться только вокруг наиболее экстремальных сценариев. Эксперт отметил, что научное сообщество обладает достаточным объемом данных о серьезных рисках, чтобы начать действовать уже сейчас.
«Высокая скорость обработки информации и качество выполнения задач алгоритмами будут в возрастающей степени вынуждать государственные и коммерческие институты делегировать машинам функции управления.
В ситуации, когда ИИ начнет генерировать стратегии, которые организации не способны адекватно и своевременно оценить, контроль со стороны человека может полностью исчезнуть», — пояснил он.
Продолжение ниже
Видео
Продолжение
Авторы исследования выделили комплекс потенциальных вызовов, среди которых:
- нарушение кибербезопасности
- риски дестабилизации демократических процессов
- ошибки в определении целей и расхождение действий систем с исходными намерениями человека
- химические и биологические угрозы
Ученые рекомендовали международным регуляторам внедрить строгие процедуры проверки не только отдельных базовых моделей, но и полноценных систем уже после их практического развертывания в инфраструктуре.
При этом исследователи подчеркивают, что утрата контроля представляет собой один из вероятных вариантов развития событий, а не безусловный факт.
Подобные опасения разделяют и руководители крупнейших технологических компаний. Так, генеральный директор OpenAI Сэм Альтман 14 сентября заявил, что развитие технологий может пойти по двум критически опасным сценариям: полной утрате контроля над будущим в пользу развивающихся систем либо чрезмерной концентрации безграничной власти в одних руках.
Глава компании Anthropic Дарио Амодеи выразил обеспокоенность темпами разработки и призвал замедлить создание более мощных моделей, что позволило бы выиграть год или два форы для выработки мер безопасности. С необходимостью сдерживания темпов согласился и владелец xAI Илон Маск.
На государственном уровне вызовы цифровизации 22 сентября прокомментировал президент России Владимир Путин. Глава государства назвал распространение ИИ и связанных с ним рисков серьезным вызовом, подчеркнув, что ключевое значение приобретает разработка современных стандартов и правил, гарантирующих конфиденциальность и надежную защиту информации.
Загружаем