Люди могут потерять контроль над искусственным интеллектом существенно раньше, чем ожидается. Об этом говорится в докладе, составленном 96 экспертами из 30 разных стран. Рассказываем, какие ключевые угрозы для человечества таят в себе нейросети.
Не грубите ChatGPT: человечество теряет контроль над нейросетями быстрее, чем кажется
Десятки экспертов подготовили тревожный доклад о скором господстве нейросетей над людьми.
AI
Автономные ИИ-агенты
Сейчас многие компании видят в развитии нейросетей шанс сократить свои расходы на содержание сотрудников, заменив из ИИ-агентами. Эти системы способны действовать с минимальным вмешательством со стороны человека и в какой-то момент контроль ослабнет и нейросеть начнет принимать решения, игнорируя человеческие команды.
Экология
Работа мощных ИИ-моделей требует огромных вычислительных мощностей и энергопотребления, что может усугубить климатический кризис.
Манипуляции и ложь
Современные чат-боты уже способны вводить человека в заблуждение. Популяризация нейросетей привела к тому, что многие люди безоговорочно доверяют ей и не перепроверяют информацию. Ученые полагают, что нейросети уже способны демонстрировать так называемое «обманчивое соответствие» — притворяться безопасными, пока не достигнут критического уровня развития.
Создание биологической угрозы
Искусственный интеллект уже способен находить помогает находить уязвимости в кибербезопасности и генерировать инструкции по созданию биологического оружия. Некоторые тесты показывают его превосходство в этом вопросе над экспертами.
В 2022 году исследователи уже показали, что ИИ может генерировать потенциально опасные молекулы, аналогичные боевым отравляющим веществам.
Также ИИ способен автоматизировать и усложнять хакерские атаки, делая их более эффективными.
Кроме того, злоумышленники уже используют нейросети, чтобы генерировать дипфейки и подделывать голоса людей. С их помощью мошенники могут получить доступ к чувствительной информации.
Другая область уязвимости человечества перед ИИ касается рынка труда. Автоматизация рабочих мест угрожает миллионам профессий, особенно в сфере юриспруденции, финансов, образования и журналистики. В долгосрочной перспективе может усилиться экономическое неравенство.
Основная угроза скрывается в самосовершенствующихся моделях, которые могут выйти из-под контроля человека и сделать любой голливудский фильм ужасов про восстание машин реальностью. К тому же сейчас мы наблюдаем между странами гонку в развитии искусственного интеллекта, что может привести к созданию опасных технологий без достаточных механизмов контроля.