ИИ чуть не стал причиной мировой войны: США едва не перехватили китайский корабль из-за ошибки в разведданных

Нейросеть неверно определила груз корабля, а ее выводы оказались настолько убедительными, что военные начали готовиться к перехвату. Об этом сообщает CNN со ссылкой на четыре источника, знакомых с ситуацией.

Все началось с аналитика командования специальных операций США, который поручил чат-боту изучить сведения о грузе китайского судна. ИИ объединил информацию из открытых источников с секретными разведданными и пришел к выводу, что корабль перевозит компоненты для программы создания ядерного оружия.

Читайте Men Today в MAX

Аналитик снова воспользовался нейросетью, чтобы оформить выводы в стандартный разведывательный отчет. Документ распространили среди американских военных, после чего началась подготовка к операции. Вооруженные военнослужащие готовились подняться на борт судна, а военные самолеты уже находились в воздухе.

Ошибку обнаружили незадолго до начала перехвата, когда специалисты решили внимательнее изучить исходные данные. Выяснилось, что чат-бот неправильно определил содержимое груза, а подготовленный с его помощью отчет не соответствовал действительности. Операцию отменили.

Один из собеседников CNN заявил, что инцидент едва не спровоцировал войну между США и Китаем. Впрочем, это оценка источника, она абсолютно наверняка сильно преувеличена, чтобы получить больше кликов: отношения между Китаем и США действительно напряженные, но не настолько, чтобы воевать из-за захваченного (не потопленного) судна.

Пентагон и Тихоокеанское командование специальных операций США не ответили на запросы CNN.

История произошла на фоне активного внедрения ИИ в американской армии. В январе Пентагон представил стратегию ускоренного использования нейросетей, в том числе для анализа разведданных и принятия решений на поле боя. Однако, по словам источников CNN, разные подразделения применяют разные инструменты, а единых стандартов проверки их выводов пока нет.

Читайте Men Today в MAX

Случай с китайским кораблем показывает вполне конкретную проблему: ошибочная информация, оформленная нейросетью как полноценный разведывательный документ, может пройти несколько уровней принятия решений и привести к реальным военным действиям.