Американские военные минувшей весной едва не провели операцию против китайского судна в ближневосточном регионе, основываясь на полностью ошибочном разведывательном отчете, подготовленном при помощи искусственного интеллекта. Об этом 18 сентября сообщил CNN со ссылкой на четырех собеседников, знакомых с обстоятельствами инцидента.
В документе утверждалось, что китайское судно перевозит компоненты, предназначенные для программы создания ядерного оружия. Сообщение появилось и было распространено среди американских военных в разгар войны с Ираном, однако CNN не утверждает, что предполагаемый груз предназначался именно Тегерану или относился к иранской ядерной программе.
Получив отчет, командование начало подготовку к перехвату судна. По данным двух источников телеканала, вооруженные американские военнослужащие готовились подняться на борт. Военные самолеты к этому моменту уже находились в воздухе.
Операцию остановили незадолго до ее начала, когда более опытные специалисты проверили исходные материалы. Они установили, что аналитик командования специальных операций использовал чат-бот для обработки сведений о судовом грузовом манифесте. Система объединила информацию из открытых источников с засекреченными данными радиоэлектронной разведки, но неправильно определила характер груза.
После этого аналитик снова воспользовался искусственным интеллектом, чтобы оформить выводы в виде стандартного разведывательного отчета. Документ, внешне не отличавшийся от обычной военной сводки, был распространен по командным каналам и воспринят как заслуживающий доверия.
Один из источников CNN назвал отчет "полностью ложным" и заявил, что инцидент "едва не начал войну". Эта оценка принадлежит собеседнику телеканала: официально не установлено, насколько вероятным было перерастание перехвата судна в вооруженный конфликт между США и Китаем.
CNN не удалось выяснить, что именно находилось на борту, какое судно стало целью операции и где оно находилось. Не установлено и то, какой чат-бот использовал аналитик: общедоступную коммерческую систему или внутренний продукт правительства США. Пентагон и Тихоокеанское командование специальных операций не ответили на запросы телеканала. Публичной реакции Китая на момент публикации также не последовало.
Инцидент произошел на фоне ускоренного внедрения искусственного интеллекта в американских вооруженных силах. В январе министр обороны Пит Хегсет представил стратегию, призванную превратить армию США в силу, максимально широко использующую ИИ — от анализа разведданных и планирования операций до выбора целей.
Источники CNN утверждают, что разные подразделения применяют различные системы и правила проверки, а единых стандартов контроля за выводами искусственного интеллекта пока нет. Таким образом, опасную ситуацию создал не самостоятельно действовавший ИИ, а сочетание ошибки чат-бота, доверия со стороны аналитика и недостаточной проверки отчета перед началом реальной военной операции. |
