Фейковое ядерное оружие: искусственный интеллект едва не спровоцировал конфликт США с Китаем

ВМС США едва не перехватили китайское гражданское судно на Ближнем Востоке из-за вымышленного отчета ИИ. Галлюцинация чат-бота о наличии ядерных компонентов на борту едва не спровоцировала масштабный военный конфликт.

Об этом пишет CNN.

Военная разведка США подготовила секретную аналитическую справку, согласно которой китайское судно в регионе Ближнего Востока якобы перевозило детали для создания ядерного оружия.

Пентагон немедленно разработал операцию по задержанию: в воздух подняли боевую авиацию, а перехватчики готовились высадиться на борт.

Миссию отменили в последний момент, когда чиновники решили повторно проверить первоисточники. Дополнительная проверка показала, что информация о ядерном грузе была полностью выдумана ИИ-алгоритмами.

По словам источников в военно-морских силах, силовой захват корабля мог спровоцировать прямое военное столкновение между ядерными державами.

Так, стало известно, что один из сотрудников использовал чат-бот для объединения открытых данных с секретными радиоэлектронными перехватами. Алгоритм сгенерировал ложный вывод, который выдал за реальный факт.

Эксперты выделяют несколько системных проблем в использовании ИИ военными:

• Децентрализация инструментов - разные подразделения используют различные программы без единого стандарта проверки данных.
• Использование коммерческих решений - разведывательные структуры часто применяют адаптированные версии обычных гражданских чат-ботов.
• Постоянные галлюцинации - случай с китайским судном оказался лишь одним из серии ложных выводов, которые ИИ выдает при анализе больших массивов информации.

Специалисты подчеркивают: из-за роста объемов данных армия все больше полагается на ИИ-алгоритмы для определения целей, однако отсутствие жесткого контроля создает риск катастрофических ошибок в будущем.