Американские военные больше не знают, чему верить: ИИ научился подделывать данные

ИИ дает военным преимущество в скорости принятия решений, но в то же время подрывает доверие к информации. Командующий спецоперациями США Фрэнк Брэдли предупредил, что дипфейки и генеративный ИИ могут сделать любые данные сомнительными.

Об этом сообщает Defence One.

Фрэнк Брэдли отметил, что современное информационное пространство превратилось в ключевое поле боя, где борьба идет не только за сбор данных, но и за верификацию их правдивости. 

Преимущества ИИ на поле боя 

Использование искусственного интеллекта позволяет объединять тысячи источников данных в единую картину в режиме реального времени с обновлением буквально ежеминутно.

Успешные кейсы: Брэдли привел пример апрельской операции по спасению пилота сбитого истребителя F-15 по линии фронта. Миссия стала возможной благодаря четкой синхронизации разведки, киберподдержке и аналитическим ИИ-моделям.

Принятие решений: автоматизированная аналитика позволяет оперативникам получать информационное преимущество, что превращается в скорость действий. 

"Эрозия доверия" и масштабный обман 

Обратной стороной технологического скачка стало то, что злоумышленники, враждебные государства и диктаторские режимы получили инструменты для массового манипулирования сознанием.

Угроза дипфейков: адмирал Брэдли отметил, что даже его собственный штаб сталкивался с розыгрышами с помощью ИИ.

Современные генеративные инструменты создают синтетические голоса, клонированные лица и фальшивые личности, способные обмануть даже профессионалов.

Деятельность врагов: Россия, Китай и даже малые диктатуры (например режим Ибрагима Траоре в Буркина-Фасо) активно используют ИИ для дезинформации и контроля над населением.

Подрыв разведки: представители контрразведки США отмечают, что ИИ сделал дезинформацию масштабированной. Это заставляет сомневаться в любом источнике данных, поскольку подделать можно любой цифровой след .

Проблемы прозрачности и защиты от автономных ИИ-агентов 

По словам бывших должностных лиц Госдепартамента США, ситуация осложняется уменьшением прозрачности модерации содержимого на крупных медиаплатформах и изменением внутриполитических приоритетов в Вашингтоне.