Фейкова ядерна зброя: штучний інтелект ледь не спровокував конфлікт США з Китаєм

ВМС США ледве не перехопили китайське цивільне судно на Близькому Сході через вигаданий звіт ШІ. Галюцинація чат-бота про наявність ядерних компонентів на борту ледь не спричинила масштабний військовий конфлікт.

Про це пише CNN.

Військова розвідка США підготувала секретну аналітичну довідку, за якою китайське судно у регіоні Близького Сходу нібито транспортувало деталі для створення ядерної зброї.

Пентагон негайно розробив операцію із затримання: у повітря підняли бойову авіацію, а перехоплювачі готувалися до висадки на борт.

Місію скасували в останній момент, коли посадовці вирішили повторно перевірити першоджерела. Додаткова перевірка показала, що інформація про ядерний вантаж була повністю вигадана ШІ-алгоритмами.

За словами джерел у військово-морських силах, силове захоплення корабля могло спровокувати пряме військове зіткнення між ядерними державами.

Так, стало відомо, що один із співробітників використав чат-бот для об'єднання відкритих даних із секретними радіоелектронними перехопленнями. Алгоритм згенерував фейковий висновок, який видав за реальний факт.

Експерти виділяють кілька системних проблем у використанні ШІ військовими:

• Децентралізація інструментів - різні підрозділи використовують відмінні програми без єдиного стандарту перевірки даних.
• Використання комерційних рішень - розвідувальні структури часто застосовують адаптовані версії звичайних цивільних чат-ботів.
• Постійні галюцинації - випадок із китайським судном виявився лише одним із серії неправдивих висновків, які ШІ видає під час аналізу масивів інформації.

Фахівці наголошують: через зростання обсягів даних армія дедалі більше покладається на ШІ-алгоритми для визначення цілей, проте відсутність жорсткого контролю створює ризик катастрофічних помилок у майбутньому.