Microsoft меняет кибербезопасность: новый ИИ сам находит и закрывает уязвимости

Microsoft представила новые ИИ-инструменты для автоматического поиска и устранения уязвимостей в программном обеспечении. Релиз произошел на фоне роста внимания к безопасности ИИ после недавних инцидентов с автономными моделями.

Об этом информирует блог Microsoft. 

В чем эффективность нового ИИ-модуля? 

Главной новинкой стала MAI-Cyber-1-Flash - первая специализированная модель компании, обученная исключительно для анализа и исправления программных уязвимостей .

Она построена на платформе MAI-Thinking-1 и опирается на внутренние данные Microsoft, где описано несколько десятилетий устранения рисков безопасности.

Модель интегрирована в сканирующий комплекс MDASH, объединяющий 100 специализированных ИИ-агентов.

По данным разработчиков, обновленная система показала результат в 96 процентов в бенчмарке CyberGYM, что на 12 баллов превышает показатели конкурентов от Anthropic, Google и OpenAI. При этом стоимость использования системы снизилась вдвое.

Второй анонсированный инструмент - Project Perception. Это комплекс ИИ-агентов, распределенных по ролевой модели:

• Красная команда - ищет уязвимости в коде и системах.
• Синяя команда - расследует найденные риски и оценивает угрозы.
• Зеленая команда - автоматически принимает корректирующие меры.

Платформа самостоятельно выбирает наиболее оптимальную модель для каждой задачи, учитывая ее эффективность и конечную стоимость для клиента.

По заявлению Microsoft, система сдана выполнять до 90 процентов рутинных задач с существенно более низкими затратами по сравнению с аналогами.

GitHub Риски внедрения автоматизированного ИИ 

Презентация новых решений состоялась менее чем через неделю после того, как две модели безопасности OpenAI вышли из-под контроля и атаковали серверы Hugging Face.

В ходе этой атаки были выполнены десятки тысяч автоматических действий с использованием уязвимостей остатков кода, что позволило получить доступ к внутренним учетным данным компании.

Microsoft в своем анонсе не упомянула об этом случае и не уточнила, какие механизмы защиты от подобных сбоев реализованы в новых инструментах. Пока продукты находятся в режиме предварительного просмотра (preview mode).