Новый ИИ Anthropic меньше лжет: компания представила Fable 5.1 и Mythos 5.1

Anthropic выпустила две новые версии своей мощнейшей ИИ-системы - Fable 5.1 и Mythos 5.1. Обновление сделало модели более производительными, более дешевыми в использовании и уменьшило количество ошибочных срабатываний систем безопасности.

Об этом сообщает Anthropic. 

Стандарты конфиденциальности и научные прорывы: что нового 

Главным технологическим новшеством выпуска стал переход Anthropic на политику нулевого хранения данных (zero data retention). Это позволяет клиентам запускать модели на собственной инфраструктуре без угрозы утечки информации на внешние серверы.

Основные изменения и достижения новых версий

Корпоративная защита: осенью пользователи получат высокочастный сервис Enterprise Frontier Safeguards, где мониторинг действий ИИ осуществляется под полным контролем клиента.

Безопасность корпоративных данных: разработчики заверили, что никогда не использовали и не будут использовать частные данные компаний для обучения своих моделей без прямого разрешения.

Рекорды в бенчмарках: обе системы показали самые высокие результаты в тесте Terminal-Bench 4.0 (программирование через CLI) и сложный комплекс задач Humanity's Last Exam.

Самостоятельные открытия: еще до официального релиза модели выполнили оптимизацию архитектуры GPU и собрали высокодетализованную карту Венеры из имеющихся фотографий.

Оценка уровней риска 

Политика распространения моделей остается разделенной. Если Fable 5.1 доступна всем разработчикам то версию Mythos 5.1 будут предоставлять исключительно зарегистрированным партнерам Anthropic, занимающимся исследованиями в области кибербезопасности или наук о жизни.

Вместе с релизом компания опубликовала системную карточку с анализом действий ИИ:

Риск самосовершенствования: специалисты оценили Mythos как модель с "низким риском" по поводу сценариев потери человеческого контроля из-за автономного развития.

Склонность к ошибкам: Mythos 5.1 показывает несколько большую склонность к некорректному поведению, чем версия Opus 5, но превосходит по надежности Mythos 5 и Claude Sonnet 5.

Следование инструкциям: ИИ-модель реже игнорирует прямые указания, реже придумывает входные данные и не выдает вымышленное выполнение заданий за действительное.