Чат-боты и дипфейки под контролем: в ЕС вступили в силу новые правила для ИИ

Со 2 августа в Евросоюзе начинают действовать новые правила для ИИ-систем. Теперь чат-боты должны сообщать, что пользователь общается с ИИ, а дипфейки и другой сгенерированный контент - содержать четкое обозначение о своем происхождении.

Об этом говорится в Официальном журнале Европейского Союза. 

Ключевые обязанности 

Согласно новым правилам, провайдеры и разработчики ИИ должны соблюдать четкие требования:

Идентификация систем. Чат-боты и голосовые помощники должны быть спроектированы так, чтобы пользователь четко понимал, что общается с машиной.

Маркировка. Разработчики обязаны добавлять специальные технические маркеры (водяные знаки, метаданные) в результаты генерации изображений, аудио, видео и текста.

Маркировка дипфейков. Любая публикация сгенерированного контента с изображением реальных людей должна содержать прямое указание на его искусственное происхождение.

Информационные тексты. Материалы, созданные ИИ для информирования пользователей об общественно важных событиях, должны маркироваться, если они не прошли человеческую проверку и за них не взяло редакционную ответственность конкретное лицо.

Исключения. Требования к маркировке не применяются, если ИИ выполняет только вспомогательные функции стандартного редактирования (исправление орфографии или грамматики).

Также под определение дипфейков не подпадает фантастический контент (например, изображения летающих в воздухе людей).

Читайте больше: ЕС заставляет Google изменить Android: Gemini потеряет свое главное преимущество Почему маркировка будет незаметной? 

Несмотря на то, что правила уже вступили в силу, обычные пользователи вряд ли сразу заметят массовые визуальные изменения или отметки на контенте.

Во-первых, статья 50, пункт 2 требует прежде всего машиночитаемой маркировки (внедрение метаданных или скрытых водяных знаков, считываемых специальными инструментами анализа), а не ярких визуальных иконок.

Использование трех официальных визуальных иконок Еврокомиссии (для полностью сгенерированного, частично измененного или созданного с участием ИИ контента) добровольно в рамках Кодекса практики.

Во-вторых, предусмотрен переходный период. Генеративные системы, уже выведенные на рынок к 2 августа 2026 года, получили дополнительные четыре месяца на внедрение маркировки - то есть, до 2 декабря 2026 года.

Это касается большинства популярных ИИ-сервисов. Штрафы и последующие запреты 

За нарушение требований по прозрачности Закон о ИИ предусматривает строгие финансовые санкции - штрафы до 15 миллионов евро или 3 процента от мирового годового оборота компании .