Чат-боти й діпфейки під контролем: у ЄС запрацювали нові правила для ШІ

З 2 серпня в Євросоюзі починають діяти нові правила для ШІ-систем. Відтепер чат-боти повинні повідомляти, що користувач спілкується з ШІ, а дипфейки та інший згенерований контент - містити чітке позначення про своє походження.

Про це йдеться в Офіційному журналі Європейського Союзу.  

Ключові обов'язки 

Згідно з новими правилами, провайдери та розробники ШІ мають дотримуватися чітких вимог:

Ідентифікація систем. Чат-боти та голосові помічники повинні бути спроєктовані так, щоб користувач чітко розумів, що спілкується з машиною.

Маркування. Розробники зобов'язані додавати спеціальні технічні маркери (водяні знаки, метадані) до результатів генерації зображень, аудіо, відео та тексту.

Маркування діпфейків. Будь-яка публікація згенерованого контенту із зображенням реальних людей має містити пряму вказівку на його штучне походження.

Інформаційні тексти. Матеріали, створені ШІ для інформування громадськості про суспільно важливі події, мають маркуватися, якщо вони не пройшли людську перевірку та за них не взяла редакційну відповідальність конкретна особа.

Винятки. Вимоги щодо маркування не застосовуються, якщо ШІ виконує лише допоміжні функції стандартного редагування (виправлення орфографії чи граматики).

Також під визначення діпфейків не підпадає фантастичний контент (наприклад, зображення людей, які літають у повітрі).

Чому маркування буде непомітним? 

Попри те, що правила вже набрали чинності, пересічні користувачі навряд чи одразу помітять масові візуальні зміни чи позначки на контенті.

По-перше, стаття 50, пункт 2 вимагає насамперед машиночитаного маркування (впровадження метаданих або прихованих водяних знаків, які зчитуються спеціальними інструментами аналізу), а не яскравих візуальних іконок.

Використання трьох офіційних візуальних іконок Єврокомісії (для повністю згенерованого, частково зміненого чи створеного за участю ШІ контенту) є добровільним у межах Кодексу практики.

По-друге, передбачено перехідний період. Генеративні системи, які вже були виведені на ринок до 2 серпня 2026 року, отримали додаткові чотири місяці на впровадження маркування - до 2 грудня 2026 року.

Це стосується більшості популярних ШІ-сервісів. Штрафи та подальші заборони 

За порушення вимог щодо прозорості Закон про ШІ передбачає суворі фінансові санкції - штрафи до 15 мільйонів євро або 3 відсотки від світового річного обороту компанії.