Заборонені практики ШІ за EU AI Act: Чого мають уникати власники вебсайтів

EU AI Act не просто вимагає прозорості – він прямо забороняє певні практики ШІ. Якщо ваш вебсайт порушує ці заборони, вам загрожують штрафи до 35 мільйонів євро або 7% вашого річного обороту.

Більшість власників вебсайтів не усвідомлюють, що їхні інструменти на базі ШІ можуть перетинати ці межі. Цей посібник пояснює, що заборонено, як це стосується вебсайтів, і як переконатися, що ваша платформа підтримує вас у відповідності.

Пов'язано: Дивіться наш посібник про Вимоги до прозорості EU AI Act щодо зобов'язань з розкриття інформації.

Що таке "заборонені практики ШІ"?

Стаття 5 EU AI Act встановлює системи ШІ "неприйнятного ризику", які заборонені по всьому ЄС. Ці заборони набули чинності в лютому 2025 року – тобто вони вже є законом.

Чому ці практики заборонені

ЄС визначив практики ШІ, які:

• Маніпулюють людською поведінкою, завдаючи шкоди
• Експлуатують вразливості конкретних груп
• Дозволяють соціальний контроль або стеження
• Загрожують основним правам

Для власників вебсайтів: Більшість заборон спрямовані на урядові або корпоративні системи, але дві категорії безпосередньо впливають на комерційні вебсайти – маніпуляція та темні патерни.

Найважливіше: Маніпулятивні системи ШІ (Стаття 5(1)(a))

Це заборона, найбільш актуальна для вебсайтів та онлайн-бізнесу.

Що заборонено

AI Act забороняє системи ШІ, які використовують "підсвідомі техніки поза свідомістю людини" або "маніпулятивні чи оманливі техніки" для суттєвого спотворення поведінки таким чином, що це спричиняє або ймовірно спричинить значну шкоду (Стаття 5(1)(a)).

Простими словами: Ви не можете використовувати ШІ для маніпулювання людьми, щоб вони робили те, чого б не робили інакше, особливо якщо це їм шкодить.

Як це стосується вебсайтів

Багато звичайних технік оптимізації вебсайтів переходять у заборонену зону, коли їх підтримує ШІ:

Не всі переконання заборонені – лише техніки, які є маніпулятивними, оманливими або експлуатують вразливості:

Поріг "значної шкоди"

Не кожна маніпулятивна техніка автоматично є незаконною – вона має спричиняти або ймовірно спричинити значну шкоду:

Що вважається значною шкодою:

• Фінансові втрати або збитки
• Фізичні травми або наслідки для здоров'я
• Психологічна шкода
• Втрата основних прав
• Шкода репутації або відносинам

Практичний вплив: Трохи нав'язливий чатбот, ймовірно, не є "значною шкодою". Система, яка маніпулює літніми користувачами для покупки непотрібних дорогих послуг, безумовно, є.

А що з "темними патернами"?

Темні патерни – дизайнерські трюки, що маніпулюють користувачами – існували задовго до ШІ. AI Act конкретно націлений на темні патерни, підтримувані ШІ.

Ключова різниця

Традиційні темні патерни (розроблені людиною): Все ще регулюються законами про захист прав споживачів, але не AI Act.

Темні патерни, підтримувані ШІ (згенеровані або оптимізовані ШІ): Тепер прямо заборонені AI Act, якщо вони спричиняють значну шкоду.

Приклади темних патернів, підтримуваних ШІ

❌ Заборонено:

• ШІ, який автоматично генерує маніпулятивний текст, оптимізований для конверсії без перевірок безпеки
• Системи машинного навчання, які вивчають, які темні патерни працюють найкраще, та впроваджують їх
• ШІ-чатботи, які динамічно коригують тактику на основі сигналів вразливості користувача

✅ Дозволено із захистом:

• Генерація контенту ШІ з вбудованими фільтрами етики
• Оптимізація конверсії, яка поважає автономію користувача
• Персоналізація, яка покращує досвід без маніпуляції

Як ваш конструктор вебсайтів має це обробляти

Основні функції безпеки:

1. Фільтри безпеки контенту

   • Перевірка виходів ШІ перед публікацією
   • Автоматичне блокування маніпулятивної мови
   • Видалення фальшивих індикаторів терміновості

2. Етичні обмежувачі

   • Заборона генерації фальшивої дефіцитності
   • Неможливість створення оманливих таймерів зворотного відліку
   • Обмеження тактик тиску

3. Людський нагляд

   • Можливості перегляду контенту, згенерованого ШІ
   • Можливість попереднього перегляду перед публікацією
   • Чітка документація того, що згенерував ШІ

Тривожні сигнали:

• "Оптимізуйте для максимальних конверсій" без етичних обмежень
• ШІ, який генерує контент без людського перегляду
• Відсутність задокументованих політик безпеки контенту
• Платформа заохочує маніпулятивні тактики

Інші заборонені практики (менш поширені для вебсайтів)

Хоча вони менш ймовірно вплинуть на стандартні бізнес-вебсайти, пам'ятайте про ці додаткові заборони:

Соціальне оцінювання (Стаття 5(1)(c))

Заборонено: Системи ШІ, які оцінюють або класифікують людей на основі соціальної поведінки або особистих характеристик, що призводить до:

• Несприятливого ставлення в непов'язаних контекстах
• Необґрунтованого або непропорційного ставлення

Релевантність для вебсайту: Не використовуйте ШІ для автоматичного блокування, пониження пріоритету або дискримінації відвідувачів на основі профілювання.

Експлуатація вразливостей (Стаття 5(1)(b))

Заборонено: ШІ, який експлуатує вразливості, пов'язані з віком, інвалідністю або соціально-економічною ситуацією, щоб суттєво спотворити поведінку та завдати шкоди.

Релевантність для вебсайту: Будьте особливо обережні, якщо ваша аудиторія включає:

• Дітей або підлітків
• Літніх користувачів
• Людей у фінансовій скруті
• Осіб з когнітивними порушеннями

Приклад порушення: Вебсайт короткострокових кредитів на основі ШІ, який ідентифікує фінансово відчайдушних користувачів та використовує маніпулятивні тактики для просування високовідсоткових кредитів.

Біометрична категоризація (Стаття 5(1)(e))

Заборонено: Використання біометричних даних для виведення чутливих характеристик (раса, політичні погляди, сексуальна орієнтація), за винятком конкретних випадків правоохоронних органів.

Релевантність для вебсайту: Не використовуйте ШІ для аналізу фотографій або відео відвідувачів для їх категоризації за захищеними характеристиками – навіть якщо ви думаєте, що це для "персоналізації".

Штрафи та санкції за EU AI Act

Розуміння структури покарань допомагає оцінити ризик.

Рівні покарань

AI Act встановлює три рівні покарань (Стаття 99):

Як розраховуються покарання

Органи правозастосування враховують:

1. Тяжкість і тривалість порушення
2. Навмисний або необережний характер
3. Вжиті заходи для пом'якшення шкоди
4. Ступінь відповідальності з урахуванням технічних/організаційних заходів
5. Попередні відповідні порушення
6. Рівень співпраці з органами влади
7. Статус МСП (менші компанії можуть отримати зменшені штрафи)

Реальний вплив

Для малого бізнесу: Навіть найнижчий рівень (7,5 мільйонів євро) був би катастрофічним. Однак принцип пропорційності означає, що фактичні штрафи масштабуються залежно від розміру компанії.

Для інфлюенсерів/індивідуальних підприємців: Хоча максимальні штрафи малоймовірні, ви все ще можете зіткнутися з:

• Наказами про припинення та утримання
• Вимогами закрити вебсайт
• Судовими заборонами, що забороняють конкретні функції ШІ
• Репутаційними збитками
• Юридичними витратами та витратами на відповідність

Ризик німецьких попереджувальних листів

Конкретно в Німеччині конкуренти можуть надсилати Abmahnungen (попереджувальні листи) за порушення. Вони включають:

• Негайну вимогу припинити та утриматися
• Претензії на юридичні витрати (часто 1 000–3 000 євро)
• Загрозу судових дій у разі невирішення

Що викликає попередження: Конкуренти активно сканують вебсайти на предмет порушень. Маніпуляції, підтримувані ШІ, є легкою мішенню для цих листів.

Як переконатися, що ваш конструктор вебсайтів підтримує вас у відповідності

Питання до вашої платформи

1. "Як ви запобігаєте генеруванню маніпулятивного контенту ШІ?"

2. "Чи може ваш ШІ створювати фальшиву дефіцитність або індикатори терміновості?"

3. "Що станеться, якщо ШІ згенерує контент, що порушує EU AI Act?"

4. "Чи є у вас задокументовані політики етики ШІ?"

Основні функції безпеки

Ваш конструктор вебсайтів має надавати:

• Перегляд перед публікацією для контенту, згенерованого ШІ
• Фільтри безпеки контенту, які блокують маніпулятивну мову
• Вимоги до точності для заяв про запаси, ціни, доступність
• Документація того, що згенерував ШІ проти створеного людиною
• Контроль перевизначення для відключення агресивної оптимізації
• Етичні керівні принципи задокументовані та дотримувані
• Регулярні аудити поведінки ШІ

Тривожні сигнали, які мають вас турбувати

Відійдіть, якщо платформа:

• Прямо рекламує "максимізувати конверсії за будь-яку ціну"
• Пропонує генератори фальшивої дефіцитності або маніпулятивні інструменти зворотного відліку
• Не має політик безпеки контенту
• Відмовляється від усієї відповідальності за виходи ШІ
• Не може пояснити свій підхід до відповідності AI Act
• Зневажливо ставиться до регулювань ЄС
• Заохочує тактики, що звучать як темні патерни

Прихована динаміка: Lovable, Replit та платформи генерації коду

Є особливе міркування для платформ на кшталт Lovable та Replit, які генерують цілі додатки з промптів природною мовою.

Сценарій ризику

Що відбувається:

1. Ви промптите: "Створи освітню платформу для вікторин"
2. ШІ генерує повний додаток з динамічним контентом
3. ШІ може включити функції оптимізації без вашого відома
4. Згенерований код може автоматично реалізувати темні патерни
5. Ви розгортаєте без перегляду всієї логіки, згенерованої ШІ

Проблема: Ви відповідальні за те, що побудував ШІ, навіть якщо ви не повністю розумієте код.

Чому це високий ризик за EU AI Act

Коли ШІ генерує повний додаток (а не просто простий вебсайт):

• Складність приховує маніпуляцію: Ви не можете легко перевірити, що створив ШІ
• Динамічна поведінка: Додаток може адаптуватися до користувачів способами, які ви не мали на меті
• Освітній контент: Якщо використовується для освіти (категорія високого ризику Статті 5), застосовується додаткова перевірка
• Оцінювання, згенероване ШІ: Автоматизовані системи оцінювання стикаються з конкретними вимогами

Що ви маєте зробити

Якщо використовуєте платформи генерації коду для чогось більше, ніж прості статичні вебсайти:

1. Повністю перевірте згенерований код перед розгортанням
2. Зрозумійте всі функції, керовані ШІ, які включає система
3. Видаліть або змініть будь-яку маніпулятивну або занепокоюючу поведінку
4. Задокументуйте свій процес перегляду (доказ належної обачності)
5. Розгляньте юридичний перегляд для складних додатків

Ключовий момент: "Я не знав, що ШІ додав це" не є юридичним захистом.

Практичний контрольний список відповідності

Використовуйте це перед запуском вашого вебсайту:

Перегляд контенту

• Перегляньте всі маркетингові тексти, згенеровані ШІ, на маніпулятивну мову
• Перевірте, що всі заяви про дефіцитність/терміновість є фактично точними
• Перевірте, що таймери зворотного відліку відображають реальні терміни
• Переконайтеся, що ціноутворення є прозорим і не дискримінаційним
• Видаліть будь-які тактики психологічного тиску

Налаштування системи ШІ

• Увімкніть усі доступні фільтри безпеки контенту
• Налаштуйте ШІ для пріоритету автономії користувача над конверсією
• Налаштуйте робочі процеси людського перегляду для виходів ШІ
• Задокументуйте, які функції використовують ШІ
• Перевірте поведінку чатбота на маніпулятивні патерни

Перевірка платформи

• Підтвердіть, що платформа має задокументовані політики етики ШІ
• Перевірте, що вони беруть на себе відповідальність за вбудовану відповідність
• Перевірте, чи мають вони юридичне представництво в ЄС
• Перегляньте їхню історію з питань відповідності
• Переконайтеся, що вони відстежують розробки AI Act

Постійний моніторинг

• Регулярно переглядайте контент, згенерований ШІ
• Відстежуйте розмови чатбота на занепокоюючі патерни
• Будьте в курсі змін відповідності платформи
• Документуйте свої зусилля з відповідності (доказ добросовісності)

Висновок

Заборонені практики EU AI Act – це не просто теорія – це закон, що виконується, з серйозними покараннями. Для власників вебсайтів ключові зони ризику:

1. Маніпулятивний ШІ, який використовує обман або психологічну експлуатацію 2. Темні патерни, підтримувані оптимізацією ШІ 3. Фальшиві заяви, згенеровані ШІ (дефіцитність, терміновість, соціальний доказ)

Рішення: Виберіть конструктор вебсайтів, який:

• Серйозно ставиться до відповідності з задокументованими політиками
• Вбудовує безпеку в саму систему ШІ
• Не робить вас особисто відповідальним за всю поведінку ШІ
• Надає інструменти для перегляду та контролю виходів ШІ

Пам'ятайте: Ви юридично відповідальні за поведінку вашого вебсайту, навіть якщо ви не писали код. Виберіть платформу, якаділить тягар відповідності, замість того щоб покладати його повністю на вас.

Як платформа Aimix допомагає виконувати вимоги EU AI Act

Aimix створений для формування EU-сумісних вебсайтів із самого початку. Платформа керує контентом відповідно до законодавства ЄС та Німеччини, дотримуючись суворих регуляторних вимог без компромісів. Дізнайтеся більше на нашій сторінці EU AI Act: Aimix EU AI Act compliance.

Читайте далі: Вимоги до прозорості EU AI Act: Що має містити ваш конструктор сайтів на основі ШІ

Ресурси

EU AI Act про заборонені практики:

• Стаття 5 (Заборонені практики): EUR-Lex
• Стаття 99 (Покарання): EUR-Lex
• Повний текст EU AI Act: Регламент (ЄС) 2024/1689

Контекст захисту прав споживачів:

• Директива ЄС про права споживачів: Директива 2011/83/ЄС
• Німецький закон про недобросовісну конкуренцію (UWG): gesetze-im-internet.de

Додаткові джерела:

• Стаття №1: Вимоги до прозорості EU AI Act
• Розуміння облікових даних контенту C2PA
• Графік впровадження AI Act

Ця стаття надає освітню інформацію, але не повинна розглядатися як юридична консультація. Для конкретних питань відповідності проконсультуйтеся з кваліфікованим юридичним фахівцем, знайомим з цифровим правом ЄС та захистом прав споживачів.