У травні 2025 року в США набув чинності закон TAKE IT DOWN Act, який став першим федеральним актом, що регулює поширення AI-генерованих несанкціонованих інтимних зображень. Закон криміналізує розповсюдження «помсти-порно», включно з матеріалами, створеними штучним інтелектом, і зобов’язує соціальні мережі та інші платформи оперативно видаляти такі матеріали за запитом.
Чому існуючі закони не вирішують проблему
Дослідження вчених з Браунівського університету, опубліковане на конференції ACM 2026 року, виявило, що федеральний закон та інші подібні нормативні акти не враховують всю складність цифрової екосистеми, яка сприяє поширенню AI-генерованого сексуального насильства. Автори дослідження наголошують, що проблема глибоких фейків не зводиться до окремих зображень чи платформ, а охоплює широкий спектр технологій і сервісів.
Структура екосистеми AI-генерованих глибоких фейків
Вчені класифікували екосистему на 11 категорій технологій, які виконують п’ять основних функцій: створення зображень (AI-моделі, інтерфейси користувача, навчальні набори даних), розповсюдження (соціальні мережі, месенджери), пошук і поширення (пошукові системи, магазини додатків, спільноти), інфраструктура і підтримка (платформи розробників) та монетизація (платіжні системи).
Прикладом є AI-модель Grok, інтегрована в соціальну мережу X, яка дозволяє користувачам створювати несанкціоновані сексуальні зображення за допомогою простих текстових команд. Ці зображення автоматично публікуються в коментарях, а спільноти в месенджері Telegram розробляють способи обходу обмежень моделі, продаючи модифіковані версії через магазини додатків.
Проблеми підходу «вдарити по одному»
Аналіз 64 законів показав, що понад 92% з них спрямовані на окремих творців і розповсюджувачів матеріалів, але не зачіпають ширшу технологічну інфраструктуру. Це призводить до нескінченної гри в «вдарити по одному», коли нові зображення та творці з’являються знову і знову на різних платформах.
Як можна покращити захист від AI-зловживань
Дослідники пропонують зосередити увагу на технічній інфраструктурі, яка дозволяє і навіть отримує прибуток від такого зловживання. Вони закликають до розробки превентивних заходів, наприклад, впровадження обмежень на створення подібних зображень безпосередньо в AI-моделях. Для підвищення обізнаності створено інтерактивний вебсайт, який демонструє складність екосистеми і допомагає краще зрозуміти, як працюють різні технології та сервіси.
Джерело: techxplore.com
