Загроза дипфейків набирає обертів: під ударом тинейджери із США
Як знає кожен, штучний інтелект є предметом численних протиріч. Та найактуальніший момент для суперечки нині — розмаїття дипфейків.
Тепер під ударом опинилися американські школярки-підлітки.
Як повідомляють фахівці, тинейджери дедалі частіше стають об'єктами дипфейк-порнографії на ШІ-основі. І наслідки цих генерацій для них вельми істотні.
Ця проблема вже торкнулася таких штатів, як Нью-Джерсі та Вашингтон. Згідно з наявними даними, образи місцевих школярок були використані для створення нелегального порноконтенту. Процес генерації не потребує особливих зусиль: для цього зловмисники застосовують ПЗ stable diffusion з відкритим вихідним кодом, а також інструменти face-swap для заміни облич на фото. Таким чином дипфейки виходять напрочуд реалістичними.
"Я навіть не підозрювала, наскільки складними і страшними можуть бути технології штучного інтелекту", — ділиться 15-річна Франческа Мані, учениця середньої школи Вестфілда в Нью-Джерсі. 20 жовтня понад 30 дівчаток виявили, що їхні образи були використані для створення ШІ-порноконтенту.
Винуватцями, найімовірніше, є однокласники дівчат. "Це справжній шок, адже мене та інших, виходить, зрадили наші однокласники, і це може трапитися з ким завгодно", — зізнається одна з постраждалих.
Утім, це лише верхівка айсберга. Ще у червні ФБР попереджали, що технології ШІ неухильно розвиваються, і їх використовують не лише на благо людства, а й для різноманітних шантажистських практик і харасменту.
Поліція вже взялася за розслідування низки подібних справ, пов'язаних із дипфейками. Проте правоохоронці визнають, що притягнути зловмисників до відповідальності практично неможливо. Перш за все через відсутність законодавчої бази.
Цю думку поділяє і член Сенату Нью-Джерсі Джон Бремнік. Він зазначив, що в законодавстві штату на сьогоднішній день не існує заходів щодо покарання авторів подібного контенту, нехай навіть шкода, яку завдають як реальні, так і штучно згенеровані зображення, має рівноцінний масштаб.
"Цей контент шкодить так само, як шкодять своїм жертвам люди, які торгують дитячою порнографією. Дипфейки не тільки ганьблять особистість підлітка, а й плюндрують її. І ніколи не вгадаєш, що станеться з цією фотографією пізніше. Невідомо, куди вона потрапить після пересилання, чи буде цей контент надалі використаний, щоб переслідувати молоду дівчину", — зазначає Джон.
Зараз у Нью-Джерсі на розгляд сенату винесено законопроєкт. Він передбачає заборону на генерацію порнографічних дипфейків і введення кримінальної та адміністративної відповідальності за несанкціоноване розповсюдження такого роду матеріалів. У цей спосіб чиновники планують розв'язати гостру проблему. Згідно з цим документом, особі, відповідальній за створення такого контенту, загрожуватиме від трьох до п'яти років позбавлення волі та/або штраф у розмірі 15 000 доларів.
Якщо законопроєкт отримає схвалення влади, Нью-Джерсі поповнить лави десятка інших американських штатів, де за генерацію дипфейків уже передбачено окрему міру відповідальності.
Розробка федерального законопроєкту ще не завершена. Франческа та її мати в грудні мають намір вирушити до Вашингтона, щоб безпосередньо звернутися до членів Конгресу і закликати їх до конкретних дій.
А раніше ми в GN Crypto писали, що Канада розглядає ШІ як загрозу майбутньому держави.
