Угроза дипфейков набирает обороты: под ударом тинейджеры из США
Как известно, искусственный интеллект является предметом многочисленных разногласий. И самый актуальный спорный момент сейчас — обилие дипфейков.
Теперь под ударом оказались американские школьницы-подростки.
Как сообщают специалисты, тинейджеры все чаще оказываются объектами дипфейк-порнографии на ИИ-основе. И последствия этих генераций для них весьма существенны.
Эта проблема уже затронула такие штаты, как Нью-Джерси и Вашингтон. Согласно имеющимся данным, образы местных школьниц были использованы для создания нелегального порноконтента. Процесс генерации не требует многих усилий: для этого злоумышленники применяют ПО stable diffusion с открытым исходным кодом, а также инструменты face-swap для замены лиц на фото. Таким образом дипфейки выходят удивительно реалистичными.
"Я даже не подозревала, насколько сложными и пугающими могут быть технологии искусственного интеллекта", — делится 15-летняя Франческа Мани, ученица средней школы Вестфилда в Нью-Джерси. 20 октября более 30 девочек обнаружили, что их образы были использованы для создания ИИ-порноконтента.
Виновниками произошедшего, вероятнее всего, являются одноклассники девочек. "Это настоящий шок, ведь меня и остальных, выходит, предали наши одноклассники, а значит, это может случиться с кем угодно", — признается одна из пострадавших.
Впрочем, это лишь верхушка айсберга. В июне ФБР предупреждало, что технологии ИИ неуклонно развиваются и используются не только на благо человечества, но и для различных шантажистских практик и харассмента.
Полиция уже взялась за расследование ряда подобных дел, связанных с дипфейками. Тем не менее стражи порядка признают, что привлечь злоумышленников к ответственности практически невозможно. Прежде всего ввиду отсутствия законодательной базы.
Этого же мнения придерживается и член Сената Нью-Джерси Джон Брэмник. Он отметил, что в законодательстве штата на сегодняшний день не существует мер наказания авторов подобного контента, пусть даже ущерб, который наносят как реальные, так и искусственно сгенерированные изображения, имеет равный масштаб.
"Этот контент вредит так же, как вредят своим жертвам люди, которые торгуют детской порнографией. Дипфейки не только оскорбляют личность подростка, но и порочат её. И никогда не угадаешь, что произойдет с этой фотографией позже. Неизвестно, куда она попадет после пересылки, будет ли этот контент в дальнейшем использован, чтобы преследовать молодую девушку", — отмечает Джон.
Сейчас в Нью-Джерси на рассмотрение сената вынесен законопроект. Он предусматривает запрет на генерацию порнографических дипфейков, введение уголовной и административной ответственности за несанкционированное распространение подобного рода материалов. Таким образом чиновники планируют разрешить острую проблему. Согласно этому документу, создателю порнографии будет грозить от трех до пяти лет тюремного заключения и/или штраф в размере 15 000 долларов.
Если законопроект получит одобрение властей, Нью-Джерси пополнит ряды десятка других американских штатов, где за генерацию дипфейков уже предусмотрена отдельная мера ответственности.
Разработка федерального законопроекта еще не завершена. Франческа и ее мать в декабре намерены отправиться в Вашингтон, чтобы напрямую обратиться к членам Конгресса и призвать их к конкретным действиям.
А прежде мы в GN Crypto писали, что Канада рассматривает ИИ как угрозу будущему государства.
