Канада розглядає ШІ як загрозу майбутньому держави
Влада Канади ґрунтовно проаналізувала особливості ШІ-технологій і звернулася до громадськості. Однак це зовсім не хвалебні оди, які б хотіли чути шанувальники залізного розуму.
Урядові відомства країни представили вичерпну доповідь, де докладно розглянуто наслідки впливу штучного інтелекту на якість інформації в інтернеті.
Серед основних моментів — яскраві приклади залучення ШІ-потужностей не на благо людства. Здебільшого йдеться про так звані діпфейки. Зокрема, використання цих злочинних технік спрямоване на маніпуляцію засобами масової інформації. Штучний інтелект застосовують для генерації зображень, голосів, текстів та відео, а також для зміни наявного контенту.
«Застосунки для генерації діпфейків стають дедалі доступнішими, а складність їх створення та освоєння, навпаки, зменшується. Проте у суспільстві існують критичні проблеми: відсутність розуміння та уявлення про діпфейки. Ба більше, такі матеріали дуже складно, а часом і неможливо ідентифікувати», — зазначають автори документа.
Серед іншого такі технології здатні генерувати й порнографічний відеоконтент, використовуючи образи відомих стримерів.
«Такі випадки створення порно-діпфейків аж ніяк не рідкість. Понад 90% діпфейків в інтернеті є порнороликами. Дівчата, чиї образи використовують для генерації, не давали згоди на створення такого контенту. Лише протягом жовтня 2022 року за запитом deepfake porn у Google було зафіксовано понад 57 млн переглядів», — стверджують чиновники.
Діпфейк-порнографія є лише одним з аспектів проблеми. Зловмисники також експлуатують репутацію знаменитостей, наприклад Ілона Маска. Використовуючи образи відомих особистостей, вони генерують різноманітний контент, намагаючись залучити необережних користувачів у скамові проєкти. І, як це зазвичай буває, люди до останнього не здогадуються про скам.
Дезінформація також не є рідкісним явищем, зауважує влада. ШІ дозволяє генерувати тексти, які зацікавлені особи використовують для обману та впливу на аудиторію. Ба більше, в їхньому арсеналі є статті, огляди та цілі блоги, які без особливих зусиль створює залізний розум. Вся проблема в тому, що така дезінформація майстерно переплетена з перевіреним контентом.
Всі ці фактори становлять реальну загрозу. Влада Канади вважає — якщо демократичне суспільство не в змозі відрізнити факти від вигадки, то його виживання є малоймовірним.
«Як має розвиватися Канада, якщо в мережі представлено різноманітний контент, який просто неможливо перевірити? І такому неперевіреному контенту довіряють представники різних верств населення. Якщо з дезінформацією неможливо впоратися та/або її неможливо ідентифікувати, то як держава зможе розв’язувати ці актуальні проблеми?» — ставлять риторичні запитання автори.
Але, вказуючи на наслідки, які ця технологія може мати для канадських цінностей, і потенційну шкоду, завдану канадцям та їхнім союзникам, влада також порушує питання щодо регулювання цього сектору.
На думку уряду, темпи розвитку індустрії значно перевищують темпи створення нормативної бази. І поки триває розроблення регуляторних актів, ті поступово втрачають свою актуальність.
«Для розв’язання проблем автентичності глобального інфополя, а також для боротьби з протиправним застосуванням ШІ-технологій, які неухильно розвиваються, необхідно налагодити взаємодію між урядами країн-партнерів, їхніми союзниками, науковцями, а також експертами в цій галузі», — підсумовують представники канадської влади.
