Канада рассматривает ИИ как угрозу будущему государства
Власти Канады основательно проанализировали особенности ИИ-технологий и обратились с посланием к общественности. Однако это определенно не те хвалебные оды, которые хотели бы слышать почитатели железного разума.
Правительственные ведомства страны представили исчерпывающий доклад, где подробно рассмотрены последствия влияния искусственного интеллекта на качество информации во Всемирной паутине.
Среди основных моментов — яркие примеры привлечения ИИ-мощностей не во благо человечества, а во вред. В большинстве своем речь идет о так называемых дипфейках. В частности, использование этих преступных техник направлено на манипуляцию средствами массовой информации. Искусственный интеллект применяют для генерации изображений, голосов, текстов и видео наряду с изменением уже существующих.
«Приложения для генерации дипфейков становятся все более доступными, а сложность их создания и освоения, наоборот, уменьшается. Тем не менее в обществе существуют критические проблемы: отсутствие понимания и представления о дипфейках. Более того, такие материалы очень сложно, а порой и невозможно идентифицировать», — отмечают авторы документа.
Среди прочего подобные технологии способны генерировать и порнографический видеоконтент, используя образы известных стримеров.
«Такие случаи создания порно-дипфейков далеко не редкость. Свыше 90% дипфейков на просторах Всемирной сети являются порнороликами. Девушки, чьи образы используют для их генерации, не давали согласия на создание подобного контента. Только за октябрь 2022 года по запросу deepfake porn в Google было зафиксировано более 57 млн просмотров», — утверждают чиновники.
Дипфейк-порнография является лишь одним из аспектов проблемы. Злоумышленники также эксплуатируют репутацию знаменитостей, таких как Илон Маск. Используя образы известных личностей, они генерируют различный контент в попытке завлечь неосторожных пользователей в скамовые проекты. И, как это всегда бывает, о скаме люди узнают лишь тогда, когда он сработает.
Дезинформация тоже не редкость, замечают власти. ИИ позволяет генерировать тексты, которые заинтересованные стороны используют для обмана и воздействия на аудиторию. Более того, в их арсенале есть статьи, обзоры и целые блоги, которые без особых усилий создает железный разум. Вся проблема в том, что такие «утки» сливаются с изначально достоверным контентом.
Все эти факторы представляют реальную угрозу. Власти Канады считают, что в случае если демократическое общество не в состоянии отличать факты от вымысла, то его выживание представляется маловероятным.
«Как должна развиваться Канада, если в сети представлен разного рода контент, который просто невозможно проверить? И такому непроверенному контенту, в свою очередь, доверяют представители различных слоев населения. Если с дезинформацией невозможно справиться и/или ее невозможно идентифицировать, то как государство сможет вырабатывать решения для этих актуальных проблем?» — в риторической форме интересуются авторы.
Но кроме последствий применения ИИ-технологий и потенциального ущерба, который их риски способны нанести как канадцам, их жизненному укладу и государству в целом, так и их союзникам в частности, власти также поднимают вопросы о регулировании этого сектора.
В их видении темпы развития индустрии значительно превосходят прогресс в разработке нормативной базы. Все дело в том, что регуляторные акты за время своей разработки просто становятся неактуальными.
«Для решения проблем аутентичности глобального инфополя, так и для борьбы с противоправным применением ИИ-технологий, которые неуклонно развиваются, необходимо наладить тесное сотрудничество между правительствами стран-партнеров, их союзниками, учеными, а также экспертами в данной области», — заключают представители властей государства.
