SynthID: водяний знак для ШІ-зображень від Google
SynthID обіцяє вирішити зростаючу проблему дезінформації та фейків, які генерує ШІ. Бета-фаза тестування цього інструменту, розробленого Google DeepMind та Google Research, розпочалася наприкінці серпня 2023 року.
Що таке SynthID?
SynthID має дві функції: нанесення водяних знаків на зображення, створені штучним інтелектом, та ідентифікація таких зображень. Поки що він доступний для обмеженої групи клієнтів Vertex AI, які використовують Imagen (удосконалену модель перетворення тексту на картинки). Нагадаємо, Vertex AI – це корпоративна платформа Google для впровадження штучного інтелекту на підприємствах.
Ці користувачі зможуть вставляти цифровий водяний знак безпосередньо під час створення зображень за допомогою ШІ. Підкреслюємо, що це маркування поки що є добровільним. Маркер не помітний, оскільки наноситься лише на рівні пікселів. Він зберігається після застосування фільтрів, зміни кольорів та збереження зображень за допомогою методів стиснення з втратами (JPEG).
Ліворуч картинка з водяним знаком, праворуч – без нього. Різниця не помітна Джерело: Google DeepMind
Під час процесу ідентифікації ШІ-зображень SynthID видає три варіанти результатів:
- однозначно негативний (картинку створила людина);
- позитивний (картинка згенерована Imagen);
- невизначений (малюнок, імовірно, згенерований).
Водяний знак залишається навіть після значних змін ШІ-зображення Джерело: Google DeepMind
Як бачимо, поки сфера застосування SynthID є доволі локальною, тож називати цей інструмент панацеєю від дезінформації передчасно. Тим не менше, він є перспективним першим кроком у боротьбі за забезпечення достовірності цифрового контенту.
У подальші плани Google входить інтеграція SynthID у більшу кількість продуктів. Компанія обіцяє, що невдовзі і приватні особи, і організації отримають розширені можливості для відповідальної взаємодії з контентом, створеним штучним інтелектом.
Це може мати далекосяжні наслідки у різних галузях. Наприклад, у журналістиці, де точність і достовірність зображень мають першорядне значення, SynthID допоможе перевірити справжність візуальних зображень, що використовуються у статтях новин. Або в рекламі, де підроблені зображення можуть ввести в оману щодо характеристик рекламованого товару або послуги.
Водяні знаки для ШІ-контенту: історія та сучасні виклики
Водяні знаки вже багато років є інструментом захисту прав власності на цифровий контент. Термін «цифровий водяний знак» був придуманий у 1992 році. Ідею цифрового маркування вдалося реалізувати вже за рік.
Сама концепція водяних знаків сягає ХІІІ століття. Тоді виробники паперу в Італії почали наносити унікальні знаки для ідентифікації своєї роботи. Пізніше цю техніку опанували художники та видавці для захисту творів від несанкціонованого копіювання. У період цифрових технологій нанесення водяних знаків еволюціонувало. Тепер воно включає різні методи, такі як видимі водяні знаки, невидимі водяні знаки і цифрові підписи.
Папір з водяним знаком, Італія, XVI ст. Джерело: Harvard Art Museums
Одна з основних проблем щодо водяних знаків на ШІ-контенті полягає в тому, що алгоритми штучного інтелекту можна навчити розпізнавати та видаляти відповідне маркування. Це ускладнює захист прав власності та автентичності, і дуже не подобається творцям контенту та правовласникам, які сподіваються на водяні знаки, як на засіб захисту.
Адже у питанні змішування правдивої візуальної, текстової інформації та ШІ-фейків уже доходить до смішного. Скажімо, нещодавнє дослідження виявило, що користувачі майже не відрізняють твіти, написані людьми, від твітів, створених ШІ. Більше того, твіти, створені штучним інтелектом, часто сприймаються читачами як переконливіші та достовірніші.
Тут можна згадати травневе падіння ринків одразу після того, як у соціальних мережах з’явилося фейкове фото пожежі в Пентагоні. Деякі частини картинки вказували на підробку (наприклад, об’єкти, що зливаються один з одним), але те, що зображення було створено ШІ, так і не було підтверджено.
Або рекламний ролик, який транслювався цього літа в межах передвиборчої кампанії губернатора Флориди Рона ДеСантіса. Творці відео, ймовірно, використали ШІ, щоб імітувати голос Дональда Трампа і записати слова, які експрезидент США ніколи не промовляв. На іншій політичній рекламі ДеСантіса Трамп красувався, обіймаючи Ентоні Фаучі, колишнього старшого медичного радника Білого дому та головного лобіста нещодавніх ковідних обмежень. Це зображення, швидше за все, також було згенероване ШІ.
Рекламне відео ДеСантіса містило 3 фейкові фото Джерело: DeSantis War Room, Х
Досі ніхто не має впевненості, що саме штучний інтелект створив ці та інші фейки. Зрозуміло лише те, що з розвитком алгоритмів ШІ відрізнити реальність від вигадки стає дедалі важче.
Водяні знаки: позиція учасників ринку
Зростання кількості ШІ-фейків змусило відомі компанії, серед яких Google, Microsoft, Meta, Amazon, OpenAI, Anthropic та Inflection, взяти на себе зобов’язання позначати водяними знаками контент, створений штучним інтелектом. Цей добровільний крок, з одного боку, спрямований на усунення недовіри суспільства до інформації, що поширюють ЗМІ та соцмережі. З іншого боку, водяні знаки мають перешкоджати розповсюдженню дезінформації, створеної за допомогою ШІ.
У рамках цього зобов’язання технологічні гіганти почали розробляти водяні знаки, які вказуватимуть, яка саме модель ШІ відповідає за створення контенту (без розкриття особи користувача). Власне, бета-тестування SynthID – це вклад Google у реалізацію домовленостей, досягнутих гравцями ШІ-ринку. Залишилося лише масштабувати це рішення, дочекатися аналогічних інструментів від інших учасників угоди та зобов’язати маркувати ШІ-контент на законодавчому рівні.
Раніше GN вже писав про перешкоди, які маркування ШІ-контенту неминуче зустріне на своєму шляху.
