Водяні знаки для ШІ: новий етап регулювання
Провідні компанії зі створення штучного інтелекту на зустрічі у Білому домі погодилися позначати згенерований контент водяними знаками.
Це рішення керівники великих технологічних компаній, таких як OpenAI та Google, ухвалили після обговорення питання з американським президентом та його командою. Вони також пообіцяли ретельно перевіряти мовні моделі перед офіційним запуском застосунків та ділитися корисною інформацією між собою, незважаючи на серйозну взаємну конкуренцію.
«Ці зобов’язання є перспективним кроком, але ми маємо ще багато спільної роботи», – © Джо Байден, 46-й президент США.
Дії американських політиків можна розглядати як успішну спробу формування початкових правил для штучного інтелекту. Цю ініціативу підтримали й інші представники влади, включно з Конгресом та Сенатом, оскільки США трохи поступаються європейським країнам у регулюванні.
Для чого потрібні водяні знаки на ШІ-контенті?
Протягом останнього року штучний інтелект став значно популярніший. Багато людей почали використовувати ШІ-застосунки для створення розважального та робочого контенту, який має вигляд справжнього мистецтва. Це зумовило серйозні проблеми, пов’язані, наприклад, з авторськими правами чи галюцинаціями ШІ.
Використання спеціальних символів для маркування контенту, що був згенерований штучним інтелектом (включно з відео, текстом та аудіо), може допомогти вирішити це питання. Користувачі отримають можливість самостійно визначати, чи людиною створений інформаційний продукт, чи це результат роботи машини. Також має скоротитися кількість фейкових новин чи компрометувальних матеріалів.
Чи буде працювати подібне маркування?
Теоретично задум має доволі привабливий вигляд. Проте компанії не розкривають технічних подробиць маркування. Особливо це стосується форматів тексту чи музики, які складніше позначити водяним знаком, ніж візуальний контент. Також проблемою є існування нейромереж, здатних повністю видалити будь-які позначки.
Як компанії планують дотримуватися власних зобов’язань після надсилання контенту користувачам? Швидше за все, їм потрібно вигадати нове рішення для маркування, яке виключить можливості обходу. Ну, або продовжувати користуватися неефективними методами задля формальності. У будь-якому разі невідомо, наскільки швидко законодавці та розробники зможуть реалізувати нові правила.
