Водяные знаки для ИИ: новый этап регулирования
Ведущие компании по созданию искусственного интеллекта на встрече в Белом доме согласились отмечать сгенерированный контент водяными знаками.
Это решение руководители крупных технологических компаний, таких как OpenAI и Google, приняли после обсуждения вопроса с американским президентом и его командой. Они также пообещали тщательно проверять языковые модели перед официальным запуском приложений и делиться полезной информацией между собой, несмотря на серьезную взаимную конкуренцию.
«Эти обязательства – многообещающий шаг, но нам предстоит еще много совместной работы», – © Джо Байден, 46-й президент США.
Действия американских политиков можно рассматривать как успешную попытку формирования начальных правил для искусственного интеллекта. Эту инициативу поддержали и другие представители власти, включая Конгресс и Сенат, поскольку США немного уступает европейским странам в регулировании.
Зачем нужны водяные знаки для ИИ-контента?
За последний год искусственный интеллект стал значительно популярнее. Многие люди начали использовать ИИ-приложения для создания развлекательного и рабочего контента, который выглядит как настоящее искусство. Это вызвало серьезные проблемы, связанные, например, с авторскими правами или галлюцинациями ИИ.
Использование специальных символов для маркировки контента, который был сгенерирован искусственным интеллектом (включая видео, текст и аудио), может помочь решить этот вопрос. Пользователи получат возможность самостоятельно определять, был ли создан информационный продукт человеком, либо это результат работы машины. Также должно сократиться создание фейковых новостей или компрометирующих материалов.
Будет ли подобная маркировка работать?
Теоретически задумка выглядит достаточно хорошо. Однако компании не раскрывают технические подробности маркировки. Особенно это касается форматов текста или музыки, которые сложнее отметить водяным знаком, чем визуальный контент. Также проблемой является существование нейросетей, способных полность удалить любые отметки.
Как компании планируют придерживаться собственных обязательств после отправки контента пользователям? Скорее всего, им нужно придумать новое решение для маркировки, которое исключит возможности обхода. Ну, или продолжать пользоваться неэффективными методами ради формальности. В любом случае неизвестно, насколько быстро законодатели и разработчики смогут реализовать новые правила.
