Что такое слоп и как с ним бороться
В онлайн-сообществе постоянно рождаются сленговые слова и выражения. Некоторые из них вирусятся и становятся нарицательными понятиями.
Например, откуда взялось и что означает слово «спам»? Хоть оно и стало одним из самых используемых и понятных интернет-терминов, сегодня уже не все помнят, что SPAM — это торговая марка мясных консервов американской корпорации Hormel Foods. Одно время компания размещала рекламу SPAM буквально везде, что стало предметом шуток американцев. В 1986 году в компьютерной сети Usenet появились повторяющиеся рекламные сообщения одного из пользователей. По аналогии со знаменитыми консервами юзеры назвали их спамом.
Поэтому когда вы вдруг встретите в интернете «научную» статью с широкой доказательной базой о том, что Земля плоская, — не удивляйтесь. Это очередной слоп.
С тех пор для решения любой новой проблемы принято давать ей понятное, емкое и простое название, как говорит британский разработчик программного обеспечения Саймон Уиллисон (Simon Willison).
Это дает людям возможность кратко рассказать о проблемеговорит он.
Именно Саймон считается автором термина «Слоп» (от английского slop — отстой, помои, мусор, грязь и т.д.). Речь о новом названии нежелательного контента, созданного искусственным интеллектом. После широкого внедрения ИИ со слопом сталкивались все интернет-пользователи. Посты с практически одинаковыми душещипательными историями, которые появляются из ниоткуда в вашей ленте, короткие Reels с одинаковыми сюжетами и неестественно двигающимися похожими как близнецы персонажами — это и есть тот самый отстой, созданный нейросетями.
Песни и видеоклипы авторства ИИ, которые становятся предметом судебных исков и обвинений в плагиате. Бесконечные ряды фото, сделанные «под копирку». Картины, никогда не создававшиеся людьми, или ставшие вирусными многочисленные изображения Иисуса с руками-креветками, продуцируемые ИИ, — это тоже слоп.
Почти научные статьи или электронные почти настоящие книги made by AI — это одновременно и слоп, затрудняющий поиск интересующего контента, и стрелка, которая перенаправляет трафик на сторонние серверы и сайты, имеющие к поисковому запросу лишь косвенное отношение.
Получить искаженную информацию о туристическом маршруте в незнакомом городе означает впустую потратить часть времени в поездке. Явление можно было бы отнести к издержкам развития технологий, если бы многие творения нейросетей не несли прямую опасность.
Например, ИИ-книги для начинающих грибников, где в разряд съедобных попали и многие ядовитые грибочки. Рекомендация нейропоиска от Google добавить в сыр немного клея, чтобы он лучше закрепился на пицце. Совет каждый день употреблять небольшие камни, чтобы не было проблем с пищеварением. А как вам пожелание прыгнуть с высокого моста в реку? Отличный же способ избавиться от хандры?
Такой внешне смешной и нелепый мусорный контент может привести к трагическим последствиям, особенно у подростков, которые еще не научились достаточно критично мыслить.
Проблема в том, что нейросети пока плохо разбираются в оттенках смысла и слабо считывают сарказм, переносные значения слов и мораль истории, если она хоть немного закамуфлирована. ИИ ориентируется на количество кликов, перепостов, реакций на публикацию или чей-то комментарий.
Изображение, которое считается примером слопа. Источник: Х
То же изображение Иисуса-креветки, очевидно, способно оскорбить чувства христиан, но алгоритмы продолжают воспроизводить этот образ с завидным постоянством. Саркастический коммент по поводу легкости сбора мухоморов вполне мог собрать тысячи лайков, равно как и советы типа «Прыгни с моста или убейся об стену, чтобы не скучать». Своими лайками пользователи невольно помогают ИИ сделать неправильные выводы, заставляя его воспринимать глупые приколы как правдивую и релевантную информацию.
До того как термин «спам» стал широко использоваться, не всем было понятно, что нежелательные рекламные сообщения — плохой способ себя вести. Я надеюсь, что слоп окажет такое же воздействие. Термин поможет людям понять, что публикация непроверенного контента, созданного ИИ, — это плохое поведениеотметил Саймон Уиллисон.
Впрочем, неважно, какое название закрепится в массовом сознании, — вводить в обиход соответствующий сленговый термин нужно как можно быстрее.
В мае 2024 года гигант-поисковик Google внедрил собственный чат-бот с ИИ — Gemini — в выдаваемые пользователю результаты. Вместо традиционного списка ссылок на публикации, соответствующие запросу, ИИ отвечает с помощью собственного обзора (A.I. Overview). Теперь в верхней части выдачи располагаются краткие готовые тексты, которые, по мнению Gemini, содержат исчерпывающую информацию. А уже после Google предлагает и обычные ссылки. Пока эксперимент проводится только в США.
Незадолго до этого Microsoft включала ИИ для генерации результатов в своей поисковой системе Bing, хотя и столкнулась с рядом ошибок. Но уже понятно, что ведущие поисковики выбрали внедрение искусственного интеллекта приоритетом своего развития.
Интернет-поиск и интернет-серфинг являются способами, с помощью которых вы изучаете интересующий вас вопрос. Проблема, по мнению директора Центра повышения безопасности машинного интеллекта чикагского Северо-Западного университета Кристиана Хаммонда, заключается в том, что ИИ предлагает пользователю уже сформированный и окончательный ответ.
Интеграция с языковыми моделями не побуждает вас думать. Она побуждает вас принять. И это, я думаю, опасноговорит Кристиан Хаммонд.
Впрочем, не все так безнадежно.
Ник Клегг, президент по глобальным вопросам Meta, в начале 2024 года заявил, что сеть уже обучают распознавать контент, созданный ИИ.
Поскольку разница между человеческим и синтетическим контентом стирается, люди хотят знать, где проходит границасказал он.
Мотиватором стали деньги: проблема слопа начала беспокоить рекламные агентства, являющиеся основным источником дохода соцсетей. Уже сейчас пользователи начинают массово отмечать настоящие рекламные сообщения как мусор, созданный ИИ. Что, в свою очередь, негативно отражается на рекламодателях.
Не исключено, что вскоре наряду с предупреждением вашего почтового сервиса «Помечено как спам» в результатах поиска, публикациях, рекламных сообщениях появится и уведомление о слопе.
