Що таке слоп та як із ним боротися
Серед онлайн-спільноти постійно з'являються сленгові слова та вислови. Деякі з них вірусяться та набувають статусу загальних понять.
Наприклад, звідки пішло та що означає слово «спам»? Хоч воно й стало одним із найбільш вживаних і зрозумілих інтернет-термінів, наразі вже не всі згадують, що SPAM — це торгова марка м'ясних консервів від американської корпорації Hormel Foods. Свого часу компанія розміщувала рекламу SPAM буквально всюди, що стало приводом для жартів серед американців. У 1986 році в комп'ютерній мережі Usenet з'явилися повторювані рекламні повідомлення одного з користувачів. За аналогією зі знаменитими консервами юзери назвали їх спамом.
Відтоді для розв'язання будь-якої нової проблеми стало правилом давати їй зрозумілу, містку та просту назву, як каже британський розробник програмного забезпечення Саймон Віллісон (Simon Willison).
Це дає людям змогу коротко розповісти про проблемузазначає він.
Саме Саймона вважають автором терміна «Слоп» (від англійського slop — відстій, помиї, сміття, бруд тощо). Йдеться про нову назву небажаного контенту, який створює штучний інтелект. Після широкого впровадження ШІ зі слопом стикалися всі інтернет-користувачі. Дописи з майже однаковими жалісливими історіями, які невідомо звідки з'являються у вашій стрічці, короткі Reels з повторюваними сюжетами, де неприродно рухаються схожі, наче близнюки, персонажі, — це і є той самий відстій, який створюють нейромережі.
Пісні та відеокліпи авторства ШІ, які стають приводом для судових позовів і звинувачень у плагіаті. Нескінченні ряди фото, що зроблені «під копірку». Картини, які ніколи не створювала людина, або численні зображення Ісуса з руками-креветками, що стали вірусними і продукуються ШІ, — це також слоп.
Майже наукові статті або електронні майже справжні книжки made by AI — це водночас і слоп, який ускладнює пошук контенту, що цікавить, і стрілка, яка переспрямовує трафік на сторонні сервери та сайти, що лише віддалено стосуються пошукового запиту.
Отримати спотворену інформацію щодо туристичного маршруту в незнайомому місті означає змарнувати частину часу, що виділений на поїздку. Це явище можна було б вважати побічним наслідком розвитку технологій, якби деякі творіння нейромереж не становили безпосередньої небезпеки.
Наприклад, ШІ-книги для грибників-початківців, де до переліку їстівних потрапило й багато отруйних грибочків. Рекомендація нейропошуку від Google додати у сир трохи клею, щоб він краще закріпився на піці. Порада щодня вживати невеликі камінці, щоб не було проблем із травленням. А як вам підказка стрибнути з високого мосту в річку? Адже це чудовий спосіб розвіяти смуток, чи не так?
Такий на вигляд смішний і безглуздий контент може мати й трагічні наслідки, особливо серед підлітків, в яких ще повною мірою не сформувалося критичне мислення.
Проблема в тому, що нейромережі поки що погано розуміються на нюансах сенсу та не здатні розпізнавати сарказм, переносні значення слів і мораль історії, якщо вона хоч трохи завуальована. ШІ орієнтується на кількість кліків, перепостів, реакцій на публікацію або чийсь коментар.
Зображення, яке є прикладом слопа. Джерело: Х
Згадане вище зображення Ісуса-креветки, вочевидь, здатне образити почуття християн, але алгоритми й далі затято відтворюють цей образ. Саркастичний комент щодо легкості збирання мухоморів запросто міг отримати тисячі лайків, так само як і поради на кшталт «Стрибни з мосту або вбийся об стіну, щоб не сумувати». Своїми вподобайками користувачі мимоволі допомагають ШІ зробити неправильні висновки, змушуючи його сприймати безглузді приколи як правдиву та релевантну інформацію.
Тому якщо ви раптом зустрінете в інтернеті «наукову» статтю з широкою доказовою базою стосовно того, що Земля пласка, — не дивуйтеся. Це черговий слоп.
До того як термін «спам» почали широко використовувати, не всім було зрозуміло, що небажані рекламні повідомлення — поганий спосіб поводитися. Я сподіваюся, що слоп матиме такий самий вплив. Термін допоможе людям зрозуміти, що публікація неперевіреного контенту, створеного ШІ, — це погана поведінказауважив Саймон Віллісон.
Втім, неважливо, яка назва закріпиться в масовій свідомості, — вводити в ужиток відповідний сленговий термін потрібно якомога швидше.
У травні 2024 року гігант-пошуковик Google впровадив власний чат-бот із ШІ — Gemini — у результати, що видаються користувачеві. Замість традиційного списку посилань на публікації за запитом ШІ відповідає за допомогою власного огляду (A.I. Overview). Тепер у верхній частині видавання розташовуються короткі готові тексти, які, на думку Gemini, містять вичерпну інформацію. А вже після цього Google пропонує й звичайні посилання. Поки що експеримент проводять тільки у США.
Незадовго до цього Microsoft включала ШІ для генерації результатів у своїй пошуковій системі Bing, хоча й стикнулася з певними помилками. Але вже зрозуміло, що провідні пошуковики обрали впровадження штучного інтелекту як пріоритет для свого розвитку.
Інтернет-пошук та інтернет-серфінг є способами, за допомогою яких ви вивчаєте питання, що вас цікавить. Проблема, на думку директора Центру підвищення безпеки машинного інтелекту чиказького Північно-Західного університету Крістіана Хаммонда, полягає в тому, що ШІ пропонує користувачу вже сформовану та остаточну відповідь.
Інтеграція з мовними моделями не спонукає до роздумів. Вона заохочує вас просто прийняти. І це, як на мене, небезпечнозауважує Крістіан Хаммонд.
Втім, не все так безнадійно.
Нік Клегг, президент з глобальних питань Meta, на початку 2024 року заявив, що мережу вже навчають розпізнавати контент, створений ШІ.
Оскільки відмінність між людським і синтетичним контентом поступово стирається, люди хочуть знати, де пролягає межазаявив він.
Мотиватором стали гроші: проблема слопа почала непокоїти рекламні агентства, які є основним джерелом доходу соцмереж. Наразі користувачі починають масово позначати справжні рекламні повідомлення як сміття, що створене ШІ. Це негативно впливає на діяльність рекламодавців.
Можливо, незабаром разом із попередженням вашого поштового сервісу «Позначено як спам» у результатах пошуку, публікаціях і рекламних повідомленнях з'явиться й сповіщення про слоп.
