ШІ заполонив Facebook і переміг здоровий глузд
Meta Марка Цукерберга делегувала модерацію контенту Facebook штучному інтелекту. Але іноді ШІ ухвалює рішення, що викликають сміх крізь сльози. Можливість опротестувати подібні рішення зберегли за користувачами. Щоправда, апеляцію розглядатиме... той самий всесильний штучний інтелект.
В середині жовтня Facebook-ком’юніті облетіла повчальна історія Ревена Лернера, яку він опублікував в особистому блозі. Лернер — старожил світу IT-технологій. Він був одним із перших творців сайтів ще за часів зародження всесвітньої мережі. Майже тридцять років тому почав викладати мови програмування, і займається цим дотепер. На курсах Лернера з вивчення Python та Pandas (програмна бібліотека мовою Python для обробки та аналізу даних) навчаються американці, китайці, ізраїльтяни та жителі європейського континенту. Викладач має контракт на очне навчання співробітників Apple та Cisco. Лернер видає підручники, а також має освітній онлайн-бізнес (розсилки новин по e-mail, спеціалізований блог, відеоуроки тощо). Отже, Ревен не є темною конячкою, і в мережі можна легко нагуглити сліди його професійної діяльності.
Ревен Лернер навчає програмування студентів з усього світу Джерело: lerner.co.il
Усі освітні проєкти Лернера, звісно, доводиться просувати. Наприклад, декілька років тому викладач сплатив за невелику рекламну кампанію на Facebook. Видатних результатів вона мала, але згодом Ревен вирішив повторно скористатися цією нагодою. Коли він спробував зайти у свій рекламний акаунт, то виявив довічний бан від Цукерберга за порушення правил розміщення реклами. Причина була не зрозуміла. Лернер спробував вийти з ситуації, натиснувши кнопку «Оскаржити рішення». Проте Meta відповіла майже одразу: порушення таки було, тож бан оскаржити не можна.
Facebook забанив викладача Python за торгівлю зміями Джерело: lerner.co.il
Здивований Лернер почав ставити питання знайомим у Facebook та LinkedIn. І майже одразу отримав відповідь від приятеля, який опинився в такій самій ситуації. Його теж забанили за просування курсів з вивчення Python. Виявилося, що ШІ-система модерації контенту Facebook визнала, що йдеться про продаж екзотичних плазунів, а така реклама суворо заборонена. До речі, Python названий на честь групи Monty Python, а Pandas — це скорочення від Python data analysis. Але справді, оголошення про курси Python прикрашали зображення змій, а інформацію про Pandas — бамбук і няшні ведмедики. Для ШІ цього було достатньо: слідство було коротким, а «справу» Лернера відправили в архів. Причому в буквальному значенні цього слова. Айтівець спробував застосувати особисті зв’язки у Facebook і досягти справедливості. Однак виявилося, що з моменту бана минуло понад 180 днів, тож всю інформацію про акаунт і дії Лернера було видалено безповоротно.
Суть у тому, що ШІ Meta припустився великої помилки. (Не сумнівайтеся, я використовуватиму цей приклад, коли викладатиму курси з машинного навчання). Сам факт, що і початкове рішення, і рішення щодо апеляції приймає ШІ, — просто безглуздий, — резюмує Лернер.
