ИИ заполонил Facebook и победил здравый смысл
Meta Марка Цукерберга делегировала модерацию контента Facebook искусственному интеллекту. Но иногда ИИ принимает решения, которые вызывают смех сквозь слезы. Возможность их опротестовать у пользователей есть. Правда, апелляцию будет рассматривать… все тот же всесильный искусственный интеллект.
В середине октября Facebook-комьюнити облетела поучительная история Ревена Лернера, которую он опубликовал в личном блоге. Лернер — старожил мира IT-технологий. Он был одним из первых создателей сайтов еще во времена зарождения всемирной паутины. Без малого тридцать лет назад начал преподавать языки программирования и занимается этим до сих пор. На курсах Лернера по изучению Python и Pandas (программная библиотека на языке Python для обработки и анализа данных) и сегодня учатся американцы, китайцы, израильтяне и жители европейского континента. У преподавателя есть контракт на очное обучение сотрудников Apple и Cisco. Лернер издает учебники, а также ведет образовательный онлайн-бизнес (новостные рассылки по e-mail, специализированный блог, видеоуроки и так далее). В общем, темной лошадкой Ревена не назовешь, и нагуглить следы его профессиональной деятельности особого труда не составляет.
Ревен Лернер учит программированию студентов со всего мира Источник: lerner.co.il
Все образовательные проекты Лернера, конечно, требуют продвижения. Например, несколько лет назад преподаватель оплатил небольшую рекламную кампанию на Facebook. Выдающихся результатов она не имела. Со временем Ревен решил повторить этот опыт. Когда он попытался зайти в свой рекламный аккаунт, то обнаружил вечный бан от Цукерберга за нарушения правил размещения рекламы. Причина была совершенно не ясна. Лернер захотел оспорить бан и нажал на кнопку «Обжаловать решение». Meta ответила почти сразу: нарушение все-таки было, и бан обжалованию не подлежит.
Facebook забанил преподавателя Python за торговлю змеями Источник: lerner.co.il
Очень удивившись, Лернер начал задавать вопросы своим знакомым в Facebook и LinkedIn. И почти сразу получил ответ от приятеля, который оказался в точно такой же ситуации. Его тоже забанили за продвижение курсов по изучению Python. Оказалось, что ИИ-система модерации контента Facebook сочла, что речь идет о продаже экзотических пресмыкающихся, а такая реклама запрещена. Кстати, Python назван в честь группы Monty Python, а Pandas – это сокращение от Python data analysis. Но да, на объявлениях о курсах Python можно увидеть изображение змей, а информацию о Pandas любят украшать бамбуком и няшными мишками. Для ИИ этого оказалось более, чем достаточно: следствие было коротким, а “дело” Лернера отправлено в архив. Причем в буквальном смысле этого слова. Незадачливый айтишник попробовал поднять личные контакты в Facebook и добиться справедливости. Однако оказалось, что так как с момента бана прошло более 180 дней, вся информация об аккаунте и действиях Лернера удалена безвозвратно.
Суть в том, что ИИ Meta допустил большую ошибку. (Можете быть уверены, что я буду использовать этот пример, когда буду преподавать курсы по машинному обучению.) Тот факт, что и первоначальное решение, и решение по апелляции принимались ИИ, просто нелеп, – резюмирует Лернер.
