В Facebook под прикрытием: журналист устроился работать модератором и рассказал, как соцсеть нас обманывает

Журналист британского телеканала Channel 4 устроился работать модератором Facebook ради съемки документального фильма Inside Facebook: Secrets of the Social Network («Внутри Facebook: секреты социальной сети»). Он выяснил, что, например, целый ряд вредоносного контента намеренно игнорируют. Репортер устроился как работник CPL Resources — это расположенный в Дублине подрядчик по модерации контента, который сотрудничает с компанией Facebook с 2010 года. Там он прошел обучение, где новых сотрудников ознакомили с общественными стандартами компании и направили модерировать контент, в который также входили сцены насилия, насилие над ребенком и пропаганда ненависти. У модераторов было три варианта при работе с контентом — проигнорировать, удалить или отметить как неприятное, вызывающее беспокойство или нежелательный контент. При выборе третьего варианта контент оставался в социальной сети, но с ограничением для тех, кто его может посмотреть. Источник: Business Insider Репортер встретил случаи, когда фотографии с насилием над детьми, расизмом и жестокостью оставляли в Facebook. А в каких-то случаях обнаружил несоответствие между тем, чему обучали модераторов, и правилами Facebook. Во время обучения новым работникам показали пример контента, который должен быть помечен как нежелательный, — видео, где взрослый мужчина бьет маленького мальчика. На видео пожаловалась в декабре 2012 года Никки Остин, которая возглавляет онлайн-кампанию против насилия над детьми. В то время ей сказали, что видео не нарушает правила Facebook. За первые два дня в соцсети видео поделились 44 тысячи человек. Оно все еще было там спустя 6 лет, когда канал Channel 4 проводил свое расследование. Ричард Аллан, вице-президент Facebook по публичной политике, в ответ на вопрос телеканала согласился, что видео должно было быть удалено. Но и через неделю после обращения Channel 4 видео все еще было доступно. Расистский мем В правилах Facebook указано, что «мы не допускаем разжигания ненависти, потому что это создает атмосферу запугивания и неравноправия и в некоторых случаях ведет к насилию в реальной жизни». Новым модераторам во время обучения показали мем, где голову маленькой девочки держат под водой, а надпись гласила: «Когда твоя дочь влюбилась в негра». Им сказали, что такое изображение следует игнорировать, потому что оно подразумевает кучу всего, но реального нарушения нет. В ответ на эту ситуацию после выхода фильма Facebook заявил, что данное изображение действительно нарушает их политику о разжигании ненависти и что они пересмотрят ее и попытаются понять, что они сделали неправильно, чтобы такого больше не повторилось. Журналист под прикрытием также обнаружил примеры того, что высказывания, разжигающие ненависть, разрешены на Facebook. Комментарий в адрес иммигрантов-мусульман «валите обратно в свои страны» не удалили. Если бы комментарий был высказан в адрес только мусульман, тогда бы его удалили. Ричард Аллан опять же указал, что и компания Facebook допускает ошибки. «Мы относимся к ошибкам со всей серьезностью и благодарны журналистам, которые обратили на них внимание. Там, где мы знаем, что допустили ошибки, мы немедленно их исправляем. Сейчас мы проводим дополнительный курс обучения и работаем над тем, чтобы понять, как это произошло». Зарабатывает ли Facebook на шокирующем контенте Телеканал Channel 4 поговорил с Роджером Макнеймом — одним из первых инвесторов Facebook. Он раскритиковал компанию после скандала с утечкой данных к Cambridge Analytica и заявил, что Facebook наживается на шокирующем контенте. «Самых активных пользователей платформы привлекает именно опасный и экстремистский контент. И если твой бизнес основывается на рекламе, то желательно побуждать людей как можно больше времени проводить на сайте. В Facebook это понимают». Когда журналист под прикрытием спросил у коллеги-модератора, почему контент со сценами насилия не удаляют с платформы, тот ответил: «Если начнешь подвергать цензуре слишком многое, то люди потеряют интерес. В конечном счете, вся суть в том, чтобы заработать денег». С этими обвинениями Ричард Аллан также не согласен: «Шокирующий контент не приносит нам никаких денег. Все дело в непонимании того, как система работает». «Есть люди, и их меньшинство, которые готовы злоупотреблять нашей и другими платформами, чтобы распространять отвратительный в наивысшей степени материал. Но я просто не согласен с тем, что большинство людей хотят видеть это. Это не тот опыт, который мы здесь хотим доносить до наших пользователей». Также в документальном фильме Inside Facebook: Secrets of the Social Network затрагиваются такие проблемы модерации, как изображения нанесения себе увечий, несовершеннолетние пользователи и ультраправые страницы с большим числом подписчиков.