Бывшая сотрудница Facebook Фрэнсис Хоген предоставила крупнейшим американским СМИ внутренние документы компании. Из документов видно, что руководство Facebook было в курсе того, что ее сервисы могут наносить вред психике пользователей , однако не делало ничего, чтобы изменить алгоритмы. В Facebook заявили, https://www.facebook.com/zuck что СМИ некорректно интерпретировали полученные документы. Чем утечка может кончиться для компании Цукерберга?
Беглое ознакомление с обвинениями со стороны бывшей сотрудницы корпорации — а бывшие в самом широком смысле, как мы знаем, это самые страшные и коварные противники — может создать впечатление, что Цукербергу конец. И что тот, кто еще пару лет назад претендовал чуть ли не на звание главного редактора всех новостей мира, может столкнуться с невиданным вторжением госрегуляторов в свою империю. И ладно бы только американских. Интервенты ведь набегут со всего мира. Между тем, проблема куда сложнее. И в своей сложности, как ни парадоксально, она не так страшна для самой корпорации. Во всяком случае, не убийственна.
Начать с того, что подавляющее большинство обнаруженных недостатков вызваны не какой-то злонамеренностью Facebook, а отчасти проблемами роста компании. Ранее, например, Цукерберг, давая показания в Конгрессе США, говорил, что в соцсети удаляют 94% высказываний, разжигающих ненависть (эти данные есть и на официальном сайте корпорации). На самом деле, удаляется меньше 5% таких публикаций.
Просто модераторы особое внимание уделяют именно американской аудитории, которая составляет меньше 10% пользователей. На них приходится 84% бюджета модерации. А также 87% бюджета по проверке фейков. Или же модераторы точечно идут навстречу властям, как, например, во Вьетнаме, где цензуре подвергались публикации оппозиционеров.
Однако в очень многих странах, прежде всего Третьего мира, модерация крайне слаба — в силу недостатка квалификации и банально плохого знания местных языков. Так, в Индии, где 22 только официально признанных языка и 340 млн пользователей Facebook, модераторы не справились с ростом числа анти-мусульманских публикаций. Они просто не понимали толком, о чем пишут пользователи и где именно там сокрыта ненависть. Также модераторы часто не чувствуют настроений местного общества, его культурные коды и начинают реагировать на «посты ненависти» только тогда, когда столкновения выходят на улицу, как было в Эфиопии и Мьянме. Вообще модераторы соцсети, как выяснилось, не очень справляются с определением неподобающего контента, если он не на английском.
Модель модерации в Facebook все же в основном построена на «машинном анализе», а не на ручном, как, к примеру, выстраивалась в свое время цензура в Китае, где этим заняты не менее 100 тысяч человек.
В принципе, нынешний президент Америки Байден во время предвыборной кампании грозился ударить по монополизму IT-гигантов, вплоть до их раздробления на разные компании. Однако на ближайшую перспективу, скорее всего, американские законодатели сосредоточатся на том, чтобы заставить соцсети жестче — и как утверждается, прозрачнее для публики — отстраивать алгоритмы искусственного интеллекта с тем, чтобы сократить угрозы появление того самого неподобающего контента.
Один из законопроектов, поступивших в Конгресс, например, предусматривает возможность пользователей освободиться из «пузыря алгоритма», регулирующего и фильтрующего контент, с тем, чтобы новости просто поступали в хронологическом порядке.
При этом так называемая «секция 230» американского Закона о благопристойности в телекоммуникациях 1996 года остается незыблемой «скрепой», ведь именно она предоставляет соцсетям широкий юридический иммунитет от ответственности за контент, создаваемый пользователями. Это рассматривается как гарантия свободы слова. Трамп пытался ее отменить, но Конгресс даже преодолел его вето по данному вопросу. Так что регулировать будут алгоритмы. Это принципиально важный момент для регуляторов тех стран, которые теперь могут воодушевиться наездом американских властей и СМИ на империю Цукерберга. Мол, и мы заставим этого Цукерберга плясать под нашу суверенную цензорскую дудку. В принципе, заставить могут — но подход всякий раз будет индивидуальным, точечным и не системным, и вообще в порядке большого исключения. Поскольку главные алгоритмы для искусственного интеллекта будут писать и править по-прежнему англоговорящие люди с американским менталитетом, американским пониманием прекрасного, а также тем, что такое хорошо и, в особенности, что такое плохо.