Правда или ложь: стартапы против фейковых новостей
Люди больше не разносят слухи, они распространяют фейковые новости. В 2018 году ученые Массачусетского технологического института выяснили, что ложь в социальных сетях распространяется в шесть раз быстрее, чем правда. «Инвест-Форсайт» попытался понять, как это происходит и что придумали стартапы для борьбы с поддельной информацией. Фейковые войска Прежде чем запустить в Сети фейковую кампанию, ее организаторы изучают целевую аудиторию. Интересует все — от наличия образования до взглядов на жизнь и семейного положения. На этом этапе в свое время поймали Cambridge Analytica, которая пыталась повлиять на исход президентских выборов в США. В 2016 году компанию обвинили в сборе и использовании личных данных 50 млн пользователей Facebook. Фейковые новости распространяют разные источники — тролли из соцсетей, «живые» блогеры, поддельные новостные сайты, группы или сообщества. Обычно ради фальшивой новости создается новостной сайт. Он выглядит как известное СМИ. URL-адрес поддельного ресурса незначительно отличается от настоящего — if24.ru.de, например, или bbc.ru.co. В соцсетях фальшивую новость сначала разносят боты, а затем ее подхватывают реальные пользователи, которые верят заголовкам или картинкам и делятся контентом с друзьями. На социальных платформах в ход также идут черные и белые технологии SMM — за деньги можно расплодить до нескольких тысяч фальшивых пользователей и продвинуть новость в топ. В китайском аналоге Twitter — Weibo, например, легко создать селебрити с 300 тыс. подписчиков за $2,5 тыс. в месяц. Чем больше пользователи репостят новость, тем быстрее алгоритмы соцсетей поднимают ее вверх. Быстрее всех фальшивые новости разносит Facebook. Он хуже Twitter и Google вместе взятых, выяснили в Принстонском университете. В преддверии президентских выборов 2016 года группа исследователей во главе с Эндрю Гессом отслеживала использование интернета более чем 3000 американцами. Оказалось, в 15% случаях Facebook перенаправлял пользователей на ненадежные источники новостей. Перейти на оригинальные новостные сайты платформа предлагала только в 6% случаях. «Такая схема дифференцированных посещений Facebook непосредственно перед ненадежными посещениями веб-сайтов не наблюдается для Google (3,3% ненадежных новостей против 6,2% важных серьезных новостей) или Twitter (1% ненадежных новостей против 1,5% реальных)», — сообщается в исследовании. Реальные последствия нереальных новостей Сегодня фейковые новости и политика неразделимы. Самый известный пример, который вызвал широкий мировой резонанс, связан с именем Хилари Клинтон. В воскресенье 2016 года отец двоих детей Эдгар Уэлш (Edgar Welch) сказал своей семье, что ему нужно кое-что сделать. Он взял свою винтовку AR-15 и, проехав 350 миль до Вашингтона, оказался около пиццерии Pizzagate. В Сети он прочитал, что это место — штаб-квартира педофилов, которую возглавляет Хилари Клинтон. «Я просто хотел сделать что-то хорошее и поступил неправильно», — объяснил Уэлш после того, как устроил пальбу в Pizzagate. Эдгар Уэлш (Edgar Welch) На фоне пандемии фальшивые новости о коронавирусе заполонили российские социальные сети. В начале марта, когда в Москве были зафиксированы первые случаи заражения, в чатах стали появляться аудиофайлы, призывающие скупать продукты. Параллельно распространялась информация о том, что в столице коронавирус обнаружен у «20 тыс. человек». Вброс поддельных новостей был рассчитан на самую восприимчивую аудиторию Сети — групп мам детских садов и школ, а задача стояла банальная — разжечь панику. Но кто сказал, что фейковые кампании нацелены только на политиков? Бизнес тоже попадает под обстрел. В 2016 году PepsiCo обнаружила себя в центре скандала. В интервью газете New York Times Dealbook Conference председатель совета директоров и CEO компании Индра Нуйи прокомментировала президентские выборы: «Думаю, нам следует скорбеть о тех из нас, кто поддерживал другую сторону, — и добавила, — мы должны собраться вместе, и жизнь должна продолжаться». Но блог Treehouse переформулировал ее слова иначе: PepsiCo CEO Tells Trump Supporters to Take Their Business Elsewhere. Фейковую новость о том, что Индра Нуйи призывает сторонников президента перенести свой бизнес в другое место, подхватили другие СМИ. Одна строчка изменила жизнь всей компании. Сторонники Трампа предложили бойкотировать продукцию PepsiCo. В день выхода интервью Нуйи акции компании упали на 3,75%, а осенью снизились еще на 5,21%. После бурных президентских выборов в США бизнес стал мудрее и теперь осторожнее высказывается о политике. История New Balance — поучительный пример того, что могут сделать поддельные новости с известным брендом. Когда представитель New Balance заявил на пресс-конференции, что Барак Обама подвел их, а с Дональдом Трампом «все будет двигаться в правильном направлении», он имел в виду Транстихоокеанское партнерство. Фейковые блоги вырвали фразу из контекста — и получилось: «New Balance — официальный бренд революции Трампа». Дальше события нарастали как снежный ком: альт-правые группы провозгласили New Balance «обувью для белых», а противники Трампа стали сжигать кроссовки этой фирмы и делиться ритуальными видео в Сети. Отследить в блокчейне Основатель израильско-нидерландского стартапа AdVerif.ai Ор Леви (Or Levi) считает, что фальшивые новости могут уничтожить бизнес-репутацию любого бренда. Это основная причина, по которой такие крупные рекламодатели, как Proctor&Gamble, сокращают свои бюджеты на интернет-рекламу. Что предлагает сам Леви? В 2017 году бывший руководитель группы Data Science в Ebay запустил стартап на базе AI — AdVerif.ai (объем инвестиций не раскрывается — ред.). В проекте разработали алгоритм FakeRank. По принципу работы он похож на PageRank (Google). Только вместо ранжирования ссылок в арсенале FakeRank — машинное обучение, искусственный интеллект и технология обработки естественного языка (NLP). С их помощью алгоритм вникает в смысл контента, а затем ищет доказательства, подтверждающие новость, в других источниках. Фейковые новости, по словам Ора Леви, хорошо помогает распознать семантический анализ текста. Короткие эмоциональные предложения, восклицательные знаки, вопросительные слова редко используются при написании новостей. AdVerif.ai, как утверждают в стартапе, способен выявлять поддельные истории с точностью до 90%. «Недавний отчет Gartner предсказал, что к 2022 году люди в странах с развитой экономикой будут потреблять больше ложной информации, чем правдивой информации. Это может показаться слишком пессимистичным, но проблема поддельных новостей, вероятно, не исчезнет, если учесть, что технология генерации подделок продолжает развиваться более быстрыми темпами, чем технология их обнаружения, — говорит Ор Леви. — Чтобы решить эту проблему, нам нужно быть более критичными в потреблении информации. Ведь искусственный интеллект не сможет на 100% заменить человеческое суждение». Итальянский стартап Trueinchain использует блокчейн для отслеживания поддельных новостей. В 2017 году журналист и генеральный секретарь института IASSP Марко Франко (Marco Franco), специалист по большим данным и преподаватель IASSP Николо Руссо (Nicolò Russo), маркетолог и основатель 2duerighe.com Лоренцо Эчеони (Lorenzo Echeoni) решили изменить «матрицу дезинформации, в которой ложь не имеет аналогов». Журналист и генеральный секретарь института IASSP Марко Франко (Marco Franco) «Фальсификация — это угроза демократии: она затрагивает человека, общество и, следовательно, всю страну. Поэтому чтобы не развивать саморазрушительные черты, обществу нужна система, способная распознавать и подтверждать ложь», — считает Марко Франко. Цель Trueinchain — создать базу данных фальшивых новостей в Италии и мировое сообщество разоблачителей фейков. Для этого достаточно вставить на Trueinchain ссылку на поддельную новость и пояснить в комментарии, почему она «фальшивая». Платформа проверит ее подлинность, и если информация подтвердится, источник навсегда попадет в «черную» блокчейн-базу. Интеллектуальный канал новостей В 2016 году студент факультета машиностроения и информатики в Массачусетском технологическом институте Лирик Джейн (Lyric Jain) стал свидетелем того, как активно люди распространяли дезинформацию во время кампании Brexit в Лондоне. Чтобы общество могло лучше отсеивать факты от вымысла, он разработал мобильное приложение Logically: первый, по его словам, интеллектуальный канал новостей. Лирик Джейн (Lyric Jain) «Logically собирает новости из более чем 70 000 доменов и определяет достоверность утверждений по каждой статье. Он делает это с помощью алгоритма машинного обучения, который способен обнаружить логическую ошибку, смещение политических акцентов и неправильную статистику», — поясняет Лирик Джейн. Сейчас Logically доступен на iOS и Android-смартфонах. Когда пользователь делится новостью, алгоритм выделяет в ней ключевые требования и проверяет достоверность фактов в других источниках. Приложение также создает персонализированную ленту новостей, если предварительно выставить фильтры по заголовкам, местоположению, событиям и ключевым темам. Помимо этого, искусственный интеллект Logically коротко пересказывает истории: только факты — без оценки и суждений. За последние три года стартап Лирик Джейн собрал $9,6 млн инвестиций и, помимо Великобритании, вышел на рынок Индии. Последние 20 лет Станислас Мотт (Stanislas Motte) работал во французских СМИ. Уже в 2012 году он понял, что поддельные новости скоро станут проблемой, и вместе с бывшим журналистом Пьером-Альбертом Рукье (Pierre-Albert Ruquier) основал компанию Trooclick. Партнеры разработали дополнение для браузера Glitch Spotter, которое находило в Сети фальшивые финансовые новости. Но вскоре стало ясно: финансы — слишком узкая ниша. Запущенный ими стартап Storyzy стал логичным продолжением Trooclick. Сначала с помощью технологии обработки естественного языка (NLP) проект проверял цитаты, которые приписываются общественным деятелям или знаменитостям. Сейчас Storyzy находит фальшивые веб-сайты, блоги и видеоканалы. Для школ компания разработала продукт Newscoach (помогает учащимся, учителям и родителям разобраться в окружающей дезинформации), а для брендов и рекламных платформ — более безопасную рекламную среду. База проекта насчитывает свыше 30 тыс. фейковых источников. С момента основания в 2012 году французский проект получил финансирование в размере $900 тыс. Среди клиентов Storyzy числятся Havas Media, IPG Mediabrands, etc. «Наше цель состоит не в том, чтобы закрыть поддельные сайты, а в том, чтобы ослабить их влияние. Мы просим рекламодателей: “Пожалуйста, не размещайте свою рекламу на этом сайте”. Нам всем предстоит проделать большую просветительскую работу, и в этом важную роль может сыграть Франсуаза Ниссен. Наша же задача — отследить нелегальные сайты. Между рекламодателями, рекламными сетями и другими участниками рынка важно установить этическую хартию с таким девизом — “Мы не финансируем сайты, распространяющие ложную информацию”», — считает Станислас Мотт. Автор: Ольга Гриневич
В ЦБ назвали причины девальвации