"Ужасающе реалистичные": в президентской гонке в США участвуют дипфейки

ИИ — угроза демократии?

Стремительно развивающиеся технологии искусственного интеллекта могут повлиять на исход выборов президента США. В очередной раз на проблему обратила внимание газета The Guardian.

"Банальная антиутопия, в которой манипулятивный контент настолько дешев и настолько прост в массовом производстве, что становится повсеместным: это политическое будущее, о котором беспокоятся цифровые эксперты в эпоху генеративного искусственного интеллекта", — пишет издание.

Опрошенные The Guardian специалисты предупреждают, что благодаря достижениям в области ИИ можно будет взять на вооружение тактику дезинформации прошлого и вдохнуть в нее новую жизнь.

О том, что ИИ-технологии могут повлиять на исход президентских выборов, еще в апреле говорил Илон Маск в интервью телеканалу Fox News.

"Даже если вы говорите, что у искусственного интеллекта нет свободы действий, весьма вероятно, что люди будут использовать искусственный интеллект в качестве инструмента на выборах. Я думаю, что вещи становятся странными, и они становятся странными быстро", — говорил бизнесмен.

По его мнению, без государственного регулирования ИИ может стать "опасностью для общества".

Нейросети уже вошли в политическую схватку. В целях продвижения своей предвыборной кампании современные технологии использовала Республиканская партия. Она разместила на YouTube видео, созданное искусственным интеллектом, изображающее антиутопическую версию будущего, если главой государства будет переизбран Джо Байден. На кадрах демократы празднуют победу на вечеринке, после чего следует серия воображаемых сюжетов о развитии международных и внутренних кризисов, которые, согласно рекламе, последуют за победой Байдена в 2024 году.

По словам представителя Национального комитета Республиканской партии (НКРП), на которого ссылается Axios, НКРП впервые выпустил видео, на 100% созданное ИИ.

Сгенерированные нейросетями поддельные видеоролики, на которых люди говорят то, чего никогда не говорили, или делают то, чего никогда не делали, представляют собой угрозу демократии в США и за рубежом. Об этом председатель комитета Палаты представителей по разведке, демократ Адам Шифф говорил еще в 2019 году, передавал The Hollywood Reporter.

Фейки, в которые все поверили

Только за последний год созданные нейросетями фейки уже спровоцировали несколько скандалов. Самым безобидным можно считать фейковое фото Папы Римского в солнцезащитных очках, стильном белом пуховике и с большим крестом поверх него, которое появилось на портале Reddit. Позже стало известно, что фото сгенерировала нейросеть Midjourney, но к моменту появления этой информации многие успели поверить в подлинность фото. "Я решила, что пуховик Папы настоящий, ни на секунду не задумавшись. Я не выживу в мире технологий будущего", — написала в X ("икс", ранее Twitter) модель и телеведущая Крисси Тейген.

Но были и более тревожные истории с фейками, в которые тоже многие поверили. В мае в Сети распространилось фото высокого темно-серого столба дыма рядом со зданием Пентагона и сообщение о том, что там произошел взрыв. Причем, как обращает внимание CNN, изображение опубликовали несколько верифицированных учетных записей в X. В военном ведомстве сразу же опровергли информацию об инциденте. Тем не менее, по данным CNN, такая новость успела привести к кратковременному падению фондового рынка.

"Ужасающе реалистичными" The U.S. Sun назвал созданные нейросетью фото ареста экс-президента США Дональда Трампа. На них видно, как полицейские ловят убегающего политика, а затем тащат его из здания, в то время как бывший глава государства, судя по виду, возмущается происходящим. Фейковые фото разлетелись по всему миру. Как пишет таблоид, буквально за пару дней изображения просмотрели более 4,8 млн раз, они получили тысячи ретвитов. Когда правда вскрылась, пользователи начали предлагать каким-либо образом ограничить распространение подобных фейков или как минимум ставить на них водяные знаки.

Трамп не единственная жертва нейросетей. Подобная технология уже использовалась для создания дипфейков о знаменитостях и других публичных личностях.

Такие инструменты для создания реалистичных изображений "очень полезны для обмана публики", сказал The Daily Beast исследователь Гарвардского университета Джоан Донован.

"Мы свидетели новой формы "упреждающей дезинформации", когда слухи превращаются в реальность посредством создания медиапродуктов, освещающих события, которых никогда не было", — отметил эксперт.

Дипфейки, конечно, будут появляться в рамках президентской гонки, но до ситуации, когда невозможно отличить правду от вымысла, мир еще не дошел, считает политолог, американист Малек Дудаков.

"Пока это влияет на умы людей, которые наивно все воспринимают и зачастую не мыслят критически, могут поверить в тот или иной дипфейк с участием Трампа или Байдена, но, на мой взгляд, на этот раз ключевой роли они играть не будут", — сказал эксперт ТАСС.

Сегодня искусственный интеллект еще не сильно влияет на общественное мнение просто потому, что его пока не используют в достаточных масштабах для этого, обратил внимание генеральный директор Lab.Ag, разработчик сайтов kremlin.ru и Госуслуги Артем Геллер.

"Все поигрались, поиспользовали технологии, посмотрели, подумали, как и где ее можно применить, посмотрели на реакцию. Потенциально могут быть определенные моменты использования ИИ на предстоящих выборах, но, честно говоря, пока для этого рановато. Об этом можно будет говорить, только если на это будет сделана какая-то большая ставка, как на выборах, на которых победил Трамп, была сделана ставка на технологии Big Data", — объяснил он ТАСС.

По мнению эксперта, сегодня для определения дипфейка достаточно просто внимательно относиться к контенту, смотреть на реалистичность всего происходящего, отмечать какие-то элементы на видео.

"Но это работает только потому, что сейчас фейки делаются быстро: время быстрое, новости нужно генерировать быстро, соответственно, нужно быстро генерировать фейки. Если делать их в таких темпах, то какие-то детали из-за этого можно упускать. Но если к его созданию подходили с умом и без спешки, то определить, что это фейк, даже профессионалу без дополнительного инструментария, просто на взгляд и на слух, невозможно", — объяснил Артем Геллер.

Технологии помогают политикам многие годы

Использование информационных технологий для политического продвижения не впервые вызывает озабоченность в США. Победа Дональда Трампа на выборах президента США в 2016 году вызвала множество скандалов. После нее политика обвиняли в том, что лидерство досталось ему нечестным путем, в том числе благодаря использованию в своих политических целях технологий больших данных.

В ноябре 2016 года телекомпания CNN сообщила, что расположенная в Лондоне фирма Cambridge Analytica, получившая за свои услуги в сентябре более $5 млн, с помощью различных методов анализа могла убеждать американских избирателей голосовать за Трампа. В СМИ обратили внимание, что специалисты фирмы создают психологический портрет человека на основе изучения порядка 5 тыс. различных параметров. Они учитывают политические пристрастия человека, то, как он голосовал на предыдущих выборах, какие передачи смотрит по телевизору, где и какие товары покупает, и многое другое. Избирателям также было предложено пройти анонимный психологический тест для определения степени его откровенности, совестливости, законопослушности и склонности к нервным срывам.

Полученные данные предоставляли возможность найти оптимальный индивидуальный подход к потенциальному стороннику, объяснял CNN глава Cambridge Analytica Александер Никс. По его словам, специалисты могут совмещать полученные данные с идентификационными файлами, чтобы направлять конкретным людям агитационные материалы по социальным сетям или на цифровые носители. Более того, как он объяснил, люди могут получать послания во время просмотра определенных передач по телевизору.

"Если раньше кандидаты разъезжали по стране, собирали митинги, то сегодня технологии позволяют работать адресно, оперировать большими базами данных и просеивать практически весь корпус избирателей, выделять те группы, которые имеют преференцию. Благодаря этому начинается практически персональная работа с избирателями, информация доводится почти индивидуально", — сказал ТАСС главный научный сотрудник Института США и Канады РАН Владимир Васильев.

Впрочем, считать, что наиболее активно современные технологии в своих целях используют республиканцы, не стоит. Исторически именно Демократическая партия была силой, наиболее восприимчивой к новым технологиям, и всегда делала на них ставку, обращает внимание эксперт.

Связанные с большими данными технологии успешно применялись уже во время предвыборных кампаний Барака Обамы в 2008 и 2012 годах для повышения эффективности рекламы и предвыборных мероприятий на местах с учетом настроений конкретных групп избирателей.

"Именно демократы традиционно считаются проводниками новых технологий, в отличие от республиканцев. Со времен [экс-президента США Билла] Клинтона ИКТ-технологии, Билл Гейтс, Марк Цукерберг — все в большей степени ориентировались на демократов. ИИ — это как раз та составляющая, где они, возможно, чувствуют себя более уверенно", — отметил Владимир Васильев.

В то же время в США начали чаще говорить о третьей партии, известной как No Labels, то есть без идентификации, без ярлыков. Она позиционирует себя как двухпартийное движение для американцев, которые чувствуют себя "усталыми от крайностей слева и справа". В ней рассматривают возможность выставления своего представителя на предстоящих выборах в качестве третьего кандидата, пишет The Washington Post. 

"ИИ может помочь этой партии вычленить людей, наиболее склонных к тому, чтобы поддержать ее. Трамп и Байден — это отрицательные кандидаты, которые избирателей, скорее, не мобилизуют, а отталкивают. Если обе партии выдвинут их, то No Labels сможет воспользоваться протестным электоратом, который не захочет поддержать ни того ни другого", — сказал Владимир Васильев.

Лидия Мисник