Директор центра интернет-технологий о дипфейках: «Супероружие дезинформации»
«Дипфейки – одна из технологий, которые в 2021 году получили большую популярность. Они представляют собой ролики-подделки, созданные с помощью нейросетей. Разброс тем и идей применения таких видео масштабный: начиная от смешного ролика с вашим знакомым в главной роли или рекламы «Мегафон» с Брюсом Уиллисом и заканчивая нецензурными отзывами политиков-подделок друг о друге и настоящими разводами. Чего же в этой применении этой технологии больше: добра или зла? Поначалу цифровое «чудо» действительно очаровало множество пользователей. Это неудивительно: возможности его применения в позитивных – развлекательных и обучающих – целях действительно впечатляют. Так, например, к 115 дню рождения Сальвадора Дали в 2019 году Музей Дали во Флориде и компания Goodby Silverstein & Partners из Сан-Франциско создали виртуального художника. Он приветствовал гостей на экране и вместе с ними путешествовал по залам, общаясь со всеми желающими. Для этого понадобилось более 6000 кадров с изображением Дали и 1000 часов машинного обучения. Однако нельзя забывать о том, что кроме пользы и радости такие инновации несут и уже не вызывающую сомнений угрозу. Даже короткое поддельное видео, на котором, скажем, генеральный директор крупной компании сообщает о падении акций или «разоблачает» секреты фирмы, может нанести удар по его репутации. Так, в июне 2021 года был опубликован дипфейк с Марком Цукербергом. В нем он рассказывал о бесконечной власти онлайн-платформы, а под ним шли титры с логотипом канала CBSN. Ролик не дезинформировал пользователей, но очернял самого Цукерберга, ведь в нем говорилось о том, что компания контролирует личные данные юзеров. Еще более уязвима для дипфейков репутация общественных и политических деятелей: фальшивые ролики с кандидатами, озвучивающими неподобающие высказывания накануне выборов, могут серьезно пошатнуть их шансы на успех. Так, например, в 2020 году по сети разошелся дипфейк с итальянским политиком, основателем партии «Италия Вива» Маттео Ренци в главной роли. На нем он оскорбляет своих коллег и критикует действующую власть, демонстрируя в камеру нецензурные жесты. Фальшивое видео вызвало крайне негативную реакцию других политических деятелей, которые были настолько поражены увиденным, что Ренци пришлось извиняться и доказывать, что ролик является подделкой. Помимо персонального имиджа, злоумышленники начали использовать дипфейки для более «реального» вреда – а именно посягательства на доходы и личные данные граждан. Еще в 2019 году эксперты «Инфосистемы Джет» предупредили о новом способе обмана в интернете: мошенники выманивают деньги у жертв, создавая убедительные видеоподделки с наложением лиц и голосов известных людей. В одной из «разводок» россиян использовался образ шоумена Дмитрия Нагиева: на видео актер якобы обещает зрителям ценный приз или денежное вознаграждение за переход по ссылке. Однако вместо этого доверчивый пользователь попадал на сайт-обманку, где его просили перечислить средства. В сентябре этого года мошенники запустили дипфейк с Олегом Тиньковым: в видео бизнесмен рекламирует поддельную страницу «Тинькофф Инвестиций», обещая бонус в 50% к любой сумме вложения. На самом деле такой программы не существовало: после перехода на страницу пользователя просили оставить свои личные данные. Люди, использующие дипфейки для мошенничества и выманивающие у пользователей деньги, безусловно, нарушают закон, однако пока не очень понятно, что с этим делать. Закрыть свободный доступ к технологии – не выход, все-таки дипфейки используются и для создания позитивного и легального контента. Находить же и наказывать виновных проблематично из-за масштаба использования технологии и анонимности, которая значительно усложняет процесс отслеживания автора такого ролика (как зачастую и первоисточник обычного фейка). С фейками все предельно ясно – это недостоверная информация, дезинформация, которая способна причинить вред пользователям. Вопрос в том, как регулировать дипфейки.В мире еще не сложился какой-то определенный подход к регуляторике этой сферы. При этом есть любопытный пример из китайского опыта, который можно учитывать. В Поднебесной с начала 2020 года дипфейки обязательно должны быть промаркированы: причем это должен делать не только сам производитель контента, но и онлайн-площадки, на которых он публикуется. В целом же саморегулирование интернет-платформ, их ответственный подход к обеспечению безопасности своих пользователей – это основной ключ к сдерживанию опасного контента, какую бы форму он ни принимал: призывы к нарушению закона, треш-стримы, информация о суициде и наркотиках – или дипфейки. Российские ресурсы уже начали двигаться в этом направлении. В прошлом году ряд крупнейших ИТ-компаний, медиахолдингов и изданий, среди которых ТАСС, «Яндекс», Mail.ru Group, «Интерфакс», РБК, АНО «Диалог» и другие, создали «Антифейк-меморандум», объединившись для системной борьбы с недостоверной информацией в интернете и создания безопасной информационной среды. Хочется верить, что эта работа принесет свои плоды и поможет наладить регулирование и по вопросу потенциально опасных дипфейков». Фото: panorama-images via www.imago-im / www.imago-images.de / globallookpress.com
