Быстрее пожара: как распространяются фейки и готовиться ли к буму вбросов перед выборами

«На самом деле проблему несет не только использование ИИ, но и само его существование. Теперь любой политик при появлении компромата будет в качестве аргумента приводить вмешательство генеративных моделей. И запутаться крайне легко – пугающе высокие темпы развития современного ИИ позволяют генерировать неотличимые от реальности изображения и видео. Предпосылки уже есть – например, англоязычные пользователи Сети не поверили в оригинальность клипа певца Витаса на песню «7 элемент». Из-за специфического текста произведения зрители посчитали, что клип сгенерировала нейросеть Sora от OpenAI. А видео, которые нейросеть действительно создала самостоятельно, уже не могут отличить от реальности. Тем не менее ИИ – лишь одна составляющая общего уравнения. Сколько бы фейков ни сгенерировали пользователи, они должны где-то распространяться. И тут на сцену выходят ИТ-гиганты, которые несут прямую ответственность за борьбу с фейками. Внешне кажется, что они действительно работают в этом направлении. Стало известно, что Microsoft, OpenAI, Google, Meta*, X (ранее Twitter) и другие компании подписали соглашение о борьбе с распространением дипфейков в преддверии выборов. Как и всегда, в таких соглашениях есть очень много нюансов. И главное, что нужно знать о нем, – компании не берут на себя обязательство запрещать или удалять дипфейки. Вместо этого соглашение описывает методы, которые они будут использовать, чтобы «попытаться» обнаружить и маркировать фейковый контент, когда он создается или распространяется на их платформах. Расплывчатость обязательств и отсутствие каких-либо обязательных требований вызвали ожидаемую волну разочарования среди юристов. Вынужден констатировать неприятный факт: скорость развития ИИ и сомнительные меры борьбы с распространением фейков почти наверняка приведут к огромной волне дезинформации на иностранных площадках в преддверии выборов. К сожалению, универсального рецепта для противостояния этому нет. Тем не менее способы снизить вероятность столкновения с фейками есть. Для этого нужно перепроверять любые сомнительные сведения в официальных источниках информации. Кроме того, рекомендуется ограничить или исключить использование иностранных соцсетей – как показывает практика, их политика в отношении фейкового контента крайне сомнительна. *Признана экстремистской организацией и запрещена на территории РФ Изображение сгенерировано нейросетью Kandinsky 2.1