Роскомнадзор будет искать запрещенные материалы с помощью ИИ
<p> Система будет называться «Окулус», и с ее помощью планируют находить в сети экстремистские материалы, пропаганду наркотиков, призывы к самоубийству и массовым беспорядкам. Сейчас специалисты РКН выполняют эти задачи вручную.</p><p> Впервые ведомство <a target="_blank" href="https://rkn.gov.ru/news/rsoc/news73266.htm">заявило</a> о привлечении технологий ИИ для поиска противоправной информации в конце 2020 года. Речь <a target="_blank" href="https://www.kommersant.ru/doc/4826455">шла</a> об использовании нейросетей для увеличения охвата мониторинга текстового контента. Информация о нарушениях передавалась эксперту ведомства, который уже принимал решение об окончательной блокировке.</p><p> Наиболее опасным видом противоправного контента в РКН считают фото- и видеоматериалы, для мониторинга которых будет применяться «Окулус». «В Facebook посты с изображениями привлекают пользователей в 2-3 раза чаще, чем сообщения без них. Именно в таком контенте появляется все больше запрещенной законами РФ информации», — отметили в ГРЧЦ. Внимание регуляторов привлекла и возросшая популярность сервиса для создания коротких видео TikTok, у которого количество ежемесячных пользователей выросло на 800% по сравнению с 2018 годом.</p><p> Пострадает ли скорость интернет-трафика от фильтрации огромного массива данных, зависит от способа, которым «Окулус» будет отслеживать противоправный контент, рассказал в беседе с RTVI эксперт по информационной безопасности компании Cisco Systems Алексей Лукацкий. «Дело в том, что мониторинг возможен двумя путями. Либо мониторинг „на лету“ — и тогда возможно внесение задержек в передаваемые данные. Либо мониторинг опосредованный, когда некая система будет обходить все ресурсы в сети Интернет и выискивать контент, который совпадает с признаками, присущими контенту, нарушающему требования законодательства. Если речь идет о втором типе системы, то таких задержек при прохождении трафика в принципе быть не может. Эта система работает целиком в пассивном режиме», — пояснил он.</p><p> Итоговую стоимость реализации проекта спрогнозировать пока сложно, но очевидно, что ее работа потребует регулярного финансирования. «Если мы говорим об искусственном интеллекте, то это система, которая требует непрерывного собственного обучения», — пояснил Лукацкий: — Это значит, что помимо первоначальных затрат на создание и внедрение системы, потребуются еще непрерывные затраты на ее сопровождение, дообучение, переобучение и выполнение связанных с этим задач. Сейчас предсказывать все эти затраты достаточно сложно. Тем более непонятно, в чем ведении будет находиться эта система, будет ли ею целиком управлять Роскомнадзор, либо он переложит часть функций на операторов связи».</p><p> В дальнейшие планы Роскомнадзора также входит автоматизация мониторинга в сфере телерадиовещания при помощи систем, которые способны превращать аудиозаписи в текст. На решение этой технологической задачи ведомство <a target="_blank" href="https://zakupki.gov.ru/223/plan/public/plan/info/position-view.html?planId=650043&planInfoId=5171686&planInfoPositionId=76715836180&versioned=&activeTab=5&pos=true">выделило</a> в июле 2021 года 41,7 млн рублей.</p>
