Подведомственный Роскомнадзору ФГУП "Главный радиочастотный центр" (ГРЧЦ) объявил конкурс на создание автоматизированной системы "Окулус", которая будет заниматься мониторингом запрещенного контента в сети. Впоследствии решение о блокировке либо удалении выявленных материалов будут принимать соответствующие ведомства, сообщил ТАСС в пятницу директор по цифровым технологиям ГРЧЦ Константин Буланов.
"Автоматизированная система "Окулус" необходима для более оперативного и максимально полного мониторинга графических изображений и видеоматериалов в интернете. Важно отметить, что она будет именно помогать экспертам искать контент с признаками нарушений и конечное принятие решения, есть ли нарушение, запрещенный контент или нет, всегда остается за человеком", - пояснил он.
В основу системы лягут принципы "глубокого машинного обучения", основанные на нейронных сетях. Благодаря им, система будет только выявлять контент, не препятствуя работе интернет-сервисов. Более того, конфиденциальная информация также будет ей недоступна.
"Основное назначение системы - это исключительно мониторинг интернета. Система не ограничивает доступ к контенту. Также отметим, что система будет мониторить информацию только в открытых источниках и не будет "читать" личную переписку в соцсетях и мессенджерах", - подчеркнул Буланов.
Созданию системы предшествовала научно-исследовательская работа, которую ГРЧЦ проводил в 2021 году. Тогда техническое задание включало в том числе обоснование стоимости разработки системы "Окулус" и методику ее создания.
"По результатам работы мы подтвердили возможность применения искусственного интеллекта для анализа фото- и видеоматериалов и сформулировали функциональные и технические требования к будущей АС "Окулус", - заключил собеседник ТАСС.
Как новая система поможет Роскомнадзору
Как сообщили ТАСС в Роскомнадзоре, только за 2021 год ведомством и владельцами ресурсов было заблокировано и удалено более 27 тыс. материалов с детской порнографией, около 72 тыс. страниц с пронаркотическим контентом, а также 33,4 тыс. материалов суицидальной направленности. Новая система поможет увеличить возможности мониторинговых систем ведомства.
"Создание автоматизированной системы "Окулус" - это технологичный ответ на современные информационные угрозы. Использование системы позволит существенно увеличить точность и скорость выявления особо опасного контента, содержащегося в графических и видеоматериалах в интернете", - отметили в Роскомнадзоре.
В вопросе выявления и удаления опасного контента важна оперативность, чтобы минимизировать количество интернет-пользователей, получивших к ней доступ. С учетом современных технологических вызовов, таких как треш-стримы, скорость в этом вопросе также помогает предотвращать правонарушения, которые могут происходить в реальном времени, добавили в ведомстве.
Согласно законодательству, владелец хостинга или интернет-ресурса обязан удалить противоправный контент в течение 24 часов с момента получения соответствующего требования Роскомнадзора, а в некоторых случаях незамедлительно. Это касается призывов к массовым беспорядкам, экстремизму, а также недостоверной общественно значимой информации, которая распространяется под видом достоверных сообщений и создает угрозу массового нарушения общественного порядка, причинения вреда жизни или здоровью людей.
За нарушение установленных норм предусмотрена административная ответственность в виде штрафов для юридических лиц от 800 тыс. рублей до 8 млн рублей. В случае повторного правонарушения - от 5% до 20% годовой выручки компании в России в зависимости от степени опасности противоправных материалов.