Соцсеть «Одноклассники» начала автоматически обнаруживать и размывать изображения и GIF-файлы, которые пользователи считают эротическими. Об этом сообщили в пресс-службе ОК.
Чтобы лучше выявлять и ограничивать такой контент, соцсеть провела исследование среди пользователей и выяснила, что именно они считают эротикой, которую не хотят видеть. Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить.
Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна сканирует картинку и определяет визуальное содержимое, другая относит контент к определенному типу, за счет чего он или размывается, или остается в первоначальном виде.
Обновление не затрагивает изобразительное искусство, фото спортсменов и снимки пользователей с пляжа. Пользователи все так же могут пожаловаться на нежелательный контент.
Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент.
В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.