Как устроена модерация взрослого контента

За словом «модерация» скрывается конвейер из нескольких этапов. Понимание того, как он устроен, объясняет большинство отказов и блокировок, которые со стороны выглядят немотивированными.

Уровень 1. Хеш-сверка

Каждый загружаемый файл сравнивается с базами известного запрещённого материала по цифровому отпечатку. Сравнение устойчиво к пережатию и обрезке. Это самый быстрый и самый жёсткий фильтр: совпадение означает немедленную блокировку и передачу информации в профильные организации.

Уровень 2. Автоматическая классификация

Модель оценивает содержимое: тип контента, наличие признаков несовершеннолетия, насилия, запрещённых категорий. Работает быстро, ошибается в обе стороны и всегда настроена с запасом в сторону запрета — цена пропуска запрещённого материала несопоставима с ценой ложного отказа.

Уровень 3. Человек

Спорные случаи и жалобы разбирают люди. Это самое узкое место конвейера: медленно, дорого и тяжело для самих модераторов. Именно поэтому площадки стараются решить как можно больше на первых двух уровнях.

Документы

Серьёзные площадки требуют подтверждения возраста всех участников съёмки и согласия на публикацию — до загрузки, а не после жалобы. Материал без документов не проходит независимо от содержания.

Синтетический контент

Новая и самая быстро меняющаяся часть правил. Общая тенденция: требовать маркировку сгенерированного материала и запрещать синтетические изображения реальных людей без их согласия. Формулировки различаются, направление — нет.

Как снизить риск отказа

Держать документы в порядке, маркировать синтетический материал самостоятельно и не спорить с автоматикой в первой инстанции: апелляция к человеку почти всегда результативнее повторной загрузки.

Материалы предназначены для лиц старше 18 лет и носят информационный характер.