AI-модерация UGC для платформы
Media / UGC Platform ML Python Go PostgreSQL S3
Auto-reject 84% явных нарушений без человека.
## Задача
UGC-платформа с 500К пользователей получала 50К единиц контента в день (фото, тексты, видео). Ручная модерация — 12 модераторов, 4-6 часов до проверки, пропуск ~8% нарушений.
## Решение
Мультимодальная ML-модерация: текст (LLM) + изображения (CV-модель) + поведенческие сигналы. Автоблокировка явных нарушений, очередь на ручную проверку с приоритизацией по уровню риска, дашборд модератора с одним кликом для решения.
## Результат
Auto-reject 84% явных нарушений без человека. Время до модерации: 6 часов → 8 минут. Пропуск нарушений: 8% → 0.9%. Штат модераторов: 12 → 4 человека при росте контента в 3x.