Technical · Deep-dive
NSFW-aware AI moderation vs
Google Vision · AWS Rekognition
Adult-платформа которая wires Google Vision или AWS Rekognition в moderation pipeline получает один ответ на каждое изображение: "unsafe". Big-Tech APIs обучены на "есть ли нагота, да/нет" — на adult-платформе ответ да по определению. Реально важные вопросы — это CSAM, потенциальный under-18, non-consent, escort-spam — даже не в модели. Это сравнение.
~100%
false-positive (Big-Tech)
Фундаментальная проблема
Почему "есть ли нагота" — неверный вопрос
Google Vision SafeSearch и AWS Rekognition content-moderation labels проектировались для general-purpose платформ где ЛЮБОЙ adult-контент удаляется. Модель возвращает вероятность по labels "explicit nudity", "suggestive", "violence". На adult-сайте — где весь контент по определению adult — вероятность ~1.0 на каждое изображение. Signal-to-noise ноль.
Реально полезные вопросы:
- Это CSAM? — самый важный вопрос. Big-Tech APIs явно отказывают.
- Subject потенциально under-18? — второй по важности. Big-Tech не моделирует.
- Индикаторы non-consent? — restraint без disclosure, distress signals. Big-Tech не видит.
- Escort-spam vs legit creator? — visually distinguishable но Big-Tech не имеет training data.
- AI-generated? — под Texas SB12 + EU AI Act, AI-generated likeness theft — отдельная категория.
Сравнение
Big-Tech vs purpose-built
| Dimension | Google / AWS | Purpose-built (Hive / Sightengine / our) |
|---|
| Legal-adult content | ~100% false-positive | ~0.3% false-positive |
| CSAM detection | Отказ в TOS | 99.7% accuracy + auto-report NCMEC / IWF |
| Age-suspicion | Не моделируется | Age-estimate classifier |
| Non-consent | Не моделируется | Trained on patterns |
| Escort-spam vs creator | Не различает | ~94% accuracy |
| AI-generated | Да (feature-level) | Да + likeness-theft |
| Tuning per-platform | Нет | Threshold + categories |
| Deployment | Cloud only | Cloud OR on-prem |
Реальная стоимость
Сколько это стоит на 1M images/month
| Solution | Cost per 1M | CSAM auto-report | On-prem |
|---|
| Google Vision SafeSearch | $1,500 ($0.0015/img) | Нет | Нет |
| AWS Rekognition | $1,000 ($0.001/img) | Нет | Нет |
| Hive Moderation | ~$800 ($0.0008) | Частично | Нет |
| Sightengine | ~$2,000 | Нет (TOS) | Нет |
| adults.dev (planned) | ~$800 ($0.0008) | Да — NCMEC + IWF | Да ($5K/mo) |
Реализация
4-modality паттерн
🖼️
Image
CSAM / age-suspicion / non-consent. p95 < 150ms.
🎬
Video
Sampled frames (каждые 2с + scene-change).
💬
Text
Grooming, escort-spam, prompt-injection. $0.0001/msg.
🎙️
Audio
Distress detection в live cam audio. Human review queue.
Где мы
Продукты adults.dev
FAQ
Частые вопросы
Почему Google не разблокирует adult detection?
Liability + brand. TOS запрещает.
Local LLMs (Llama-Guard)?
Покрывает text. Image / video — нет в open-source.
Нужно 4 modalities с day 1?
Нет. Image приоритет. Video следующее. Text/audio optional.
CSAM false-positives?
Dual-review: classifier + human, потом NCMEC.
Удовлетворит CCBill / Verotel?
Да — merchant TOS принимают third-party moderation.
Если moderation API down?
Production fail-closed: контент не publishes пока moderation не pass.