טכני · Deep-dive
NSFW-aware moderation vs
Google Vision · AWS Rekognition
פלטפורמת מבוגרים שמחברת Google Vision או AWS Rekognition ל-moderation pipeline מקבלת אותה תשובה על כל תמונה: "unsafe". Big-Tech APIs מאומנים על "יש עירום, כן/לא" — בפלטפורמת מבוגרים התשובה כן בהגדרה. השאלות שאמיתי חשובות — האם זה CSAM, האם under-18, האם non-consent, האם escort-spam — אפילו לא במודל.
~100%
false-positive (Big-Tech)
הבעיה הבסיסית
למה "יש עירום" השאלה הלא נכונה
Google Vision SafeSearch ו-AWS Rekognition עוצבו לפלטפורמות general-purpose שכל תוכן מבוגרים מוסר. בפלטפורמת מבוגרים — שם כל התוכן בהגדרה מבוגרים — ההסתברות ~1.0 לכל תמונה.
- זה CSAM? — השאלה החשובה ביותר. Big-Tech מסרבים.
- Subject פוטנציאלי under-18? — לא מודלים.
- אינדיקציות non-consent? — לא רואים.
- Escort-spam vs creator? — לא מבחינים.
- AI-generated? — תחת Texas SB12 + EU AI Act, likeness theft נפרד.
השוואה
Big-Tech vs ייעודי
| מימד | Google / AWS | ייעודי |
|---|
| Legal-adult | ~100% false-positive | ~0.3% |
| CSAM | סירוב TOS | 99.7% + auto-report NCMEC / IWF |
| Age-suspicion | לא מודלים | Age-estimate classifier |
| Non-consent | לא מודלים | מאומן על patterns |
| Escort-spam vs creator | לא מבחינים | ~94% accuracy |
| AI-generated | כן (feature-level) | כן + likeness-theft |
| Per-platform tuning | אין | Threshold + categories |
| On-prem | אין | יש |
עלויות
כמה זה עולה
| פתרון | עלות / 1M images | CSAM auto-report | On-prem |
|---|
| Google Vision | $1,500 | אין | אין |
| AWS Rekognition | $1,000 | אין | אין |
| Hive | ~$800 | חלקי | אין |
| Sightengine | ~$2,000 | אין (TOS) | אין |
| adults.dev | ~$800 | יש — NCMEC + IWF | יש ($5K/mo) |
איפה אנחנו
מוצרי adults.dev
FAQ
שאלות נפוצות
למה Google לא פותחים adult detection?
Liability + brand. TOS אוסר.
Llama-Guard?
מכסה text. Image / video — אין open-source ייעודי.
4 modalities מ-day 1?
לא. Image עדיפות. Video אחרי. Text/audio optional.
CSAM false-positives?
Dual-review: classifier + אדם, אחר-כך NCMEC.
CCBill / Verotel יסכימו?
כן — TOS מקבל third-party moderation.
אם API down?
Fail-closed: לא publish עד שעובר.
לבנות את זה איתנו
לדבר עם הצוות שבונה את זה: צאטבוט AI.