AI-компаньоны вышли из серой зоны и попали под явные правила. Платформа, которая их игнорирует, рискует мерчант-аккаунтом раньше, чем штрафом.
Сообщать пользователю, что он общается с AI
EU AI Act (статья 50) требует сообщать людям, что они взаимодействуют с AI-системой. Калифорнийский закон о компаньон-ботах (SB 243) требует явного уведомления, если разумный человек может принять бота за человека, повторных напоминаний для известных несовершеннолетних и протокола для разговоров о самоповреждении.
Проверять возраст до доступа к откровенному контенту
Британский Online Safety Act требует высокоэффективной проверки возраста для сервисов, которые могут генерировать порнографический контент, и Ofcom уже открыл расследование против сервиса AI-компаньонов. В США Верховный суд оставил в силе техасский закон о проверке возраста, и похожие законы действуют во многих штатах.
Пройти карточные сети
Mastercard требует регистрировать adult-мерчантов через эквайера, с проверкой возраста и личности и проверкой контента. Visa относит adult-контент, включая сгенерированный AI, к категории высокого риска с регистрацией через эквайера. Stripe adult-контент не принимает вообще, сгенерированный AI тоже.
Пройти магазины приложений
Apple запрещает откровенно сексуальный контент и ожидает от приложений с AI-контентом фильтрации, приёма жалоб и блокировки пользователей. Политика Google Play о контенте, созданном AI, распространяется на текстовых чат-ботов и запрещает генерировать запрещённый сексуальный контент.