Модерация контента
Три режима модерации - стандартная проверка по законодательству РФ, пользовательские правила и режим без модерации
Модерация - это слой автоматических проверок, который Taipy применяет к каждому сгенерированному посту перед его одобрением или публикацией. Цель - снизить риск публикации нежелательных материалов. Модерация не заменяет проверку человеком, особенно если у кампании подключены внешние источники (RSS, Telegram, новостные ленты) - их контент может содержать нарушения.
Три режима модерации
Режим задаётся на уровне кампании в разделе «Модерация контента». Переключение применяется ко всем последующим генерациям:
| Режим | Что делает | Когда выбрать |
|---|---|---|
| 🛡️ Стандартная (по умолчанию) | Фильтрация по законодательству РФ: экстремизм, наркотики, насилие, материалы для взрослых (18+) + автоматическая маркировка упоминаний ограниченных в РФ организаций и иностранных агентов | Рекомендуется для большинства кампаний |
| ⚙️ Пользовательские правила | Стандартная проверка + ваши дополнительные ограничения (обычным языком, до 2000 символов) | Нужны тонкие правила бренда: избегать конкурентов, определённой лексики, чувствительных тем |
| ⚠️ Без модерации | Публикация постов не блокируется: пост уходит в каналы как сгенерирован ИИ, без автоматических сносок и дисклеймеров. При этом проверка продолжает идти в фоне — для аудита и защиты площадки (см. блок ниже) | Только если вы полностью берёте на себя ответственность за каждую публикацию и понимаете юридические последствия |
Что на самом деле делает режим «Без модерации»
В отличие от того, что можно подумать по названию, режим «Без модерации» — это не «модерация выключена», а «модерация не блокирует публикацию». Разница принципиальная, поэтому разберём подробно.
| Что происходит | В режимах «Стандартная» / «Пользовательские» | В режиме «Без модерации» |
|---|---|---|
| ИИ-проверка содержимого поста | Да, перед публикацией | Да, та же самая проверка — но в фоне |
| Блокировка публикации при нарушении | Да: жёсткая блокировка отменяет публикацию, мягкая — уводит на ручное одобрение | Нет: пост уходит в каналы независимо от вердикта |
| Автоматические сноски и дисклеймеры в тексте | Да, дописываются по требованиям ФЗ | Нет, текст уходит как есть |
| Уведомления вам о найденных рисках | Да, приходит в бот / интерфейс | Нет, чтобы не мешать работе |
| Запись инцидентов в админ-журнал площадки | Да | Да, точно так же |
Когда аккаунт может быть заблокирован
Фоновый аудит сам по себе не блокирует ни вас, ни ваши кампании автоматически. Однако если в журнале накапливаются систематические нарушения — особенно те, что подпадают под законодательство РФ (экстремизм, наркотики, NSFW, нарушение требований к маркировке рекламы и упоминаниям ограниченных организаций) или нарушают правила площадок-получателей (Telegram, ВКонтакте, MAX), — администрация Taipy оставляет за собой право вручную ограничить или полностью заблокировать публикацию для аккаунта.
Это административная мера, а не автоматический триггер: решение принимает человек после разбора инцидентов. Перед блокировкой мы стараемся связаться и предупредить, но в случае грубых нарушений ограничение может быть применено сразу.
Результаты модерации
После проверки поста система выносит один из трёх вердиктов:
- Без замечаний — нарушений не найдено, пост идёт дальше по конвейеру (одобрение или автоматическая публикация).
- Мягкая блокировка — обнаружены спорные моменты (потенциально чувствительная лексика или тема). Пост уводится на ручное одобрение с пометкой о причине, даже если в кампании включён автоматический режим.
- Жёсткая блокировка — найдено нарушение. Публикация отменяется, квота возвращается, задача помечается как ошибка с указанием причины.
Пользовательские правила: как писать
Поле активно только при выборе режима «Пользовательские правила». Его читает ИИ-модератор — формулируйте обычным языком, как вы объяснили бы коллеге:
- «Не упоминать бренд-конкурент X и его продукты»
- «Избегать сленга и жаргонизмов, писать только литературным языком»
- «Не использовать сравнения с другими клиниками, не давать конкретных медицинских рекомендаций»
- «Запрещены прямые продажи и призывы «купить сейчас» - только информационный тон»
Ограничение по длине - 2000 символов. Достаточно для 10-20 развёрнутых правил.
Отдельно: дообработка контента
Параллельно с модерацией система автоматически дописывает обязательные пометки и сноски — например, маркировку упоминаний организаций, которые по законодательству РФ требуют такого указания. Эта обработка работает в режимах «Стандартная» и «Пользовательские правила» и не отключается собственными правилами. В режиме «Без модерации» сноски не дописываются — за корректность маркировки в этом случае отвечаете вы.
Ответственность
Связанные статьи
Была ли эта статья полезной?
Спасибо за обратную связь!