Описание
AI Content Moderator — умная защита вашей площадки
Модуль берёт на себя рутинную модерацию: проверяет объявления, сообщения в чатах и отзывы через OpenAI Moderation API (модель omni-moderation-latest). Работает в фоне, реагирует мгновенно, ложных срабатываний — минимум.
Важно для пользователей из России. OpenAI API недоступен напрямую с серверов, расположенных в РФ. Для работы модуля потребуется либо прокси-сервис (например, proxyapi.ru, openrouter.ai, api.vsegpt.ru), либо сервер за пределами РФ — тогда подключение работает напрямую, без посредников.
Что умеет
- 13 категорий модерации. Harassment, hate speech, self-harm, sexual content, violence, illicit content и другие — всё, что покрывает OpenAI.
- Текст и изображения. Анализирует не только текст объявлений и сообщений, но и прикреплённые фотографии.
- Настраиваемые пороги. Для каждой из 13 категорий — свой порог срабатывания (от 0.0 до 1.0). Подстраивайте под специфику площадки.
- Три типа контента. Объявления, сообщения в чатах, отзывы — каждый включается или отключается отдельно.
- Два режима реакции. «Пометить» — нарушение фиксируется в журнале, контент остаётся. «Блокировать» — контент отклоняется до публикации.
- Проверка подключения. Одна кнопка в настройках — убедитесь, что API-ключ работает, прежде чем включать модерацию.
- Дашборд. Количество проверок, нарушений, блокировок — за всё время и за последние сутки.
- Журнал проверок. Полная история: дата, тип контента, фрагмент текста, вердикт, сработавшие категории, применённое действие.
Кому пригодится
| Тип площадки | Задача |
|---|---|
| Доска объявлений | Фильтрация запрещённого контента в заголовках и описаниях |
| Маркетплейс | Защита от мошенничества и оскорблений в карточках товаров |
| Сервис услуг | Модерация отзывов и переписки между пользователями |
| Любая площадка с UGC | Разгрузка команды модераторов от рутины |
Почему стоит подключить
- API не тарифицируется. OpenAI Moderation API бесплатен — вы оплачиваете только модуль.
- Контент проверяется до публикации. Посетители сайта не увидят нарушающий материал.
- Прозрачная работа. Каждая проверка логируется с детальными оценками по всем категориям — всегда можно разобраться, почему сработало.
- Настройка за 2 минуты. Вставьте API-ключ, выберите типы контента, нажмите «Сохранить».
- Не требует внимания после запуска. Модуль работает автономно, пока вы занимаетесь бизнесом.
Как работает
- Пользователь создаёт объявление, отправляет сообщение или оставляет отзыв.
- Модуль передаёт текст (и изображения) в OpenAI Moderation API.
- API возвращает оценки по 13 категориям.
- Модуль сравнивает оценки с вашими порогами.
- Если порог превышен — контент помечается или блокируется.
- Результат записывается в журнал.
Безопасность
- API-ключ хранится только на сервере и не передаётся в браузер.
- В админ-панели ключ отображается замаскированным.
Для работы нужен API-ключ OpenAI — получить бесплатно на platform.openai.com. Совместимость: Adwos CMS v1.0 и выше.
AI Content Moderator
Автоматическая AI-модерация объявлений, чатов и отзывов — 13 категорий OpenAI, мультимодальный анализ текста и изображений, гибкие пороги, полная статистика.
Для удалённой установки войдите в клиентский кабинет. Система покажет только лицензии вашего аккаунта.