Модерация
Ручные наказания, авто-наказания по варнам, автомод-фильтры и ИИ-модерация — как Маяри следит за порядком
Модерация в Маяри — это четыре независимых слоя, которые работают вместе, а не вместо друг друга: ручные команды модератора, автоматическая лестница наказаний по накопленным варнам, автомод-фильтры на конкретные паттерны и ИИ-модерация, которая пытается понять контекст беседы. Каждый слой можно включить или выключить отдельно.
TL;DR для нетерпеливых. /бан, /кик, /мут, /варн — ручные команды с окном подтверждения. Накопил варны — сработает автонаказание по настроенной лестнице. Автомод ловит спам-паттерны (капс, инвайты, повторы, залго) без ИИ. ИИ-модерация (премиум) — контекстный анализ на Groq, отличает дружеский подкол от реальной травли.
🛡️ Ручные команды
| Команда | Что делает | Право Discord |
|---|---|---|
/бан | Блокировка + опциональное удаление сообщений за период (от часа до 7 дней) | Ban Members |
/кик | Исключение с сервера | Kick Members |
/мут | Тайм-аут (от 60 секунд до 1 недели) | Moderate Members |
/варн | Предупреждение с причиной и до 3 скриншотов-доказательств | Moderate Members |
/варн-лист | Просмотр предупреждений — свои может смотреть любой, чужие только с правами модерации | — |
/очистка | Удаление 1–100 последних сообщений в канале, опционально только от одного автора | Manage Messages |
Каждое наказание — с окном подтверждения. Перед применением Маяри показывает карточку с целью, причиной и параметрами (например, период удаления сообщений при бане можно поменять прямо в окне) и ждёт явного клика. Наказанному заранее уходит анонимное личное сообщение с причиной — до того, как действие применится.
Скриншоты-доказательства к /варн перезаливаются в собственное хранилище (Cloudflare R2) сразу при выдаче — оригинальные ссылки Discord на вложения протухают через некоторое время, а R2-копии остаются доступны всегда.
/варн дополнительно проверяет иерархию ролей: нельзя выдать предупреждение тому, чья роль выше или равна твоей (кроме владельца сервера), и Маяри должна физически быть способна управлять этим участником.
📈 Авто-наказания по варнам
Каждый варн считается «активным» ограниченное время — по умолчанию 30 дней (настраивается, 1–30). Просроченные варны не пропадают из истории, но перестают учитываться при подсчёте.
Если своя лестница наказаний не настроена в панели, используется дефолтная:
| Активных варнов | Наказание |
|---|---|
| 3 | Тайм-аут на 1 час |
| 5 | Тайм-аут на 24 часа |
| 10 | Бан |
Правило срабатывает на точное совпадение количества, а не «от X и выше» — то есть на 4-м варне ничего не произойдёт, следующее наказание сработает ровно на 5-м. Если на одно и то же число варнов настроено сразу два правила — применяется более строгое (бан строже кика, кик строже таймаута).
Пользователь в любом случае получает личное сообщение с причиной варна, текущим количеством активных/всего предупреждений и (если сработало) применённым наказанием.
🤖 Автомод-фильтры
Работают без ИИ — по чётким паттернам, дёшево и мгновенно. Для каждого фильтра отдельно настраиваются исключения (каналы/роли/категории), реакция (удалить сообщение и/или наказать) и наказание при срабатывании.
| Фильтр | Что ловит | Порог по умолчанию |
|---|---|---|
| 🔗 Инвайты | Ссылки-приглашения на другие Discord-серверы | Любое совпадение |
| 🔁 Повторения | Один символ, повторённый подряд (ааааа) | Больше 5 подряд |
| 🔠 Капс | Слишком много ЗАГЛАВНЫХ букв в сообщении | 70% букв в верхнем регистре (минимум 5 буквенных символов) |
| 👾 Залго | «Глючный» текст из наложенных диакритических знаков | Больше 30 спецсимволов |
«Игнорировать» — это не «выключить». Если у фильтра включена детекция, но не задано ни удаление, ни наказание — Маяри специально ничего не делает и не считает сообщение обработанным, чтобы не сломать остальную цепочку обработки (XP, команды, ИИ-чат). Хочешь по-настоящему выключить фильтр — сними тумблер «включён», а не убирай реакции.
Срабатывания автомода логируются в отдельный канал (настраивается в панели, независимо от общего модуля «Логи» — это выделенный канал именно для вердиктов автомода).
🧠 ИИ-модерация (премиум)
Дополнительный слой поверх автомода — вместо жёстких паттернов здесь работает языковая модель (Groq), которая читает контекст последних сообщений канала и оценивает тон целевого сообщения, а не просто ищет плохие слова.
Главная задача — не спутать дружеский подкол с реальной травлей. «Вот вы сучечки» между старыми знакомыми в игровом чате и та же фраза, брошенная в лицо новичку после серии оскорблений — для человека это очевидно разные вещи, а для обычного автомода — одинаковый текст. ИИ-модерация получает несколько последних сообщений канала как контекст именно для того, чтобы различать такие случаи.
Уровень терпимости задаётся в панели и определяет, где проходит грань:
| Уровень | Поведение |
|---|---|
| 🟢 Relaxed | Пропускает чёрный юмор, мат и подколы без злобы. Реагирует только на явную адресную агрессию, ненависть, угрозы и 18+ |
| 🟡 Moderate (по умолчанию) | Лёгкие подколы — ок. Флагает явные личные оскорбления, травлю, ненависть, угрозы, 18+ |
| 🔴 Strict | Флагает практически любую брань и агрессивный тон в адрес людей |
Категории нарушений включаются по отдельности: токсичность/агрессия, адресные оскорбления и разжигание ненависти (сексуальный контент и спам по умолчанию выключены — их обычно ловит отдельная модерация 18+-контента или спам-фильтры), угрозы насилием.
Серьёзные категории — ненависть, угрозы, 18+ — флагуются на любом уровне терпимости, даже на Relaxed. Гибкость терпимости касается только тона общения, не тяжёлых нарушений.
При срабатывании доступны те же реакции, что у автомода: ничего не делать, удалить сообщение, или удалить и выдать тайм-аут заданной длительности. Модуль ограничен по каналам и освобождает выбранные роли от проверки — как и остальная модерация.
🛠️ Что настраивается в панели
Раздел «Модерация» в веб-панели:
- канал лога срабатываний автомода;
- срок жизни варна и своя лестница авто-наказаний (сколько варнов → какое действие);
- каждый автомод-фильтр отдельно: включён/выключен, исключения, реакция;
- ИИ-модерация: включение, каналы действия, освобождённые роли, уровень терпимости, набор категорий, реакция при срабатывании.
Полный журнал банов/киков/таймаутов (кто, кого, когда, за что) — уже в разделе «Логи», отдельно от лога автомода.
Куда дальше
- Экономика — если наказание связано с игровой экономикой (например, ограбление), там же лимиты и штрафы.
- Тэги конструктора сообщений — переменные для кастомных сообщений в других модулях.