5 min de lectura
Por Mike
Cómo funciona la moderación con IA en Discord (y qué hace Noxyr en su lugar)
La moderación con IA en Discord funciona puntuando cada mensaje con un modelo entrenado y actuando cuando la puntuación supera un umbral. AutoMod, la herramienta propia de Discord, combina reglas de palabras clave y un filtro de spam. Noxyr no usa IA para juzgar mensajes: su moderación se basa en reglas.
Las tres formas en que puede funcionar la moderación
| Tipo | Cómo decide | Fortaleza | Debilidad |
|---|---|---|---|
| Basado en reglas | Cuenta y busca patrones: mensajes por segundo, enlaces, menciones | Predecible, fácil de explicar | No detecta nuevas formas de escribir |
| Listas de palabras clave | Busca palabras o frases que tú o la plataforma hayáis listado | Rápido, barato | Evasión con trucos de escritura; falsos positivos |
| Clasificador de IA | Un modelo puntúa el significado, el tono o la similitud con contenido malo conocido | Detecta paráfrasis | Decisiones erróneas, difíciles de explicar, necesita revisión |
Qué hace paso a paso una herramienta de moderación con IA
- Recibe el mensaje. El bot o la plataforma lee el texto nuevo en el momento en que se publica.
- Lo puntúa. Un modelo devuelve una probabilidad para categorías como spam, estafas o abuso.
- Lo compara con un umbral. Tú (o el proveedor) decides cuánta seguridad debe tener.
- Actúa. Borra, advierte, aplica un timeout o marca el caso para una persona.
- Revisa. Las personas revisan las marcas y corrigen los errores.
La parte difícil es el paso 3. Si el umbral es bajo, golpea a miembros normales. Si es alto, se cuela el spam. El contexto lo empeora: una broma entre amigos y una amenaza pueden parecerle iguales a un modelo.
AutoMod, la herramienta propia de Discord
Discord incluye una herramienta de moderación en todos los servidores, en Ajustes del servidor y luego AutoMod. Según el artículo de soporte de Discord, ofrece filtros de palabras clave, un límite de spam de menciones y un filtro de contenido spam. Una regla puede bloquear el mensaje, enviar una alerta a un canal para el staff o aplicar un timeout al miembro, aunque las opciones cambian según el filtro. Las reglas se editan desde el escritorio.
Es una buena primera capa porque funciona dentro de Discord sin añadir ningún bot. Sus límites: los filtros de palabras clave solo conocen las palabras que les das, y Discord indica que el filtro de contenido spam no detecta todos los tipos de spam, como el mismo texto repetido en varios mensajes y canales.
Lo que hace Noxyr: reglas, no IA
Noxyr no tiene una función de moderación con IA. No lee los mensajes de tus miembros con un modelo para juzgarlos. Su moderación se basa en reglas:
- Anti-spam limita las avalanchas de mensajes, menciones y enlaces.
- Anti-enlaces bloquea los enlaces de invitación y los dominios no deseados.
- Anti-nuke frena los baneos masivos y los borrados de canales hechos por una cuenta comprometida.
- Advertencias dan al staff un camino de escalado claro.
La razón es sencilla. Las reglas hacen lo que les dices y se pueden explicar a un miembro que pregunta por qué fue sancionado. Para muchos servidores eso importa más que detectar todas las paráfrasis.
Noxyr sí usa IA en otros lugares: respuestas de chat con IA, ayuda dentro de los tickets y un generador. Esas funciones responden preguntas y configuran cosas. No deciden a quién se modera. También existe /ai check, una heurística de patrones de palabras que da al staff una pista sobre si un texto se escribió con IA; es una pista, no una prueba, y no es moderación. Consulta la comprobación de mensajes con IA.
Una pila práctica
- Activa AutoMod de Discord para tus palabras prohibidas y el límite de menciones.
- Añade el anti-spam y el anti-enlaces de Noxyr contra avalanchas y enlaces no deseados.
- Añade anti-nuke para que una cuenta de staff secuestrada no pueda arrasar el servidor.
- Usa advertencias para que las personas gestionen los casos reincidentes.
- Mantén a las personas en el proceso para todo lo dudoso.
Preguntas que hacerte antes de confiar en cualquier moderador con IA
- ¿Adónde va el texto del mensaje? Un modelo suele ejecutarse en servidores de otra empresa. Revisa las condiciones de privacidad.
- ¿Puedes ver por qué actuó? Si un miembro apela, necesitas un motivo que puedas leer.
- ¿Cuál es la acción por defecto? Marcar para revisión es más seguro que borrar o banear automáticamente.
- ¿Cómo gestiona otros idiomas y la jerga? Muchas herramientas son más fuertes en inglés. Discord indica que algunas de sus propias listas solo están en inglés.
- ¿Quién responde? Tú. Una herramienta no puede asumir la responsabilidad de un baneo erróneo.
Por qué las reglas siguen ganando en muchos servidores
La mayoría de los daños en un servidor vienen de unos pocos patrones: avalanchas, enlaces de estafa, menciones masivas y secuestros de cuentas del staff. Eso se puede contar. Una regla que dice «más de un número fijado de mensajes en poco tiempo» no necesita un modelo y no discute el contexto. Cuando hace falta juicio, como en una discusión acalorada, un moderador humano con un sistema de advertencias da mejores resultados que una puntuación.
Más sobre moderación
Para la configuración completa del spam lee la guía de anti-spam, y para el sistema de advertencias la guía del sistema de advertencias. Si una cuenta ya está comprometida, consulta qué hacer.
Preguntas frecuentes
¿Noxyr usa moderación con IA?
No. La moderación de Noxyr se basa en reglas: anti-spam, anti-enlaces, anti-nuke y advertencias. No usa IA para juzgar los mensajes de los miembros.
¿Qué es AutoMod de Discord?
Una herramienta integrada de Discord en Ajustes del servidor y luego AutoMod. Tiene filtros de palabras clave, un límite de spam de menciones y un filtro de contenido spam, con acciones como bloquear un mensaje, alertar al staff o aplicar un timeout.
¿La moderación con IA es mejor que las reglas?
Detecta más paráfrasis, pero comete errores sin explicación. Las reglas son predecibles y fáciles de explicar. Muchos servidores combinan AutoMod, bots basados en reglas y revisión humana.
¿Noxyr usa IA en algún lugar?
Sí, para el chat con IA, la ayuda dentro de los tickets y la herramienta de configuración Build with AI. Esas funciones responden preguntas y configuran funciones, y no moderan a los miembros.
