Come funziona la moderazione IA su Discord (e cosa fa Noxyr al suo posto)

I tre modi in cui può funzionare la moderazione

Cosa fa passo passo uno strumento di moderazione IA

1. Riceve il messaggio. Il bot o la piattaforma legge il nuovo testo nel momento in cui viene pubblicato.
2. Assegna un punteggio. Un modello restituisce una probabilità per categorie come spam, truffe o abusi.
3. Confronta con una soglia. Tu (o il fornitore) decidi quanto deve essere sicuro.
4. Agisce. Elimina, avvisa, mette in timeout o segnala a una persona.
5. Revisiona. Le persone controllano i segnali e correggono gli errori.

La parte difficile è il passo 3. Se la soglia è bassa, i membri normali vengono colpiti. Se è alta, passa lo spam. Il contesto peggiora le cose: una battuta tra amici e una minaccia possono sembrare simili a un modello.

AutoMod di Discord

Discord include uno strumento di moderazione in ogni server, nelle Impostazioni server, alla voce AutoMod. Secondo l'articolo di supporto di Discord, offre filtri per parole chiave, un limite allo spam di menzioni e un filtro per lo spam nei contenuti. Una regola può bloccare il messaggio, inviare un avviso a un canale per lo staff o mettere in timeout il membro, anche se le opzioni variano a seconda del filtro. Le regole si modificano da desktop.

È un buon primo livello perché gira dentro Discord senza bisogno di aggiungere un bot. I suoi limiti: i filtri per parole chiave conoscono solo le parole che gli dai, e Discord avverte che il filtro per lo spam nei contenuti non intercetta ogni tipo di spam, come lo stesso testo ripetuto tra messaggi e canali.

Cosa fa Noxyr: regole, non IA

Noxyr non ha una funzione di moderazione IA. Non legge i messaggi dei membri con un modello per giudicarli. La sua moderazione si basa su regole:

• Anti-spam limita ondate di messaggi, menzioni e link.
• Anti-link blocca link di invito e domini non graditi.
• Anti-nuke ferma ban di massa ed eliminazioni di canali da parte di un account compromesso.
• Avvertimenti offrono allo staff un percorso chiaro di escalation.

Il motivo è semplice. Le regole fanno ciò che gli dici e si possono spiegare a un membro che chiede perché è stato sanzionato. Per molti server questo conta più che individuare ogni parafrasi.

Noxyr usa l'IA in altri punti: risposte in chat IA, aiuto nei ticket e un builder. Quelli rispondono a domande e configurano le cose. Non decidono chi viene moderato. Esiste anche /ai check, un'euristica basata su schemi di parole che dà allo staff un indizio sul fatto che un testo sia stato scritto con l'IA; è un indizio, non una prova, e non è moderazione. Vedi controllo dei messaggi IA.

Uno stack pratico

1. Attiva AutoMod di Discord per le parole vietate e il limite di menzioni.
2. Aggiungi anti-spam e anti-link di Noxyr per le ondate e i link non graditi.
3. Aggiungi anti-nuke così un account staff compromesso non può distruggere il server.
4. Usa gli avvertimenti così i casi ricorrenti li gestiscono le persone.
5. Tieni le persone coinvolte per tutto ciò che è dubbio.

Domande da porsi prima di fidarsi di un moderatore IA

• Dove vanno i testi dei messaggi? Un modello di solito gira sui server di qualcun altro. Controlla i termini sulla privacy.
• Puoi vedere perché ha agito? Se un membro fa ricorso, ti serve un motivo leggibile.
• Qual è l'azione predefinita? Segnalare per revisione è più sicuro che eliminare o bannare in automatico.
• Come gestisce altre lingue e slang? Molti strumenti sono più forti in inglese. Discord fa notare che alcune delle sue liste sono solo in inglese.
• Chi risponde? Tu. Uno strumento non può assumersi la responsabilità di un ban sbagliato.

Perché le regole vincono ancora per molti server

La maggior parte dei danni a un server nasce da pochi schemi: ondate di messaggi, link di truffa, menzioni di massa e account dello staff compromessi. Sono cose contabili. Una regola del tipo "più di un certo numero di messaggi in poco tempo" non richiede un modello e non discute del contesto. Dove serve giudizio, come in una discussione accesa, un moderatore umano con un sistema di avvertimenti dà risultati migliori di un punteggio.

Altro sulla moderazione

Per la configurazione completa dell'anti-spam leggi la guida anti-spam, e per il sistema di avvertimenti la guida al sistema di avvertimenti. Se un account è già compromesso, vedi cosa fare.