Comment fonctionne la modération IA sur Discord (et ce que Noxyr fait à la place)

Les trois façons dont la modération peut fonctionner

Ce que fait un outil de modération IA, étape par étape

1. Recevoir le message. Le bot ou la plateforme lit le nouveau texte dès qu'il est publié.
2. Le noter. Un modèle renvoie une probabilité pour des catégories comme le spam, les arnaques ou les abus.
3. Le comparer à un seuil. Vous (ou le fournisseur) décidez à quel point il faut être sûr.
4. Agir. Supprimer, avertir, mettre en sourdine ou signaler à un humain.
5. Relire. Des personnes vérifient les signalements et corrigent les erreurs.

La partie difficile est l'étape 3. Réglé trop bas, il sanctionne des membres normaux. Réglé trop haut, le spam passe. Le contexte aggrave les choses : une blague entre amis et une menace peuvent se ressembler pour un modèle.

AutoMod, l'outil natif de Discord

Discord fournit un outil de modération dans chaque serveur, à trouver dans Paramètres du serveur, puis AutoMod. Selon l'article d'aide de Discord, il propose des filtres de mots-clés, une limite de spam de mentions et un filtre de contenu spam. Une règle peut bloquer le message, envoyer une alerte à un salon pour le staff ou mettre le membre en sourdine, bien que les options varient selon le filtre. Les règles se modifient sur ordinateur.

C'est une bonne première couche, car il fonctionne dans Discord sans bot à ajouter. Ses limites : les filtres de mots-clés ne connaissent que les mots que vous leur donnez, et Discord précise que le filtre de contenu spam ne détecte pas tous les types de spam, comme le même texte répété dans plusieurs messages et salons.

Ce que fait Noxyr : des règles, pas de l'IA

Noxyr n'a pas de fonction de modération IA. Il ne lit pas les messages de vos membres avec un modèle pour les juger. Sa modération repose sur des règles :

• Anti-spam limite les rafales de messages, de mentions et de liens.
• Anti-lien bloque les liens d'invitation et les domaines indésirables.
• Anti-nuke arrête les bannissements de masse et les suppressions de salons effectués par un compte compromis.
• Avertissements donnent au staff une voie d'escalade claire.

La raison est simple. Les règles font ce que vous leur demandez et peuvent être expliquées à un membre qui demande pourquoi il a été sanctionné. Pour beaucoup de serveurs, cela compte plus que d'attraper chaque reformulation.

Noxyr utilise bien l'IA ailleurs : réponses du chat IA, aide dans les tickets et un créateur. Ces outils répondent à des questions et configurent des choses. Ils ne décident pas qui est modéré. Il existe aussi /ai check, une heuristique de motifs de mots qui donne au staff une indication sur la question de savoir si un texte a été écrit par une IA ; c'est une indication, pas une preuve, et ce n'est pas de la modération. Voir vérification de message IA.

Une pile pratique

1. Activez AutoMod de Discord pour vos mots interdits et votre limite de mentions.
2. Ajoutez l'anti-spam et l'anti-lien de Noxyr pour les rafales et les liens indésirables.
3. Ajoutez l'anti-nuke pour qu'un compte staff piraté ne puisse pas détruire le serveur.
4. Utilisez les avertissements pour que des humains traitent les cas répétés.
5. Gardez une personne dans la boucle pour tout ce qui est limite.

Questions à poser avant de faire confiance à un modérateur IA

• Où le texte du message est-il envoyé ? Un modèle tourne en général sur les serveurs de quelqu'un d'autre. Vérifiez les conditions de confidentialité.
• Pouvez-vous voir pourquoi il a agi ? Si un membre fait appel, vous avez besoin d'une raison lisible.
• Quelle est l'action par défaut ? Signaler pour relecture est plus sûr que supprimer ou bannir automatiquement.
• Comment gère-t-il les autres langues et l'argot ? Beaucoup d'outils sont plus performants en anglais. Discord précise que certaines de ses propres listes ne sont qu'en anglais.
• Qui en répond ? Vous. Un outil ne peut pas assumer la responsabilité d'un bannissement erroné.

Pourquoi les règles restent gagnantes pour beaucoup de serveurs

La plupart des dégâts sur un serveur viennent de quelques schémas : rafales, liens frauduleux, mentions de masse et piratages de comptes staff. Ce sont des éléments comptables. Une règle qui dit « plus d'un certain nombre de messages en peu de temps » n'a besoin d'aucun modèle et ne discute pas du contexte. Quand un jugement est nécessaire, comme une discussion animée, un modérateur humain avec un système d'avertissements donne de meilleurs résultats qu'une note.

Pour aller plus loin sur la modération

Pour la configuration complète contre le spam, lisez le guide anti-spam, et pour le système d'avertissements, le guide du système d'avertissements. Si un compte est déjà compromis, voir que faire.