So funktioniert KI-Moderation auf Discord (und was Noxyr stattdessen macht)

Die drei Wege, wie Moderation funktionieren kann

Was ein KI-Moderationswerkzeug Schritt für Schritt tut

1. Die Nachricht empfangen. Der Bot oder die Plattform liest neuen Text in dem Moment, in dem er gepostet wird.
2. Bewerten. Ein Modell liefert eine Wahrscheinlichkeit für Kategorien wie Spam, Betrug oder Missbrauch.
3. Mit einer Schwelle vergleichen. Du (oder der Anbieter) legst fest, wie sicher es sein muss.
4. Handeln. Löschen, verwarnen, stummschalten oder zur menschlichen Prüfung markieren.
5. Prüfen. Menschen kontrollieren die Markierungen und korrigieren Fehler.

Der schwierige Teil ist Schritt 3. Stellst du die Schwelle niedrig ein, trifft es normale Mitglieder. Stellst du sie hoch, kommt Spam durch. Der Kontext macht es schwerer: Ein Scherz unter Freunden und eine Drohung können für ein Modell gleich aussehen.

Das eigene AutoMod von Discord

Discord liefert auf jedem Server ein Moderationswerkzeug mit, zu finden unter Servereinstellungen, dann AutoMod. Laut dem Hilfeartikel von Discord bietet es Stichwortfilter, eine Begrenzung für Erwähnungs-Spam und einen Filter für Spam-Inhalte. Eine Regel kann die Nachricht blockieren, einen Hinweis für das Team in einen Kanal schicken oder das Mitglied stummschalten, wobei sich die Optionen je nach Filter unterscheiden. Regeln werden am Desktop bearbeitet.

Es ist eine gute erste Schicht, weil es innerhalb von Discord läuft und du keinen Bot hinzufügen musst. Seine Grenzen: Die Stichwortfilter kennen nur die Wörter, die du ihnen gibst, und Discord weist darauf hin, dass der Filter für Spam-Inhalte nicht jede Art von Spam erwischt, etwa denselben Text, der über mehrere Nachrichten und Kanäle wiederholt wird.

Was Noxyr tut: Regeln, keine KI

Noxyr hat keine KI-Moderationsfunktion. Es liest die Nachrichten deiner Mitglieder nicht mit einem Modell, um sie zu beurteilen. Seine Moderation basiert auf Regeln:

• Anti-Spam begrenzt Fluten von Nachrichten, Erwähnungen und Links.
• Anti-Link blockiert Einladungslinks und unerwünschte Domains.
• Anti-Nuke stoppt Massenbans und Kanallöschungen durch ein gekapertes Konto.
• Verwarnungen geben dem Team einen klaren Eskalationsweg.

Der Grund ist einfach. Regeln tun, was du ihnen sagst, und lassen sich einem Mitglied erklären, das fragt, warum es bestraft wurde. Für viele Server ist das wichtiger, als jede Umschreibung zu erwischen.

Noxyr hat KI an anderen Stellen: KI-Chat-Antworten, Hilfe in Tickets und einen Builder. Diese beantworten Fragen und richten Dinge ein. Sie entscheiden nicht, wer moderiert wird. Es gibt außerdem /ai check, eine heuristische Prüfung von Wortmustern, die dem Team einen Hinweis gibt, ob ein Text von einer KI geschrieben wurde. Es ist ein Hinweis, kein Beweis, und keine Moderation. Siehe KI-Nachrichtenprüfung.

Ein praktischer Stack

1. Schalte das AutoMod von Discord für verbotene Wörter und das Erwähnungslimit ein.
2. Füge Anti-Spam und Anti-Link von Noxyr für Fluten und unerwünschte Links hinzu.
3. Füge Anti-Nuke hinzu, damit ein übernommenes Team-Konto nicht den Server zerstören kann.
4. Nutze Verwarnungen, damit Menschen wiederholte Fälle bearbeiten.
5. Halte Menschen bei allem Grenzwertigen im Spiel.

Fragen, die du vor dem Vertrauen in einen KI-Moderator klären solltest

• Wohin geht der Nachrichtentext? Ein Modell läuft meist auf fremden Servern. Prüfe die Datenschutzbedingungen.
• Kannst du sehen, warum es gehandelt hat? Wenn ein Mitglied Einspruch erhebt, brauchst du eine Begründung, die du lesen kannst.
• Was ist die Standardaktion? Eine Markierung zur Prüfung ist sicherer als automatisches Löschen oder Bannen.
• Wie geht es mit anderen Sprachen und Slang um? Viele Werkzeuge sind im Englischen am stärksten. Discord weist darauf hin, dass einige eigene Listen nur auf Englisch sind.
• Wer ist verantwortlich? Du. Ein Werkzeug kann für einen falschen Bann keine Verantwortung übernehmen.

Warum Regeln für viele Server weiterhin gewinnen

Der meiste Schaden auf Servern kommt aus wenigen Mustern: Fluten, Betrugslinks, Massenerwähnungen und Übernahmen von Team-Konten. Das lässt sich zählen. Eine Regel wie „mehr als eine bestimmte Anzahl Nachrichten in kurzer Zeit“ braucht kein Modell und streitet nicht über den Kontext. Wo Urteilsvermögen nötig ist, etwa bei einer hitzigen Diskussion, liefert ein menschlicher Moderator mit einem Verwarnungssystem bessere Ergebnisse als ein Score.

Mehr zur Moderation

Für das vollständige Spam-Setup lies den Anti-Spam-Leitfaden, und für das Verwarnungssystem den Leitfaden zum Verwarnungssystem. Wenn ein Konto bereits übernommen wurde, siehe was zu tun ist.