Jak działa moderacja AI na Discordzie (i co Noxyr robi zamiast tego)

Trzy sposoby, w jakie może działać moderacja

Co narzędzie moderacji AI robi krok po kroku

1. Odbiera wiadomość. Bot lub platforma czyta nowy tekst zaraz po jego opublikowaniu.
2. Ocenia ją. Model zwraca prawdopodobieństwo dla kategorii, takich jak spam, oszustwa czy obraza.
3. Porównuje z progiem. Ty (albo dostawca) decydujesz, jak pewny musi być wynik.
4. Działa. Usuwa, ostrzega, wycisza albo oznacza do sprawdzenia przez człowieka.
5. Przegląda. Ludzie sprawdzają oznaczenia i poprawiają pomyłki.

Trudna część to krok 3. Ustawisz próg nisko, a zwykli członkowie będą trafiani. Ustawisz wysoko, a spam przejdzie. Kontekst pogarsza sprawę: żart między znajomymi i groźba mogą modelowi wyglądać podobnie.

AutoMod Discorda

Discord dodaje na każdym serwerze narzędzie moderacji, które znajdziesz w Ustawieniach serwera, a potem w AutoMod. Według artykułu pomocy Discorda oferuje filtry słów kluczowych, limit spamu wzmiankami i filtr spamu treści. Reguła może zablokować wiadomość, wysłać alert na kanał dla personelu albo wyciszyć członka, choć dostępne opcje różnią się w zależności od filtra. Reguły edytuje się na komputerze.

To dobra pierwsza warstwa, bo działa wewnątrz Discorda i nie wymaga dodawania bota. Ma jednak ograniczenia: filtry słów kluczowych znają tylko słowa, które im podasz, a Discord zaznacza, że filtr spamu treści nie wyłapie każdego rodzaju spamu, na przykład tego samego tekstu powtarzanego w wielu wiadomościach i na wielu kanałach.

Co robi Noxyr: reguły, nie AI

Noxyr nie ma funkcji moderacji AI. Nie czyta wiadomości członków modelem, żeby je oceniać. Jego moderacja opiera się na regułach:

• Anti-spam ogranicza zalewanie wiadomościami, wzmiankami i linkami.
• Anti-link blokuje linki zaproszeń i niechciane domeny.
• Anti-nuke zatrzymuje masowe bany i usuwanie kanałów przez przejęte konto.
• Ostrzeżenia dają personelowi jasną ścieżkę eskalacji.

Powód jest prosty. Reguły robią dokładnie to, co im każesz, i można je wyjaśnić członkowi, który pyta, za co został ukarany. Dla wielu serwerów ma to większe znaczenie niż wychwycenie każdej parafrazy.

Noxyr ma AI w innych miejscach: odpowiedzi czatu AI, pomoc w ticketach i kreator. Odpowiadają na pytania i konfigurują funkcje. Nie decydują, kogo się moderuje. Jest też /ai check, heurystyka wzorców słów, która podpowiada personelowi, czy tekst mógł powstać przy pomocy AI; to wskazówka, a nie dowód, i nie jest to moderacja. Zobacz sprawdzanie wiadomości AI.

Praktyczny zestaw

1. Włącz AutoMod Discorda dla zakazanych słów i limitu wzmianek.
2. Dodaj anti-spam i anti-link Noxyra przeciwko zalewaniu i niechcianym linkom.
3. Dodaj anti-nuke, żeby przejęte konto personelu nie mogło zniszczyć serwera.
4. Używaj ostrzeżeń, żeby powtarzające się przypadki obsługiwali ludzie.
5. Zostaw człowieka w pętli przy wszystkim, co graniczne.

Pytania przed zaufaniem jakiemukolwiek moderatorowi AI

• Dokąd trafia tekst wiadomości? Model zwykle działa na cudzych serwerach. Sprawdź warunki prywatności.
• Czy widzisz, dlaczego zadziałał? Jeśli członek się odwoła, potrzebujesz powodu, który możesz przeczytać.
• Jaka jest domyślna akcja? Oznaczenie do przeglądu jest bezpieczniejsze niż automatyczne usunięcie lub ban.
• Jak radzi sobie z innymi językami i slangiem? Wiele narzędzi jest najmocniejszych po angielsku. Discord zaznacza, że część jego własnych list jest tylko w języku angielskim.
• Kto ponosi odpowiedzialność? Ty. Narzędzie nie weźmie odpowiedzialności za błędny ban.

Dlaczego reguły wciąż wygrywają na wielu serwerach

Większość szkód na serwerze pochodzi z kilku wzorców: zalewania, linków z oszustwami, masowych wzmianek i przejęć kont personelu. To rzeczy, które da się policzyć. Reguła mówiąca „więcej niż ustalona liczba wiadomości w krótkim czasie” nie potrzebuje modelu i nie spiera się o kontekst. Tam, gdzie potrzebny jest osąd, na przykład przy gorącej kłótni, moderator-człowiek z systemem ostrzeżeń daje lepsze wyniki niż wynik punktowy.

Więcej o moderacji

Pełną konfigurację antyspamu znajdziesz w przewodniku po anti-spamie, a system ostrzeżeń w przewodniku po systemie ostrzeżeń. Jeśli konto jest już przejęte, zobacz co zrobić.