Jak funguje AI moderace na Discordu (a co Noxyr dělá místo toho)

Tři způsoby, jak může moderace fungovat

Co nástroj AI moderace dělá krok za krokem

1. Přijme zprávu. Bot nebo platforma přečte nový text ve chvíli, kdy je odeslán.
2. Ohodnotí ji. Model vrátí pravděpodobnost pro kategorie jako spam, podvody nebo zneužití.
3. Porovná s prahem. Vy (nebo dodavatel) rozhodnete, jak jistý musí být.
4. Zasáhne. Smaže, varuje, umlčí nebo označí pro člověka.
5. Zkontroluje se. Lidé prověří označení a opraví chyby.

Těžká část je krok 3. Nastavíte-li práh nízko, zasáhne i běžné členy. Nastavíte-li ho vysoko, prolezou spamy. Kontext situaci zhoršuje: vtip mezi přáteli a výhrůžka mohou modelu vypadat podobně.

AutoMod Discordu

Discord má na každém serveru nástroj pro moderaci, najdete ho v Nastavení serveru, pak AutoMod. Podle článku podpory Discordu nabízí filtry klíčových slov, limit spamu zmínkami a filtr obsahu spamu. Pravidlo může zprávu zablokovat, poslat upozornění do kanálu pro personál nebo člena dočasně umlčet, i když možnosti se u jednotlivých filtrů liší. Pravidla se upravují na počítači.

Je to dobrá první vrstva, protože běží uvnitř Discordu a žádný bot se nemusí přidávat. Jeho limity: filtry klíčových slov znají jen slova, která jim dáte, a Discord upozorňuje, že filtr obsahu spamu nezachytí každý druh spamu, například stejný text opakovaný přes zprávy a kanály.

Co dělá Noxyr: pravidla, ne AI

Noxyr nemá funkci AI moderace. Zprávy vašich členů nečte modelem, aby je posuzoval. Jeho moderace je založena na pravidlech:

• Ochrana proti spamu omezuje záplavy zpráv, zmínek a odkazů.
• Anti-link blokuje pozvánkové odkazy a nežádoucí domény.
• Anti-nuke zastaví hromadné bany a mazání kanálů kompromitovaným účtem.
• Varování dávají personálu jasnou cestu eskalace.

Důvod je prostý. Pravidla dělají to, co jim řeknete, a dají se vysvětlit členovi, který se zeptá, proč byl potrestán. Pro mnoho serverů je to důležitější než zachytit každou parafrázi.

Noxyr má AI i jinde: odpovědi AI chatu, nápovědu v tiketech a tvůrce. Ty odpovídají na otázky a nastavují věci. Nerozhodují, kdo bude moderován. Je tu také /ai check, heuristika podle vzorů slov, která personálu naznačí, zda byl text napsán AI; je to nápověda, ne důkaz, a není to moderace. Viz kontrola AI zpráv.

Praktický soubor nástrojů

1. Zapněte AutoMod Discordu pro zakázaná slova a limit zmínek.
2. Přidejte ochranu proti spamu a Anti-link Noxyr pro záplavy a nežádoucí odkazy.
3. Přidejte Anti-nuke, aby unesený účet personálu nemohl server zničit.
4. Používejte varování, aby opakované případy řešili lidé.
5. U všeho hraničního nechte rozhodovat lidi.

Otázky, které si položte, než budete důvěřovat jakémukoli AI moderátorovi

• Kam text zprávy putuje? Model obvykle běží na cizích serverech. Zkontrolujte podmínky ochrany soukromí.
• Vidíte, proč zasáhl? Když se člen odvolá, potřebujete důvod, který můžete přečíst.
• Jaká je výchozí akce? Označení k posouzení je bezpečnější než automatické mazání nebo bany.
• Jak zvládá jiné jazyky a slang? Mnoho nástrojů je nejsilnějších v angličtině. Discord upozorňuje, že některé jeho vlastní seznamy jsou jen anglické.
• Kdo za to odpovídá? Vy. Nástroj nemůže převzít odpovědnost za chybný ban.

Proč pro mnoho serverů stále vítězí pravidla

Většina škod na serveru pochází z několika vzorců: záplav, podvodných odkazů, hromadných zmínek a převzetí účtů personálu. Ty se dají spočítat. Pravidlo typu „více než daný počet zpráv v krátkém čase“ nepotřebuje model a nehádá se o kontext. Tam, kde je potřeba úsudek, například u vyhrocené hádky, dá lidský moderátor s varovacím systémem lepší výsledky než skóre.

Více o moderaci

Pro celé nastavení proti spamu si přečtěte průvodce proti spamu a pro varovací systém průvodce varovacím systémem. Pokud je účet už kompromitovaný, podívejte se na co dělat.