Discord'da Yapay Zeka Moderasyonu Nasıl Çalışır (ve Noxyr Bunun Yerine Ne Yapar)

Moderasyonun üç çalışma biçimi

Bir yapay zeka moderasyon aracı adım adım ne yapar

1. Mesajı alır. Bot ya da platform yeni metni gönderildiği anda okur.
2. Puanlar. Bir model spam, dolandırıcılık ya da taciz gibi kategoriler için bir olasılık döndürür.
3. Eşiğe karşılaştırır. Siz (ya da satıcı) ne kadar emin olması gerektiğine karar verirsiniz.
4. İşlem yapar. Siler, uyarır, zaman aşımına uğratır ya da bir insana işaretler.
5. İnceler. İnsanlar işaretleri kontrol eder ve hataları düzeltir.

Zor kısım 3. adımdır. Eşiği düşük tutarsanız normal üyeler cezalandırılır. Yüksek tutarsanız spam geçer. Bağlam işi zorlaştırır: arkadaşlar arasındaki bir şaka ile bir tehdit bir modele benzer görünebilir.

Discord'un kendi AutoMod'u

Discord her sunucuda bir moderasyon aracı sunar; Sunucu Ayarları, ardından AutoMod altında bulunur. Discord'un destek makalesine göre anahtar kelime filtreleri, etiket spam sınırı ve bir spam içerik filtresi sunar. Bir kural mesajı engelleyebilir, personel için bir kanala uyarı gönderebilir ya da üyeye zaman aşımı verebilir; ancak seçenekler filtreye göre değişir. Kurallar masaüstünde düzenlenir.

Herhangi bir bot eklemeden Discord içinde çalıştığı için iyi bir ilk katmandır. Sınırları: anahtar kelime filtreleri yalnızca size verdiğiniz kelimeleri bilir ve Discord, spam içerik filtresinin her türlü spamı yakalamadığını belirtir; örneğin mesajlar ve kanallar arasında tekrarlanan aynı metin buna dahildir.

Noxyr ne yapar: kurallar, yapay zeka değil

Noxyr'ın bir yapay zeka moderasyon özelliği yoktur. Üyelerin mesajlarını yargılamak için bir modelle okumaz. Moderasyonu kural tabanlıdır:

• Anti-spam, mesaj, etiket ve bağlantı seller sınırlar.
• Anti-link, davet bağlantılarını ve istenmeyen alan adlarını engeller.
• Anti-nuke, ele geçirilmiş bir hesabın toplu yasaklamalarını ve kanal silmelerini durdurur.
• Uyarılar, personele net bir yükseltme yolu verir.

Nedeni basit. Kurallar size söylediğinizi yapar ve nedenini soran bir üyeye cezanın açıklanabilmesini sağlar. Birçok sunucu için bu, her ifadeyi yakalamaktan daha önemlidir.

Noxyr'ın yapay zeka olan başka yerleri vardır: yapay zeka sohbet yanıtları, ticket yardımı ve bir oluşturucu. Bunlar soruları yanıtlar ve kurulum yapar. Kimin moderasyona alınacağına karar vermezler. Ayrıca /ai check vardır; bu, personele bir metnin yapay zeka ile yazılıp yazılmadığı konusunda ipucu veren bir kelime örüntüsü sezgiselidir. Bu bir ipucudur, kanıt değildir ve moderasyon değildir. Bkz. yapay zeka mesaj kontrolü.

Pratik bir yığın

1. Yasaklı kelimeleriniz ve etiket sınırınız için Discord AutoMod'u açın.
2. Spam ve istenmeyen bağlantılar için Noxyr anti-spam ve anti-link ekleyin.
3. Ele geçirilmiş bir personel hesabının sunucuyu mahvedemeyeceği şekilde anti-nuke ekleyin.
4. Tekrarlayan vakaları insanların ele alması için uyarıları kullanın.
5. Sınırda kalan her şey için insanları döngüde tutun.

Bir yapay zeka moderatörüne güvenmeden önce sorulacak sorular

• Mesaj metni nereye gider? Bir model genellikle başkasının sunucularında çalışır. Gizlilik koşullarını kontrol edin.
• Neden işlem yaptığını görebiliyor musunuz? Bir üye itiraz ederse, okuyabileceğiniz bir nedene ihtiyacınız vardır.
• Varsayılan işlem nedir? İncelemek için işaretlemek, otomatik olarak silmek ya da yasaklamaktan daha güvenlidir.
• Diğer dilleri ve argoyu nasıl ele alıyor? Birçok araç en güçlü olduğu İngilizcede çalışır. Discord, kendi bazı listelerinin yalnızca İngilizce olduğunu belirtir.
• Sorumluluğu kim taşır? Siz. Bir araç yanlış bir yasaklamanın sorumluluğunu alamaz.

Kurallar neden hâlâ birçok sunucu için kazanıyor

Sunucu zararının çoğu birkaç örüntüden gelir: spam, dolandırıcılık bağlantıları, toplu etiketler ve personel hesaplarının ele geçirilmesi. Bunlar sayılabilir. “Kısa sürede belirli bir sayıdan fazla mesaj” diyen bir kural bir modele ihtiyaç duymaz ve bağlam üzerine tartışmaz. Yargının gerekli olduğu yerlerde, örneğin hararetli bir tartışmada, bir uyarı sistemi olan bir insan moderatör, bir puandan daha iyi sonuç verir.

Moderasyon hakkında daha fazlası

Tam spam kurulumu için anti-spam rehberini, uyarı sistemi için uyarı sistemi rehberini okuyun. Bir hesap zaten ele geçirildiyse, ne yapılacağına bakın.