كيف يعمل الإشراف بالذكاء الاصطناعي على Discord (وما الذي يفعله Noxyr بدلا منه)

الطرق الثلاث التي يمكن أن يعمل بها الإشراف

ما الذي تفعله أداة إشراف بالذكاء الاصطناعي خطوة بخطوة

1. استقبال الرسالة. يقرأ البوت أو المنصة النص الجديد لحظة نشره.
2. التقييم. يعيد النموذج احتمالا لفئات مثل السبام أو الاحتيال أو الإساءة.
3. المقارنة بالحد. أنت (أو المزود) تقرر مدى اليقين المطلوب.
4. التصرف. الحذف أو التحذير أو الكتم أو تعليم الرسالة لمراجعة بشرية.
5. المراجعة. يتحقق الناس من الأعلام ويصححون الأخطاء.

الجزء الصعب هو الخطوة 3. إذا ضبطته منخفضا، يتعرض الأعضاء العاديون للعقوبة. وإذا ضبطته عاليا، يمر السبام. والسياق يزيد الأمر سوءا: مزحة بين الأصدقاء وتهديد قد يبدوان متشابهين للنموذج.

AutoMod الخاص بـ Discord

تأتي Discord بأداة إشراف في كل خادم، وتجدها في إعدادات الخادم، ثم AutoMod. وحسب مقال الدعم في Discord، تقدم فلاتر للكلمات، وحدا لإشارات السبام، وفلترا لمحتوى السبام. ويمكن للقاعدة أن تحظر الرسالة، أو ترسل تنبيها إلى قناة للفريق، أو تكتم العضو، مع اختلاف الخيارات حسب الفلتر. وتُحرَّر القواعد من سطح المكتب.

إنها طبقة أولى جيدة لأنها تعمل داخل Discord دون إضافة بوت. حدودها: فلاتر الكلمات تعرف فقط الكلمات التي تعطيها إياها، وتنبه Discord إلى أن فلتر محتوى السبام لا يلتقط كل أنواع السبام، مثل النص نفسه المكرر عبر رسائل وقنوات.

ما الذي يفعله Noxyr: قواعد، لا ذكاء اصطناعي

ليس لدى Noxyr ميزة إشراف بالذكاء الاصطناعي. لا يقرأ رسائل أعضائك بنموذج ليحكم عليها. إشرافه قائم على القواعد:

• مكافحة السبام تحد من فيضانات الرسائل والإشارات والروابط.
• مكافحة الروابط تحظر روابط الدعوة والنطاقات غير المرغوبة.
• مكافحة التدمير الجماعي توقف الحظر الجماعي وحذف القنوات من حساب مخترق.
• التحذيرات تعطي الفريق مسار تصعيد واضحا.

السبب بسيط. القواعد تفعل ما تقوله لها، ويمكن شرحها لعضو يسأل لماذا عوقب. ولكثير من الخوادم، هذا أهم من التقاط كل إعادة صياغة.

لدى Noxyr ذكاء اصطناعي في أماكن أخرى: ردود دردشة الذكاء الاصطناعي، والمساعدة داخل التذاكر، وأداة البناء. هذه تجيب عن الأسئلة وتضبط الميزات. ولا تقرر من يُشرف عليه. وهناك أيضا /ai check، وهو تحليل لأنماط الكلمات يعطي الفريق تلميحا عما إذا كان النص مكتوبا بالذكاء الاصطناعي؛ إنه تلميح لا دليل، وليس إشرافا. انظر فحص رسائل الذكاء الاصطناعي.

مكدّس عملي

1. فعّل AutoMod من Discord للكلمات الممنوعة وحد الإشارات.
2. أضف مكافحة السبام ومكافحة الروابط من Noxyr للفيضانات والروابط غير المرغوبة.
3. أضف مكافحة التدمير الجماعي حتى لا يدمر حساب مسؤول مخترق الخادم.
4. استخدم التحذيرات حتى يعالج البشر الحالات المتكررة.
5. أبقِ الناس ضمن الحلقة لكل ما هو حدّي.

أسئلة قبل أن تثق بأي مشرف بالذكاء الاصطناعي

• إلى أين يذهب نص الرسالة؟ النموذج يعمل عادة على خوادم جهة أخرى. تحقق من شروط الخصوصية.
• هل ترى لماذا تصرف؟ إذا استأنف عضو، تحتاج إلى سبب تقرؤه.
• ما الإجراء الافتراضي؟ تعليم الرسالة للمراجعة أأمن من حذفها أو حظر الشخص تلقائيا.
• كيف يتعامل مع اللغات الأخرى والعامية؟ كثير من الأدوات تكون أقوى في الإنجليزية. تنبه Discord إلى أن بعض قوائمها إنجليزية فقط.
• من يتحمل المسؤولية؟ أنت. لا تستطيع أداة أن تتحمل مسؤولية حظر خاطئ.

لماذا تفوز القواعد لكثير من الخوادم

معظم الضرر في الخوادم يأتي من عدد قليل من الأنماط: الفيضانات، وروابط الاحتيال، والإشارات الجماعية، والاستيلاء على حسابات الفريق. وهذه قابلة للعد. قاعدة تقول "أكثر من عدد محدد من الرسائل في وقت قصير" لا تحتاج نموذجا ولا تجادل في السياق. وحيث يلزم الحكم، مثل نقاش محتدم، يعطي مشرف بشري مع نظام تحذيرات نتائج أفضل من درجة.

المزيد عن الإشراف

للإعداد الكامل لمكافحة السبام اقرأ دليل مكافحة السبام، ولنظام التحذيرات دليل نظام التحذيرات. وإذا كان حساب مخترقا بالفعل، فانظر ما الذي يجب فعله.