Discord에서 AI 모더레이션이 작동하는 방식(그리고 Noxyr가 대신 하는 것)

모더레이션이 작동할 수 있는 세 가지 방식

AI 모더레이션 도구가 단계별로 하는 일

1. 메시지를 받습니다. 봇이나 플랫폼이 새 텍스트를 게시되는 순간 읽습니다.
2. 점수를 매깁니다. 모델이 스팸, 사기, 욕설 같은 범주에 대한 확률을 돌려줍니다.
3. 기준선과 비교합니다. 여러분(또는 공급업체)이 얼마나 확실해야 하는지 정합니다.
4. 조치합니다. 삭제하거나, 경고하거나, 타임아웃하거나, 사람에게 검토를 넘깁니다.
5. 검토합니다. 사람이 표시를 확인하고 실수를 바로잡습니다.

어려운 부분은 3단계입니다. 낮게 설정하면 평범한 멤버가 걸립니다. 높게 설정하면 스팸이 빠져나갑니다. 맥락이 상황을 더 나쁘게 만듭니다. 친구 사이의 농담과 위협은 모델에게 비슷하게 보일 수 있습니다.

Discord 자체 AutoMod

Discord는 모든 서버에 모더레이션 도구를 제공합니다. 서버 설정, AutoMod 아래에 있습니다. Discord 지원 글에 따르면 키워드 필터, 멘션 스팸 제한, 스팸 콘텐츠 필터를 제공합니다. 규칙은 메시지를 차단하거나, 스태프용 채널에 알림을 보내거나, 멤버를 타임아웃할 수 있으며, 옵션은 필터마다 다릅니다. 규칙은 데스크톱에서 편집합니다.

봇을 추가할 필요 없이 Discord 안에서 작동하므로 좋은 첫 계층입니다. 한계도 있습니다. 키워드 필터는 여러분이 준 단어만 알고, Discord는 스팸 콘텐츠 필터가 메시지와 채널에 걸쳐 반복되는 텍스트 같은 모든 종류의 스팸을 잡지는 못한다고 적고 있습니다.

Noxyr가 하는 것: 규칙이지 AI가 아님

Noxyr에는 AI 모더레이션 기능이 없습니다. 멤버의 메시지를 모델로 읽어서 판단하지 않습니다. 모더레이션은 규칙 기반입니다.

• 안티스팸은 메시지, 멘션, 링크의 물결을 제한합니다.
• 안티링크는 초대 링크와 원하지 않는 도메인을 차단합니다.
• 안티뉴크는 탈취된 계정이 벌이는 대량 밴과 채널 삭제를 막습니다.
• 경고는 스태프에게 명확한 단계 상승 경로를 줍니다.

이유는 단순합니다. 규칙은 여러분이 말한 대로 하고, 왜 처벌받았는지 묻는 멤버에게 설명할 수 있습니다. 많은 서버에게는 모든 패러프레이즈를 잡는 것보다 그 점이 더 중요합니다.

Noxyr는 다른 곳에서는 AI를 씁니다. AI 채팅 답변, 티켓 안의 도움말, 빌더 등이 있습니다. 이들은 질문에 답하고 기능을 설정합니다. 누구를 모더레이션할지는 결정하지 않습니다. 또한 /ai check가 있는데, 텍스트가 AI로 작성되었는지에 대해 스태프에게 힌트를 주는 단어 패턴 휴리스틱입니다. 힌트이지 증거가 아니며, 모더레이션도 아닙니다. AI 메시지 검사를 보세요.

실용적인 조합

1. 금지어와 멘션 제한을 위해 Discord AutoMod를 켜세요.
2. 물결과 원하지 않는 링크를 위해 Noxyr 안티스팸과 안티링크를 추가하세요.
3. 탈취된 스태프 계정이 서버를 망가뜨리지 못하도록 안티뉴크를 추가하세요.
4. 반복 사례를 사람이 처리하도록 경고를 쓰세요.
5. 애매한 모든 것에는 사람을 개입시키세요.

AI 모더레이터를 믿기 전에 물어볼 질문

• 메시지 텍스트는 어디로 갑니까? 모델은 보통 다른 사람의 서버에서 돕니다. 개인정보 약관을 확인하세요.
• 왜 조치했는지 볼 수 있습니까? 멤버가 이의를 제기하면, 읽을 수 있는 이유가 필요합니다.
• 기본 조치는 무엇입니까? 자동으로 삭제하거나 밴하는 것보다, 검토용으로 표시하는 것이 더 안전합니다.
• 다른 언어와 속어는 어떻게 처리합니까? 많은 도구는 영어에서 가장 강합니다. Discord도 자체 목록 일부는 영어뿐이라고 적고 있습니다.
• 누가 책임집니까? 여러분입니다. 도구는 잘못된 밴에 대해 책임질 수 없습니다.

많은 서버에게 규칙이 여전히 이기는 이유

대부분의 서버 피해는 몇 가지 패턴에서 옵니다. 물결, 사기 링크, 대량 멘션, 스태프 계정 탈취. 이것들은 셀 수 있습니다. "짧은 시간에 정해진 수보다 많은 메시지"라는 규칙은 모델이 필요 없고, 맥락을 두고 다투지도 않습니다. 판단이 필요한 곳, 예를 들어 뜨거운 논쟁에서는, 경고 시스템을 갖춘 사람 모더레이터가 점수보다 나은 결과를 냅니다.

모더레이션에 관한 더 많은 내용

스팸 설정 전체는 안티스팸 가이드를, 경고 시스템은 경고 시스템 가이드를 읽으세요. 계정이 이미 탈취되었다면 무엇을 해야 하는지를 보세요.