มีระดับอยู่เสมอความเป็นพิษในเกมออนไลน์แต่ในช่วงไม่กี่ปีที่ผ่านมามันมีการพัฒนาเกินกว่าการพูดคุยเรื่องขยะที่ขี้เล่น ความเป็นพิษในขณะนี้ท่วมท้นการแชทด้วยเสียงและล็อบบี้ทำให้เกมผู้เล่นหลายคนส่วนใหญ่เครียดและเป็นศัตรู
วิธีการต่าง ๆ ได้รับการพยายามโดยผู้เผยแพร่เกมเพื่อแก้ไขปัญหาและตอนนี้ปัญญาประดิษฐ์ (AI) สามารถเป็นเครื่องมือสำหรับชุมชนที่ครอบคลุมมากขึ้น
ปัญหาที่เพิ่มขึ้นของความเป็นพิษในเกมออนไลน์
การพูดทิ้งขยะครั้งหนึ่งเคยเป็นส่วนหนึ่งของเกมที่สนุกโดยเฉพาะอย่างยิ่งสำหรับเกม COUC CO-OP กับเพื่อน คุณรู้ว่าเมื่อใดควรถอยกลับและไม่มีใครมีความเป็นส่วนตัวเกินไป อย่างไรก็ตามการเล่นเกมออนไลน์ได้ทำให้น้ำเหล่านั้นหมดไป หากไม่มีความรับผิดชอบแบบตัวต่อตัวของเพื่อนนั่งถัดจากคุณผู้เล่นมักจะก้าวร้าวไปสู่ความรุนแรง
เกมเช่น "Call of Duty" และ "Valorant" ได้กลายเป็นคำพ้องความหมายไม่เพียง แต่กับการเล่นที่มีการแข่งขันเท่านั้น
อันการศึกษา 2022โดยประมาณว่า "Call of Duty" เป็นหนึ่งในชุมชนเกมที่เป็นพิษมากที่สุด สภาพแวดล้อมดังกล่าวทำให้ผู้เล่นใหม่ออกไปปั่นป่วนแฟน ๆ ที่มีศักยภาพก่อนที่พวกเขาจะเข้าร่วมการแข่งขัน
กลยุทธ์ AI ของ Activision กับผู้เล่นที่เป็นพิษ
Activision ผู้จัดพิมพ์ที่อยู่เบื้องหลัง "Call of Duty" ได้เห็นปัญหาโดยตรง เครื่องมือการกลั่นกรองเก่าของพวกเขาไม่เพียงพอที่จะติดตาม การรายงานและการบังคับใช้ด้วยตนเองนั้นช้าไม่สอดคล้องและมักจะไม่ได้ผล
มาที่นี่Toxmodเครื่องมือ AI การกลั่นกรองเสียงที่สร้างขึ้นโดย Modulate.ai ซึ่งแตกต่างจากกลไกการรายงานแบบดั้งเดิม ToxMod จะสแกนการแชทด้วยเสียงแบบเรียลไทม์ การฟังภาษาที่ไม่เหมาะสมคำพูดแสดงความเกลียดชังและน้ำเสียงก้าวร้าวขึ้นอยู่กับการผันเสียงและตัวชี้นำทางอารมณ์เพื่อตัดสินใจว่ามีคนข้ามเส้นหรือไม่
หาก AI ระบุพฤติกรรมที่เป็นพิษมันสามารถส่งคำเตือนตั้งค่าสถานะผู้ใช้และส่งบันทึกเสียงโดยละเอียดไปยังผู้ดูแลมนุษย์ บันทึกเป็นทั้งคลิปเสียงและการถอดเสียงเพื่อการปรับปรุงความแม่นยำและการบังคับใช้อย่างยุติธรรม
วิธีการทำงานของ ToxMod ในเกมจริง
การกลั่นกรองเสียง AI ของ ToxMod ได้เห็นการใช้งานในเกมยอดนิยมเช่น:
- "Call of Duty: Modern Warfare III"
- "Call of Duty: Warzone"
- "ในหมู่พวกเรา" VR
- "GTA Online" (ปลายปี 2023 การทดสอบเบต้าเริ่มขึ้น)
ใน "Call of Duty, "ToxMod ทำงานในพื้นหลังและไม่รบกวนการเล่นผู้เล่นไม่จำเป็นต้องหยุดชั่วคราวในช่วงกลางของการแข่งขันเพื่อรายงานใครบางคนตอนนี้ AI ทำธงสำหรับพฤติกรรมที่เป็นพิษทำให้ผู้เล่นมีสมาธิในเกม
ตามที่รายงานโดย Activision เครื่องมือส่งผลให้การแชทด้วยเสียงที่เป็นพิษลดลง 50% ในอเมริกาเหนือลดลง 25% ในพฤติกรรมเชิงลบโดยรวมและการลดลง 8% ของผู้กระทำความผิดซ้ำ ๆ
พฤติกรรมที่เป็นพิษคืออะไร?
ToxMod ไม่ได้ขึ้นอยู่กับคำสาปหรือคำเยาะเย้ยเพียงอย่างเดียว มันตรวจสอบน้ำเสียงรูปแบบการพูดและปฏิกิริยาของผู้เล่นเพื่อตรวจสอบว่าความคิดเห็นนั้นไม่เหมาะสมหรือเป็นพิษ
ที่สำคัญมันไม่ได้เป็นไปโดยอัตโนมัติทั้งหมด แม้ว่า ToxMod จะเน้นการละเมิดที่อาจเกิดขึ้น แต่ผู้ดูแลมนุษย์ก็มีคำพูดสุดท้าย ระบบนี้หลีกเลี่ยงการแบนที่ผิดพลาดโดยเฉพาะอย่างยิ่งเมื่อมีการใช้สำเนียงระดับภูมิภาคหรือล้อเล่นในบริบท
จัดการกับข้อกังวลเกี่ยวกับการกลั่นกรอง AI
นักเล่นเกมบางคนยังไม่แน่ใจ มีความกังวลเกี่ยวกับความเป็นส่วนตัวโดยเฉพาะอย่างยิ่งเมื่อ AI มีการดักฟังอย่างต่อเนื่อง คนอื่น ๆ มีความกังวลว่าพวกเขาอาจถูกตั้งค่าสถานะหรือถูกลงโทษสำหรับการพูดคุยกับถังขยะที่ไร้เดียงสา
แต่เนื่องจากการตรวจสอบของมนุษย์ยังคงอยู่บนโต๊ะอันตรายของการใช้ AI ในทางที่ผิดค่อนข้างต่ำ Activision มั่นใจได้ว่าการกลั่นกรองนั้นไม่ได้ขับเคลื่อนด้วย AI อย่างเต็มที่-มีการตรวจสอบความเป็นธรรม
