मुख्य तथ्य
- ToxMod, बोस्टन स्थित कंपनी मॉड्यूलेट द्वारा, वास्तविक समय में, स्वचालित रूप से विघटनकारी भाषण का पता लगाने और उसके खिलाफ कार्रवाई करने का दावा करता है।
- साधारण भाषा द्वारा प्रतिबंधित होने के बजाय, ToxMod भावना, मात्रा और लय जैसे अमूर्त का पता लगाने के लिए मशीन लर्निंग का उपयोग करता है।
- ToxMod वर्तमान में इन-गेम चैट रूम के उपयोग के लिए डिज़ाइन किया गया है, लेकिन ऐसा कोई कारण नहीं है कि यह आपके ट्विच चैनल पर नहीं आ सके।
बोस्टन स्थित एक कंपनी मशीन लर्निंग का उपयोग करके दुनिया की पहली आवाज-मूल मॉडरेशन सेवा के रूप में बिल बनाती है, जो कि कही जा रही बातों और उसके अर्थ के बीच अंतर बता सकती है।
ToxMod इंटरनेट पर किसी भी खुले स्थान को मॉडरेट करने के विरोधाभास को हल करने का एक प्रयास है; मांग को पूरा करने के लिए पर्याप्त मनुष्य नहीं हैं, लेकिन एल्गोरिदम, फ़िल्टर और एक रिपोर्ट सिस्टम बारीकियों को नहीं समझते हैं।
ToxMod के डेटाबेस के साथ, यह खिलाड़ियों के भाषण में भावनाओं और मात्रा जैसे कारकों को ट्रैक कर सकता है, जो इसे एक क्षणिक चूक और व्यवहार के पैटर्न के बीच अंतर करने में मदद करता है। इसे हाल ही में 7v7 अमेरिकी फुटबॉल खेल ग्रिडिरॉन के अतिरिक्त के रूप में घोषित किया गया था, जो वर्तमान में स्टीम अर्ली एक्सेस में है।
"हर कोई जानता है कि वॉयस चैट और गेमिंग में उत्पीड़न, अभद्र भाषा और विषाक्तता एक बड़ी समस्या है। यह आमतौर पर समझा जाता है," कार्टर हफमैन, मुख्य प्रौद्योगिकी अधिकारी और मॉड्यूलेट के सह-संस्थापक ने एक Google मीटिंग में कहा। लाइफवायर। "हम उन सुविधाओं को ले सकते हैं जो हम इस तरह के मशीन-लर्निंग सिस्टम के माध्यम से निकाल रहे थे और एक ऐसी प्रणाली में शामिल हो गए थे जो इस सभी विशेषज्ञ ज्ञान को ध्यान में रखते थे जो हम समुदाय से सीख रहे थे।"
हमारे नए रोबोट मॉडरेटर की जय हो
Modulate पिछले पतन के बाद से ToxMod पर काम कर रहा है, और इसे कंपनी की तीन प्रमुख सेवाओं में से एक के रूप में शामिल किया है। यह VoiceWear, मशीन लर्निंग द्वारा संचालित एक वॉयस डिसाइज़र, और VoiceVibe, एक एग्रीगेटर सेवा भी प्रदान करता है जो उपयोगकर्ताओं को यह पता लगाने देता है कि उनके समुदाय के लोग क्या चर्चा कर रहे हैं।
जब ToxMod चैट में चल रहा हो, तो इसे मॉड्यूलेट के एडमिन पैनल के जरिए प्रोग्राम किया जा सकता है ताकि कई तरह की स्वचालित कार्रवाइयां की जा सकें, जैसे चेतावनियां जारी करना, खिलाड़ियों को म्यूट करना, या व्यक्तिगत रूप से वॉल्यूम समायोजित करना।
यह पुष्टि के लिए मॉड्यूलेट के सर्वर से जाँच करने से पहले, ट्राइएज की एक प्रणाली का उपयोग करता है जहाँ इसका स्थानीय उदाहरण सबसे पहले कार्रवाई करता है। फिर यह अंततः उस बिंदु तक बढ़ जाता है जहां यह मानवीय हस्तक्षेप की मांग कर सकता है। बारी-बारी से प्रत्येक चेक के माध्यम से चलकर, जिसे मॉड्यूलेट "ट्राएज गेट्स" कहता है, विचार यह है कि ToxMod मॉडरेटर्स की एक छोटी टीम को उपकरण देता है जिसके साथ एक बहुत बड़े समुदाय को प्रभावी ढंग से मॉडरेट करता है।
"दुखद सच्चाई यह है कि हर किसी के पास यह अनुभव है कि आप जिस भी प्लेटफॉर्म पर थे, उस पर वॉयस चैट का उपयोग करने की कोशिश कर रहे थे, और यह पता लगाना कि, लड़का, यह एक बुरा विचार था," मॉड्यूलेट के सीईओ माइक पप्पस ने एक में कहा लाइफवायर के साथ वीडियो कॉल। "में जाने और कहने में सक्षम होने के नाते, 'यह वाइल्ड वेस्ट नहीं है। नियम हैं।' मुझे लगता है कि यह वास्तव में महत्वपूर्ण है।"
सिस्टम को तोड़ना
स्वाभाविक रूप से, ToxMod के बारे में पूछने वाला दूसरा या तीसरा प्रश्न है कि इसे कैसे तोड़ा जाए।
कई स्वचालित मॉडरेशन सिस्टम के साथ, जैसे कि ट्विटर को नियंत्रित करने वाले एल्गोरिदम, उन्हें उन लोगों के खिलाफ खेलना आसान है जिन्हें आप पसंद नहीं करते हैं। बस कुछ कठपुतली खातों के साथ अपने लक्ष्य की बड़े पैमाने पर रिपोर्ट करें और वे मज़बूती से प्रतिबंध खा लेंगे।
"आधारभूत स्तर पर, ToxMod को उन अतिरिक्त खिलाड़ी रिपोर्टों पर भरोसा करने की आवश्यकता नहीं है," पप्पस ने कहा। "यह अभी भी ठोस अनुमान लगाने में सक्षम है कि हमें किन अपराधों की आवश्यकता है [भुगतान करने के लिए] ध्यान दें।आपको सिस्टम को चलाने की कोशिश कर रहे खिलाड़ियों के बारे में चिंता करने की ज़रूरत नहीं है, क्योंकि वास्तव में गेम के लिए कुछ भी नहीं है।
हर कोई जानता है कि वॉयस चैट और गेमिंग में उत्पीड़न, अभद्र भाषा और विषाक्तता एक बड़ी समस्या है।
"एक खिलाड़ी के रूप में आपका नियंत्रण केवल आपका अपना ऑडियो है," पप्पस ने जारी रखा। "सबसे बुरी चीज जो आप कर सकते हैं वह है किसी व्यक्ति का कम बुरा होना इसलिए हम आपको एक बुरे अभिनेता के रूप में नहीं दिखाते हैं, जो मैं कहूंगा कि यह मिशन की सफलता के करीब है।"
सामान्य तौर पर, ToxMod के पीछे का विचार एक सक्रिय सुधार प्रयास है। इस बिंदु पर कई खिलाड़ियों ने खुले आवाज चैनलों में यादृच्छिक अजनबियों से किसी न किसी प्रकार के उत्पीड़न का अनुभव किया है, जिसमें यादृच्छिक अपमान से लेकर सक्रिय खतरों तक शामिल हैं। नतीजतन, गेमर्स सामान्य रूप से वॉयस चैट से दूर भागते हैं, अपनी मन की शांति के बदले में इसकी सुविधा को छोड़ना पसंद करते हैं।
पप्पस ने कहा, "हम यह देखने की उम्मीद कर रहे हैं [खराब अभिनेता खर्च कर रहे हैं] वॉयस चैट में बहुत कम समय मिल रहा है और हटा दिया गया है।""इसका केवल एक रैखिक प्रभाव नहीं है। जब हर कोई वॉयस चैट को एक सुरक्षित स्थान के रूप में देख रहा है, तो अधिक अच्छे अभिनेता वॉयस चैट पर वापस आने और इसे आज़माने के लिए तैयार हैं। मुझे लगता है कि सब कुछ एक सकारात्मक दिशा में सर्पिल हो सकता है।"
