मुख्य तथ्य
- एक नया सॉफ्टवेयर टूल एआई को अभद्र भाषा के लिए इंटरनेट टिप्पणियों की निगरानी करने की अनुमति देता है।
- इंटरनेट सामग्री को मॉडरेट करने के लिए एआई की आवश्यकता है क्योंकि भारी मात्रा में सामग्री मानव क्षमताओं से आगे निकल जाती है।
- लेकिन कुछ विशेषज्ञों का कहना है कि भाषण की AI निगरानी गोपनीयता की चिंता पैदा करती है।
जैसे-जैसे ऑनलाइन अभद्र भाषा बढ़ती है, एक कंपनी का कहना है कि उसके पास ऐसा समाधान हो सकता है जो मानव मध्यस्थों पर निर्भर न हो।
स्पेक्ट्रम लैब्स नामक स्टार्टअप प्लेटफॉर्म प्रदाताओं को वास्तविक समय में जहरीले एक्सचेंजों का पता लगाने और उन्हें बंद करने के लिए कृत्रिम बुद्धिमत्ता तकनीक प्रदान करता है। लेकिन विशेषज्ञों का कहना है कि AI मॉनिटरिंग से प्राइवेसी की समस्या भी पैदा होती है।
"एआई मॉनिटरिंग के लिए अक्सर समय के साथ पैटर्न को देखने की आवश्यकता होती है, जो डेटा को बनाए रखने की आवश्यकता होती है," डेविड मूडी, एक सुरक्षा और गोपनीयता अनुपालन मूल्यांकन कंपनी, स्केलमैन के एक वरिष्ठ सहयोगी, ने एक ईमेल साक्षात्कार में लाइफवायर को बताया। "इस डेटा में वह डेटा शामिल हो सकता है जिसे कानूनों ने गोपनीयता डेटा (व्यक्तिगत रूप से पहचान योग्य जानकारी या PII) के रूप में फ़्लैग किया है।"
अधिक अभद्र भाषा
स्पेक्ट्रम लैब्स अभद्र भाषा की सदियों पुरानी समस्या के लिए एक उच्च तकनीक समाधान का वादा करती है।
"औसतन, हम प्लेटफ़ॉर्म को सामग्री मॉडरेशन प्रयासों को 50% तक कम करने और विषाक्त व्यवहार का पता लगाने में 10x तक की वृद्धि करने में मदद करते हैं," कंपनी अपनी वेबसाइट पर दावा करती है।
स्पेक्ट्रम का कहना है कि इसने 40 से अधिक व्यवहार पहचान मॉडल बनाने के लिए विशिष्ट हानिकारक व्यवहारों में विशेषज्ञता वाले अनुसंधान संस्थानों के साथ काम किया। कंपनी का गार्जियन कंटेंट मॉडरेशन प्लेटफॉर्म डेटा वैज्ञानिकों और मॉडरेटर्स की एक टीम द्वारा "विषाक्तता से समुदायों की सुरक्षा का समर्थन करने के लिए" बनाया गया था।"
अभद्र भाषा का मुकाबला करने के तरीकों की बढ़ती आवश्यकता है क्योंकि मानव के लिए ऑनलाइन ट्रैफ़िक के हर टुकड़े की निगरानी करना असंभव है, असेंबलीएआई के सीईओ डायलन फॉक्स, एक स्टार्टअप जो भाषण मान्यता प्रदान करता है और ग्राहकों को नफरत की निगरानी में शामिल करता है भाषण, एक ईमेल साक्षात्कार में लाइफवायर को बताया।
"अकेले ट्विटर पर एक दिन में लगभग 500 मिलियन ट्वीट होते हैं," उन्होंने कहा। "यहां तक कि अगर एक व्यक्ति हर 10 सेकंड में एक ट्वीट की जांच कर सकता है, तो ट्विटर को ऐसा करने के लिए 60 हजार लोगों को रोजगार देने की आवश्यकता होगी। इसके बजाय, हम प्रक्रिया को स्वचालित करने के लिए एआई जैसे स्मार्ट टूल का उपयोग करते हैं।"
मनुष्य के विपरीत, AI 24/7 काम कर सकता है और संभावित रूप से अधिक न्यायसंगत हो सकता है क्योंकि इसे बिना किसी व्यक्तिगत विश्वास के सभी उपयोगकर्ताओं के लिए समान रूप से अपने नियमों को लागू करने के लिए डिज़ाइन किया गया है, फॉक्स ने कहा। उन लोगों के लिए भी लागत है जिन्हें सामग्री की निगरानी और मॉडरेट करना है।
"उन्हें हिंसा, घृणा और घिनौने कृत्यों के संपर्क में लाया जा सकता है, जो किसी व्यक्ति के मानसिक स्वास्थ्य के लिए हानिकारक हो सकता है," उन्होंने कहा।
स्पेक्ट्रम एकमात्र ऐसी कंपनी नहीं है जो ऑनलाइन अभद्र भाषा का स्वतः पता लगाना चाहती है। उदाहरण के लिए, सेंटर मलेशिया ने हाल ही में मलेशियाई नेटिज़न्स के बीच अभद्र भाषा को खोजने के लिए डिज़ाइन किया गया एक ऑनलाइन ट्रैकर लॉन्च किया। उन्होंने जो सॉफ्टवेयर विकसित किया, उसे ट्रैकर बेन्सी कहा जाता है, जो विशेष रूप से ट्विटर पर अभद्र भाषा का पता लगाने के लिए मशीन लर्निंग का उपयोग करता है।
चुनौती यह है कि ऐसी जगह कैसे बनाई जाए जिसमें लोग वास्तव में एक दूसरे के साथ रचनात्मक रूप से जुड़ सकें।
गोपनीयता की चिंता
जबकि स्पेक्ट्रम जैसे तकनीकी समाधान ऑनलाइन अभद्र भाषा से लड़ सकते हैं, वे यह भी सवाल उठाते हैं कि कंप्यूटर को कितना पुलिसिंग करना चाहिए।
बोलने की स्वतंत्रता के निहितार्थ हैं, लेकिन केवल उन वक्ताओं के लिए नहीं जिनके पदों को अभद्र भाषा के रूप में हटा दिया जाएगा, सांता क्लारा विश्वविद्यालय में मार्ककुला सेंटर फॉर एप्लाइड एथिक्स में इंटरनेट नैतिकता के निदेशक इरिना रायकू ने एक ईमेल में लाइफवायर को बताया। साक्षात्कार।
"'अभिव्यक्ति की स्वतंत्रता' के नाम पर उत्पीड़न की अनुमति देने से ऐसे भाषण के लक्ष्य (विशेषकर जब विशेष व्यक्तियों के उद्देश्य से) ने बोलना बंद कर दिया है-विभिन्न वार्तालापों और प्लेटफार्मों को पूरी तरह से छोड़ दिया है," रायकू ने कहा।"चुनौती यह है कि कैसे रिक्त स्थान बनाया जाए जिसमें लोग वास्तव में एक दूसरे के साथ रचनात्मक रूप से जुड़ सकें।"
अगर कंपनियां निगरानी के दौरान सार्वजनिक रूप से उपलब्ध जानकारी का उपयोग करती हैं, तो एआई भाषण निगरानी को गोपनीयता के मुद्दों को नहीं उठाना चाहिए, फॉक्स ने कहा। हालांकि, अगर कंपनी समस्याग्रस्त उपयोगकर्ताओं की पूर्व-पहचान के लिए अन्य प्लेटफार्मों पर उपयोगकर्ता कैसे इंटरैक्ट करती है, इस पर विवरण खरीदती है, तो इससे गोपनीयता संबंधी चिंताएं बढ़ सकती हैं।
"यह निश्चित रूप से एक ग्रे क्षेत्र का एक सा हो सकता है, आवेदन पर निर्भर करता है," उन्होंने कहा।
स्पेक्ट्रम लैब्स के सीईओ जस्टिन डेविस ने एक ईमेल में लाइफवायर को बताया कि कंपनी की तकनीक डेटा की 2 से 5 हजार पंक्तियों की समीक्षा एक सेकंड के अंश में कर सकती है। "सबसे महत्वपूर्ण बात यह है कि प्रौद्योगिकी मानव मध्यस्थों के संपर्क में आने वाली जहरीली सामग्री की मात्रा को कम कर सकती है," उन्होंने कहा।
हम मानव भाषण और पाठ ऑनलाइन की निगरानी में एआई में एक क्रांति के कगार पर हो सकते हैं। मूडी ने कहा कि भविष्य की प्रगति में बेहतर स्वतंत्र और स्वायत्त निगरानी क्षमताएं शामिल हैं, जो पहले के अज्ञात रूपों की अभद्र भाषा या किसी भी अन्य सेंसर योग्य पैटर्न की पहचान करने के लिए विकसित होंगी, मूडी ने कहा।
एआई जल्द ही विशिष्ट भाषण पैटर्न में पैटर्न को पहचानने और समाचार विश्लेषण, सार्वजनिक फाइलिंग, ट्रैफिक पैटर्न विश्लेषण, भौतिक निगरानी और कई अन्य विकल्पों के माध्यम से स्रोतों और उनकी अन्य गतिविधियों को जोड़ने में सक्षम होगा, उन्होंने कहा।
लेकिन कुछ विशेषज्ञों का कहना है कि अभद्र भाषा पर नजर रखने के लिए मनुष्यों को हमेशा कंप्यूटर के साथ काम करने की आवश्यकता होगी।
"अकेले AI से काम नहीं चलेगा," रायकू ने कहा। "इसे एक अपूर्ण उपकरण के रूप में पहचाना जाना चाहिए जिसका उपयोग अन्य प्रतिक्रियाओं के संयोजन के साथ किया जाना है।"
सुधार 1/25/2022: प्रकाशन के बाद के ईमेल को दर्शाने के लिए अंत से 5वें पैराग्राफ में जस्टिन डेविस का जोड़ा गया उद्धरण।
