मुख्य तथ्य
- YouTube का स्वचालित आयु-प्रतिबंधित सॉफ़्टवेयर प्लेटफ़ॉर्म पर LGBTQ+ सामग्री के लिए चिंता का कारण है।
- कंपनी LGBTQ+ कंटेंट क्रिएटर्स के संदेह को मजबूत करने के बारे में विवादों से घिरी हुई है।
- मशीन लर्निंग में पूर्वाग्रह इस विचार को बल देता है कि इसके फिल्टर के अपूर्ण कार्यान्वयन से पहुंच को अनुचित रूप से प्रतिबंधित करने की संभावना है।
अपनी मॉडरेशन प्रक्रिया में LGBTQ+ कंटेंट क्रिएटर्स को गलत तरीके से लक्षित करने के इतिहास के साथ, YouTube की नई AI-आधारित तकनीक को टेक दिग्गज के लिए एक परेशान करने वाला अगला कदम माना जाता है।
पिछले सप्ताह आधिकारिक YouTube ब्लॉग पर, वीडियो-साझाकरण प्लेटफ़ॉर्म ने युवा दर्शकों के लिए अनुपयुक्त समझे जाने वाले वीडियो पर "अधिक लगातार आयु प्रतिबंध लागू करने" के लिए एक नया स्वचालित सॉफ़्टवेयर जारी करने की योजना का अनावरण किया।
ऐप पर बच्चों के बारे में हाल की चिंताओं से प्रेरित, नई प्रणाली मशीन-लर्निंग आर्टिफिशियल इंटेलिजेंस सॉफ़्टवेयर पर आधारित है, जिसमें अधिक स्वचालित प्रक्रिया के लिए मानव मध्यस्थों को छोड़ने की क्षमता है। समस्या? YouTube के स्वचालित सिस्टम पर LGBTQ+ सामग्री और रचनाकारों को केवल मौजूदा के लिए अलग करने का आरोप लगाया गया है।
भले ही यह दुर्भावनापूर्ण न हो, जो मुझे नहीं लगता कि यह विविध आवाजों से इनपुट की कमी है-या कम से कम सम्मान की कमी है।
"मशीन लर्निंग को मनुष्यों द्वारा सूचित और निर्मित किया जाता है, और उन पूर्वाग्रहों को इसमें निहित या मशीन द्वारा ही सीखा जाना संभव है," YouTuber रोवन एलिस ने लाइफवायर के साथ एक फोन साक्षात्कार में कहा। "[LGBTQ+] सामग्री के संबंध में इसका पूर्वाग्रह [LGBTQ+] YouTubers के पिछले अनुभवों में स्पष्ट हुआ है, और मैंने इस बात के प्रमाण नहीं देखे हैं कि ऐसा होने से रोकने के लिए कुछ भी किया गया है।"
बेबी, अब हमारा खून खराब हो गया है
एलिस एक YouTuber है जो एक नारीवादी और क्वीर बेंट के साथ शैक्षिक सामग्री बनाती है, और 2017 में उसने कंपनी के प्रतिबंधित मोड पर एक वीडियो प्रकाशित किया। स्वचालित सामग्री मॉडरेशन में प्रारंभिक प्रयास के रूप में, इस मोड ने उपयोगकर्ताओं को वैकल्पिक रूप से खोज सुझावों और अनुशंसाओं से "संभावित रूप से परिपक्व सामग्री" को प्री-स्क्रीन करने की अनुमति दी।
100,000 से अधिक बार देखा गया, उनका मानना है कि मॉडरेशन की ओर YouTube के नए कदम की ज्यादतियों के खिलाफ उनके मुखर विरोध के कारण उनके चैनल को प्रतिबंध से रोकने के लिए एक सचेत प्रयास किया गया था। मंच पर अन्य उपयोगकर्ता इतने भाग्यशाली नहीं थे, और उन्होंने YouTube को इसके बारे में बताया।
यूट्यूब के खिलाफ अगस्त 2019 में आठ LGBTQ+ क्रिएटर्स के एक समूह द्वारा क्लास-एक्शन मुकदमा दायर किया गया था, जिन्होंने सिलिकॉन वैली कंपनी पर क्वीर और ट्रांस वीडियो निर्माताओं और सामग्री को प्रतिबंधित करने का आरोप लगाया था। मुकदमे में आरोप लगाया गया है कि साइट "गैरकानूनी सामग्री विनियमन, वितरण और मुद्रीकरण प्रथाओं का उपयोग करती है जो एलजीबीटी वादी और अधिक एलजीबीटी समुदाय को कलंकित, प्रतिबंधित, ब्लॉक, विमुद्रीकरण और आर्थिक रूप से नुकसान पहुंचाती है।" यह अभी भी कैलिफ़ोर्निया अदालतों के माध्यम से अपना रास्ता बना रहा है।
मशीन लर्निंग मनुष्यों द्वारा सूचित और निर्मित की जाती है, और उन पूर्वाग्रहों को इसमें निहित या मशीन द्वारा ही सीखा जाना संभव है।
उसी वर्ष जून में, लोकप्रिय रूढ़िवादी टिप्पणीकार स्टीवन क्राउडर को एक महीने तक चलने वाले, वोक्स पत्रकार और मेजबान कार्लोस माज़ा के खिलाफ समलैंगिक उत्पीड़न अभियान के लिए तेजी से फटकार लगाने से इनकार करने के बाद मंच पर मीडिया का ध्यान आकर्षित हुआ। एलिस ने जो कहा, वह इस बात को पुख्ता करता है कि कतार के रचनाकारों का सामना करने वाली अनूठी चुनौतियों को अनदेखा करने के ऑनलाइन प्लेटफॉर्म के साथ एक पैटर्न है। LGBTQ+ क्रिएटर्स का YouTube की क्षमता में विश्वास की कमी उनके लिए दिखाने की योग्यता के बिना नहीं है।
"मुझे नहीं लगता कि उन्होंने सामाजिक मुद्दों के संबंध में पारदर्शिता और समानता सुनिश्चित करने की आवश्यकता को समझा है," उसने कहा। "दुनिया भर में अभी भी ऐसे बच्चे हैं जो इस विचार के साथ बड़े हुए हैं कि समलैंगिक होना गलत है, और जब वे उस विश्वास पर सवाल उठाना शुरू करते हैं, लेकिन एक सुरक्षित खोज या प्रतिबंध से इसे बंद पाते हैं, तो यह इस विचार को मजबूत करेगा कि यह गलत, अनुचित, वयस्क, विकृत और गंदा है।"
अपने आप सीखने में विफल
अपने प्लेटफॉर्म पर LGBTQ+ कंटेंट क्रिएटर्स के बारे में अपने घिनौने इतिहास के साथ, मशीन लर्निंग सॉफ्टवेयर की क्षमता के कार्यान्वयन के बारे में चिंताएं अधिक मानदंडों को समझने के लिए अभी भी करघे हैं। मार्ककुला सेंटर फॉर एप्लाइड एथिक्स के कार्यकारी निदेशक डॉन हेइडर ने सुझाव दिया कि मूर्खता की संभावना जुआ खेलने के लिए बहुत बड़ा जोखिम है।
"यह विश्वास करना मुश्किल है कि एआई विभिन्न सांस्कृतिक मानदंडों और मानकों के साथ कई देशों की सामग्री को प्रभावी ढंग से नियंत्रित कर सकता है," उन्होंने एक ईमेल साक्षात्कार में लिखा। "एआई को अक्सर जटिल प्रश्नों के उत्तर के रूप में देखा जाता है। इस बिंदु पर, एआई और इसे जिस तरह से बनाया गया है, वह सरल कार्यों से निपटने के लिए संघर्ष करता है, किसी भी स्तर की जटिलता के साथ किसी भी सामग्री मॉडरेशन को छोड़ दें।"
यूट्यूब ने अपने ब्लॉग के अनुसार मानव मॉडरेटर द्वारा लगातार मॉडरेशन की कमी के कारण एआई तकनीक के उपयोग का निर्णय लिया। अनुपयुक्त समझे जाने वाले वीडियो को हटाने के लिए कम्प्यूटरीकृत फिल्टर के उपयोग को बढ़ाना आदर्श बन गया है, और इसकी आयु-प्रतिबंध नीतियों के लिए समान प्रक्रियाओं को लागू करना एक तार्किक अगले चरण के रूप में देखा जाता है।
बाल उपभोक्ताओं के साथ अपने संबंधों के संबंध में लंबे समय से चली आ रही आलोचनाओं के बाद धीरे-धीरे अपनी प्रक्रियाओं में सुधार की मांग करने वाली कंपनी के रूप में, यह निर्णय कोई आश्चर्य की बात नहीं है।
मुझे नहीं लगता कि उन्होंने सामाजिक मुद्दों के संबंध में पारदर्शिता और समानता सुनिश्चित करने की आवश्यकता को समझा है।
बच्चे वीडियो-साझाकरण साइट के लिए एक प्रमुख जनसांख्यिकीय बन गए हैं। अगस्त में, डिजिटल-वीडियो एनालिटिक्स फर्म ट्यूबलर ने पाया कि संगीत वीडियो के अलावा, YouTube पर सबसे अधिक देखे जाने वाले वीडियो के लिए महीने के अंत में बच्चों पर लक्षित सामग्री सबसे ऊपर है।
प्लेटफॉर्म पर इस आकर्षक, उभरते पावरहाउस की रक्षा करने में कंपनी की दिलचस्पी समझ में आती है। हालाँकि, इस सुरक्षा को लागू करने के लिए उपयोग किए जाने वाले उपकरण उन लोगों के लिए असुविधाजनक हैं, जो पहले से ही खुद को कंपनी की मॉडरेशन प्रक्रियाओं से नीचे की ओर पा चुके हैं।
"मेरी चिंता यह है कि यह बहुत नुकसान करेगा और [LGBTQ+] युवाओं की रक्षा नहीं करेगा, जिन्हें सूचनात्मक, स्पष्ट और ईमानदार सामग्री की आवश्यकता है जो कि बहुत से [LGBTQ+] YouTubers प्रदान कर सकते हैं, लेकिन इसके सिस्टम में फ़्लैग हो जाते हैं अनुचित के रूप में," एलिस ने कहा।"भले ही यह दुर्भावनापूर्ण न हो, जो मुझे नहीं लगता कि यह विविध आवाज़ों से इनपुट की कमी है-या कम से कम सम्मान की कमी है।
"हम देखते हैं कि तकनीक में हर समय। जब आप चेहरे की पहचान को अलग-अलग काले चेहरों में अंतर करने में विफल होते हुए देख रहे हैं, या जब हम दवा को देखते हैं और देखते हैं कि दवा का परीक्षण केवल एक विशेष लिंग पर किया गया है। ये बड़े वार्तालाप हैं, और YouTube इससे मुक्त नहीं है।"
