मुख्य तथ्य
- एल्गोरिदमिक पूर्वाग्रह उन किशोरों के लिए हानिकारक है जो इंटरनेट पर बहुत समय बिताते हैं, विशेषज्ञों का कहना है।
- ट्विटर उपयोगकर्ताओं को हाल ही में एक समस्या का सामना करना पड़ा जिसमें काले चेहरों को गोरे लोगों के पक्ष में काट दिया गया था।
- किशोरों का विकासशील दिमाग विशेष रूप से एल्गोरिथम पूर्वाग्रह के हानिकारक प्रभावों के लिए अतिसंवेदनशील हो सकता है, शोधकर्ताओं का कहना है।
पूर्वाग्रह, जिसे एल्गोरिथम पूर्वाग्रह के रूप में जाना जाता है, कुछ तकनीक में बेक किया गया है, जो कई समूहों के लिए हानिकारक हो सकता है, लेकिन विशेषज्ञों का कहना है कि यह विशेष रूप से किशोरों के लिए हानिकारक है।
एल्गोरिदमिक पूर्वाग्रह, जब कंप्यूटर सिस्टम पूर्वाग्रही परिणाम दिखाते हैं, एक बढ़ती हुई समस्या है। ट्विटर उपयोगकर्ताओं ने हाल ही में मंच पर पूर्वाग्रह का एक उदाहरण पाया जब एक छवि-पहचान एल्गोरिदम जो फसल की तस्वीरें सफेद लोगों के पक्ष में काले चेहरों को काट रहा था। कंपनी ने इस मुद्दे के लिए माफी मांगी, लेकिन अभी तक एक फिक्स जारी नहीं किया है। विशेषज्ञों का कहना है कि यह उस पूर्वाग्रह का एक उदाहरण है जिसका सामना किशोर ऑनलाइन करते समय करते हैं, जो कि वे किसी भी अन्य आयु वर्ग से अधिक करते हैं।
"ज्यादातर किशोर इस बात से अनजान हैं कि सोशल मीडिया कंपनियों ने उन्हें विशिष्ट सामग्री को बढ़ावा देने के लिए जगह दी है जो उन्हें लगता है कि उपयोगकर्ता पसंद करेंगे [क्रम में] उन्हें मंच पर यथासंभव लंबे समय तक रहने के लिए," डॉ माई- ली गुयेन स्टीयर, ड्यूक्सने विश्वविद्यालय में स्कूल ऑफ नर्सिंग में सहायक प्रोफेसर, जो किशोरों / कॉलेज के छात्रों के बीच सोशल मीडिया के उपयोग का अध्ययन करते हैं, ने एक ईमेल साक्षात्कार में कहा।
"भले ही एल्गोरिथम के बारे में कुछ स्तर की चेतना हो, पर्याप्त पसंद और टिप्पणियां न मिलने का प्रभाव अभी भी शक्तिशाली है और किशोरों के आत्म-सम्मान को प्रभावित कर सकता है," स्टीयर जोड़ा।
दिमाग का विकास
एल्गोरिदमिक पूर्वाग्रह किशोरों को अप्रत्याशित तरीकों से प्रभावित कर सकता है क्योंकि उनका प्रीफ्रंटल कॉर्टेक्स अभी भी विकसित हो रहा है, रूटस्ट्रैप के मुख्य डेटा वैज्ञानिक मिकेला पिसानी ने एक ईमेल साक्षात्कार में बताया।
पर्याप्त लाइक और कमेंट न मिलने का प्रभाव अभी भी प्रभावशाली है और किशोरों के आत्मसम्मान को प्रभावित कर सकता है।
"किशोर विशेष रूप से 'सोशल फैक्ट्री' की घटना के प्रति संवेदनशील होते हैं, जहां एल्गोरिदम ऑनलाइन प्लेटफॉर्म पर सामाजिक क्लस्टर बनाते हैं, जिससे किशोरों की सामाजिक स्वीकृति की जरूरतें पूरी नहीं होने पर चिंता और अवसाद हो जाता है," पिसानी ने कहा। "एल्गोरिदम पिछले अपूर्ण डेटा के आधार पर सरल बनाते हैं-पहचान निर्माण के लिए अधिक सूक्ष्म दृष्टिकोणों की कीमत पर रूढ़िवादों के अधिक प्रतिनिधित्व के लिए अग्रणी।
"व्यापक दृष्टिकोण को देखते हुए, हम एक समाज के रूप में सवाल करने के लिए छोड़ दिए जाते हैं, अगर हम चाहते हैं कि एल्गोरिदम हमारे किशोरों की यात्रा को वयस्कता में आकार दे, और क्या यह प्रणाली व्यक्तिगत व्यक्तिगत विकास को रोकने के बजाय समर्थन भी करती है?"
इन समस्याओं के कारण, एल्गोरिदम डिजाइन करते समय किशोरों को ध्यान में रखने की आवश्यकता बढ़ रही है, विशेषज्ञों का कहना है।
"विकासात्मक विशेषज्ञों, डेटा वैज्ञानिकों और युवा अधिवक्ताओं के इनपुट के आधार पर, डेटा गोपनीयता और एल्गोरिथम डिज़ाइन के आसपास 21 वीं सदी की नीतियों का निर्माण किशोरों की विशेष जरूरतों को ध्यान में रखकर भी किया जा सकता है," एविरियल एप्स-डार्लिंग, एक डॉक्टरेट हार्वर्ड के छात्र ने हाल ही में लिखा था। "अगर हम इसके बजाय उन तरीकों को कम करना या अनदेखा करना जारी रखते हैं जो किशोर एल्गोरिथम नस्लवाद के प्रति संवेदनशील हैं, तो आने वाली पीढ़ियों के माध्यम से नुकसान होने की संभावना है।"
पूर्वाग्रह का मुकाबला
जब तक कोई समाधान नहीं हो जाता, कुछ शोधकर्ता पक्षपाती एल्गोरिदम द्वारा युवाओं को हुए नुकसान को कम करने के तरीके खोजने की कोशिश कर रहे हैं।
हस्तक्षेप किशोरों को यह पहचानने पर केंद्रित किया गया है कि उनके सोशल मीडिया पैटर्न उनके मानसिक स्वास्थ्य को नकारात्मक रूप से प्रभावित कर रहे हैं और इसे कम करने के लिए रणनीतियों के साथ आने की कोशिश कर रहे हैं (उदाहरण के लिए, सोशल मीडिया का कम उपयोग), स्टीयर ने कहा।
"हमने जिन कॉलेज के छात्रों का साक्षात्कार लिया है, उनमें से कुछ ने संकेत दिया है कि वे "प्रासंगिक" बने रहने के लिए सामग्री उत्पन्न करने के लिए मजबूर महसूस करते हैं, भले ही वे बाहर जाना या पोस्ट नहीं करना चाहते हों, "उसने जारी रखा। "हालांकि, उन्हें लगता है कि उन्हें अपने अनुयायियों या दोस्तों के साथ अपने संबंध बनाए रखने के लिए सामग्री उत्पन्न करने की आवश्यकता है।"
अंतिम उत्तर कंप्यूटर से मानवीय पूर्वाग्रह को दूर करना हो सकता है। लेकिन चूंकि प्रोग्रामर केवल इंसान होते हैं, इसलिए यह एक कठिन चुनौती है, विशेषज्ञों का कहना है।
रोबोटिक्स फर्म कोडा के मुख्य प्रौद्योगिकी अधिकारी जॉन सूट कहते हैं, एक संभावित समाधान उन कंप्यूटरों को विकसित करना है जो विकेंद्रीकृत हैं और जो कुछ उन्होंने सीखा है उसे भूलने के लिए प्रोग्राम किया गया है।
"एक विकेन्द्रीकृत नेटवर्क के माध्यम से, डेटा और उस डेटा के विश्लेषण को कई बिंदुओं से संकलित और विश्लेषण किया जा रहा है," सूट ने एक ईमेल साक्षात्कार में कहा। "डेटा एकत्र किया जा रहा है और संसाधित किया जा रहा है, इसके एल्गोरिदम की सीमाओं के भीतर एक एआई दिमाग प्रसंस्करण से नहीं, बल्कि सैकड़ों या हजारों।
"जैसा कि डेटा एकत्र और विश्लेषण किया जाता है, पुराने "निष्कर्ष" या अनावश्यक डेटा को भुला दिया जाता है। इस प्रणाली के माध्यम से, एक एल्गोरिदम जो पूर्वाग्रह से शुरू हो सकता है, अंततः सही होगा और गलत साबित होने पर उस पूर्वाग्रह को बदल देगा।"
भले ही पूर्वाग्रह एक पुरानी समस्या हो, लेकिन इससे निपटने के तरीके हो सकते हैं, कम से कम ऑनलाइन। हमारे पूर्वाग्रहों को दूर करने वाले कंप्यूटरों को डिजाइन करना पहला कदम है।
