मुख्य तथ्य
- एआई और मशीन लर्निंग एल्गोरिदम मानव व्यवहार को देख रहे हैं और इसमें हेरफेर करना सीख सकते हैं, विशेषज्ञों का कहना है।
- शोधकर्ताओं ने हाल ही में एआई का उपयोग करके लोगों द्वारा चुनाव करने के तरीकों में कमजोरियों को खोजने और उनका फायदा उठाने का एक तरीका बनाया है।
- सबसे परिष्कृत सोशल मीडिया एल्गोरिदम अभी टिकटॉक है, एक पर्यवेक्षक का कहना है।
आर्टिफिशियल इंटेलिजेंस (एआई) और मशीन लर्निंग एल्गोरिदम तेजी से सीख रहे हैं कि उपयोगकर्ताओं के व्यवहार को कैसे प्रभावित किया जाए, विशेषज्ञों का कहना है।
ऑस्ट्रेलिया की राष्ट्रीय विज्ञान एजेंसी के शोधकर्ताओं ने हाल ही में एआई का उपयोग करके लोगों द्वारा चुनाव करने के तरीकों में कमजोरियों को खोजने और उनका फायदा उठाने का एक तरीका बनाया है। नवीनतम शोध मानव निर्णय लेने में हेरफेर करने के लिए डिज़ाइन किए गए एआई-संचालित प्रणालियों की एक लहर में से एक है।
"ऐसे कई तरीकों का कोई अंत नहीं है जिनमें एआई पहले से ही व्यवहार को प्रभावित कर रहा है," केंटारो टोयामा, मिशिगन विश्वविद्यालय के स्कूल ऑफ इंफॉर्मेशन के प्रोफेसर और गीक हेरेसी: रेस्क्यूइंग सोशल चेंज फ्रॉम द कल्ट ऑफ टेक्नोलॉजी के लेखक हैं।, एक ईमेल साक्षात्कार में कहा।
"वास्तव में, यदि आपने कभी Google खोज की है और किसी लिंक पर अनुवर्ती कार्रवाई की है, तो आप एक ऐसे एआई सिस्टम से प्रभावित हुए हैं जिसने आपकी रुचियों का अनुमान लगाया और परिणाम लौटाए जो आपके लिए सबसे अधिक प्रासंगिक थे।"
एआई बनाम इंसान
हाल ही के एक पेपर में प्रकाशित ऑस्ट्रेलियाई शोध में, मानव प्रतिभागियों ने विभिन्न प्रयोगों में कंप्यूटर के खिलाफ गेम खेले। पहले प्रयोग में प्रतिभागियों ने पैसे जीतने के लिए लाल या नीले रंग के बक्सों पर क्लिक किया था।
एआई लगभग 70% समय सफल रहा, प्रतिभागियों की पसंद के पैटर्न को सीखकर और उन्हें एक विशिष्ट विकल्प की दिशा में मार्गदर्शन किया।
एक अन्य प्रयोग में, प्रतिभागियों ने एक स्क्रीन देखी और एक विशेष प्रतीक दिखाए जाने पर एक बटन दबाया, या दूसरे की पेशकश करने पर इसे दबाया नहीं। AI ने प्रतीकों को पुनर्व्यवस्थित करना सीखा, इसलिए प्रतिभागियों ने और त्रुटियां कीं।
प्रयोगों का परिणाम, शोधकर्ताओं ने निष्कर्ष निकाला, कि एआई ने प्रतिभागियों की प्रतिक्रियाओं से सीखा। मशीन ने तब लोगों के निर्णय लेने में कमजोरियों की पहचान की और उन्हें लक्षित किया। वास्तव में, AI प्रतिभागियों को विशेष कार्य करने में हेरफेर कर सकता है।
तथ्य यह है कि एआई या मशीन लर्निंग लोगों को हेरफेर कर सकता है, इसमें कोई आश्चर्य नहीं होना चाहिए, पर्यवेक्षकों का कहना है।
"AI हर दिन हमारे व्यवहार को प्रभावित कर रहा है," यॉर्क कॉलेज ऑफ़ पेनसिल्वेनिया में साइबर सुरक्षा और व्यवसाय प्रशासन की सहायक प्रोफेसर तमारा श्वार्ट्ज़ ने एक ईमेल साक्षात्कार में कहा।
"हम फेसबुक या ट्विटर जैसे सोशल मीडिया अनुप्रयोगों में एल्गोरिदम के बारे में हर समय सुनते हैं। ये एल्गोरिदम संबंधित सामग्री पर हमारा ध्यान निर्देशित करते हैं और 'इको चैम्बर' प्रभाव पैदा करते हैं, जो बदले में हमारे व्यवहार को प्रभावित करता है।"
टिकटॉक देख रहा है
अभी सबसे परिष्कृत सोशल मीडिया एल्गोरिदम टिकटॉक है, श्वार्ट्ज ने कहा। ऐप विश्लेषण करता है कि आप किसमें रुचि रखते हैं, आप कितनी देर तक कुछ देखते हैं, और कितनी जल्दी आप किसी चीज़ को छोड़ देते हैं, फिर आपको देखते रहने के लिए उसके प्रस्तावों को परिष्कृत करता है।
"टिकटॉक इस एआई एल्गोरिदम के कारण अन्य प्लेटफार्मों की तुलना में बहुत अधिक आदी है, जो समझता है कि आपको क्या पसंद है, आप कैसे सीखते हैं, और आप जानकारी कैसे चुनते हैं," उसने जोड़ा। "हम यह जानते हैं क्योंकि उपयोगकर्ता टिकटॉक पर औसत समय 52 मिनट बिताते हैं।"
आर्टिफिशियल इंटेलिजेंस द्वारा मानव व्यवहार में हेरफेर के सकारात्मक उपयोग हो सकते हैं, एआई कंपनी पाथमाइंड के सीईओ क्रिस निकोलसन ने एक ईमेल साक्षात्कार में तर्क दिया। सार्वजनिक स्वास्थ्य एजेंसियां, उदाहरण के लिए, लोगों को बेहतर निर्णय लेने के लिए प्रोत्साहित करने के लिए AI का उपयोग कर सकती हैं।
"हालांकि, सोशल मीडिया, वीडियो गेम निर्माता, विज्ञापनदाता और सत्तावादी शासन लोगों को ऐसे निर्णय लेने के लिए प्रोत्साहित करने के तरीकों की तलाश कर रहे हैं जो उनके सर्वोत्तम हित में नहीं हैं, और इससे उन्हें ऐसा करने के लिए नए उपकरण मिलेंगे, " उसने जोड़ा।
एआई के व्यवहार को प्रभावित करने वाले नैतिक मुद्दे अक्सर डिग्री के होते हैं, टोयामा ने कहा। एआई केंद्रित विज्ञापन की अनुमति देता है जिसमें व्यक्तिगत प्राथमिकताओं और कमजोरियों का फायदा उठाया जा सकता है।
"यह संभव है, उदाहरण के लिए, एआई सिस्टम के लिए उन लोगों की पहचान करना जो धूम्रपान छोड़ने की कोशिश कर रहे हैं और उन्हें आकर्षक सिगरेट विज्ञापनों के साथ जोड़ना है," उन्होंने कहा।
हर कोई इस बात से सहमत नहीं है कि मानव व्यवहार में एआई हेरफेर समस्याग्रस्त है। शास्त्रीय मनोविज्ञान और एआई दोनों डेटा का निरीक्षण करते हैं, स्टीवंस इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस के निदेशक जेसन जे। कोरसो ने एक ईमेल साक्षात्कार में बताया।
"मानव वैज्ञानिक शायद मानव व्यवहार के अवलोकन और आसवन सिद्धांतों को सामान्य बनाने में बेहतर हैं जो अधिक व्यापक रूप से लागू हो सकते हैं जबकि एआई मॉडल समस्या-विशिष्ट बारीकियों की पहचान करने के लिए अधिक उत्तरदायी होंगे," कोरसो ने कहा।
"नैतिक दृष्टिकोण से, मुझे इनमें कोई अंतर नहीं दिखता।"
