मुख्य तथ्य
- नए शोध से पता चलता है कि सुपर-स्मार्ट आर्टिफिशियल इंटेलिजेंस को नियंत्रित करने का कोई तरीका नहीं हो सकता है।
- एक जर्नल पेपर का तर्क है कि एआई को नियंत्रित करने के लिए हमारे पास वर्तमान की तुलना में कहीं अधिक उन्नत तकनीक की आवश्यकता होगी।
- कुछ विशेषज्ञों का कहना है कि वास्तव में बुद्धिमान एआई हमारे विचार से जल्द ही यहां आ सकता है।
अगर इंसान कभी सुपर-स्मार्ट आर्टिफिशियल इंटेलिजेंस विकसित कर लें, तो इसे नियंत्रित करने का कोई तरीका नहीं हो सकता है, वैज्ञानिकों का कहना है।
एआई को लंबे समय से या तो मानवता की सभी समस्याओं के इलाज के लिए या टर्मिनेटर-शैली के सर्वनाश के रूप में देखा जाता रहा है।हालाँकि, अभी तक AI मानव-स्तर की बुद्धि के करीब भी नहीं आया है। लेकिन आर्टिफिशियल इंटेलिजेंस रिसर्च जर्नल में हाल ही में प्रकाशित एक पेपर के अनुसार, उन्नत एआई पर एक पट्टा रखना इंसानों के लिए बहुत जटिल समस्या हो सकती है।
"एक सुपर-इंटेलिजेंट मशीन जो दुनिया को नियंत्रित करती है, विज्ञान कथा की तरह लगती है," पेपर के सह-लेखकों में से एक, मैनुअल सेब्रियन ने एक समाचार विज्ञप्ति में कहा।
"लेकिन पहले से ही ऐसी मशीनें हैं जो प्रोग्रामर के बिना कुछ महत्वपूर्ण कार्यों को स्वतंत्र रूप से पूरी तरह से समझती हैं कि उन्होंने इसे कैसे सीखा। इसलिए सवाल उठता है कि क्या यह किसी बिंदु पर बेकाबू और मानवता के लिए खतरनाक हो सकता है।"
जल्द आ रहा है आपके पास एक सुपर कंप्यूटर पर
जर्नल पेपर का तर्क है कि एआई को नियंत्रित करने के लिए हमारे पास वर्तमान की तुलना में कहीं अधिक उन्नत तकनीक की आवश्यकता होगी।
अपने अध्ययन में, टीम ने एक सैद्धांतिक रोकथाम एल्गोरिथ्म की कल्पना की जो सुनिश्चित करता है कि एक सुपरइंटेलिजेंट एआई किसी भी परिस्थिति में लोगों को नुकसान नहीं पहुंचा सकता है, पहले एआई के व्यवहार का अनुकरण करके और हानिकारक माने जाने पर इसे रोक देता है।लेकिन लेखकों ने पाया कि ऐसा एल्गोरिथम नहीं बनाया जा सकता है।
"यदि आप सैद्धांतिक कंप्यूटर विज्ञान से समस्या को बुनियादी नियमों तक तोड़ते हैं, तो यह पता चलता है कि एक एल्गोरिदम जो एआई को दुनिया को नष्ट नहीं करने का आदेश देगा, अनजाने में अपने स्वयं के संचालन को रोक सकता है।" जर्मनी में मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन डेवलपमेंट में सेंटर फॉर ह्यूमन एंड मशीन के निदेशक इयाद रहवान ने समाचार विज्ञप्ति में कहा।
"यदि ऐसा होता है, तो आप नहीं जान पाएंगे कि क्या रोकथाम एल्गोरिथ्म अभी भी खतरे का विश्लेषण कर रहा है, या क्या यह हानिकारक एआई को रोकने के लिए बंद हो गया है। वास्तव में, यह रोकथाम एल्गोरिथम को अनुपयोगी बनाता है।"
फ्रांस में इकोले पॉलिटेक्निक में कंप्यूटर विज्ञान के प्रोफेसर माइकलिस वज़ीरगियानिस का तर्क है कि वास्तव में बुद्धिमान एआई हमारे विचार से जल्द ही यहां हो सकता है। "एआई एक मानव कलाकृति है, लेकिन यह तेजी से एक स्वायत्त इकाई बन रही है," उन्होंने लाइफवायर को एक ईमेल में कहा।
"महत्वपूर्ण बिंदु होगा यदि/जब विलक्षणता होती है (यानी, जब एआई एजेंटों को एक इकाई के रूप में चेतना होगी) और इसलिए वे स्वतंत्रता, आत्म-नियंत्रण और अंतिम प्रभुत्व का दावा करेंगे।"
एकवचन आ रहा है
Vazirgiannis सुपर AI के आसन्न आगमन की भविष्यवाणी करने वाला अकेला नहीं है। एआई के खतरे में सच्चे विश्वासी "विलक्षणता" के बारे में बात करना पसंद करते हैं, जो वज़ीरगियानिस बताते हैं कि एआई मानव बुद्धि का स्थान लेगा और "एआई एल्गोरिदम संभावित रूप से अपने अस्तित्व का एहसास करेगा और स्वार्थी और सहकारी व्यवहार करना शुरू कर देगा।"
Google के इंजीनियरिंग निदेशक रे कुर्ज़वील के अनुसार, विलक्षणता 21वीं सदी के मध्य से पहले आ जाएगी। कुर्ज़वील ने फ्यूचरिज्म को बताया, "2029 वह सुसंगत तारीख है जिसकी मैंने भविष्यवाणी की है कि जब कोई एआई एक वैध ट्यूरिंग टेस्ट पास करेगा और इसलिए मानव स्तर की बुद्धि हासिल करेगा।"
अगर हम अपना घर खुद साफ नहीं कर सकते हैं, तो हमें AI को किस कोड का पालन करने के लिए कहना चाहिए?
मैंने 'विलक्षणता' के लिए दिनांक 2045 निर्धारित किया है, जो तब होगा जब हम अपनी बनाई गई बुद्धिमत्ता के साथ विलय करके अपनी प्रभावी बुद्धिमत्ता को एक अरब गुना बढ़ा देंगे।”
लेकिन सभी एआई विशेषज्ञ यह नहीं सोचते कि बुद्धिमान मशीनें एक खतरा हैं। एआई सलाहकार इमैनुएल मैगियोरी ने एक ईमेल साक्षात्कार में कहा कि जो एआई विकास के अधीन है, वह दवा विकास के लिए उपयोगी होने की अधिक संभावना है और कोई वास्तविक बुद्धिमत्ता नहीं दिखा रहा है। "एआई के आसपास एक बड़ा प्रचार है, जो ऐसा लगता है जैसे यह वास्तव में क्रांतिकारी है," उन्होंने कहा। "वर्तमान AI सिस्टम उतने सटीक नहीं हैं जितने प्रचारित हैं, और ऐसी गलतियाँ करते हैं जो एक इंसान कभी नहीं करेगा।"
एआई पर नियंत्रण रखें, अब
एआई को विनियमित करना ताकि यह हमारे नियंत्रण से बच न सके, मुश्किल हो सकता है, वज़ीरगियनिस कहते हैं। कंपनियां, सरकारों के बजाय, एआई को शक्ति देने वाले संसाधनों को नियंत्रित करती हैं। "यहां तक कि एल्गोरिदम, स्वयं, आमतौर पर इन बड़े और शक्तिशाली, आमतौर पर बहुराष्ट्रीय, संस्थाओं के अनुसंधान प्रयोगशालाओं में उत्पादित और तैनात किए जाते हैं," उन्होंने कहा।
"इसलिए, यह स्पष्ट है कि एआई को नियंत्रित करने के लिए आवश्यक संसाधनों पर राज्यों की सरकारों का नियंत्रण कम होता जा रहा है।"
कुछ विशेषज्ञों का कहना है कि सुपरइंटेलिजेंट एआई को नियंत्रित करने के लिए इंसानों को कंप्यूटिंग संसाधनों और इलेक्ट्रिक पावर को मैनेज करना होगा। "द मैट्रिक्स जैसी साइंस फिक्शन फिल्में एक डायस्टोपियन भविष्य के बारे में भविष्यवाणियां करती हैं जहां मनुष्यों को एआई द्वारा जैव-शक्ति स्रोतों के रूप में उपयोग किया जाता है," वज़ीरगियानिस ने कहा।
"भले ही दूरस्थ असंभवताएं, मानव जाति को यह सुनिश्चित करना चाहिए कि कंप्यूटिंग संसाधनों (यानी, कंप्यूटर क्लस्टर, GPU, सुपर कंप्यूटर, नेटवर्क / संचार) पर पर्याप्त नियंत्रण है, और निश्चित रूप से बिजली प्रदान करने वाले बिजली संयंत्र जो पूरी तरह से है एआई के कार्य के लिए हानिकारक।"
एआई को नियंत्रित करने में समस्या यह है कि शोधकर्ता हमेशा यह नहीं समझते हैं कि इस तरह के सिस्टम अपने निर्णय कैसे लेते हैं, डेटा साइंस सॉफ्टवेयर फर्म KNIME के सह-संस्थापक और सीईओ माइकल बर्थोल्ड ने एक ईमेल साक्षात्कार में कहा। "अगर हम ऐसा नहीं करते हैं, तो हम इसे कैसे 'नियंत्रित' कर सकते हैं?"
उन्होंने आगे कहा, "हमें समझ नहीं आता है कि जब हमारे लिए अप्रासंगिक इनपुट के आधार पर एक पूरी तरह से अलग निर्णय लिया जाता है।"
एआई का उपयोग करने के जोखिम को नियंत्रित करने का एकमात्र तरीका यह सुनिश्चित करना है कि इसका उपयोग केवल तभी किया जाए जब वह जोखिम प्रबंधनीय हो, बर्थोल्ड ने कहा। "अलग तरह से कहें, दो चरम उदाहरण: एआई को अपने परमाणु ऊर्जा संयंत्र के प्रभारी न रखें, जहां थोड़ी सी त्रुटि के विनाशकारी दुष्प्रभाव हो सकते हैं," उन्होंने कहा।
"दूसरी ओर, एआई भविष्यवाणी करता है कि यदि आपके कमरे के तापमान को थोड़ा ऊपर या नीचे समायोजित किया जाना चाहिए, तो रहने के आराम के लाभ के लिए छोटे जोखिम के लायक हो सकता है।"
अगर हम एआई को नियंत्रित नहीं कर सकते हैं, तो बेहतर होगा कि हम इसे शिष्टाचार सिखाएं, नासा के पूर्व कंप्यूटर इंजीनियर पीटर स्कॉट ने एक ईमेल साक्षात्कार में कहा। उन्होंने कहा, "आखिरकार, हम एआई की नियंत्रणीयता सुनिश्चित नहीं कर सकते, जितना हम अपने बच्चों को सुनिश्चित कर सकते हैं।"
"हम उन्हें सही तरीके से पालते हैं और अच्छे की उम्मीद करते हैं; अब तक उन्होंने दुनिया को तबाह नहीं किया है। उन्हें अच्छी तरह से पालने के लिए, हमें नैतिकता की बेहतर समझ की जरूरत है, अगर हम अपने घर को साफ नहीं कर सकते हैं, तो क्या कोड क्या हमें AI को अनुसरण करने के लिए कहना चाहिए?"
लेकिन मानव जाति के लिए सभी आशा नहीं खोई है, एआई शोधकर्ता योनातन वेक्सलर, ओरकैम में आर एंड डी के कार्यकारी उपाध्यक्ष कहते हैं। "हालांकि प्रगति वास्तव में प्रभावशाली है, मेरा व्यक्तिगत विश्वास है कि मानव बुद्धि को कम करके नहीं आंका जाना चाहिए," उन्होंने एक ईमेल साक्षात्कार में कहा। "हमने एक प्रजाति के रूप में एआई सहित काफी आश्चर्यजनक चीजें बनाई हैं।"
हमेशा होशियार AI की तलाश जारी है। लेकिन इससे पहले कि बहुत देर हो जाए, इस पर विचार करना बेहतर होगा कि हम अपनी कृतियों को कैसे नियंत्रित करते हैं।
