मुख्य तथ्य
- ऐसा लगता है कि DALL-E2 नामक AI सिस्टम ने लिखित संचार की अपनी प्रणाली बनाई है।
- कुछ विशेषज्ञों का कहना है कि स्पष्ट भाषा सिर्फ अस्पष्ट हो सकती है।
- यह इस बात का उदाहरण है कि उन्नत AI सिस्टम के परिणामों की व्याख्या करना कितना कठिन है।
ऐसा लगता है कि आर्टिफिशियल इंटेलिजेंस (एआई) ने अपनी भाषा विकसित कर ली है, लेकिन कुछ विशेषज्ञ इस दावे पर संदेह कर रहे हैं।
ओपनएआई के टेक्स्ट-टू-इमेज एआई सिस्टम जिसे DALL-E2 कहा जाता है, ने लिखित संचार की अपनी प्रणाली बनाई है। यह इस बात का उदाहरण है कि उन्नत AI सिस्टम के परिणामों की व्याख्या करना कितना कठिन है।
"बड़े मॉडल के आकार और गहराई के कारण, मॉडल के व्यवहार की व्याख्या करना बहुत मुश्किल है," आईमेरिट में प्राकृतिक भाषा समझ के लिए समाधान वास्तुकला के निदेशक टेरेसा ओ'नील ने एक ईमेल साक्षात्कार में लाइफवायर को बताया। "यह मुख्य चुनौतियों में से एक है, और कुछ मामलों में, तेजी से शक्तिशाली मॉडल के साथ नैतिक मुद्दे। अगर हम यह नहीं समझा सकते हैं कि वे क्यों व्यवहार करते हैं, तो क्या हम उनके व्यवहार की भविष्यवाणी कर सकते हैं या इसे हमारे मानदंडों और अपेक्षाओं के अनुरूप रख सकते हैं?"
एआई चैट
कंप्यूटर साइंस के छात्र जियानिस दारास ने हाल ही में नोट किया कि DALLE-2 सिस्टम, जो टेक्स्ट इनपुट के आधार पर इमेज बनाता है, कुछ परिस्थितियों में बकवास शब्दों को टेक्स्ट के रूप में वापस कर देगा।
"डेल -2 की एक ज्ञात सीमा यह है कि यह पाठ के साथ संघर्ष करता है," उन्होंने प्रीप्रिंट सर्वर Arxiv पर प्रकाशित एक पेपर में लिखा था। "उदाहरण के लिए, टेक्स्ट इस तरह के संकेत देता है: 'एयरप्लेन शब्द की एक छवि' अक्सर ऐसी छवियां उत्पन्न करती है जो अस्पष्ट पाठ को दर्शाती हैं।"
लेकिन, दारस ने लिखा, जाहिरा तौर पर अस्पष्टता के पीछे एक तरीका हो सकता है। "हमें पता चलता है कि यह निर्मित पाठ यादृच्छिक नहीं है, बल्कि एक छिपी हुई शब्दावली को प्रकट करता है जिसे मॉडल आंतरिक रूप से विकसित हुआ लगता है," उन्होंने जारी रखा। "उदाहरण के लिए, जब इस अस्पष्ट पाठ के साथ खिलाया जाता है, तो मॉडल अक्सर हवाई जहाज का उत्पादन करता है।"
अपने ट्वीट में, दारास ने बताया कि जब DALLE-2 को दो किसानों के बीच बातचीत को सबटाइटल करने के लिए कहा गया, तो इसमें उन्हें बात करते हुए दिखाया गया, लेकिन भाषण के बुलबुले बेतुके शब्दों से भरे हुए थे। लेकिन दारस ने पाया कि एआई के लिए शब्दों का अपना अर्थ था: किसान सब्जियों और पक्षियों के बारे में बात कर रहे थे।
एआई के साथ काम करने वाली टेक कंपनी हुप्री के सीईओ निकोला डावोलियो ने एक ईमेल साक्षात्कार में लाइफवायर को समझाया कि भाषा उन प्रतीकों पर आधारित है जिन्हें DALL-E2 सिस्टम ने कुछ अवधारणाओं के साथ जोड़ना सीखा है। उदाहरण के लिए, "कुत्ते" का प्रतीक कुत्ते की तस्वीर से संबंधित हो सकता है, जबकि "बिल्ली" का प्रतीक बिल्ली की तस्वीर से जुड़ा हो सकता है।DALL-E2 ने अपनी भाषा बनाई है क्योंकि यह इसे अन्य AI सिस्टम के साथ अधिक प्रभावी ढंग से संवाद करने में सक्षम बनाता है।
पहेलियाँ जैसे DALL-E2 की स्पष्ट रूप से छिपी शब्दावली कुश्ती के लिए मज़ेदार हैं, लेकिन वे भारी प्रश्नों को भी उजागर करती हैं…
"भाषा उन प्रतीकों से बनी है जो मिस्र के चित्रलिपि की तरह दिखते हैं और इसका कोई विशिष्ट अर्थ नहीं है," उन्होंने कहा। "प्रतीक शायद मनुष्यों के लिए अर्थहीन हैं, लेकिन वे एआई सिस्टम के लिए सही मायने रखते हैं क्योंकि इसे लाखों छवियों पर प्रशिक्षित किया गया है।"
शोधकर्ताओं का मानना है कि एआई सिस्टम ने छवियों और शब्दों के बीच संबंधों को बेहतर ढंग से समझने में मदद करने के लिए भाषा का निर्माण किया, दावोलियो ने कहा।
"उन्हें यकीन नहीं है कि एआई सिस्टम ने अपनी भाषा क्यों विकसित की, लेकिन उन्हें संदेह है कि इसका कुछ लेना-देना हो सकता है कि यह कैसे चित्र बनाना सीख रहा था," दावोलियो ने कहा। "यह संभव है कि एआई सिस्टम ने विभिन्न नेटवर्क भागों के बीच संचार को और अधिक कुशल बनाने के लिए अपनी भाषा विकसित की हो।"
एआई रहस्य
DALL-E2 एकमात्र AI सिस्टम नहीं है जिसने अपनी आंतरिक भाषा विकसित की है, Davolio ने बताया। 2017 में, Google के AutoML सिस्टम ने किसी दिए गए कार्य को पूरा करने का सर्वोत्तम तरीका तय करने के लिए छोड़े जाने के बाद 'चाइल्ड नेटवर्क' नामक तंत्रिका वास्तुकला का एक नया रूप बनाया। यह चाइल्ड नेटवर्क इसके मानव रचनाकारों द्वारा व्याख्या किए जाने में असमर्थ था।
"ये उदाहरण केवल कुछ उदाहरण हैं जिनमें एआई सिस्टम ने उन चीजों को करने के तरीके विकसित किए हैं जिन्हें हम समझा नहीं सकते हैं," दावोलियो ने कहा। "यह एक उभरती हुई घटना है जो समान माप में आकर्षक और खतरनाक है। जैसे-जैसे एआई सिस्टम अधिक जटिल और स्वायत्त हो जाते हैं, हम तेजी से खुद को यह समझने की स्थिति में नहीं पा सकते हैं कि वे कैसे काम करते हैं।"
ओ'नील ने कहा कि उन्हें नहीं लगता कि DALL-E2 अपनी खुद की भाषा बना रहा है। इसके बजाय, उसने कहा कि स्पष्ट भाषाई आविष्कार का कारण शायद थोड़ा अधिक नीरस है।
"एक प्रशंसनीय स्पष्टीकरण एक यादृच्छिक मौका है - एक मॉडल में जो बड़ा है, थोड़ा सा मर्फी का नियम लागू हो सकता है: यदि कोई अजीब चीज हो सकती है, तो शायद यह होगा," ओ'नील ने कहा। दारास के निष्कर्षों पर चर्चा करते हुए एक ट्विटर थ्रेड में अनुसंधान विश्लेषक बेंजामिन हिल्टन द्वारा सुझाई गई एक और संभावना यह है कि वाक्यांश "एपोप्लो वेस्रेराइटैस" का रूप एक जानवर के लिए लैटिन नाम के रूप की नकल करता है। तो सिस्टम ने एव्स के एक नए आदेश को जन्म दिया है, ओ'नील ने जोड़ा।
"DALL-E2 की स्पष्ट रूप से छिपी शब्दावली जैसी पहेलियाँ कुश्ती के लिए मज़ेदार हैं, लेकिन वे बड़े मॉडलों के अक्सर गूढ़ व्यवहार में जोखिम, पूर्वाग्रह और नैतिकता के बारे में भारी प्रश्नों को भी उजागर करती हैं," ओ'नील ने कहा.
