मुख्य तथ्य
- एक सॉफ्टवेयर कंपनी कथित तौर पर प्रोफाइल बनाने के लिए सोशल मीडिया जानकारी एकत्र कर रही है जिसका उपयोग सुरक्षा जोखिम वाले लोगों की पहचान करने के लिए किया जा सकता है।
- वोयाजर लैब्स ने एक जापानी सरकारी एजेंसी के साथ एक महत्वपूर्ण समझौता किया है।
- लेकिन विशेषज्ञों ने चेतावनी दी है कि AI भविष्यवाणी सॉफ्टवेयर को बेवकूफ बनाया जा सकता है।
आपकी ऑनलाइन जानकारी का उपयोग यह अनुमान लगाने के लिए किया जा सकता है कि क्या आप अपराध कर सकते हैं।
Voyager Labs कथित तौर पर प्रोफ़ाइल बनाने के लिए सोशल मीडिया जानकारी एकत्र कर रही है जिसका उपयोग सुरक्षा जोखिम वाले लोगों की पहचान करने के लिए किया जा सकता है।यह संभावित अपराधियों की जांच के लिए कृत्रिम बुद्धिमत्ता (एआई) का उपयोग करने के बढ़ते प्रयास का हिस्सा है। लेकिन कुछ विशेषज्ञों का कहना है कि आंदोलन संभावित समस्याओं से भरा हुआ है।
"मानव व्यवहार की भविष्यवाणी करना बहुत कठिन है," एटमसेल ग्रुप के एक सुरक्षा शोधकर्ता मैथ्यू कैर ने एक ईमेल साक्षात्कार में लाइफवायर को बताया। "हम अपने स्वयं के व्यवहार की भविष्यवाणी करने में सक्षम नहीं हैं, किसी और के व्यवहार को छोड़ दें। मुझे लगता है कि यह संभव है कि भविष्य में इस उद्देश्य के लिए एआई का उपयोग किया जा सके, लेकिन हम वर्तमान में ऐसा करने में सक्षम होने से एक लंबा रास्ता तय कर रहे हैं।"
प्रोफाइल बनाना
जैसा कि द गार्जियन ने हाल ही में रिपोर्ट किया था, लॉस एंजिल्स पुलिस विभाग ने वोयाजर लैब के अपराध भविष्यवाणी सॉफ्टवेयर का उपयोग करने पर ध्यान दिया। कंपनी ने यह भी घोषणा की कि उसने एक जापानी सरकारी एजेंसी के साथ एक महत्वपूर्ण समझौता किया है।
जापानी समझौता सरकारी एजेंसी को एआई-आधारित जांच मंच प्रदान करता है जो खुले और गहरे डेटा सहित किसी भी स्रोत से भारी मात्रा में जानकारी का विश्लेषण करता है।
"मुझे खुशी है कि हम आतंकवाद और अपराध के खिलाफ लड़ाई में सहयोग कर रहे हैं," वायेजर लैब्स में एपीएसी की प्रबंध निदेशक दिव्या खंगारोट ने समाचार विज्ञप्ति में कहा। "वोयाजर लैब के अत्याधुनिक खुफिया समाधानों का उपयोग करते हुए, हमारे ग्राहक संभावित खतरों को सक्रिय रूप से पहचानने और बाधित करने के लिए अद्वितीय क्षमताएं प्राप्त करते हैं। हम छिपे हुए ट्रेल्स, उल्लंघन की गई जानकारी को उजागर करने के लिए एआई, मशीन लर्निंग और ओएसआईएनटी के संयोजन का उपयोग करके गहन खोजी अंतर्दृष्टि की अतिरिक्त परतें लाते हैं। और बुरे अभिनेता।"
इतना स्मार्ट नहीं?
लेकिन एक ईमेल साक्षात्कार में, Ferret.ai के सह-संस्थापक, मैट हेसी, जो अपराधियों की भविष्यवाणी करने के लिए AI का उपयोग करता है, ने Voyager Labs के कुछ दावों पर संदेह व्यक्त किया।
"क्या गिरफ्तारी रिकॉर्ड और भविष्य के आपराधिक व्यवहार के बीच एक स्पष्ट संबंध है, जैसा कि एक परीक्षण और एक ट्यूमर के विकास पर एक काला धब्बा है?" उन्होंने कहा। "उस गिरफ्तारी में जाने वाले सभी संभावित भ्रमों के बारे में सोचें- वह व्यक्ति किस पड़ोस में रहता था, उस क्षेत्र में पुलिस की मात्रा और गुणवत्ता, यहां तक कि पूर्वाग्रह भी।उस व्यक्ति की उम्र, उनका लिंग, उनकी शारीरिक बनावट, उन सभी का उस व्यक्ति की गिरफ्तारी रिकॉर्ड होने की संभावना पर परस्पर प्रभाव पड़ता है, जो उस अपराध को करने के लिए उनकी वास्तविक प्रवृत्ति से पूरी तरह से अलग है जिसका हम अनुमान लगाने का प्रयास कर रहे हैं।"
बेहतर वकीलों वाले प्रतिवादी रिकॉर्ड को सार्वजनिक रूप से उपलब्ध होने से रोकने में सक्षम होने की अधिक संभावना रखते हैं, हेसी ने कहा। कुछ न्यायालय अभियुक्तों की सुरक्षा के लिए मुगशॉट या गिरफ्तारी रिकॉर्ड जारी करने को सीमित करते हैं।
"कंप्यूटर आपके द्वारा दिए गए डेटा के आधार पर सीखेगा और उस डेटा संग्रह में शामिल सभी पूर्वाग्रहों को शामिल करेगा…"
"यह सब एल्गोरिदम में और पूर्वाग्रह जोड़ता है," उन्होंने कहा। "कंप्यूटर आपके द्वारा दिए गए डेटा के आधार पर सीखेगा और उस डेटा संग्रह में शामिल सभी पूर्वाग्रहों को सीखने और व्याख्या में शामिल करेगा।"
AI की भविष्यवाणी करने वाले अपराध को पैदा करने के कई प्रयास किए गए हैं, और अक्सर निंदनीय परिणामों के साथ, Heisie ने कहा।
COMPAS, एक एल्गोरिथम कानून प्रवर्तन पुन: उल्लंघन की भविष्यवाणी करने के लिए उपयोग करता है, अक्सर सजा और जमानत का निर्धारण करने में उपयोग किया जाता है। इसने नस्लीय पूर्वाग्रह के लिए 2016 में वापस जाने वाले घोटाले का सामना किया है, यह भविष्यवाणी करते हुए कि काले प्रतिवादियों ने वास्तव में किया था, और सफेद प्रतिवादियों के लिए उल्टा होने का एक उच्च जोखिम था।
हार्वर्ड, एमआईटी, गूगल और माइक्रोसॉफ्ट के शिक्षाविदों और एआई विशेषज्ञों सहित 1,000 से अधिक प्रौद्योगिकीविदों और विद्वानों ने 2020 में एक पेपर के खिलाफ बात की थी जिसमें दावा किया गया था कि शोधकर्ताओं ने एक एल्गोरिदम विकसित किया है जो पूरी तरह से एक पर आधारित आपराधिकता की भविष्यवाणी कर सकता है। व्यक्ति का चेहरा, यह कहते हुए कि इस तरह के अध्ययनों को प्रकाशित करना आपराधिक न्याय प्रणाली में पहले से मौजूद नस्लीय पूर्वाग्रह को पुष्ट करता है, हेसी ने कहा।
चीन इस प्रकार की तकनीक के लिए सबसे बड़ा और सबसे तेजी से बढ़ने वाला बाजार है, मुख्य रूप से निजी डेटा तक व्यापक पहुंच के कारण, 200 मिलियन से अधिक निगरानी कैमरों और उन्नत एआई अनुसंधान के साथ इस मुद्दे पर कई वर्षों से ध्यान केंद्रित किया गया है, हेसी ने कहा.क्लाउडवॉक के पुलिस क्लाउड जैसे सिस्टम का उपयोग अब अपराधियों की भविष्यवाणी करने और उन्हें ट्रैक करने और कानून प्रवर्तन को इंगित करने के लिए किया जाता है।
"हालाँकि, वहाँ भी पर्याप्त पक्षपात की सूचना है," हेसी ने कहा।
Heisie ने कहा कि उनकी कंपनी ध्यान से उस डेटा को क्यूरेट करती है जो अंदर जाता है और मगशॉट्स या गिरफ्तारी रिकॉर्ड का उपयोग नहीं करता है, "इसके बजाय अधिक उद्देश्य मानदंडों पर ध्यान केंद्रित करता है।"
"हमारे एआई ने क्यूरेट किए गए डेटा से सीखा, लेकिन इससे भी महत्वपूर्ण बात यह है कि यह उन लोगों से भी सीखता है, जो खुद रिकॉर्ड का विश्लेषण, क्यूरेट और मूल्यांकन करते हैं, और हमें दूसरों के साथ अपनी बातचीत के बारे में बताते हैं," उन्होंने कहा। "हम पूर्ण पारदर्शिता और हमारे आवेदन के लिए स्वतंत्र और सार्वजनिक पहुंच भी बनाए रखते हैं (जितनी जल्दी हम उन्हें बीटा में दे सकते हैं), और हमारी प्रक्रियाओं और प्रक्रियाओं में अंतर्दृष्टि का स्वागत करते हैं।"
