ट्विटर ने अपने फोटो क्रॉपिंग सिस्टम में पूर्वाग्रह खोजने के लिए अपनी खुली प्रतियोगिता से परिणामों की घोषणा की।
बाउंटी चैलेंज जुलाई में तब खुला जब ट्विटर यूजर्स ने दिखाया कि साइट के ऑटोमेटेड क्रॉपिंग टूल ने गहरे रंग वाले लोगों की तुलना में हल्के रंग वाले लोगों के चेहरों को पसंद किया है। इसने कुछ सवाल उठाए कि कैसे सॉफ्टवेयर ने त्वचा के रंग और कुछ कारकों को दूसरों पर प्राथमिकता दी।
मुद्दों को ठीक करने के लिए क्रॉपिंग सिस्टम के अन्य बग और पूर्वाग्रहों को खोजने के लिए चुनौती की मांग की गई।
पहला स्थान बोगडान कुलिनिच को मिला, जिसके सबमिशन से पता चला कि कैसे ब्यूटी फिल्टर एल्गोरिथम के स्कोरिंग मॉडल को प्रभावित कर सकते हैं, जो बदले में पारंपरिक सौंदर्य मानकों को बढ़ाता है।सबमिशन से पता चला कि एल्गोरिथम ने हल्के या गर्म त्वचा टोन के साथ युवा और पतले चेहरों को प्राथमिकता दी। कुलिनिच ने $3,500 जीते।
दूसरा स्थान टोरंटो में एक टेक स्टार्टअप HALT AI को मिला, जिसने पाया कि बुजुर्गों और विकलांगों की तस्वीरों को तस्वीरों से काट दिया गया था। दूसरे स्थान पर आने के लिए टीम को $2, 000 दिए गए।
तीसरा स्थान, और $500, ताराज़ रिसर्च के संस्थापक रोया पाकज़ाद के पास गया, जिन्होंने अरबी लिपियों पर लैटिन लिपियों को क्रॉप करने के लिए एल्गोरिदम की खोज की, जो भाषाई विविधता को नुकसान पहुंचा सकती है।
विस्तृत परिणाम ट्विटर की मेटा टीम के निदेशक रुम्मन चौधरी द्वारा DEF CON 29 में प्रस्तुत किए गए। मेटा टीम एल्गोरिदम में अनजाने में हुई समस्याओं का अध्ययन करती है और इस तरह के सिस्टम में किसी भी प्रकार के लिंग और नस्लीय पूर्वाग्रह को दूर करती है।
इस प्रतियोगिता से प्राप्त डेटा का उपयोग क्रॉपिंग एल्गोरिथम में बग और पूर्वाग्रह को कम करने और अधिक समावेशी वातावरण सुनिश्चित करने में मदद करने के लिए किया जाएगा।
