फेसबुक ने कहा कि वह पोस्ट और टिप्पणियों में टकराव को रोकने के लिए ग्रुप्स में आर्टिफिशियल इंटेलिजेंस मॉडरेटिंग टेक्नोलॉजी का परीक्षण कर रहा है।
नए AI-संचालित टूल को Conflict Alerts कहा जाता है और इसका उद्देश्य समूह व्यवस्थापकों को अपने समुदायों पर अधिक नियंत्रण रखने में मदद करना है। यदि एआई तकनीक "विवादास्पद या अस्वस्थ बातचीत" को देखती है तो एक व्यवस्थापक को सूचित करेगा ताकि एक व्यवस्थापक आवश्यक कार्रवाई जल्दी कर सके।
औसत फेसबुक उपयोगकर्ता के लिए, इस नए टूल का मतलब है कि आप अपने द्वारा अनुसरण किए जाने वाले समूहों की पोस्ट के भीतर कम कलह और तर्क देखेंगे, इसलिए चीजें कम नकारात्मक होंगी, कुल मिलाकर।
जब उपयोगकर्ता विशिष्ट शब्दों या वाक्यांशों के साथ टिप्पणी करते हैं तो एडमिन अलर्ट बनाने के लिए कॉन्फ्लिक्ट अलर्ट टूल का उपयोग कर सकते हैं, और मशीन लर्निंग इन उदाहरणों को किसी व्यवस्थापक को होने पर सचेत करने के लिए खोज सकता है। यह टूल व्यवस्थापकों को विशिष्ट लोगों और पोस्ट के लिए गतिविधि सीमित करने की भी अनुमति देता है।
फेसबुक ने द वर्ज को बताया कि मशीन लर्निंग "कई संकेतों का उपयोग करेगा जैसे कि उत्तर समय और टिप्पणी की मात्रा यह निर्धारित करने के लिए कि उपयोगकर्ताओं के बीच जुड़ाव नकारात्मक बातचीत है या हो सकता है।"
फेसबुक पहले से ही अपने प्लेटफॉर्म पर अन्य प्रकार की सामग्री को ध्वजांकित करने के लिए एआई टूल का उपयोग करता है, जिसमें अभद्र भाषा भी शामिल है। अगस्त 2020 की सामुदायिक मानक प्रवर्तन रिपोर्ट के अनुसार, अभद्र भाषा के लिए फेसबुक का एआई टूल 2020 की पहली तिमाही के 89% की तुलना में 95% सटीक था। फेसबुक ने कहा कि उसने पहली तिमाही में 9.6 मिलियन उदाहरणों से अभद्र भाषा सामग्री के खिलाफ अपने कार्यों को बढ़ाया। दूसरी तिमाही में 2020 से 22.5 मिलियन।
औसत फेसबुक उपयोगकर्ता के लिए, इस नए टूल का मतलब है कि आप अपने द्वारा अनुसरण किए जाने वाले समूहों की पोस्ट के भीतर कम कलह और तर्क देखेंगे
सोशल नेटवर्क भी एक एआई तकनीक पर काम कर रहा है जो कच्चे डेटा का उपयोग करके तस्वीरों को "देख" सकता है ताकि मॉडल को खुद को प्रशिक्षित किया जा सके-स्वतंत्र रूप से और एल्गोरिदम का उपयोग किए बिना-क्योंकि यह अधिक छवियों को देखता है। AI प्रोजेक्ट, जिसे SEER के नाम से जाना जाता है, सोशल मीडिया उपयोगकर्ताओं के लिए बेहतर खोज और एक्सेसिबिलिटी टूल लाते हुए अधिक बहुमुखी, सटीक और अनुकूलनीय कंप्यूटर-विज़न मॉडल का मार्ग प्रशस्त कर सकता है।
