[ad_1]
तीन सप्ताह के भीतर, नए उपयोगकर्ता का फ़ीड नकली समाचारों और आग लगाने वाली छवियों के एक भंवर में बदल गया। सिर काटने की ग्राफिक तस्वीरें, पाकिस्तान के खिलाफ भारत के हवाई हमले और हिंसा के कट्टरवादी दृश्य थे। “चीजें जो आपको हंसाती हैं” के लिए एक समूह में शामिल हैं फर्जी खबर पाकिस्तान में एक बम विस्फोट में मारे गए 300 आतंकवादियों में से।
फेसबुक व्हिसलब्लोअर फ्रांसेस द्वारा जारी किए गए दस्तावेजों में से एक 46-पृष्ठ के शोध नोट के अनुसार, एक कर्मचारी ने लिखा, “मैंने पिछले 3 हफ्तों में मृत लोगों की अधिक छवियां देखी हैं, जो मैंने अपने पूरे जीवन में देखी हैं।” हौगेन
परीक्षण सार्थक साबित हुआ क्योंकि इसे विशेष रूप से सामग्री की सिफारिश करने में फेसबुक की भूमिका पर ध्यान केंद्रित करने के लिए डिज़ाइन किया गया था। ट्रायल अकाउंट में पश्चिमी भारत के जयपुर शहर में रहने वाली और हैदराबाद की रहने वाली एक 21 वर्षीय महिला की प्रोफाइल का इस्तेमाल किया गया था। उपयोगकर्ता केवल Facebook द्वारा अनुशंसित पृष्ठों या समूहों का अनुसरण करता है या उन अनुशंसाओं के माध्यम से सामना करता है। शोध नोट के लेखक द्वारा अनुभव को “अखंडता दुःस्वप्न” कहा गया था।
जबकि हौगेन के खुलासे ने अमेरिका में हानिकारक सामग्री फैलाने में फेसबुक की भूमिका की एक हानिकारक तस्वीर चित्रित की है, भारत के प्रयोग से पता चलता है कि वैश्विक स्तर पर कंपनी का प्रभाव और भी खराब हो सकता है। फेसबुक कंटेंट मॉडरेशन पर खर्च होने वाला अधिकांश पैसा यूएस जैसे देशों में अंग्रेजी भाषा के मीडिया पर केंद्रित है
लेकिन कंपनी का विकास काफी हद तक भारत, इंडोनेशिया और ब्राजील जैसे देशों से होता है, जहां उसने बुनियादी निरीक्षण करने के लिए भाषा कौशल वाले लोगों को काम पर रखने के लिए संघर्ष किया है। 22 आधिकारिक भाषाओं वाले 1.3 बिलियन लोगों के देश भारत में यह चुनौती विशेष रूप से तीव्र है। फेसबुक ने अपने प्लेटफॉर्म पर सामग्री के लिए एक्सेंचर जैसी कंपनियों के ठेकेदारों को आउटसोर्स करने का प्रयास किया है।
फेसबुक के एक प्रवक्ता ने कहा, ‘हमने हिंदी और बंगाली सहित विभिन्न भाषाओं में अभद्र भाषा खोजने के लिए प्रौद्योगिकी में काफी निवेश किया है। नतीजतन, हमने इस साल लोगों द्वारा देखे जाने वाले अभद्र भाषा की मात्रा को आधा कर दिया है। आज , यह 0.05 प्रतिशत तक कम है। मुसलमानों सहित हाशिए के समूहों के खिलाफ अभद्र भाषा विश्व स्तर पर बढ़ रही है। इसलिए हम प्रवर्तन में सुधार कर रहे हैं और अपनी नीतियों को अपडेट करने के लिए प्रतिबद्ध हैं क्योंकि अभद्र भाषा ऑनलाइन विकसित होती है।’
रिपोर्ट के अनुसार, एक शोध दल की भारत यात्रा के दौरान 4 फरवरी, 2019 को नया उपयोगकर्ता परीक्षण खाता बनाया गया था। फेसबुक दोस्तों के बिना एक “बहुत खाली जगह” है, शोधकर्ताओं ने लिखा, केवल कंपनी के वॉच और लाइव टैब में चीजों को देखने का सुझाव दिया गया है।
रिपोर्ट में कहा गया है, “इस सामग्री की गुणवत्ता… आदर्श नहीं है।” जब वीडियो सेवा वॉच को यह नहीं पता होता है कि उपयोगकर्ता क्या चाहता है, “ऐसा लगता है कि यह सॉफ्टकोर पोर्न के एक समूह की सिफारिश करता है,” इसके बाद एक इमोटिकॉन है।
प्रयोग 11 फरवरी को अंधेरा होना शुरू हो गया, क्योंकि परीक्षण उपयोगकर्ता ने फेसबुक द्वारा अनुशंसित सामग्री का पता लगाना शुरू कर दिया, जिसमें सोशल नेटवर्क पर लोकप्रिय पोस्ट भी शामिल थे। उन्होंने प्रधान मंत्री नरेंद्र मोदी की सत्तारूढ़ भारतीय जनता पार्टी और बीबीसी न्यूज़ इंडिया के आधिकारिक पेज सहित सौम्य साइटों के साथ शुरुआत की।
फिर 14 फरवरी को, राजनीतिक रूप से संवेदनशील कश्मीर राज्य के पुलवामा में एक आतंकी हमले में 40 भारतीय सुरक्षाकर्मी मारे गए और दर्जनों अन्य घायल हो गए। भारत सरकार ने हमले का श्रेय पाकिस्तान के एक आतंकवादी समूह को दिया है। जल्द ही परीक्षक की फ़ीड पाकिस्तान विरोधी अभद्र भाषा के एक बैराज में बदल गई, जिसमें सिर काटने की छवियां और पाकिस्तानियों के एक समूह को भस्म करने की तैयारी दिखाने वाला एक ग्राफिक शामिल था।
राष्ट्रवादी संदेश भी थे, पाकिस्तान में भारत के हवाई हमलों के बारे में अतिरंजित दावे, बम विस्फोटों की नकली तस्वीरें और एक छेड़छाड़ की गई तस्वीर, जो हमले में मारे गए एक नव-विवाहित सेना के व्यक्ति को दिखाने के लिए कथित तौर पर अपने परिवार में लौटने की तैयारी कर रहा था।
सोशल नेटवर्क पर नियमित सामग्री मॉडरेशन नियंत्रण से बचकर, नफरत से भरे कई पोस्ट देश की राष्ट्रीय भाषा हिंदी में थे। भारत में, लोग अकेले हिंदी के एक दर्जन या अधिक क्षेत्रीय रूपों का उपयोग करते हैं। बहुत से लोग अंग्रेजी और भारतीय भाषाओं के मिश्रण का उपयोग करते हैं, जिससे एल्गोरिदम के लिए बोलचाल की गड़बड़ी के माध्यम से इसे लगभग असंभव बना दिया जाता है। एक मानव सामग्री मॉडरेटर को जहरीली सामग्री को बाहर निकालने के लिए कई भाषाएँ बोलने की आवश्यकता होगी।
“12 दिनों के बाद, 12 विमानों ने पाकिस्तान पर हमला किया,” एक पोस्ट हर्षित। एक और, फिर से हिंदी में, पाकिस्तान में एक बम विस्फोट में 300 आतंकवादियों की मौत को “हॉट न्यूज” के रूप में दावा किया गया। समाचार साझा करने वाले समूह का नाम था “हँसना और ऐसी बातें जो आपको हँसाती हैं।” नैपलम बम की नकली तस्वीरों वाली कुछ पोस्टों में पाकिस्तान पर भारत के हवाई हमले का दावा किया गया था, “300 कुत्ते मारे गए। अब लंबे समय तक भारत कहो, मौत पाकिस्तान को।”
रिपोर्ट – “एक भारतीय परीक्षण उपयोगकर्ता का ध्रुवीकरण, राष्ट्रवादी संदेशों के समुद्र में उतरना” शीर्षक – यह स्पष्ट करता है कि फेसबुक का अपने सबसे महत्वपूर्ण बाजारों में से एक पर कितना कम नियंत्रण है। मेनलो पार्क, कैलिफोर्निया स्थित प्रौद्योगिकी दिग्गज ने भारत का अभिषेक किया है एक प्रमुख विकास बाजार, और इसे नए उत्पादों के लिए एक परीक्षण बिस्तर के रूप में इस्तेमाल किया। पिछले साल, फेसबुक ने एशिया के सबसे अमीर आदमी मुकेश अंबानी के साथ साझेदारी पर लगभग $ 6 बिलियन खर्च किए, जो रिलायंस समूह का नेतृत्व करते हैं। “एक काल्पनिक का यह खोजपूर्ण प्रयास टेस्ट अकाउंट ने हमारी सिफारिश प्रणालियों के गहन, अधिक कठोर विश्लेषण को प्रेरित किया, और उन्हें बेहतर बनाने के लिए उत्पाद परिवर्तनों में योगदान दिया,” फेसबुक प्रवक्ता ने कहा। “अभद्र भाषा पर अंकुश लगाने पर हमारा काम जारी है और हमने चार भारतीय भाषाओं को शामिल करने के लिए अपने नफरत के वर्गीकरण को और मजबूत किया है।”
लेकिन कंपनी वहां की अपनी हरकतों को लेकर भारत सरकार से भी बार-बार उलझती रही है। नए नियमों के लिए आवश्यक है कि फेसबुक और अन्य सोशल मीडिया कंपनियां अपनी ऑनलाइन सामग्री के लिए जिम्मेदार व्यक्तियों की पहचान करें – उन्हें सरकार के प्रति जवाबदेह बनाना। फेसबुक और ट्विटर इंक ने नियमों के खिलाफ लड़ाई लड़ी है। फेसबुक के व्हाट्सएप प्लेटफॉर्म पर, वायरल फर्जी संदेश बाल अपहरण गिरोहों के बारे में प्रसारित हुए, जिसके कारण 2017 की गर्मियों में देश भर में दर्जनों लिंचिंग हुई, जिससे उपयोगकर्ताओं, अदालतों और सरकार को और गुस्सा आया।
फेसबुक रिपोर्ट अपनी सिफारिशों को स्वीकार करते हुए समाप्त होती है, जिससे परीक्षण उपयोगकर्ता खाता “ध्रुवीकरण और ग्राफिक सामग्री, अभद्र भाषा और गलत सूचना से भरा हुआ” बन गया। अमेरिका के बाहर के बाजारों में इसकी सिफारिशों से अखंडता हानि को कम करना”
“क्या हम एक कंपनी के रूप में अनुशंसित सामग्री से होने वाले अखंडता के नुकसान को रोकने के लिए एक अतिरिक्त जिम्मेदारी ले सकते हैं?” परीक्षक ने पूछा।
यह कहानी एक वायर एजेंसी फ़ीड से पाठ में संशोधन किए बिना प्रकाशित की गई है। केवल शीर्षक बदल दिया गया है।
एक कहानी याद मत करो! मिंट के साथ जुड़े रहें और सूचित रहें।
डाउनलोड
हमारा ऐप अब !!
[ad_2]
Source hyperlink