खरं तर X ला या द्वेषामुळे फायदा होत आहे.
नवीन संशोधनानुसार, विश्वचषक स्पर्धेदरम्यान, सहभाग आणि नफा वाढवण्यासाठी तयार केलेल्या अल्गोरिदममुळे इंग्लंडच्या फुटबॉलपटूंना सोशल मीडियावर लक्ष्य करून होणाऱ्या वंशद्वेषी टीकेला अधिक खतपाणी मिळाले.
आशा नाही द्वेष X वरील ३,००,००० हून अधिक पोस्ट्सचे विश्लेषण केले आणि इंग्लंडच्या खेळाडूंना लक्ष्य करणाऱ्या ५,५०० हून अधिक स्पष्टपणे वंशद्वेषी पोस्ट्स ओळखल्या.
संस्थेला असे आढळून आले की, X च्या शिफारस प्रणालीमुळे लाखो वापरकर्त्यांच्या फीडमध्ये द्वेषपूर्ण सामग्री पोहोचण्यास मदत झाली.
राग आणि संताप निर्माण करणाऱ्या पोस्टमुळे अधिक संवाद साधला जाऊ शकतो, ज्यामुळे सहभाग वाढतो आणि संभाव्यतः प्लॅटफॉर्मला व्यावसायिक फायदाही होऊ शकतो.
या निष्कर्षांमुळे, सोशल मीडिया अल्गोरिदम वंशद्वेषी शिवीगाळ इंटरनेटच्या अज्ञात कोपऱ्यांपुरते मर्यादित न ठेवता, तिला अत्यंत दृश्यमान मजकुरात कसे रूपांतरित करू शकतात, यावर पुन्हा एकदा लक्ष केंद्रित झाले आहे.
इंग्लंडच्या कोणत्या खेळाडूंना सर्वाधिक वंशद्वेषी अपमानाचा सामना करावा लागला?
संशोधनानुसार, ज्यूड बेलिंगहॅम हा वंशद्वेषी टीकेचा सर्वाधिक लक्ष्य ठरलेला खेळाडू होता.
बुकायो साका आणि कोबी मैनू यांना त्यांचा उल्लेख असलेल्या एकूण पोस्टच्या तुलनेत सर्वाधिक प्रमाणात वर्णद्वेषी पोस्टचा सामना करावा लागला.
इस्लाम धर्म स्वीकारलेल्या जेद स्पेन्स यांनाही मुस्लिमविरोधी अपमानाचा एक वेगळाच सामना करावा लागला, असे 'होप नॉट हेट'ने म्हटले आहे.
संस्थेने हे देखील पाहिले की कसे दुरुपयोग प्रसिद्ध खेळाडू आणि फुटबॉल खात्यांच्या पोस्टवरील उत्तरांमधून पसरले.
'होप नॉट हेट'चे वरिष्ठ संशोधक पॅट्रिक हर्मनसन म्हणाले की, द्वेषपूर्ण मजकुरामुळे निर्माण होणाऱ्या प्रसिद्धीचा 'X' ला फायदा होत होता.
त्याने सांगितले बीबीसी स्पोर्ट: “या द्वेषामुळे X ला खरंतर फायदा होत आहे.”
ते त्याच्या प्लॅटफॉर्मवर सहभाग वाढवते आणि ते त्याच्या अल्गोरिदमचा प्रभावीपणे वापर करून ते अधिक वापरकर्त्यांपर्यंत पोहोचवते.
ते शिफारशींच्या फीडमध्ये दिसतात – ते या वेबसाइटच्या दुर्लक्षित कोपऱ्यात नाहीत, तर ते अगदी समोर आणि मध्यभागी आहेत.
तो एक असा पर्याय आहे जो त्याला निवडण्याची गरज नाही, तरीही तो निवडतो.
फुटबॉल असोसिएशनने यावरही जोर दिला की, केवळ इंग्लंडकडून खेळत असल्यामुळे खेळाडूंना द्वेषपूर्ण सामग्रीचा सामना करावा लागू नये.
एफएच्या प्रवक्त्याने सांगितले: “सर्व खेळाडूंना ऑनलाइन द्वेषपूर्ण, भेदभावपूर्ण आणि त्रासदायक मजकुराच्या संपर्कात न येता खेळण्याचा अधिकार आहे.”
त्यात पुढे म्हटले आहे: “सेवा पुरवठादारांनी सर्वांसाठी अधिक सुरक्षित ऑनलाइन जीवन निर्माण करण्यासाठी सर्व आवश्यक उपाययोजना कराव्यात, अशी आमची इच्छा आहे.”
सोशल मीडिया अल्गोरिदमला दोष का दिला जात आहे?
होप नॉट हेटच्या मते, वैयक्तिक वंशद्वेषी पोस्ट काढून टाकणे ही समस्येचा केवळ एक भाग आहे.
वापरकर्ते खाती ब्लॉक करू शकतात आणि आक्षेपार्ह संदेशांची तक्रार करू शकतात, तर प्लॅटफॉर्म खाती निलंबित करू शकतात. तथापि, संस्थेचे म्हणणे आहे की, जर हानिकारक सामग्रीची शिफारस आधीच हजारो किंवा लाखो लोकांपर्यंत पोहोचली असेल, तर या उपायांचा फारसा उपयोग होत नाही.
आक्षेपार्ह पोस्टना जोर धरण्यापासून रोखण्यासाठी एक्स अधिक काही करू शकते, असे हर्मनसन म्हणाले:
X वंशवादाला पुरेसे गांभीर्याने घेत नाही. आम्ही हे आता अनेक वर्षांपासून पाहत आहोत. कोणताही बदल किंवा सुधारणा झालेली नाही.
खरं तर, तुलनेने कमी खात्यांवर आणि मूळ ट्विट्सवरच नंतर प्रचंड प्रतिसाद मिळतो.
माझ्या मते, हे थांबवणे किंवा याचा मोठा भाग थांबवणे पूर्णपणे शक्य आहे.
होप नॉट हेटच्या मते, मोठ्या प्रमाणात शिवीगाळ होणाऱ्या पोस्ट्सना डाउनरँक करणे हा ही समस्या कमी करण्याचा एक मार्ग आहे.
सोप्या भाषेत सांगायचे झाल्यास, याचा अर्थ असा होईल की शिफारशींद्वारे त्या पोस्ट्सना अधिक प्रसिद्धी मिळवून देण्याऐवजी, त्या कमी लोकांना दाखवणे.
संस्थेने यूकेच्या माध्यम नियामक ऑफकॉमला प्रमुख क्रीडा स्पर्धांच्या आधी अधिक कठोर कारवाई करण्याचे आवाहन केले आहे. प्रमुख स्पर्धांचा काळ ऑनलाइन द्वेषासाठी "उच्च जोखमीचा" काळ म्हणून मानला जावा, अशी त्यांची इच्छा आहे.
या प्रस्तावानुसार, जेव्हा गैरवर्तन वाढू लागते तेव्हा प्लॅटफॉर्म्सना अधिक मजबूत सुरक्षा उपाययोजना कराव्या लागतील. यामध्ये आक्षेपार्ह सामग्री सक्रियपणे काढून टाकणे आणि ज्या पोस्ट्समुळे द्वेषाचे प्रमाण झपाट्याने वाढत आहे, त्यांची दृश्यमानता कमी करणे यांचा समावेश असू शकतो.
ऑफकॉमने सांगितले की, या समस्येवर तोडगा काढण्यासाठी ते तंत्रज्ञान कंपन्या, पोलीस आणि फुटबॉल संघटनांसोबत आधीच काम करत आहे. ऑनलाइन गैरवर्तन
ऑफकॉमच्या प्रवक्त्याने सांगितले: “आम्ही तंत्रज्ञान कंपन्यांवर त्यांच्या सेवा अधिक सुरक्षित करण्यासाठी कठोर दबाव आणत आहोत, आणि जर त्यांनी तसे केले नाही तर आम्ही त्यांना जबाबदार धरू.”
नियामक मंडळाने विश्वचषकाच्या पार्श्वभूमीवर पोलीस आणि फुटबॉल संघटनांसोबतच्या नवीन भागीदारीवरही प्रकाश टाकला.
वंशद्वेषी पोस्ट्स कशा ओळखल्या गेल्या?
'होप नॉट हेट'ने इंग्लंडच्या खेळाडूंचा नावाने किंवा X हँडलने उल्लेख करणाऱ्या पोस्ट्स, तसेच खेळाडू आणि संघाच्या अकाउंट्सना दिलेल्या उत्तरांचा संग्रह केला.
संशोधकांनी 'टीम इंग्लंड' आणि इतर संबंधित कीवर्डचा उल्लेख असलेल्या पोस्ट्सचाही शोध घेतला. त्यानंतर असंबद्ध पोस्ट्स डेटासेटमधून काढून टाकण्यात आल्या.
संशोधकांनी उदाहरणांना स्वतः लेबल लावल्यानंतर, उर्वरित पोस्ट्सचे विश्लेषण करण्यासाठी कृत्रिम बुद्धिमत्तेचा वापर करण्यात आला. या प्रणालीने वंशवादाचे विविध प्रकार, अति-उजव्या विचारसरणी आणि द्वेषपूर्ण घोषणा शोधल्या.
निकालांची अचूकता तपासण्यासाठी संशोधकांनी नमुन्यांची स्वतः तपासणीही केली.
पोस्ट्सची गणना केवळ अपमानास्पद किंवा अपमानास्पद नाही अशीच केली गेली. अपमानाची तीव्रता किती होती यानुसार पोस्ट्सना श्रेणीबद्ध करण्याचा प्रयत्न या संशोधनात केला गेला नाही.
हे निष्कर्ष अशा वेळी समोर आले आहेत, जेव्हा आणखी एका अहवालात असा इशारा देण्यात आला आहे की फुटबॉल क्षेत्रात ऑनलाइन गैरवर्तन ही एक अधिक व्यापक समस्या बनत आहे.
फुटबॉल थिंक टँक 'फेअर गेम'ने ऑनलाइन गैरवर्तनाला खेळातील लोकांना प्रभावित करणारी एक “प्रणालीगत सुरक्षा समस्या” म्हटले आहे. फुटबॉलमधील ऑनलाइन हानी अहवालानुसार, गैरवर्तनामुळे आरोग्यावर परिणाम होऊ शकतो, सहभागाला परावृत्त केले जाऊ शकते आणि खेळाडूंच्या पलीकडेही हानी पोहोचू शकते.
फुटबॉलसाठीच्या सर्वपक्षीय संसदीय गटाने पाठिंबा दिलेल्या या अहवालात, “समन्वित, प्रतिबंधात्मक धोरणा”ची मागणी करण्यात आली.
तसेच, डिजिटल गैरवर्तनालाही प्रत्यक्ष जागेतील गैरवर्तनाप्रमाणेच वागणूक दिली पाहिजे, असा युक्तिवादही करण्यात आला.
त्यामुळे इंग्लंडच्या खेळाडूंसाठी, हा मुद्दा केवळ सोशल मीडियावर वर्णद्वेषी टिप्पण्या पाहण्यापुरता मर्यादित नाही. तर, त्या टिप्पण्या किती वेगाने मोठ्या जनसमुदायापर्यंत पोहोचू शकतात, हा देखील एक महत्त्वाचा मुद्दा आहे.
हे संशोधन X सारख्या प्लॅटफॉर्मसमोर एक अवघड प्रश्न उपस्थित करते: जर त्यांचे अल्गोरिदम कंटेंट व्हायरल करण्यास मदत करू शकत असतील, तर वंशद्वेषी शिवीगाळ ही पुढची सर्वसामान्यांच्या नजरेस पडणारी गोष्ट बनण्यापासून रोखण्यासाठी त्यांनी अधिक प्रयत्न करायला हवेत का?
