'संताप अर्थव्यवस्थे'चा आणखी एक पुरावा.
अमेरिका-इराण युद्ध सुरू झाल्यानंतर लगेचच, ब्रिटनचे पंतप्रधान कीर स्टारमर डाउनिंग स्ट्रीटवरील व्यासपीठावर इस्लामिक वेशभूषेत उभे असल्याचा एक एआय-निर्मित व्हिडिओ ऑनलाइन प्रसारित होऊ लागला.
काही दिवसांतच, फेसबुक आणि इंस्टाग्रामवर त्याला सुमारे ४००,००० व्ह्यूज मिळाले होते.
क्लिपमध्ये, अवतार एक बनावट आणि चिथावणीखोर भाषण देतो, ज्यामध्ये इस्लामविरोधी भाषा आणि पाकिस्तानी लोकांना लक्ष्य करणारी वंशद्वेषी टिप्पणी समाविष्ट आहे.
पहिल्यांदा पाहता, हे आणखी एका उदाहरणासारखे दिसते AIप्रेरित राजकीय चुकीची माहिती सोशल मीडिया प्लॅटफॉर्मवर वेगाने पसरत आहे.
परंतु या सामग्रीचा उगम त्या गृहितकाला अनपेक्षितपणे गुंतागुंतीचा बनवतो.
त्यानुसार ब्युरो तपास करतेयाचा निर्माता पाकिस्तानात राहणारा एक मुस्लिम पुरुष आहे, जो धार्मिक खातीदेखील चालवतो.
त्याचे प्रकरण एक वाढते आणि अस्वस्थ करणारे वास्तव उघड करते: एआय साधने केवळ सामग्री निर्मितीचे लोकशाहीकरण करत नाहीत, तर ती विचारधारा, हेतू आणि नफा यांच्यातील सीमारेषा देखील पुसून टाकत आहेत.
यातून एक अशी ऑनलाइन परिसंस्था उदयास येते, जिथे मोठ्या प्रमाणावर संताप निर्माण केला जातो, आणि हा संताप अनेकदा श्रद्धा, आकलन किंवा अगदी भाषिक प्राविण्यापासूनही अलिप्त असतो.
ब्रिटन टुडेच्या मागे असलेले निर्माते
त्या कंटेंटमागील व्यक्ती यूकेमधील प्रेक्षकांना लक्ष्य करून सोशल मीडिया पेजेसचे नेटवर्क चालवत होता.
सर्वात प्रमुखांपैकी एक म्हणजे 'ब्रिटन टुडे' नावाचे फेसबुक पेज होते, ज्याचे १,९२,००० फॉलोअर्स होते, त्यासोबतच ४४,००० फॉलोअर्स असलेले एक इंस्टाग्राम अकाउंट आणि ११,००० फॉलोअर्स असलेली एक टिकटॉक उपस्थिती होती.
त्यांनी मिळून एआय-निर्मित मीम्स, व्हिडिओ आणि पुनर्वापर केलेल्या क्लिप्सच्या अविरत प्रवाहाद्वारे लाखो व्ह्यूज मिळवले.
ब्युरो ऑफ इन्व्हेस्टिगेट्सने दिलेल्या वृत्तानुसार, त्या निर्मात्याने सांगितले की, आर्थिकदृष्ट्या टिकून राहणे हीच त्याची मुख्य प्रेरणा होती आणि तो एका पानाच्या विक्रीतून महिन्याला सुमारे $1,500 कमवत असे.
त्याने त्या वृत्तसंस्थेला सांगितले: “तुम्हाला पाकिस्तानमधील परिस्थिती, पेट्रोलची उपलब्धता आणि तेथील परिस्थितीची कल्पना आहे. जो कोणी हे काम करत आहे, तो पैसे कमावण्यासाठीच करत आहे.”
आम्हाला बातम्यांमध्ये काहीही रस नाही. व्हिडिओमध्ये काय बोलले जात आहे, काय लिहिले गेले आहे आणि काय लिहिले गेले नाही, हे मी पाहिलेसुद्धा नाही.
त्या सामग्रीमध्ये ब्रिटिश राजकारण्यांच्या एआय-निर्मित चित्रांपासून ते 'ग्रेट रिप्लेसमेंट' सारख्या षडयंत्र सिद्धांतांना प्रोत्साहन देणाऱ्या मीम्सपर्यंत विविध गोष्टींचा समावेश होता, ज्यामध्ये गैर-श्वेतवर्णीय स्थलांतरित जाणीवपूर्वक श्वेतवर्णीय लोकसंख्येची जागा घेत असल्याचा खोटा दावा केला जातो.
इतर पोस्टमध्ये सार्वजनिक ठिकाणी प्रार्थना करणाऱ्या मुस्लिमांना “वर्चस्व गाजवण्याचे धोरण” आणि “पश्चिमेवरील आक्रमण” असे संबोधण्यात आले होते.
नंतर मेटाने ती खाती फ्लॅग केल्यावर काढून टाकली, पण तोपर्यंत त्यांमधील सामग्री विविध प्लॅटफॉर्मवर मोठ्या प्रमाणावर प्रसारित झाली होती.
एका प्रवक्त्याने सांगितले: “आमच्याकडे स्पष्ट सामुदायिक मानके आहेत जी द्वेषपूर्ण भाषण, छळ, हानिकारक चुकीची माहिती आणि बनावट वर्तनास प्रतिबंध करतात आणि आमच्या धोरणांचे उल्लंघन केल्यामुळे आम्ही ही खाती काढून टाकली आहेत.”
संतापाचे औद्योगिकीकरण
या प्रकरणाला विशेष महत्त्वाचे ठरवणारी गोष्ट केवळ त्यातील आशयच नाही, तर त्याच्या निर्मितीची पद्धतही आहे.
निर्मात्याने सांगितले: “सर्व सामग्री, अगदी पेजचे नाव आणि सर्व काही, व्हिडिओमधील सामग्री, ती एआय (AI) आहे.”
ग्रोक, गूगलचे इमेज जनरेटर व्हिस्क, जेमिनी, कॅपकट आणि चॅटजीपीटी यांसारखी साधने कंटेंट निर्मिती स्वयंचलित करण्यासाठी तयार केलेल्या वर्कफ्लोचा भाग होती.
प्रत्यक्षात, याचा अर्थ ट्रेंडिंग विषय शोधणे, सारांश कॉपी करणे, ते व्हिडिओ टूल्समध्ये पेस्ट करणे आणि एआय-चालित व्हिडिओ तयार करणे असा होता. व्हिज्युअल आणि काही मिनिटांत सबटायटल्स.
त्याने 'द ब्युरो इन्व्हेस्टिगेट्स'ला सांगितले: “जर यूकेमध्ये निदर्शने वगैरे होत असतील, तर ते व्हिडिओ मी ट्विटर किंवा टिकटॉकवरून निवडतो.”
या सगळ्या गोष्टी कॉपी-पेस्ट केलेल्या आहेत… मी ह्या तिथून उचलतो आणि फेसबुकवर टाकतो.
त्याने असाही दावा केला की, त्याने यूट्यूब ट्युटोरियल्स आणि इतर क्रिएटर्सकडून घेतलेल्या सशुल्क मार्गदर्शनातून कमाईची तंत्रे शिकली आहेत. मेटाच्या स्वतःच्या कमाईच्या प्रणाली, ज्या जास्त प्रतिसाद मिळवणाऱ्या कंटेंटला जाहिराती आणि बोनस देऊन पुरस्कृत करतात, त्या त्याच्या उत्पन्नाच्या धोरणाचा भाग होत्या.
हे मॉडेल डिजिटल कंटेंट इकोसिस्टममधील एका व्यापक बदलाचे प्रतिबिंब आहे, जिथे हेतू किंवा अचूकतेऐवजी सहभागावर दृश्यमानता आणि मोबदला अवलंबून असतो.
सेंटर फॉर इमर्जिंग टेक्नॉलॉजी अँड सिक्युरिटीचे वरिष्ठ संशोधक सॅम स्टॉकवेल यांनी याचे वर्णन “शॅडो इन्फ्लुएन्सर” अर्थव्यवस्था असे केले आहे.
हे मॉडेल राजकीय विचारधारेपेक्षा निष्क्रिय उत्पन्नाला प्राधान्य देते, आणि फूट पाडणाऱ्या मजकुराला एका फायदेशीर वस्तूमध्ये रूपांतरित करते.
सोशल मीडिया अल्गोरिदम ज्या प्रकारे जास्त प्रतिसाद दर्शवणाऱ्या घटकांना प्राधान्य देतात, त्याचा फायदा घेऊन या निर्मात्यांच्या लक्षात येत आहे की परकीय द्वेषी किंवा व्यवस्थेविरोधी विचार हे व्हायरल होण्याचे आणि पर्यायाने पैसे कमावण्याचे सर्वात कार्यक्षम मार्ग आहेत.
याचा परिणाम म्हणजे एक अशी व्यवस्था निर्माण होते, जिथे चुकीच्या माहितीला वैचारिक बांधिलकीची गरज नसते. त्यासाठी फक्त लक्ष देण्याची गरज असते.
राजकीय प्रभाव
'ब्रिटन टुडे' द्वारे प्रकाशित झालेली सामग्री यूकेमधील वास्तविक राजकीय चर्चेशी थेट संबंधित होती, विशेषतः स्थलांतर, इस्लामद्वेष आणि लंडनचे महापौर सादिक खान यांच्यासारख्या सार्वजनिक व्यक्तींच्या संदर्भात.
काही पोस्टमध्ये खान यांनी ब्रिटिश मुस्लिमांना सामोरे जाव्या लागणाऱ्या पूर्वग्रहांबद्दल बोलल्याचे मूळ फुटेज वापरले गेले, परंतु “जेव्हा [मुस्लिम] महिला आणि मुलांवर बलात्कार करतात” तेव्हा सरकार मुस्लिम संघटनांना पाठिंबा देत असल्याचा आरोप करणाऱ्या मथळ्यांसह ते फुटेज वेगळ्या संदर्भात सादर केले गेले.
इतर पोस्टमध्ये ट्रॅफलगर स्क्वेअरमधील इफ्तार कार्यक्रमासारख्या सार्वजनिक धार्मिक मेळाव्यांना “वसाहतवादाचा कार्यक्रम” असे संबोधण्यात आले.
सादिक खान यांच्या प्रवक्त्याने या निष्कर्षांवर प्रतिक्रिया देताना, या प्रकरणाला ऑनलाइन ‘संताप अर्थव्यवस्थे’चा आणखी एक पुरावा म्हटले आहे.
ते म्हणाले: “हे धक्कादायक उदाहरण ‘संताप अर्थव्यवस्थे’चा आणखी एक पुरावा आहे, जिथे लोक ऑनलाइन पसरवत असलेल्या विषारी विचारांमधून नफा कमावत आहेत, ज्यात मुस्लिम लंडनवासीयांना लक्ष्य करणाऱ्या विचारांचाही समावेश आहे.”
सोशल मीडिया कंपन्यांनी त्यांच्या प्लॅटफॉर्मवर खोट्या गोष्टी आणि द्वेषाचा प्रसार रोखण्यासाठी, तसेच ते तयार करणाऱ्यांना आणि पसरवणाऱ्यांना आर्थिक बक्षीस मिळण्यापासून रोखण्यासाठी अधिक प्रयत्न केले पाहिजेत.
राजकीय चिंता ही वैयक्तिक प्रकरणांपुरती मर्यादित नाही.
विज्ञान, नवोपक्रम आणि तंत्रज्ञान निवड समितीच्या सदस्या असलेल्या खासदार एमिली डार्लिंग्टन यांनी प्रणालीगत असुरक्षिततेबद्दल इशारा दिला आणि म्हटले की, "यूकेमध्ये द्वेषपूर्ण मजकुरासाठी स्पष्टपणे एक बाजारपेठ अस्तित्वात आहे".
एआय-निर्मित इस्लामद्वेषी सामग्रीच्या निर्मात्याने असा दावा केला आहे की, तो जी सामग्री वितरित करत होता ती त्याला पूर्णपणे समजली नव्हती.
मला नीट इंग्रजी बोलता येत नाही आणि त्यामुळे त्यांनी काय लिहिले आहे आणि काय नाही, हे मला समजत नाही.
पण आता जे व्हायचं होतं ते झालं. तुम्ही मला सांगितलं हे चांगलं झालं. मी तुमचा आभारी आहे.
त्याने 'द ब्युरो इन्व्हेस्टिगेट्स'ला सांगितले की तो त्या पोस्ट्स हटवेल आणि भविष्यात तशाच प्रकारची सामग्री टाळेल, तथापि, मेटाने हस्तक्षेप करेपर्यंत अनेक आक्षेपार्ह व्हिडिओ ऑनलाइन राहिले.
या प्रकरणातून अंतिमतः केवळ नियंत्रणाचे अपयशच नव्हे, तर ऑनलाइन प्रभाव आता ज्या पद्धतीने कार्य करतो त्यातील एक संरचनात्मक बदलही उघड होतो.
एआय साधनांनी प्रवेशातील अडथळे इतके लक्षणीयरीत्या कमी केले आहेत की, आकलन, हेतू किंवा भाषेतील प्राविण्याशिवायही मजकूर तयार करणे, भाषांतरित करणे आणि त्यातून पैसे कमावणे शक्य झाले आहे.
अल्गोरिदम-आधारित कमाई प्रणालींच्या संयोगाने, यामुळे “नफा मिळवण्यासाठी संताप” निर्माण करणाऱ्या आशयासाठी एक जागतिक मार्ग तयार झाला आहे.
या नवीन परिसंस्थेत विचारधारा ऐच्छिक आहे. पण प्रसार होणे नाही.
लोड करीत आहे ...