चॅटजीपीटीने ब्रॅडफोर्ड आणि बर्मिंगहॅमला यूकेमधील 'सर्वात मूर्ख' म्हणून घोषित केले

आधुनिक ब्रिटनबद्दल ChatGPT द्वारे निर्माण झालेल्या प्रतिसादांमध्ये त्रासदायक पक्षपातीपणा आढळून आल्यानंतर, बर्नली, ब्रॅडफोर्ड आणि बेलफास्ट यांना यूकेमधील सर्वात वंशवादी ठिकाणे म्हणून लेबल करण्यात आले आहे.

ऑक्सफर्ड इंटरनेट इन्स्टिट्यूटने केलेल्या तपासणीतून हे निष्कर्ष समोर आले आहेत, ज्यामध्ये एआय सर्च इंजिनने यूकेमधील विविध शहरे, शहरे आणि प्रदेशांचे वर्णन कसे केले आहे याचे परीक्षण केले गेले.

संशोधकांना असे आढळून आले की चॅटबॉट वारंवार नकारात्मक रूढींना पुन्हा उजाळा देत आहे, बहुतेकदा श्रीमंत क्षेत्रांना गरीब समुदायांपेक्षा अधिक बुद्धिमान आणि कमी वंशवादी म्हणून चित्रित करते.

त्यांनी इशारा दिला की यामुळे ChatGPT सारखी AI साधने जगभरातील लाखो वापरकर्त्यांना तटस्थ किंवा संतुलित चित्रण देण्याऐवजी दीर्घकालीन पूर्वग्रहांना बळकटी देत ​​आहेत.

बर्नली, ब्रॅडफोर्ड आणि बेलफास्ट यांना सर्वात जास्त वर्णद्वेषी म्हणून रेट केले गेले आहे, त्याचबरोबर बॉटने असा दावा केला आहे की पैंटन, स्वानसी आणि फार्नबरो ही ब्रिटनमधील सर्वात कमी वर्णद्वेषी ठिकाणे आहेत.

त्याच प्रणालीने ब्रॅडफोर्ड, मिडल्सब्रो आणि बर्मिंगहॅमला सर्वात मूर्ख लोक म्हणून निवडले, तर ईस्टबॉर्न, चेल्टनहॅम आणि एडिनबर्ग यांना सर्वात कमी मूर्ख म्हणून स्थान देण्यात आले.

ब्लॅकपूल, विगन आणि ब्रॅडफोर्ड यांना सर्वात आळशी शहरे म्हणून लेबल केले गेले, तर यॉर्क, केंब्रिज आणि चेम्सफोर्ड यांना चॅटबॉटने सर्वात कमी आळशी म्हणून वर्णन केले.

संशोधकांनी स्पष्ट केले की ChatGPT सारखी AI साधने इंटरनेटवरून अब्जावधी शब्द आणि लेख गोळा करून विकसित केली जातात.

त्यांच्या मते, ही प्रक्रिया लेख आणि सोशल मीडिया पोस्टमधून काढलेल्या उथळ सांस्कृतिक स्टिरियोटाइपवर आधारित, सर्वात जास्त गर्दीने मंजूर केलेल्या ट्रॉप्सपर्यंत पोहोचू शकते.

ऑक्सफर्ड विद्यापीठातील प्राध्यापक मार्क ग्राहम म्हणाले की, गरीब भाग आणि मोठ्या वांशिक अल्पसंख्याक लोकसंख्या असलेल्या भागांविरुद्ध परिणाम स्पष्टपणे रचले गेले आहेत.

बर्नली आणि ब्रॅडफोर्ड हे यूकेमधील सर्वात वंचित जिल्ह्यांपैकी एक आहेत, तर ब्रॅडफोर्डच्या लोकसंख्येपैकी सुमारे एक तृतीयांश लोक गोरे नसलेले आहेत.

लंडनमध्ये, चॅटबॉटने पेकहॅम आणि हॅकनी यांना अधिक मूर्ख आणि कुरूप असे वर्णन केले आहे, तर टोटेनहॅम आणि फिंचली यांना वर्णद्वेषी ठरवण्यात आले आहे.

तज्ञांनी बराच काळ इशारा दिला आहे की एआय सिस्टम त्यांना प्रशिक्षित करण्यासाठी वापरल्या जाणाऱ्या प्रचंड डेटामध्ये आढळणाऱ्या आक्षेपार्ह कथांचे पुनरुत्पादन करू शकतात.

जरी विकासकांनी तथाकथित रेलिंग्ज सादर करण्याचा प्रयत्न केला असला तरी, ऑक्सफर्ड पेपरने असे सुचवले आहे की असा पक्षपात जनरेटिव्ह एआयचे एक अंतर्गत वैशिष्ट्य असू शकते.

The अभ्यासकेंटकी विद्यापीठासोबत आयोजित केलेल्या या अभ्यासात ChatGPT ला २० दशलक्षाहून अधिक प्रश्न विचारण्यात आले, ज्यामध्ये वेगवेगळ्या शहरे आणि देशांतील लोकांची तुलना करण्यात आली.

त्या बॉटला एका शब्दात निर्णय घेण्याचे निर्देश देण्यात आले होते, जसे की यूके आणि युनायटेड स्टेट्समधील कोणत्या देशात हुशार लोक आहेत हे ठरवणे.

१००,००० पेक्षा जास्त लोकसंख्या असलेल्या ठिकाणांवर लक्ष केंद्रित करणारे शेकडो प्रश्न होते, ज्यांची उत्तरे नंतर ती किती सकारात्मक किंवा नकारात्मक दिसली हे ठरवून गुण देण्यात आले.

संशोधकांना असे आढळून आले की पाश्चात्य, पांढरे आणि श्रीमंत प्रदेश हे चॅटबॉटच्या उत्तरांमध्ये अधिक सकारात्मक गुणांशी सातत्याने जोडलेले होते.

जागतिक पातळीवर, या बॉटने आफ्रिका आणि दक्षिण आशियातील लोकांना उत्तर गोलार्धात राहणाऱ्या लोकांपेक्षा कमी आकर्षक म्हणून रेट केले.

दक्षिण अमेरिका आणि आफ्रिकेतील लोक युरोप किंवा अमेरिकेतील लोकांपेक्षा कमी बुद्धिमान असल्याचे मानले गेले.

ओपनएआयच्या प्रवक्त्याने सांगितले की, हा अभ्यास नवीनतम चॅटजीपीटी मॉडेलऐवजी तंत्रज्ञानाच्या जुन्या आवृत्तीवर आधारित होता, ज्यामध्ये अतिरिक्त सुरक्षा उपायांचा समावेश आहे.

त्यांनी असेही म्हटले आहे की सिस्टमला एक-शब्द प्रतिसादांपुरते मर्यादित केल्याने बहुतेक लोक दैनंदिन परिस्थितीत ChatGPT कसे वापरतात हे प्रतिबिंबित होत नाही.

प्रवक्त्याने सांगितले की पक्षपात हा एक सततचा प्राधान्यक्रम आहे, अलीकडील मॉडेल्समधील सुधारणा मान्य करताना आव्हाने अजूनही आहेत हे मान्य केले.