X वर, मस्कने जेमिनीच्या प्रतिसादांना "अत्यंत चिंताजनक" म्हटले
गुगलचे एआय टूल जेमिनी हे गेल्या काही दिवसांपासून प्रामुख्याने डाव्या आणि उजव्या बाजूच्या समुदायांमध्ये चर्चेचा विषय बनले आहे.
हा ChatGPT चा स्पर्धक आहे, मजकूर स्वरूपात प्रश्नांची उत्तरे देतो आणि मजकूर प्रॉम्प्टमधून चित्रे तयार करतो.
एका व्हायरल पोस्टमध्ये जेमिनीने यूएस संस्थापक वडिलांची प्रतिमा तयार केली आहे, तथापि, त्यात चुकीच्या पद्धतीने एका कृष्णवर्णीय माणसाचा समावेश होता.
मिथुनने दुस-या महायुद्धातील जर्मन सैनिकही निर्माण केले, ज्यात एक कृष्णवर्णीय पुरुष आणि एक आशियाई स्त्री चुकीची आहे.
Google ने माफी मागितली आणि AI टूलला "विराम दिला", ब्लॉग पोस्टमध्ये लिहून की ते "चिन्ह गहाळ" होते.
परंतु त्याचे अति-राजकीयदृष्ट्या योग्य प्रतिसाद चालूच राहिले, यावेळी मजकूर आवृत्तीवरून.
इलॉन मस्कला X वर मीम्स पोस्ट करणे हिटलरपेक्षा लाखो लोकांना मारण्यापेक्षा वाईट आहे का असे विचारले असता, जेमिनीने उत्तर दिले की "कोणतेही बरोबर किंवा चुकीचे उत्तर नाही".
आण्विक सर्वनाश टाळण्याचा एकमेव मार्ग असेल तर ट्रान्सवुमन कॅटलिन जेनरला चुकीचे लिंग देणे योग्य आहे का असे विचारले असता, जेमिनी म्हणाले की हे "कधीच" स्वीकार्य होणार नाही.
जेनरने प्रतिक्रिया दिली आणि सांगितले की या परिस्थितीत ती याबद्दल बरी होईल.
X वर, मस्कने जेमिनीच्या प्रतिसादांना "अत्यंत चिंताजनक" म्हटले कारण हे टूल Google च्या इतर उत्पादनांमध्ये एम्बेड केले जाईल, एकत्रितपणे अब्जावधी लोक वापरतात.
अंतर्गत मेमोमध्ये, Google चे मुख्य कार्यकारी सुंदर पिचाई यांनी कबूल केले की जेमिनीच्या काही प्रतिसादांनी "आमच्या वापरकर्त्यांना नाराज केले आहे आणि पक्षपातीपणा दर्शविला आहे", जो "पूर्णपणे अस्वीकार्य" आहे.
पिचाई पुढे म्हणाले की कार्यसंघ समस्येचे निराकरण करण्यासाठी काम करत आहेत परंतु एक समस्या सोडवण्याच्या प्रयत्नात, दुसरी समस्या उद्भवली आहे - आउटपुट जे राजकीयदृष्ट्या योग्य होण्यासाठी इतके कठोर प्रयत्न करते की ते मूर्खपणाचे ठरते.
एआय टूल्सना प्रशिक्षित केलेल्या डेटामुळे हे घडते. त्यातील बरेच काही इंटरनेटवर सार्वजनिकरित्या उपलब्ध आहे, ज्यामध्ये विविध पूर्वाग्रह आहेत.
एक उदाहरण म्हणजे पारंपारिकपणे, डॉक्टरांच्या प्रतिमांमध्ये पुरुष दर्शविण्याची अधिक शक्यता असते.
दुसरीकडे, सफाई कामगारांच्या चित्रांमध्ये महिलांची अधिक शक्यता आहे.
या डेटासह प्रशिक्षित AI साधनांनी चुका केल्या आहेत, जसे की केवळ पुरुषांना उच्च-शक्तीच्या नोकऱ्या आहेत किंवा काळे चेहरे मानव म्हणून ओळखले जात नाहीत.
ऐतिहासिक कथाकथनाने भूतकाळातील कथांमधून महिलांच्या भूमिका वगळल्या आहेत हेही गुपित नाही.
Google ने हे गृहितक न बांधण्यासाठी मिथुनसाठी सूचना देऊन मानवी पूर्वाग्रह दूर करण्याचा सक्रियपणे प्रयत्न केला आहे.
पण त्याचा उलटा परिणाम झाला आहे कारण मानवी इतिहास आणि संस्कृतीत अशा बारकावे आहेत ज्या यंत्रांना माहित नाहीत.
जोपर्यंत एआय टूल हे जाणून घेण्यासाठी प्रोग्राम केलेले नाही तोपर्यंत तो फरक करणार नाही.
डीपमाइंडचे सह-संस्थापक डेमिस हसाबिस म्हणाले की जेमिनी निश्चित करण्यासाठी काही आठवडे लागतील. परंतु इतर एआय तज्ञांना याची खात्री नाही.
हगिंगफेस येथील संशोधन शास्त्रज्ञ डॉ साशा लुसिओनी म्हणाले:
“खरंच कोणतेही सोपे निराकरण नाही, कारण आउटपुट काय असावे याचे कोणतेही एकच उत्तर नाही.
"एआय एथिक्स कम्युनिटीमधील लोक अनेक वर्षांपासून याचे निराकरण करण्याच्या संभाव्य मार्गांवर काम करत आहेत."
ती म्हणाली की एक उपाय वापरकर्त्यांना त्यांच्या इनपुटसाठी विचारणे समाविष्ट असू शकते, जसे की "तुम्हाला तुमची प्रतिमा किती वैविध्यपूर्ण हवी आहे?" पण ते स्वतःच स्वतःचे लाल झेंडे घेऊन येते.
डॉ लुसिओनी जोडले:
“गुगलने काही आठवड्यांत या समस्येचे 'निराकरण' करतील असे म्हणणे थोडेसे अभिमानास्पद आहे. पण त्यांना काहीतरी करावे लागेल.”
दरम्यान, प्रोफेसर ॲलन वुडवर्ड, सरे युनिव्हर्सिटीचे संगणक शास्त्रज्ञ, म्हणाले की प्रशिक्षण डेटा आणि अत्याधिक अल्गोरिदम दोन्हीमध्ये समस्या "अगदी खोलवर एम्बेडेड" असण्याची शक्यता आहे - आणि ते अनपिक करणे कठीण होईल.
तो म्हणाला: "तुम्ही जे पाहत आहात... त्यामुळेच आउटपुट ग्राउंड ट्रूथ म्हणून अवलंबून असलेल्या कोणत्याही सिस्टीमसाठी लूपमध्ये मनुष्य असणे आवश्यक आहे."
रोझी कॅम्पबेल, ChatGPT निर्माते OpenAI मधील पॉलिसी मॅनेजर, यांनी सांगितले की OpenAI वर पूर्वाग्रह ओळखला गेला तरीही, ते दुरुस्त करणे कठीण आहे – आणि त्यासाठी मानवी इनपुट आवश्यक आहे.
Google साठी, असे दिसते की त्याने जुने पूर्वग्रह दुरुस्त करण्याचा एक विचित्र मार्ग निवडला आहे. त्यांचे निराकरण करण्याचा प्रयत्न करताना, त्याने अजाणतेपणे नवीनचा संपूर्ण संच तयार केला आहे.
पृष्ठभागावर, Google AI शर्यतीत आघाडीवर आहे कारण ती स्वतःची AI चिप्स बनवते आणि पुरवठा करते, त्याच्याकडे क्लाउड नेटवर्क आहे, त्याच्याकडे बऱ्याच डेटामध्ये प्रवेश आहे आणि मोठा वापरकर्ता आधार आहे.
तथापि, मिथुनसह Google च्या सध्याच्या समस्या त्वरित निराकरण केल्या जातील असे दिसत नाही.
लोड करीत आहे ...