अँथ्रोपिकच्या सीईओने एआय विकासाचा वेग कमी करण्याची मागणी केली.

एआय कंपनी अँथ्रोपिकचे प्रमुख डारियो अमोडेई यांनी कृत्रिम बुद्धिमत्तेच्या विकासाचा वेग कमी करण्याची आणि त्यावर अधिक बारकाईने लक्ष ठेवण्याची मागणी केली आहे.

एका ऑनलाइन निबंधात, अमोदेई म्हणाले की एआय विकसित करणे प्रश्नाधीन नाही, परंतु या तंत्रज्ञानाशी संबंधित धोके "गंभीर" असल्याचा इशाराही त्यांनी दिला.

त्यांनी असा युक्तिवाद केला की कंपन्या आणि सरकारांना त्या बाबींवर उपाययोजना करण्यासाठी वेळ हवा आहे. जोखीम एआय मॉडेल्स अधिकाधिक सक्षम होत असल्यामुळे.

सॅम ऑल्टमन आणि इलॉन मस्क या दोघांनीही या प्रस्तावाला पाठिंबा दर्शवला आहे.

वाढत्या शक्तिशाली एआय प्रणालींमुळे निर्माण होणाऱ्या संभाव्य धोक्यांबद्दल वाढत्या चिंतेच्या पार्श्वभूमीवर अमोदेई यांनी ही टिप्पणी केली आहे.

एआय संशोधक जेकब कॉक्सन यांनी बीबीसीच्या लॉरा कुएन्सबर्ग यांना सांगितले की, एआय कंपन्यांमध्ये काम करणारे लोक “खरोखरच घाबरलेले आहेत… पुढील दोन वर्षांत मानवतेच्या भवितव्याबद्दल खरोखरच चिंतित आहेत”.

ते पुढे म्हणाले: “हे अजिबात अतिशयोक्ती नाही की, या कंपन्यांची स्थापना करणाऱ्या आणि तंत्रज्ञान विकसित करणाऱ्या दोन्ही व्यक्तींचा असा विश्वास आहे की मानवजात नामशेष होण्याची शक्यता आहे.”

त्यांच्या निबंधात, शीर्षक आपण आघाडीवर गती राखली पाहिजेअमोदेई यांनी एक त्रिसूत्री योजना प्रस्तावित केली, ज्यामध्ये एआय मॉडेल्सच्या विकासादरम्यान त्यांचे स्वतंत्र निरीक्षण, उद्योगव्यापी नियमन आणि जागतिक नियमन यांचा समावेश होता.

त्याच्या प्रस्तावाला काही स्पर्धकांकडून पाठिंबा मिळाला, ज्यामध्ये विकासादरम्यान एआय मॉडेल्सच्या सुरक्षिततेचे मूल्यांकन करण्यासाठी त्रयस्थ निरीक्षकांच्या नियुक्तीची मागणीही समाविष्ट होती.

अमोडेई यांच्याशी सहमत असताना, ऑल्टमन यांनी एआयच्या सुरक्षिततेबद्दल चिंता व्यक्त केली आणि म्हटले की, सध्याची मानके अशा टप्प्यावर नाहीत जिथे उद्योगाने एआय क्षमतांना अधिक पुढे न्यावे.

त्यांनी पुढे असेही सांगितले की, मानवी नियंत्रणापलीकडील एआय “निश्चितपणे” शक्य आहे, असा त्यांचा विश्वास होता.

या इशाऱ्यांमुळे कारवाई करण्याची मागणी पुन्हा जोर धरू लागली आहे, मात्र अमेरिकेचे अध्यक्ष डोनाल्ड ट्रम्प यांनी एआय विकासाचा वेग मंदावण्याबद्दलची चिंता फेटाळून लावली आहे.

ट्रम्प म्हणाले की, “जर आपण एआय जिंकलो नाही, तर आपण खूप वाईट परिस्थितीत सापडू” अशी त्यांना चिंता आहे.

नवीन एआय मॉडेल्सनी अधिक शक्तिशाली क्षमता दाखवल्यामुळे सायबरसुरक्षेबद्दलची चिंताही वाढली आहे.

एप्रिलमध्ये अशी घोषणा झाल्यानंतर की ही प्रणाली सँडबॉक्स म्हणून ओळखल्या जाणाऱ्या तिच्या चाचणी वातावरणातून स्वतंत्रपणे बाहेर पडू शकते, अँथ्रोपिकने आपले मिथोस मॉडेल सार्वजनिक वापरापासून दूर ठेवले.

दरम्यान, ओपनएआयने आपल्या अ‍ॅस्ट्रा मॉडेलच्या विकासातील काही पैलू का थांबवले आहेत, हे स्पष्ट करताना सायबरसुरक्षेच्या चिंतेचा हवाला दिला.

आपल्या निबंधात, अमोदेई यांनी असा युक्तिवाद केला की एआयने "अत्यंत वेगाने" प्रगती केली आहे, ज्यामध्ये "एआयची पुढची पिढी तयार करण्याच्या क्षमतेचा" समावेश आहे.

त्यांनी ओपनएआय (OpenAI) शी संबंधित एका घटनेचाही उल्लेख केला, ज्यामध्ये जुलै महिन्यात एजंट्सनी कथितरित्या अशा बाह्य लक्ष्यांना हॅक केले होते, ज्यावर हल्ला करण्यास त्यांना सांगण्यात आले नव्हते.

अमोडेई यांनी “एआयचे फायदे मिळवतानाच त्याची सुरक्षितता सुनिश्चित करण्याच्या उद्देशाने, संतुलित गतीने एआयची निर्मिती करण्याचे” आवाहन केले.

ते म्हणाले की याचा अर्थ “मॉडेल प्रशिक्षण किंवा तांत्रिक प्रगती थांबवणे असा नाही, तर कंपन्यांना त्यांचे मॉडेल संरेखित करण्यासाठी आणि सुरक्षित ठेवण्यासाठी पुरेसा वेळ मिळेल याची खात्री करणे आणि तृतीय-पक्ष मूल्यमापनकर्त्यांकडून याची पुष्टी करून घेणे” असा आहे.

अमोदेई म्हणाले की, अँथ्रोपिक या दृष्टिकोनासाठी “एकतर्फी” वचनबद्ध आहे, तसेच त्यांनी सरकारांना “इतर उदयोन्मुख कंपन्यांनाही असेच करण्यास भाग पाडण्याचे” आवाहन केले.

त्यांनी मान्य केले की एआयच्या विकासासोबत नियमन करणे कठीण जाऊ शकते. त्यामुळे त्यांनी एआय कंपन्यांना सरकारी नियमनासोबत “स्वेच्छेने एकत्र येऊन मानके निश्चित करण्याचे” आवाहन केले.

अँथ्रोपिकच्या सीईओने मंदीचा आघाडीच्या एआय डेव्हलपर्समधील स्पर्धेवर, विशेषतः चीनसोबतच्या शर्यतीवर, होणाऱ्या परिणामावरही भाष्य केले.

तो म्हणाला: “माझा विश्वास आहे की, जर वेग कमी केल्यामुळे मॉडेल्स क्षमतेच्या गंभीर पातळीवर पोहोचण्यापूर्वी आपल्याला आणखी एक-दोन वर्षे मिळाली आणि आपण तो वेळ संरेखन (अलाइनमेंट) पुढे नेण्यासाठी वापरला, तर काहीतरी गंभीर चूक होण्याचा धोका आपण मोठ्या प्रमाणात कमी करू शकतो.”

त्यांनी असा युक्तिवाद केला की, कोणतीही मंदीची गती कमी करताना “व्यावसायिक फायदा किंवा एआयमधील अमेरिकेचे वर्चस्व गमावता कामा नये” अशा प्रकारे समन्वय साधावा लागेल.

अमोदेई म्हणाले की, एआय विकासात चीनला पुढे जाऊ न देण्यासाठी निर्बंधही मर्यादित ठेवले पाहिजेत.

त्यांनी अमेरिकन सरकारला आवाहन केले की, अमेरिकी कंपन्यांनी चीनला एआय चिप्स विकू नयेत किंवा हुकूमशाही देशांना हे तंत्रज्ञान देऊ नये.