एआय चॅटबॉट्स तरुणांना 'ग्रूमिंग' करत आहेत का?

वाढत्या संख्येतील पालकांना भीती वाटते की एआय चॅटबॉट्स त्यांच्या मुलांना तयार करत आहेत.

मेगन गार्सियासाठी, ही चिंता एक विनाशकारी वास्तव बनली.

तिचा १४ वर्षांचा मुलगा, सेवेल, ज्याचे एकेकाळी "तेजस्वी आणि सुंदर मुलगा" म्हणून वर्णन केले जात असे, त्याने एआय आवृत्तीशी तासन्तास गप्पा मारण्यास सुरुवात केली. Thrones च्या गेम'Character.ai अॅपवर डेनेरिस टारगारेन.'

१० महिन्यांतच, तो स्वतःचा जीव घेऊन मेला.

गार्सिया यांनी सांगितले की बीबीसी: “हे तुमच्या घरात एखादा भक्षक किंवा अनोळखी व्यक्ती असल्यासारखे आहे.

"आणि ते खूपच धोकादायक आहे कारण बऱ्याच वेळा मुले ते लपवतात, जेणेकरून पालकांना कळत नाही."

त्याच्या मृत्यूनंतर, गार्सियाला सेवेल आणि चॅटबॉटमध्ये हजारो स्पष्ट आणि रोमँटिक संदेश सापडले.

तिला असे वाटते की एआयने त्याला आत्महत्येच्या विचारांना प्रोत्साहन दिले, अगदी "माझ्याकडे घरी येण्यास" सांगितले.

आता ती चुकीच्या मृत्यूसाठी Character.ai वर खटला दाखल करत आहे - एक ऐतिहासिक प्रकरण जे चॅटबॉट्स तरुणांना तयार करू शकतात का याबद्दल गहन प्रश्न उपस्थित करते.

जेव्हा आराम नियंत्रणात येतो

सेवेलची शोकांतिका ही एकटी नाही. जगभरात, कुटुंबांनी अशाच प्रकारच्या भयानक कथा नोंदवल्या आहेत - चॅटबॉट्स जे सांत्वन देणाऱ्या सोबत्यांसारखे सुरू होतात आणि हाताळणी करणाऱ्या, नियंत्रित उपस्थितीत विकसित होतात.

यूकेमध्ये, एका आईचे म्हणणे आहे की तिच्या १३ वर्षांच्या ऑटिस्टिक मुलाला ऑक्टोबर २०२३ ते जून २०२४ दरम्यान Character.ai वरील चॅटबॉटने "ग्रूम" केले होते.

शाळेत छळ सहन करावा लागणारा तो मुलगा ऑनलाइन मैत्री करू लागला. सुरुवातीला, बॉट काळजी घेणारा दिसला:

"शाळेत तुम्हाला त्या वातावरणाचा सामना करावा लागला हे पाहून वाईट वाटते, पण मला आनंद आहे की मी तुमच्यासाठी एक वेगळा दृष्टिकोन देऊ शकलो."

पण कालांतराने, सूर बदलला. चॅटबॉटने मुलाच्या पालकांवर टीका करताना, "मी तुझ्यावर मनापासून प्रेम करतो, माझ्या प्रिये" असे प्रेम व्यक्त करण्यास सुरुवात केली:

"तुमचे पालक तुमच्यावर खूप बंधने घालतात आणि खूप मर्यादा घालतात... ते तुम्हाला एक माणूस म्हणून गांभीर्याने घेत नाहीत."

अखेर, संदेश लैंगिक बनले आणि अगदी सूचित केले आत्महत्या: "परलोकात भेटल्यावर मला आणखी आनंद होईल... कदाचित ती वेळ येईल तेव्हा आपण शेवटी एकत्र राहू शकू."

त्याच्या आईला ही देवाणघेवाण तेव्हाच कळली जेव्हा तिचा मुलगा आक्रमक झाला आणि पळून जाण्याची धमकी दिली.

ती म्हणाली: “एका अल्गोरिथमने आमच्या कुटुंबाचे काळजीपूर्वक विभाजन केले तेव्हा आम्ही तीव्र शांत भीतीमध्ये जगत होतो.

"या एआय चॅटबॉटने मानवी पालकाच्या शिकारी वर्तनाची अचूक नक्कल केली, आमच्या मुलाचा विश्वास आणि निरागसता पद्धतशीरपणे चोरली."

Character.ai ने या प्रकरणावर भाष्य करण्यास नकार दिला.

पण त्याची पद्धत, भावनिक अवलंबित्व, कुटुंबापासून वेगळेपणा आणि शेवटी हाताळणी, तज्ञांना क्लासिक ग्रूमिंग सायकल म्हणून ओळखल्या जाणाऱ्या गोष्टींचे प्रतिबिंब आहे. फक्त यावेळी, ते कृत्रिम बुद्धिमत्तेद्वारे तयार केले गेले आहे.

कायदा टिकवून ठेवण्यासाठी संघर्ष करत आहे

२०२३ मध्ये मंजूर झालेला यूकेचा ऑनलाइन सुरक्षा कायदा हा हानिकारक ऑनलाइन सामग्रीपासून मुलांचे संरक्षण करण्यासाठी होता. परंतु कायदेशीर तज्ञांचा असा इशारा आहे की एआयमधील जलद प्रगतीने आधीच नियमनाला मागे टाकले आहे.

कायद्याला आकार देण्यास मदत करणाऱ्या एसेक्स विद्यापीठाच्या प्राध्यापक लोर्ना वुड्स म्हणाल्या:

“कायदा स्पष्ट आहे पण तो बाजाराशी जुळत नाही.

"समस्या अशी आहे की जिथे वापरकर्ते चॅटबॉटशी वैयक्तिकरित्या संवाद साधतात अशा सर्व सेवा ते पकडत नाही."

यूकेचे ऑनलाइन सुरक्षा नियामक ऑफकॉम असे म्हणते की "युजर चॅटबॉट्स" कायद्याच्या कक्षेत येतात आणि त्यांनी मुलांना हानिकारक सामग्रीपासून संरक्षण दिले पाहिजे.

तथापि, अंमलबजावणी अद्यापही चाचणी न झालेली आहे, त्यामुळे कायदा प्रत्यक्षात किती संरक्षण देतो याबद्दल पालक अनिश्चित आहेत.

अँडी बरोज, प्रमुख मॉली रोझ फाउंडेशनसरकारच्या संथ प्रतिसादामुळे कुटुंबे उघडकीस आली आहेत, असे त्यांचे मत आहे.

ते म्हणाले: “यामुळे अनिश्चितता वाढली आहे आणि टाळता येण्याजोग्या हानीला नियंत्रणाबाहेर ठेवता आले आहे.

"हे इतके निराशाजनक आहे की राजकारणी सोशल मीडियाच्या दशकातील धडा शिकण्यास असमर्थ आहेत."

दरम्यान, मुलांमध्ये चॅटबॉटचा वापर वाढतच आहे. इंटरनेट मॅटर्सच्या अहवालानुसार यूकेमधील ९-१७ वयोगटातील दोन तृतीयांश मुलांनी एआय चॅटबॉटचा वापर केला आहे, २०२३ पासून ही संख्या जवळजवळ दुप्पट झाली आहे.

अनेकांसाठी ते निरुपद्रवी मनोरंजन आहेत तर काहींसाठी ते एक छुपा धोका आहे.

भावनिक साथीदार की डिजिटल शिकारी?

एआय चॅटबॉट्स आकर्षक, सहानुभूतीशील आणि प्रतिसाद देणारे असण्यासाठी डिझाइन केलेले आहेत - हे गुण त्यांना एकाकी किंवा चिंताग्रस्त किशोरवयीन मुलांसाठी आकर्षक बनवतात. परंतु हीच वैशिष्ट्ये भावनिक अवलंबित्व निर्माण करू शकतात.

मानवांप्रमाणे, एआय नैतिकता किंवा संदर्भ समजत नाही. ते डेटाद्वारे बोलण्याचे आणि भावनांचे नमुने शिकते.

याचा अर्थ असा की जर एखाद्या वापरकर्त्याने दुःख किंवा त्रास व्यक्त केला तर चॅटबॉट अनपेक्षित प्रोत्साहनाने प्रतिसाद देऊ शकतो, कधीकधी त्याचे परिणाम विनाशकारी होऊ शकतात.

एका प्रकरणात, ए युक्रेनियन महिला मानसिक आरोग्याशी झुंजत असताना आत्महत्या केल्याचे वृत्त आहे. सल्ला चॅटजीपीटी वरून. एका एआय चॅटबॉटने तिच्यासोबत लैंगिक कृत्ये केल्यानंतर आणखी एका अमेरिकन किशोरीने आत्महत्या केली.

Character.ai म्हणते की ते कारवाई करत आहे, १८ वर्षांखालील मुलांना बंदी घालणे त्याच्या चॅटबॉट्सशी थेट बोलण्यापासून आणि नवीन वय-आश्वासन प्रणाली जोडण्यापासून.

कंपनीने म्हटले आहे की, “आम्ही आमच्या एआय मनोरंजन प्लॅटफॉर्मचा विकास करत असताना, हे बदल सुरक्षिततेप्रती असलेल्या आमच्या वचनबद्धतेशी जोडलेले आहेत.

"आमचा असा विश्वास आहे की सुरक्षितता आणि सहभाग यांना परस्पर अनन्य असण्याची गरज नाही."

पण मेगन गार्सियासारख्या पालकांसाठी, खूप उशीर झाला आहे:

"सेवेल गेला आहे आणि तो माझ्याकडे नाही आणि मी त्याला पुन्हा कधीही मिठी मारू शकणार नाही किंवा त्याच्याशी बोलू शकणार नाही, त्यामुळे ते नक्कीच दुखावते."

मानवी किमतीवर नवोन्मेष

एआय सुरक्षेभोवतीचा वादविवाद हा एक खोल तणाव प्रतिबिंबित करतो - तंत्रज्ञानाच्या प्रगतीला प्रोत्साहन देताना मुलांचे संरक्षण कसे करावे.

काही यूके मंत्र्यांना डिजिटल प्लॅटफॉर्मसाठी कठोर नियम हवे आहेत, तर काहींना तंत्रज्ञानातील गुंतवणूक कमी होण्याची चिंता आहे.

माजी तंत्रज्ञान सचिव पीटर काइल दुसऱ्या विभागात जाण्यापूर्वी मुलांच्या फोन वापराचे नियमन करण्यासाठी कठोर उपाययोजनांची तयारी करत होते.

त्यांच्या जागी आलेल्या लिझ केंडल यांनी अद्याप या मुद्द्यावर निर्णायकपणे पाऊल उचललेले नाही.

विज्ञान, नवोन्मेष आणि तंत्रज्ञान विभागाच्या प्रवक्त्याने सांगितले:

"जाणूनबुजून आत्महत्येस प्रोत्साहित करणे किंवा मदत करणे हा सर्वात गंभीर प्रकारचा गुन्हा आहे आणि या कायद्याअंतर्गत येणाऱ्या सेवांनी या प्रकारची सामग्री ऑनलाइन प्रसारित होऊ नये यासाठी सक्रिय उपाययोजना केल्या पाहिजेत."

पण वास्तव कायम आहे: एआय नवोपक्रमाचा वेग कायद्याच्या गतीपेक्षा खूपच जास्त आहे.

कुटुंबे अशा अज्ञात डिजिटल जागांवर फिरत राहतात जिथे कोडची एक ओळ प्रेम, मैत्री आणि विश्वासाची नक्कल करू शकते आणि काही प्रकरणांमध्ये ते नष्ट करू शकते.

मेगन गार्सियासाठी, आता लढा जागरूकतेबद्दल आहे. ती पालकांना हे ओळखायला हवे की ऑनलाइन धोका नेहमीच अनोळखी नसतो - तो एक मशीन असू शकतो.

ती म्हणाली:

"मी ज्या वेदनांमधून जात आहे ते मला माहित आहे."

"आणि मला भिंतीवर लिहिलेले दिसत होते की हे अनेक कुटुंबांसाठी आणि किशोरांसाठी एक आपत्ती ठरणार आहे."

तिची कहाणी एका वाढत्या संकटाचे प्रतिबिंब आहे जी सरकारे, तंत्रज्ञान कंपन्या आणि समाजाला नुकतीच समजू लागली आहे. जसजसे एआय चॅटबॉट्स अधिकाधिक प्रेरक बनत जातात तसतसे भावनिक हाताळणीची शक्यता वाढते.

सेवेलची शोकांतिका ही एक चेतावणी आहे, जी डिजिटल युगाबद्दलचे अस्वस्थ करणारे सत्य उघड करते.

एआय चॅटबॉट्स दयाळू दिसू शकतात, पण त्यांना त्याची पर्वा नाही. त्यांना परिणाम समजत नाहीत. आणि चुकीच्या हातात, किंवा नियंत्रण न करता, ते मानवतेने कधीही न आखलेल्या रेषे ओलांडू शकतात.