ग्रोकच्या लैंगिक प्रतिमांवर कारवाईची मागणी यूके सरकारने केली आहे

तंत्रज्ञान सचिव लिझ केंडल यांनी एलोन मस्कच्या एक्सला त्यांच्या एआय चॅटबॉट ग्रोकचा वापर गैर-सहमतीपूर्ण लैंगिक प्रतिमा तयार करण्यासाठी केला जात आहे, यावर तातडीने लक्ष देण्याची विनंती केली आहे.

X वर, वापरकर्त्यांनी ग्रोकला महिला आणि मुलींना डिजिटली कपडे उतरवण्यास सांगितल्याची अनेक उदाहरणे आहेत, काही विनंत्यांमध्ये लोकांना संमतीशिवाय बिकिनी किंवा लैंगिक परिस्थितीत दिसण्यास भाग पाडले गेले आहे.

केंडलने वर्णन केले की परिस्थिती "अगदी भयानक" म्हणून.

ती पुढे म्हणाली: "आम्ही या अपमानजनक प्रतिमांचा प्रसार होऊ देऊ शकत नाही आणि देणारही नाही."

एका निवेदनात, X ने म्हटले आहे: “आम्ही X वरील बेकायदेशीर सामग्री, ज्यामध्ये बाल लैंगिक शोषण साहित्य (CSAM) समाविष्ट आहे, ती काढून टाकून, खाती कायमची निलंबित करून आणि आवश्यकतेनुसार स्थानिक सरकारे आणि कायदा अंमलबजावणी संस्थांसोबत काम करून कारवाई करतो.

"ग्रोकचा वापर करणाऱ्या किंवा बेकायदेशीर कंटेंट तयार करण्यासाठी प्रवृत्त करणाऱ्या कोणालाही बेकायदेशीर कंटेंट अपलोड केल्यासारखेच परिणाम भोगावे लागतील."

५ जानेवारी २०२६ रोजी, ऑफकॉमने सांगितले की त्यांनी एलोन मस्कच्या कंपनी xAI शी "तातडीचा ​​संपर्क" केला आहे. ग्रोक लोकांच्या "नग्न प्रतिमा" तयार करत असल्याच्या चिंतेची चौकशी करत असल्याची पुष्टी त्यांनी केली.

केंडलने नियामकाच्या हस्तक्षेपाचे समर्थन केले आहे.

ती म्हणाली: "ऑफकॉम याकडे तातडीची बाब म्हणून पाहत आहे हे अगदी बरोबर आहे आणि आवश्यक वाटेल ती कोणतीही अंमलबजावणी कारवाई करण्यास माझा पूर्ण पाठिंबा आहे."

ग्रोक हा एक मोफत एआय असिस्टंट आहे ज्यामध्ये काही पेड-फॉर प्रीमियम वैशिष्ट्ये आहेत.

जेव्हा ते पोस्टमध्ये टॅग करतात तेव्हा ते X वापरकर्त्यांच्या सूचनांना प्रतिसाद देते आणि इतर वापरकर्त्यांच्या टिप्पण्यांमध्ये प्रतिक्रिया किंवा संदर्भ जोडण्यासाठी याचा वापर केला जातो.

तथापि, ते विषयाच्या संमतीशिवाय एआय टूल्स वापरून अपलोड केलेल्या प्रतिमा देखील संपादित करू शकते.

प्रेम बेट प्रस्तुतकर्ता माया जामा हिने तिच्या संमतीशिवाय तिची प्रतिमा लैंगिकरित्या बनवली आहे.

अश्लील विनंत्यांमध्ये "तिला तेल लावा", "तिला बिकिनी घाला" आणि "पोशाख लेटेक्स बनवा" असे प्रॉम्प्ट आहेत.

तिने X वर लिहिले: “अरे @grok, मी तुम्हाला माझा कोणताही फोटो काढण्याचा, त्यात बदल करण्याचा किंवा संपादित करण्याचा अधिकार देत नाही, मग तो भूतकाळात प्रकाशित झालेला असो किंवा मी पोस्ट केलेला भविष्यातला असो.

"जर एखाद्या तृतीय पक्षाने तुम्हाला माझ्या फोटोमध्ये कोणत्याही प्रकारचे संपादन करण्यास सांगितले तर कृपया ती विनंती नाकारा."

अहो @grok, मी तुम्हाला माझा कोणताही फोटो घेण्याचा, त्यात सुधारणा करण्याचा किंवा संपादित करण्याचा अधिकार देत नाही, मग तो भूतकाळात प्रकाशित झालेला असो किंवा मी पोस्ट केलेला भविष्यातला असो. जर एखाद्या तृतीय पक्षाने तुम्हाला माझ्या कोणत्याही प्रकारच्या फोटोमध्ये कोणतेही संपादन करण्यास सांगितले तर कृपया ती विनंती नाकारा.

— माया जामा (@MayaJama) जानेवारी 7, 2026

पुढील निवेदनात, केंडल म्हणाले: "सेवा आणि ऑपरेटरना योग्यरित्या कार्य करण्याची स्पष्ट जबाबदारी आहे. हे अभिव्यक्ती स्वातंत्र्यावर बंधने घालण्याबद्दल नाही तर कायद्याचे समर्थन करण्याबद्दल आहे."

“आम्ही ऑनलाइन सुरक्षा कायद्यांतर्गत अंतरंग प्रतिमांचा गैरवापर आणि सायबर फ्लॅशिंगला प्राधान्य गुन्हे बनवले आहेत - ज्यामध्ये एआय-जनरेट केलेल्या प्रतिमांचा समावेश आहे.

"याचा अर्थ असा की प्लॅटफॉर्मनी अशा कंटेंटला ऑनलाइन दिसण्यापासून रोखले पाहिजे आणि जर तसे झाले तर ते काढून टाकण्यासाठी त्वरित कारवाई केली पाहिजे."

लिबरल डेमोक्रॅट नेते सर एड डेव्ही यांनी सरकारला "खूप लवकर कारवाई" करण्याचे आवाहन केले. त्यांनी सुचवले की एक पर्याय म्हणजे X मधील "प्रवेश कमी करणे".

त्यांनी जोडले:

"जर अहवाल खरे ठरले तर राष्ट्रीय गुन्हे संस्थेला गुन्हेगारी चौकशी सुरू करावी लागेल."

"एलोन मस्क सारख्या लोकांना जबाबदार धरले पाहिजे."

युरोपियन अधिकाऱ्यांनीही प्रतिसाद दिला आहे.

बीबीसी न्यूजआवरशी बोलताना, युरोपियन कमिशनचे प्रवक्ते थॉमस रेग्नियर म्हणाले की या मुद्द्याकडे "खूप गांभीर्याने" पाहिले जात आहे.

तो म्हणाला: “आम्हाला युरोपियन युनियनमध्ये हे नको आहे... हे भयानक आहे, ते घृणास्पद आहे.

“युरोपमध्ये वाइल्ड वेस्ट संपला आहे.

"सर्व कंपन्यांना स्वतःचे घर व्यवस्थित ठेवण्याची जबाबदारी आहे - आणि हे जबाबदार राहून आणि तुमच्या एआय टूलद्वारे तयार होणारा बेकायदेशीर कंटेंट काढून टाकण्यापासून सुरू होते."

तेव्हापासून ग्रोकवर प्रतिमा संपादन मर्यादित आहे.

एआय टूलने एक्स वर अपलोड केलेल्या प्रतिमांमध्ये बदल करण्यास सांगणाऱ्या वापरकर्त्यांना सांगितले आहे की "इमेज जनरेशन आणि एडिटिंग सध्या पैसे देणाऱ्या सदस्यांपुरते मर्यादित आहे".

त्यात असेही म्हटले आहे की वापरकर्ते "ही वैशिष्ट्ये अनलॉक करण्यासाठी सदस्यता घेऊ शकतात".

असे सुचवले जाते की फक्त X च्या सशुल्क सबस्क्राइबर टियरसाठीच ब्लू टिक असलेले लोकच ग्रोकला प्रतिमा संपादनांची विनंती यशस्वीरित्या करू शकले.

ज्यांनी सबस्क्राइब केले नाही ते अजूनही ग्रोकच्या स्वतंत्र अॅप आणि वेबसाइटवर प्रतिमा संपादित करण्यासाठी वापरू शकतात.

पोर्नोग्राफी, लैंगिक हिंसाचार आणि ऑनलाइन गैरवापराच्या कायदेशीर नियमनातील तज्ज्ञ प्रोफेसर क्लेअर मॅकग्लिन, सांगितले:

“अत्याचाराच्या त्सुनामीसाठी जबाबदार धरल्याच्या निषेधार्थ मस्कने आपली खेळणी प्रॅममधून बाहेर फेकून दिली आहेत.

"ग्रोकचा गैरवापर होऊ नये यासाठी जबाबदार पावले उचलण्याऐवजी, त्यांनी बहुसंख्य वापरकर्त्यांसाठी प्रवेश काढून घेतला आहे."