एआयद्वारे होणाऱ्या लैंगिक खंडणीच्या धमक्यांमध्ये वाढ झाल्याने, यूकेमधील शाळांना विद्यार्थ्यांचे फोटो काढून टाकण्याचे आवाहन.

खंडणीखोरांनी एआय साधनांचा वापर करून मुलांची लैंगिकदृष्ट्या आक्षेपार्ह छायाचित्रे तयार केल्यामुळे, यूकेमधील शाळांना वेबसाइट्स आणि सोशल मीडियावरून विद्यार्थ्यांची ओळख पटवणारे फोटो काढून टाकण्याचे आवाहन केले जात आहे.

बाल सुरक्षा तज्ज्ञ आणि यूकेच्या राष्ट्रीय गुन्हे एजन्सीने असा इशारा दिला आहे की, गुन्हेगार सार्वजनिकरित्या उपलब्ध असलेल्या शालेय छायाचित्रांमध्ये फेरफार करून बाल लैंगिक शोषणाचे साहित्य (CSAM) तयार करत आहेत आणि त्यानंतर ही सामग्री ऑनलाइन शेअर होण्यापासून रोखण्यासाठी पैशांची मागणी करत आहेत.

युकेमधील एका अज्ञात माध्यमिक शाळेशी संबंधित अलीकडील प्रकरणानंतर हा इशारा देण्यात आला आहे. मिळालेल्या माहितीनुसार, गुन्हेगारांनी शाळेच्या वेबसाइट किंवा सोशल मीडिया खात्यांवरून फोटो घेतले आणि एआय साधनांचा वापर करून अश्लील चित्रे तयार केली.

त्यानंतर, पैसे न दिल्यास त्या ऑनलाइन प्रसिद्ध करण्याच्या धमक्यांसह, फेरफार केलेल्या प्रतिमा शाळेला पाठवण्यात आल्या.

इंटरनेट वॉच फाऊंडेशनने सांगितले की, त्यांनी या प्रतिमा ऑनलाइन पसरण्यापासून रोखण्यासाठी काम केले.

“हॅश” नावाच्या डिजिटल फिंगरप्रिंटिंग साधनाचा वापर करून, संस्थेने अपलोड थांबवण्यासाठी ती सामग्री प्रमुख टेक प्लॅटफॉर्म्ससोबत शेअर केली.

नियामक संस्थेने पुढे म्हटले आहे की, या प्रकरणातील फेरफार केलेल्या १५० प्रतिमांना यूके कायद्यानुसार बाल लैंगिक शोषण सामग्री (CSAM) म्हणून वर्गीकृत केले जाऊ शकते.

जेस फिलिप्स यांनी या घटनेचे वर्णन “एक अत्यंत चिंताजनक आणि नव्याने उदभवणारा धोका” असे केले.

ती म्हणाली: “गरज पडल्यास आम्ही अधिक कठोर पाऊल उचलण्यास मागेपुढे पाहणार नाही आणि आमचे कायदे नवीनतम धोक्यांनुसार अद्ययावत राहतील याची खात्री करू.”

CSAM निर्माण करण्यासाठी तयार केलेल्या AI मॉडेल्सच्या बाळगण्यावर बंदी घालण्याची योजना सरकारने आधीच जाहीर केली आहे.

आयडब्ल्यूएफने सांगितले की ही घटना एकमेव नाही आणि यूकेमध्ये शाळांच्या फेरफार केलेल्या प्रतिमांचा वापर करून ब्लॅकमेल करण्याच्या इतर प्रयत्नांचीही त्यांना माहिती असल्याचे त्यांनी पुष्टी केली.

ऑनलाइन धोक्यांवर लक्ष केंद्रित करणारी यूकेमधील एक सल्लागार संस्था, 'अर्ली वॉर्निंग वर्किंग ग्रुप'ने, शाळांना विद्यार्थ्यांच्या ऑनलाइन प्रतिमांचा वापर करण्याच्या पद्धतीवर पुनर्विचार करण्याचा सल्ला देणारी मार्गदर्शक सूचना आता जारी केली आहे.

जरी ही समस्या अद्याप व्यापक नसली तरी, आणखी शाळांना लक्ष्य केले जाणे ही केवळ काळाची बाब आहे, असा इशारा त्या गटाने दिला आहे.

या मार्गदर्शक सूचनेनुसार, ज्या छायाचित्रांमध्ये विद्यार्थ्यांचे चेहरे स्पष्टपणे दिसत आहेत, ती काढून टाकण्याची शिफारस करण्यात आली आहे. त्याऐवजी, शाळांना दुरून काढलेली छायाचित्रे, अस्पष्ट छायाचित्रे किंवा मुलांच्या मागून काढलेली छायाचित्रे वापरण्यास प्रोत्साहित केले जात आहे.

त्या सल्ल्यामध्ये “नावे किंवा चेहरे” यांसारखी “ओळख पटण्याजोगी माहिती” प्रकाशित करण्याविरुद्ध इशाराही देण्यात आला होता.

विद्यार्थ्यांची छायाचित्रे खरोखरच आवश्यक आहेत का, याचाही विचार करावा असे आवाहन शाळांना करण्यात आले.

मार्गदर्शनात असे म्हटले आहे की, संस्थांनी “मुले आणि तरुणांचे चेहरे नसलेल्या प्रतिमा वापरूनही आपली उद्दिष्ट्ये साध्य करता येतात का” याचा विचार करावा.

त्यात असेही म्हटले आहे की शाळा “धोके कमी करत” अधिक सुरक्षितपणे यशाचा उत्सव साजरा करणे सुरू ठेवू शकतात.

अतिरिक्त शिफारसींमध्ये फोटो कॅप्शनमध्ये पूर्ण नावे वापरणे टाळणे, वेबसाइट्स आणि सोशल मीडिया खात्यांवर अधिक कडक प्रायव्हसी सेटिंग्ज लागू करणे आणि मुलांचा समावेश असलेल्या ऑनलाइन सामग्रीचे नियमितपणे पुनरावलोकन करणे यांचा समावेश होता.

या तपासणी सूचीमध्ये शाळांना पालक आणि संरक्षकांसोबत प्रतिमा संमती करारांचे वारंवार नूतनीकरण करण्याचा सल्लाही देण्यात आला होता.

खंडणी मागण्याचे प्रयत्न झाल्यास, शाळांना तात्काळ पोलिसांशी संपर्क साधण्यास, गुन्हेगारी साहित्य जतन करण्यास आणि मूळ छेडछाड केलेल्या प्रतिमा सार्वजनिक दृष्टीतून काढून टाकण्यास सांगण्यात आले.

कार्यकारी गटामध्ये एनएसपीसीसी, राष्ट्रीय गुन्हेगारी संस्था, एज्युकेशन स्कॉटलंड आणि वेल्श सरकार यांसारख्या संस्थांचा समावेश आहे.

कॉन्फेडरेशन ऑफ स्कूल ट्रस्ट्सने म्हटले आहे की, विद्यार्थ्यांची सुरक्षितता आणि त्यांच्या यशाचा गौरव करणे यात संतुलन साधताना शाळा शिफारशींचा “काळजीपूर्वक विचार” करतील.

सीएसटीच्या मुख्य कार्यकारी अधिकारी, लिओरा क्रुडास म्हणाल्या:

शिक्षक म्हणून, आपल्याला स्वाभाविकपणे मुलांच्या यशाचा आनंद साजरा करावासा वाटतो आणि त्यात आपल्या शाळांमध्ये घडणाऱ्या सर्व चांगल्या गोष्टींचे फोटो आणि व्हिडिओ शेअर करण्याचाही समावेश होतो.

ही अत्यंत निराशाजनक बाब आहे की असे करताना आपल्याला गैरवर्तन करणाऱ्या आणि फसवणूक करणाऱ्यांकडून येणाऱ्या संभाव्य धोक्यांचा सामना करावा लागतो.

संपूर्ण यूकेमध्ये एआय-चालित सेक्स्टॉर्शनमधील वाढ ही एक वाढती चिंतेची बाब बनली आहे.

सेक्सटॉर्शनमध्ये सामान्यतः गुन्हेगार पीडितांना त्यांचे खाजगी फोटो शेअर करण्यास भाग पाडतात आणि पैसे किंवा अधिक सामग्री न दिल्यास ते सार्वजनिक करण्याची धमकी देतात.

जनरेटिव्ह एआयमधील प्रगतीमुळे गुन्हेगारांना सोशल मीडिया खात्यांवरून घेतलेल्या सामान्य फोटोंचा वापर करून बनावट अश्लील प्रतिमा तयार करणे शक्य झाले आहे.

सेक्सटॉर्शनच्या धमक्या मिळाल्यानंतर अनेक ब्रिटिश किशोरवयीन मुला-मुलींनी आत्महत्या केली आहे.

मुलांना ऑनलाइन अश्लील चित्रांची तक्रार करण्यास मदत करणाऱ्या 'रिपोर्ट रिमूव्ह' सेवेने सांगितले की, २०२५ मध्ये त्यांना १८ वर्षांखालील मुलांकडून ब्लॅकमेल करण्याच्या प्रयत्नांसंबंधी ३९४ तक्रारी प्राप्त झाल्या, जी २०२४ च्या तुलनेत ३४% वाढ आहे.

अधिकाऱ्यांनी अनेक सेक्सटॉर्शन कारवायांचा संबंध परदेशात, विशेषतः पश्चिम आफ्रिका आणि नायजेरियामधील संघटित गुन्हेगारी टोळ्यांशी जोडला आहे.

तपासकर्त्यांचा असा विश्वास आहे की, अलीकडील शालेय प्रकरणात वापरलेली भाषा ही सेक्स्टॉर्शन टोळ्यांकडून वापरल्या जाणाऱ्या वाटाघाटींच्या "स्क्रिप्ट्स" मध्ये सामान्यतः आढळणारी आहे.

काही शाळांनी या धोक्याला प्रतिसाद म्हणून आपल्या धोरणांमध्ये बदल करण्यास आधीच सुरुवात केली आहे.

२०२५ मध्ये, लॉबोरो स्कूल्स फाउंडेशनने विद्यार्थ्यांची ओळखता येण्याजोगी छायाचित्रे काढून टाकण्यासाठी आपल्या वेबसाइटची पुनर्रचना केली.