५७ दशलक्ष एनएचएस रेकॉर्ड्सवर एआय प्रशिक्षित केल्याने गोपनीयतेची चिंता निर्माण झाली आहे.

लाखो NHS रेकॉर्डवर प्रशिक्षित केलेले एक नवीन कृत्रिम बुद्धिमत्ता मॉडेल डॉक्टरांना आजार आणि रुग्णालयात दाखल होण्याचे प्रमाण अंदाज लावण्यास मदत करू शकते.

५७ दशलक्ष लोकांच्या अनामिक आरोग्य डेटाचा वापर करून दूरदृष्टी तयार करण्यात आली.

परंतु तज्ञांनी असा इशारा दिला आहे की या डेटाची विस्तृत श्रेणी आणि समृद्धता म्हणजे गोपनीयता आणि रुग्णांची पुन्हा ओळख पटवण्याची शक्यता याबद्दल गंभीर चिंता आहेत.

हे मॉडेल पहिल्यांदा २०२३ मध्ये ओपनएआयच्या जीपीटी-३ आणि लंडनच्या दोन रुग्णालयांमधील १५ लाख रुग्णांच्या वास्तविक डेटाचा वापर करून विकसित करण्यात आले.

युनिव्हर्सिटी कॉलेज लंडन (UCL) येथील संशोधकांनी बनवलेली त्याची नवीनतम आवृत्ती, मेटाच्या लामा २ द्वारे समर्थित आहे आणि २०१८ ते २०२३ दरम्यान इंग्लंडमध्ये NHS द्वारे नोंदवलेल्या १० अब्ज आरोग्य कार्यक्रमांवर प्रशिक्षित आहे.

यूसीएलमध्ये या प्रकल्पाचे नेतृत्व करणारे ख्रिस टॉमलिन्सन म्हणाले की हे मॉडेल रोगाचा अंदाज आणि प्रतिबंध करण्यास मदत करू शकते:

"दूरदृष्टीची खरी क्षमता म्हणजे रोगाच्या गुंतागुंत होण्यापूर्वीच त्यांचा अंदाज घेणे, ज्यामुळे आपल्याला लवकर हस्तक्षेप करण्यासाठी एक मौल्यवान संधी मिळते आणि मोठ्या प्रमाणात प्रतिबंधात्मक आरोग्यसेवेकडे वळणे शक्य होते."

आश्वासन असूनही, टीमने अद्याप मॉडेल किती चांगले काम करते याचा डेटा जारी केलेला नाही. चाचणीमध्ये दूरदृष्टी कायम आहे.

मॉडेलला प्रशिक्षण देण्यासाठी वापरल्या जाणाऱ्या डेटाचे निरीक्षण करणारे NHS डिजिटलचे मायकेल चॅपमन म्हणाले:

"मॉडेलमध्ये जाणारा डेटा ओळख रद्द केला जातो, त्यामुळे थेट ओळखपत्रे काढून टाकली जातात."

पण त्यांनी कबूल केले: "मग समृद्ध आरोग्य डेटा असल्याने त्या डेटासेटमध्ये कोणीतरी दिसू शकत नाही याची १०० टक्के खात्री देणे खूप कठीण आहे."

ऑक्सफर्ड विद्यापीठातील ल्यूक रोचर म्हणाले: “शक्तिशाली जनरेटिव्ह तयार करणे AI रुग्णांच्या गोपनीयतेचे रक्षण करणारे मॉडेल ही एक खुली, न सुटलेली वैज्ञानिक समस्या आहे.

"डेटाची समृद्धता जी एआयसाठी मौल्यवान बनवते त्यामुळे ते गुप्त ठेवणे देखील आश्चर्यकारकपणे कठीण होते. हे मॉडेल्स एनएचएसच्या कडक नियंत्रणाखाली असले पाहिजेत जिथे ते सुरक्षितपणे वापरले जाऊ शकतात."

जोखीम कमी करण्यासाठी, हे मॉडेल सुरक्षित NHS डेटा वातावरणात चालते. केवळ मान्यताप्राप्त संशोधकच ते अॅक्सेस करू शकतात.

टॉमलिन्सनच्या म्हणण्यानुसार, अमेझॉन वेब सर्व्हिसेस आणि डेटाब्रिक्सने पायाभूत सुविधा पुरवल्या, परंतु त्यांना डेटामध्ये प्रवेश नाही.

तथापि, संशोधकांनी एआयने त्याच्या प्रशिक्षण डेटामधील संवेदनशील तपशील लक्षात ठेवले आहेत की नाही याची चाचणी केलेली नाही.

अशा चाचण्या झाल्या आहेत का असे विचारले असता, टॉमलिन्सन म्हणाले:

"भविष्यात असे करण्याचा विचार आहे."

ऑक्सफर्ड विद्यापीठातील कॅरोलाइन ग्रीन म्हणतात की, संपूर्ण सार्वजनिक सहभागाशिवाय इतक्या मोठ्या डेटासेटचा वापर नैतिक चिंता निर्माण करतो.

ती पुढे म्हणाली: "जरी ते गुप्त ठेवले जात असले तरी, नैतिक दृष्टिकोनातून लोक त्याबद्दल खूप ठामपणे विचार करतात, कारण लोक सहसा त्यांच्या डेटावर नियंत्रण ठेवू इच्छितात आणि ते कुठे जात आहे हे त्यांना जाणून घ्यायचे असते."

लोकांना बाहेर पडण्याची संधी कमी आहे.

एनएचएस म्हणते की ज्यांनी त्यांच्या जीपीकडून डेटा शेअर करण्यास नकार दिला त्यांना समाविष्ट केले जाणार नाही. परंतु इतर ऑप्ट-आउट यंत्रणा दूरदृष्टी मॉडेलला लागू होत नाहीत कारण डेटा "ओळखला गेलेला" आहे.

एनएचएस इंग्लंडच्या प्रवक्त्याने सांगितले: "मॉडेलला प्रशिक्षित करण्यासाठी वापरला जाणारा डेटा गुप्त ठेवण्यात आला असल्याने, तो वैयक्तिक डेटा वापरत नाही आणि त्यामुळे जीडीपीआर लागू होणार नाही."

परंतु कायदेशीर तज्ञांचे म्हणणे आहे की "ओळख रद्द केलेला" डेटा पूर्णपणे अनामिक डेटासारखा नाही.

यूकेच्या डेटा रेग्युलेटरचे म्हणणे आहे की या शब्दाची स्पष्ट कायदेशीर व्याख्या नाही आणि त्यामुळे गोंधळ निर्माण होऊ शकतो.

प्रकरणे आणखी गुंतागुंतीची बनवत, दूरदृष्टी सध्या फक्त कोविड-१९ शी संबंधित संशोधनासाठी वापरली जाते. याचा अर्थ असा की साथीच्या काळात लागू केलेले आपत्कालीन डेटा कायदे अजूनही लागू आहेत.

मेडकॉन्फिडेंशियलचे सॅम स्मिथ म्हणाले:

"या कोविड-ओन्ली एआयमध्ये जवळजवळ निश्चितच रुग्णांचा डेटा एम्बेड केलेला आहे, जो प्रयोगशाळेतून बाहेर सोडता येत नाही."

"रुग्णांचा डेटा कसा वापरला जातो यावर त्यांचे नियंत्रण असले पाहिजे."

कायदेशीर आणि नैतिक प्रश्न वाढत असताना, काही संशोधक असा इशारा देतात की जर पारदर्शकतेला प्राधान्य दिले नाही तर जनतेचा विश्वास कमी होऊ शकतो.

ग्रीन म्हणाले: “एआय विकासाच्या बाबतीत थोडी समस्या आहे, जिथे नीतिमत्ता आणि लोक हे सुरुवातीच्या बिंदूपेक्षा दुसऱ्या विचाराचे असतात.

"पण आपल्याला जे हवे आहे ते म्हणजे मानव आणि नीतिमत्ता ही सुरुवातीची गरज आहे, आणि त्यानंतर तंत्रज्ञान येते."