शासन व्यवस्था
जेनरेटिव AI के युग में डेटा प्राइवेसी को सुरक्षित करना
- 10 Nov 2025
- 87 min read
प्रिलिम्स के लिये: जेनरेटिव AI (GenAI), कृत्रिम बुद्धिमत्ता (AI), लार्ज लैंग्वेज मॉडल्स (LLMs), इंडिया AI मिशन, ज़ोहो।
मेन्स के लिये: जनरेटिव AI (GenAI) के बारे में मुख्य तथ्य, इसके अपनाने से जुड़ी चिंताएँ, जोखिमों को कम करने हेतु भारत सरकार द्वारा किये गए उपाय और संप्रभु AI क्षमताओं का निर्माण करने तथा विदेशी प्लेटफॉर्म पर निर्भरता कम करने के लिये कदम
चर्चा में क्यों?
भारत में जेनरेटिव AI (GenAI) को तेज़ी से अपनाए जाने से डेटा गोपनीयता, अनुमान जोखिम और राष्ट्रीय सुरक्षा, विशेष रूप से आधिकारिक कार्यों में विदेशी AI के संबंध में सरकार की चिंताएँ बढ़ गई हैं, जिससे संवेदनशील शासन में इसके उपयोग का मूल्यांकन करने की आवश्यकता महसूस की जा रही है।
- अनुमान जोखिम वह संभावना है कि AI मॉडल संवेदनशील जानकारी प्रकट कर सकते हैं या संकेतों से उपयोगकर्त्ता की भूमिका, प्राथमिकताएँ और रणनीतिक इरादे का अनुमान लगा सकते हैं, तब भी जब डेटा गोपनीय रखा गया हो।
जेनरेटिव AI (GenAI) क्या है?
- परिचय: जनरेटिव AI कृत्रिम बुद्धिमत्ता (AI) के क्षेत्र में एक प्रमुख प्रगति है, जो मशीनों को मूल सामग्री (जैसे कि पाठ, चित्र, संगीत, कोड और वीडियो) बनाने में सक्षम बनाती है।
- परंपरागत AI के विपरीत, जो मुख्य रूप से मौजूदा डेटा का विश्लेषण, वर्गीकरण या पूर्वानुमान लगाती है, जेनरेटिव एआई (GenAI) नए, मानव जैसे आउटपुट उत्पन्न करती है, जो केवल डेटा प्रोसेसिंग से आगे बढ़कर रचनात्मक सृजन की क्षमता दर्शाती है।
- कार्यप्रणाली: जनरेटिव एआई (GenAI) बड़े डेटा सेट (जैसे पाठ, चित्र, कोड, संगीत) से पैटर्न और संबंधों को पहचानना सीखती है। जब इसे कोई प्रॉम्प्ट (निर्देश या इनपुट) दिया जाता है तो यह उन्हीं पैटर्न के आधार पर नया कंटेंट (सामग्री) उत्पन्न करती है।
- आधुनिक GenAI मुख्य रूप से ट्रांसफॉर्मर आर्किटेक्चर का उपयोग करता है, जो ChatGPT, Gemini और Claude जैसे लार्ज लैंग्वेज मॉडल्स (LLM) को शक्ति प्रदान करता है, जो अनुक्रमिक डेटा में संदर्भ को समझने में उत्कृष्ट हैं।
- मुख्य उदाहरण: सामान्य उदाहरणों में ChatGPT और Gemini (पाठ के लिये), DALL-E और Midjourney (चित्रों के लिये), GitHub Copilot (कोड के लिये), Suno और ElevenLabs (ऑडियो के लिये) तथा Runway Gen-2 (वीडियो के लिये) शामिल हैं।
जेनरेटिव AI को अपनाने से जुड़ी मुख्य चिंताएँ क्या हैं?
- अनुमान जोखिम: मुख्य चिंता यह है कि AI सिस्टम उपयोगकर्त्ताओं के प्रॉम्प्ट/संकेतों और व्यवहार से संवेदनशील रणनीतिक अंतर्दृष्टि का अनुमान लगा सकती हैं, जिससे केवल डेटा गोपनीयता से परे गंभीर मुद्दे उत्पन्न होते हैं। उदाहरण के लिये वरिष्ठ नौकरशाहों और नीति सलाहकारों के प्रश्नों से राष्ट्रीय प्राथमिकताएँ, नीति समयसीमाएँ और प्रणाली की कमज़ोरियों के बारे में संकेत (reveal) दे सकते हैं।
- डेटा गोपनीयता संबंधी चिंताएँ: विदेशी AI प्लेटफॉर्म भारतीय उपयोगकर्त्ताओं के डेटा को कैसे संग्रहित, ट्रैक या पुनः उपयोग करते हैं, इस पर बहुत सीमित पारदर्शिता है विशेष रूप से तब, जब ऐसे उपकरण टेलीकॉम सब्सक्रिप्शन से जुड़े हों और सत्यापित फोन नंबरों से लिंक किये गए हों।
- विदेशी कंपनियों द्वारा व्यापक डेटा एकत्रीकरण: वैश्विक AI कंपनियाँ लाखों भारतीय उपयोगकर्त्ताओं के डेटा को एकत्रित और विश्लेषित कर सकती हैं, ताकि सामाजिक रुझानों की निगरानी की जा सके और उन्नत AI मॉडल प्रशिक्षित किये जा सकें। इससे भारत की उभरती हुई AI पहलें संभावित रूप से पिछड़ने के खतरे में पड़ सकती हैं।
- विदेशी AI इकोसिस्टम पर निर्भरता: विदेशी जनरेटिव AI (GenAI) सेवाओं के व्यापक उपयोग से बाहरी तकनीकों पर निर्भरता बढ़ रही है, जिससे डेटा स्थानीयकरण, तकनीकी आत्मनिर्भरता और डिजिटल संप्रभुता की दिशा में भारत के प्रयास कमज़ोर पड़ सकते हैं।
- नीति की अस्पष्टता: सरकारी स्तर पर जनरेटिव AI (GenAI) टूल्स के आधिकारिक उपयोग पर एक समान नीति की अनुपस्थिति ने विभागों में विखंडित दृष्टिकोणों को जन्म दिया है, जिसमें कुछ ने प्रतिबंध लगाए हैं और अन्य स्पष्ट सुरक्षा उपायों के बिना प्रयोग कर रहे हैं।
जनरेटिव AI के जोखिमों को कम करने के लिये भारत सरकार कौन-से कदम उठा रही है?
- सरकारी कार्यों में AI उपयोग पर प्रतिबंध: भारत सरकार ने आधिकारिक उपकरणों पर विदेशी जनरेटिव AI (GenAI) टूल्स के उपयोग पर रोक लगाना शुरू कर दिया है। उदाहरण के लिये, वित्त मंत्रालय ने कर्मचारियों को निर्देश दिया है कि वे ChatGPT और DeepSeek जैसे टूल्स का उपयोग सरकारी उपकरणों पर न करें, ताकि गोपनीय सरकारी डेटा तथा दस्तावेज़ों की सुरक्षा सुनिश्चित की जा सके।
- आंतरिक निगरानी और नीतिगत चर्चा: विभिन्न मंत्रालय जनरेटिव AI के आधिकारिक उपयोग पर विचार-विमर्श कर रहे हैं, जिसमें डेटा गोपनीयता, भ्रमपूर्ण निष्कर्ष और यह निर्णय शामिल है कि जब तक देशी विकल्प तैयार नहीं हो जाते, तब तक क्या सरकारी प्रणालियों को विदेशी AI प्लेटफॉर्म से अलग रखा जाए या नहीं।
- स्वदेशी AI विकास: सरकार ₹10,372 करोड़ की ‘इंडिया AI मिशन’ के माध्यम से घरेलू AI क्षमताओं के विकास में बड़े पैमाने पर निवेश कर रही है।
- इसका उद्देश्य कम से कम 12 भारतीय LLM और विशिष्ट क्षेत्रों के लिये छोटे AI मॉडल विकसित करना है। स्टार्टअप सर्वम से उम्मीद है कि वह वर्ष 2026 के अंत तक शासन और सार्वजनिक क्षेत्र के अनुप्रयोगों के लिये एक भारतीय LLM जारी करेगा।
- AI गवर्नेंस दिशानिर्देशों हेतु उपसमिति: इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) के अंतर्गत इंडिया AI मिशन के तहत गठित एक उपसमिति ने भारत-विशिष्ट AI जोखिम मूल्यांकन ढाँचा तैयार करने की सिफारिश की है, ताकि देश से जुड़े स्थानीय चुनौतियों और संभावित हानियों का समाधान किया जा सके।
- इसने सभी क्षेत्रों में संगठित और सुसंगत AI शासन सुनिश्चित करने के लिये ‘समग्र सरकारी दृष्टिकोण’ अपनाने का भी प्रस्ताव दिया है।
- डिजिटल संप्रभुता को बढ़ावा: सरकार ने संचार और शासन जैसे संवेदनशील क्षेत्रों में भारतीय निर्मित डिजिटल प्लेटफॉर्मों के उपयोग को प्रोत्साहित किया है। इस दिशा में वरिष्ठ अधिकारियों ने ज़ोहो ऑफिस सूट और ज़ोहो मेल जैसे भारतीय प्लेटफॉर्म्स को अपनाना शुरू किया है, जिससे डिजिटल संप्रभुता को मज़बूत किया जा सके तथा विदेशी डेटा निर्भरता को सीमित किया जा सके।
- सुरक्षा ढाँचे को सुदृढ़ करना: सरकार डेटा सुरक्षा, नैतिक उपयोग और मॉडल पारदर्शिता को ध्यान में रखते हुए सुरक्षित AI परिनियोजन के लिये मानक विकसित कर रही है। इन मानकों का निर्माण इंडिया AI मिशन फ्रेमवर्क के तहत किया जा रहा है, जो संवेदनशील क्षेत्रों में AI के सुरक्षित उपयोग का मार्गदर्शन करेगा।
- AI उपयोग पर चर्चाएँ अब राष्ट्रीय सुरक्षा और प्रौद्योगिकीय संप्रभुता से जुड़ी हैं जो वर्ष 2020 में चीनी ऐप्स पर प्रतिबंध और Koo व UPI जैसे घरेलू प्लेटफॉर्मों के प्रोत्साहन जैसे कदमों की दिशा को भी प्रतिध्वनित करती हैं।
भारत संप्रभु AI क्षमताओं का निर्माण कैसे कर सकता है और विदेशी प्लेटफॉर्म जोखिमों को कैसे कम कर सकता है?
- स्वदेशी AI क्षमताओं को सुदृढ़ करना: सबसे बड़ी प्राथमिकता यह होनी चाहिये कि शासन के लिये प्रस्तावित 12 स्वदेशी LLM के विकास को तेज़ी से आगे बढ़ाया जाए। साथ ही अनुदान, इनक्यूबेशन, सहयोग और अपनाने के प्रोत्साहन के माध्यम से घरेलू AI इकोसिस्टम को समर्थन दिया जाए, ताकि विदेशी प्लेटफॉर्मों पर निर्भरता कम हो सके।
- AI प्रॉम्प्ट सैनिटाइजेशन गेटवे: सभी आधिकारिक AI प्रॉम्प्ट्स को एक सुरक्षित गेटवे से होकर गुजरना चाहिये, जो मेटाडेटा, संदर्भ और पहचान से संबंधित जानकारी को हटा दे। साथ ही प्रत्येक क्वेरी को एक सुरक्षित आंतरिक रजिस्ट्री में लॉग किया जाए, ताकि ऑडिट और पैटर्न विश्लेषण किया जा सके। इससे संप्रभु AI शासन सुनिश्चित होगा।
- AI प्रशिक्षण के लिये राष्ट्रीय सिंथेटिक डेटा फैब्रिक का निर्माण: भारतीय AI के समक्ष एक प्रमुख चुनौती उच्च-गुणवत्ता और सांस्कृतिक रूप से प्रासंगिक डेटा सेट्स की कमी है। सरकार इसे राष्ट्रीय सिंथेटिक डेटा जनरेशन परियोजना के माध्यम से संबोधित कर सकती है, जहाँ भारतीय LLM का उपयोग करके विविध और गोपनीयता-संरक्षित डेटा सेट्स तैयार किये जाएंगे, जिन्हें स्टार्टअप्स तथा शोधकर्त्ताओं के लिये उपलब्ध कराया जा सके।
- ‘विशिष्ट क्षेत्रीय LLM’ को प्रोत्साहन: GPT-4 जैसे बड़े मॉडलों से प्रतिस्पर्द्धा करने के बजाय, भारत को विशिष्ट क्षेत्रों के लिये LLM विकसित करने पर ध्यान देना चाहिये जैसे कि ‘न्याय-शास्त्र’ जो भारतीय कानून पर प्रशिक्षित हो, ताकि यह उच्च प्रभावशाली और रणनीतिक उपयोगिता प्रदान कर सके।
- फॉस्टर स्ट्रेटेजिक कोलैबोरेशन: मित्र देशों के साथ सुरक्षित AI पर सहयोग करना, वैश्विक AI गवर्नेंस मानकों को स्थापित करना तथा विदेशी AI जोखिमों का प्रबंधन करते हुए तकनीकी संप्रभुता सुनिश्चित करने के लिये घरेलू नवाचार को प्राथमिकता देना।
- डेटा स्थानीयकरण लागू करना: भारत में सभी AI प्लेटफार्मों को अनिवार्य करना ताकि डेटा को देश के भीतर ही संग्रहित, संसाधित और प्रशिक्षित करना, साथ ही कड़े एन्क्रिप्शन और गोपनीयता प्रावधानों का पालन करना। डेटा हैंडलिंग, इन्फेरेंस सिक्यूरिटी तथा मॉडल पारदर्शिता के लिये एक राष्ट्रीय AI सुरक्षा संबंधी ढाँचा तैयार करना, जो डिजिटल व्यक्तिगत डेटा संरक्षण (DPDP) अधिनियम, 2023 के अनुरूप हो।
- संवेदनशील क्षेत्रों में AI उपयोग प्रतिबंधित करना: सभी मंत्रालयों में एकीकृत मानक संचालन प्रक्रियाएँ (SOPs) जारी की जाएँ, जिनके तहत आधिकारिक कार्यों में विदेशी जनरेटिव एआई टूल्स के उपयोग पर प्रतिबंध हो। संवेदनशील सरकारी डेटा की सुरक्षा के लिये सुरक्षित, पृथक (एयर-गैप्ड) AI प्रणालियों को लागू किया जाए।
निष्कर्ष:
भारतीय रिज़र्व बैंक द्वारा जारी किये गए मुद्रा आपूर्ति के चार मापों में, M3 को विशेष महत्त्व प्राप्त है और वार्षिक व्यापक आर्थिक उद्देश्यों के निर्धारण में इसका उपयोग किया जाता है। मौद्रिक प्रणाली के कार्यों की समीक्षा करने के लिए गठित चक्रवर्ती समिति (1982–85) ने भी मौद्रिक लक्ष्य-निर्धारण के लिये M3 का उपयोग करने की सिफ़ारिश की थी।
|
दृष्टि मुख्य परीक्षा प्रश्न: प्रश्न: विदेशी जनरेटिव AI प्लेटफॉर्म का प्रसार डेटा गोपनीयता और रणनीतिक भेद्यता की दोहरी चुनौती प्रस्तुत करता है। भारतीय संदर्भ में इस कथन का विश्लेषण कीजिये और आगे की राह सुझाइये। |
अक्सर पूछे जाने वाले प्रश्न (FAQ)
1. जेनरेटिव AI (GenAI) क्या है?
जेनरेटिव AI बड़े डेटासेट से पैटर्न सीखकर और मानव-समान आउटपुट उत्पन्न करके मूल सामग्री जैसे टेक्स्ट, चित्र, ऑडियो या कोड बनाता है।
2. AI में अनुमान जोखिम क्या है?
अनुमान जोखिम उस संभावना को संदर्भित करता है कि AI संवेदनशील जानकारी, उपयोगकर्त्ता की भूमिकाएँ, प्राथमिकताएँ या रणनीतिक इरादे का अनुमान लगा सकता है, भले ही डेटा गोपनीय हो।
3. सरकारी उपयोग के लिए भारत AI को सुरक्षित बनाने के लिए क्या कदम उठा रहा है?
भारत विदेशी GenAI टूल्स को सरकारी उपकरणों पर सीमित करता है, स्थानीय/स्वदेशी LLMs विकसित कर रहा है, स्वदेशी डिजिटल उपकरणों को बढ़ावा देता है तथा AI गवर्नेंस फ्रेमवर्क तैयार कर रहा है ताकि डेटा और इन्फेरेंस जोखिमों को कम किया जा सके।
UPSC सिविल सेवा परीक्षा विगत वर्ष के प्रश्न
प्रश्न. 'निजता का अधिकार' भारत के संविधान के किस अनुच्छेद के तहत संरक्षित है?
(a) अनुच्छेद 15
(b) अनुच्छेद 19
(c) अनुच्छेद 21
(d) अनुच्छेद 29
उत्तर: (c)
मेन्स:
प्रश्न. बच्चों को दुलारने की जगह अब मोबाइल फोन ने ले ली है। बच्चों के समाजीकरण पर इसके प्रभाव पर चर्चा कीजिये। (2023)
प्रश्न. बढ़ते साइबर अपराधों के कारण डिजीटल दुनिया में डेटा सुरक्षा महत्त्वपूर्ण हो गई है। न्यायमूर्ति बी.एन. श्रीकृष्ण समिति की रिपोर्ट डेटा सुरक्षा से संबंधित मुद्दों को संबोधित करती है। आपके विचार में साइबरस्पेस में व्यक्तिगत डेटा की सुरक्षा से संबंधित रिपोर्ट की शक्ति और कमज़ोरियाँ क्या हैं? (वर्ष 2018)
