कृत्रिम बुद्धिमत्ता
एआई शक्ति और लोकतांत्रिक मानदंडों के बीच टकराव
Securities.io को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जैसे-जैसे एआई तकनीक अधिक व्यापक और शक्तिशाली होती जा रही है, लोकतांत्रिक मूल्यों और तकनीकी प्रगति के बीच संतुलन बनाना लगातार कठिन होता जा रहा है। एक ओर, लोगों के लिए अपनी दृष्टियों को जनता के साथ साझा करना पहले से कहीं आसान हो गया है।
एआई अभिव्यक्ति की स्वतंत्रता की सुरक्षा को कैसे बदल रहा है
कृत्रिम बुद्धिमत्ता ने अभिव्यक्ति की स्वतंत्रता पर गहरा प्रभाव डाला है। इसने लोगों के लिए अपनी कल्पना को प्रभावशाली रूप में प्रस्तुत करना और सोशल मीडिया के जरिए जनता तक पहुंचाना आसान बनाया है। उत्पादन लागत भी बहुत कम हुई है, जिससे लगभग कोई भी संगठन ऑनलाइन अपने उद्देश्य का समर्थन कर सकता है।
एआई उपकरण कई लाभ देते हैं, जिनमें अलग-अलग जनसमूहों के अनुरूप संदेशों को आसानी से बदलना शामिल है। अमेरिका में एआई-निर्मित सामग्री भी सामान्यतः प्रथम संशोधन से जुड़े अभिव्यक्ति-संबंधी प्रश्नों के दायरे में आती है, हालांकि उसकी कानूनी सुरक्षा संदर्भ और उपयोग पर निर्भर करती है।
दूसरी ओर, एआई ने भ्रामक सूचना की बाढ़ को भी बढ़ाया है। लोगों के लिए यह पहचानना पहले से कठिन हो गया है कि कौन-सी जानकारी किसी वास्तविक विशेषज्ञ से आई है और कौन-सी किसी एल्गोरिदम ने बनाई है। इसका परिणाम संस्थाओं पर भरोसे में कमी हो सकता है।
सोशल मीडिया एल्गोरिदम एआई-जनित भ्रामक सूचना को कैसे बढ़ाते हैं
सोशल मीडिया एल्गोरिदम विवादास्पद डीपफेक को अधिक सहभागिता मिलने के कारण आगे बढ़ा सकते हैं। इससे एक चक्र बनता है जिसमें झूठी सामग्री वास्तविक जानकारी से अधिक प्रमुख दिखाई देती है। सभी क्षेत्रों में एआई-जनित भ्रामक सामग्री के लिए एक समान अनिवार्य लेबलिंग नियम भी नहीं है।
एआई और लोकतांत्रिक व्यवस्थाओं में नागरिक भागीदारी
कृत्रिम बुद्धिमत्ता नागरिकों की व्यापक भागीदारी के अवसर खोलती है। इसके माध्यम से सरकार और नागरिक विचार साझा कर सकते हैं और जनमत के संकेतों को समझ सकते हैं। यह जटिल कानूनों का सार प्रस्तुत करने और नागरिकों को उपयोगी जानकारी देने में भी मदद कर सकती है।
एआई निगरानी के जोखिम और लोकतांत्रिक निजता की चिंताएं
भागीदारी बढ़ाने के साथ एआई कई निगरानी जोखिम भी पैदा करता है। ऐसी प्रणालियां मतदाताओं को ट्रैक कर सकती हैं और किसी व्यक्ति की ऑनलाइन गतिविधि व डिजिटल पदचिह्न के आधार पर उसके राजनीतिक विचारों का अनुमान लगाने की कोशिश कर सकती हैं।
इस तकनीक से डिजिटल पदचिह्न या पसंद के आधार पर किसी व्यक्ति की पहचान का अनुमान भी लगाया जा सकता है। इन उपकरणों पर लागू वारंट और निगरानी नियम क्षेत्राधिकार तथा उपयोग के अनुसार अलग होते हैं; पर्याप्त नियंत्रण न हो तो दुरुपयोग का जोखिम बढ़ जाता है।
आधुनिक चुनावों और चुनावी अखंडता में एआई की भूमिका
कृत्रिम बुद्धिमत्ता चुनाव प्रक्रिया में कई लाभ दे सकती है। इससे परिणामों की निगरानी आसान हो सकती है और मतदाता धमकी या अन्य व्यवधानों के संकेत पहचानने में मदद मिल सकती है।
एआई डीपफेक और राजनीतिक भरोसे का संकट
आज एआई-जनित भ्रामक सूचना से जुड़ी प्रमुख समस्याओं में डीपफेक शामिल हैं। यह तकनीक सार्वजनिक अधिकारियों, उद्योग विशेषज्ञों, राजनीतिक उम्मीदवारों या अन्य व्यक्तियों की विश्वसनीय दिखने वाली नकली छवियां, वीडियो और आवाजें बनाना आसान करती है।
स्रोत – BBC
राजनीतिक डीपफेक अधिकारियों के लिए लगातार समस्या पैदा करते हैं और जनता तक पहुंचने वाली जानकारी को विकृत कर सकते हैं। उच्च गुणवत्ता वाले नकली वीडियो वास्तविक सामग्री जैसे लग सकते हैं, इसलिए अव्यवस्था फैलाने या सार्वजनिक भरोसा कमजोर करने वाले अनेक समूह उनका उपयोग कर सकते हैं।
“लायर्स डिविडेंड” और सार्वजनिक भरोसे का क्षरण
एआई डीपफेक की लगातार मौजूदगी का एक और प्रभाव “लायर्स डिविडेंड” है। इसका अर्थ है कि किसी घटना के समर्थन में वास्तविक तथ्य और प्रमाण होने पर भी आरोपी उसे एआई से बना नकली प्रमाण बताकर नकार सकता है।
यह रणनीति संस्थाओं पर भरोसा कमजोर करती है और आम व्यक्ति के लिए सूचित निर्णय लेना कठिन बनाती है। भ्रामक सूचना के कारण पक्षों के ध्रुवीकृत होने पर तार्किक बहस की गुंजाइश भी घटती है।
चुनावों में एआई डीपफेक के वास्तविक उदाहरण
हाल के चुनावों में डीपफेक के कई उदाहरण सामने आए हैं। एक उल्लेखनीय घटना 21 जनवरी 2024 की है, जब न्यू हैम्पशायर के मतदाताओं को एआई से बनाई गई रोबोकॉल भेजी गई।
कॉल उठाने पर राष्ट्रपति जो बाइडेन की नकली आवाज मतदाताओं से “नवंबर के लिए अपना वोट बचाने” को कहती थी। अधिकारियों के अनुसार यह संदेश हजारों मतदाताओं तक पहुंचा, लेकिन यह साबित करने के पर्याप्त प्रमाण नहीं हैं कि इसके कारण बड़ी संख्या में लोगों ने मतदान नहीं किया।
रोबोकॉल की खबर सामने आने के बाद जांच शुरू हुई। यह घटना बताती है कि एआई डीपफेक चुनावी प्रक्रिया में हस्तक्षेप और भ्रम पैदा करने के लिए किस तरह इस्तेमाल किए जा सकते हैं।
स्लोवाकिया के 2023 चुनाव का डीपफेक विवाद
चुनावों में एआई हस्तक्षेप का एक और उदाहरण स्लोवाकिया के 2023 चुनाव में सामने आया। एक नकली रिकॉर्डिंग में प्रोग्रेसिव स्लोवाकिया के नेता मिखाल शिमेका को कथित रूप से चुनाव में धांधली पर चर्चा करते दिखाया गया। बाद में इसे नकली बताया गया, लेकिन तब तक यह सोशल प्लेटफॉर्म पर व्यापक रूप से फैल चुकी थी।
2026 में एआई डीपफेक की पहचान कैसे करें
डीपफेक की पहचान आसान नहीं है। शुरुआती तकनीक में अस्वाभाविक पलक झपकना, अजीब रोशनी या होंठों की गति जैसी गलतियां दिखती थीं। शोध बताता है कि संदर्भ और माध्यम के अनुसार लोग उच्च गुणवत्ता वाले डीपफेक पहचानने में अक्सर कमजोर प्रदर्शन करते हैं।
किसी वीडियो की जांच के लिए उसके फ्रेम को रिवर्स इमेज सर्च से मूल सामग्री से मिलाया जा सकता है और ऑडियो में अस्वाभाविक संकेत खोजे जा सकते हैं। फिर भी उच्च गुणवत्ता वाले डीपफेक की पहचान के लिए तकनीकी उपकरण और स्रोत-सत्यापन दोनों आवश्यक हो सकते हैं।
प्रमुख एआई डीपफेक पहचान उपकरण और उनकी सीमाएं
एआई उपकरण वीडियो की प्रामाणिकता जांचने में मदद कर सकते हैं, लेकिन कोई भी परिणाम अपने आप अंतिम प्रमाण नहीं है। विकल्पों में Deepware Scanner, Reality Defender और Microsoft का Video Authenticator शामिल हैं। नतीजों को स्रोत और संदर्भ की जांच के साथ देखना चाहिए।
इन प्रणालियों में ऐसे स्वामित्व वाले एल्गोरिदम होते हैं जो वीडियो फ्रेम में पिक्सेल असंगतियां या एआई से जुड़े पैटर्न खोजते हैं। वे उपलब्ध संदर्भ डेटा से तुलना करके संभावित हस्तक्षेप के संकेत भी दे सकती हैं।
सर्वश्रेष्ठ एआई पहचान उपकरण भी त्रुटिहीन नहीं हैं। BioID जैसे उपकरणों के लिए बताई गई 98% सटीकता विशिष्ट परीक्षण परिस्थितियों से जुड़ी होती है और हर प्रकार के डीपफेक या वास्तविक परिस्थिति पर लागू नहीं होती। गलत सकारात्मक और गलत नकारात्मक परिणाम महत्वपूर्ण सीमा बने रहते हैं।
एआई हेरफेर के विरुद्ध रक्षा के रूप में मीडिया साक्षरता
डीपफेक से मुकाबले का एक प्रभावी तरीका व्यापक मीडिया साक्षरता बढ़ाना है। स्पष्ट लेबलिंग, स्रोत की जांच और संदर्भ की पुष्टि से दर्शकों को नकली और वास्तविक वीडियो में अंतर करने में मदद मिल सकती है।
एआई शासन में बड़ी टेक कंपनियों की स्व-नियमन सीमाएं
टेक कंपनियों के स्व-नियमन का रिकॉर्ड मिश्रित रहा है। लाभ और नवाचार पर जोर कभी-कभी निजता और सूचना की सत्यता के साथ टकरा सकता है। इसलिए डीपफेक के प्रसार को रोकने के लिए पारदर्शिता, बाहरी निगरानी और स्पष्ट जवाबदेही जरूरी हो सकती है।
2026 में सरकारी एआई विनियमन के प्रयास
इन जोखिमों के कारण सरकारों ने एआई के लिए सुरक्षा नियम बनाने शुरू किए हैं। चुनौती यह है कि सुरक्षा उपाय इतने प्रभावी हों कि लोगों की रक्षा कर सकें, लेकिन इतने व्यापक न हों कि उपयोगी नवाचार को अनावश्यक रूप से रोक दें।
एआई कंपनियां बनाम सरकार: 2026 का नीतिगत टकराव
हाल के महीनों में सरकारों और एआई प्रदाताओं के बीच मतभेद बढ़े हैं। जहां विधायक डीपफेक और भ्रामक सूचना से जनता की रक्षा करना चाहते हैं, वहीं सेनाएं एआई उपकरणों को अपने तंत्र में अधिक व्यापक रूप से जोड़ना चाहती हैं।
इस तकनीक को सैन्य “किल चेन” का हिस्सा बनाने की मांग ने कंपनियों और अमेरिकी सरकार के बीच सार्वजनिक विवाद पैदा किए हैं। निम्न उदाहरण एआई युद्ध से जुड़े जोखिमों और कठिन नीतिगत सवालों को दिखाते हैं।
Anthropic बनाम अमेरिकी रक्षा विभाग
Anthropic और अमेरिकी रक्षा विभाग के बीच Claude एआई मॉडल के उपयोग को लेकर सार्वजनिक विवाद हुआ। मतभेद इस बात पर था कि सरकार को कितनी व्यापक पहुंच मिले और क्या उससे घरेलू जन-निगरानी जैसे निषिद्ध उपयोग संभव हो सकते हैं।
2021 में स्थापित Anthropic ने एआई लक्ष्य-निर्धारण प्रणालियों की विश्वसनीयता को लेकर भी व्यापक पहुंच पर सीमाएं मांगीं। कंपनी के सीईओ डारियो अमोडेई ने स्वायत्त हथियारों और घरेलू जन-निगरानी को प्रमुख प्रतिबंधित उपयोग बताया।
सैन्य एआई उपयोग पर Anthropic की प्रस्तावित सीमाएं
पेंटागन ने तर्क दिया कि लगभग 20 करोड़ डॉलर के अनुबंध में व्यापक वैध उपयोग की अनुमति होनी चाहिए। Anthropic ने रक्षा और खुफिया कार्यों के कई उपयोग स्वीकार किए, लेकिन अमेरिकी नागरिकों की जन-निगरानी और पूरी तरह स्वायत्त घातक लक्ष्य-निर्धारण पर रोक बनाए रखी।
पेंटागन ने Anthropic की पाबंदियां क्यों अस्वीकार कीं
ये शर्तें पेंटागन अधिकारियों के लिए पर्याप्त नहीं थीं। इसके बाद ट्रंप प्रशासन ने संघीय एजेंसियों में Anthropic उत्पादों के उपयोग को सीमित या चरणबद्ध रूप से समाप्त करने की कार्रवाई की और राष्ट्रपति ने उन्हें “राष्ट्रीय सुरक्षा जोखिम” कहा। विवाद में Defense Production Act का उल्लेख भी हुआ, हालांकि कानूनी आधार को आधिकारिक आदेश के अनुसार सावधानी से समझना चाहिए।
इस कदम से Anthropic की भविष्य की संघीय और रक्षा अनुबंध पाने की क्षमता प्रभावित हो सकती है, जिससे कंपनी को अपने घोषित सुरक्षा सिद्धांतों और व्यावसायिक अवसरों के बीच कठिन संतुलन बनाना पड़ सकता है।
पेंटागन के बदलाव पर OpenAI और xAI की प्रतिक्रिया
Anthropic के प्रतिस्पर्धी OpenAI ने रक्षा वातावरण में अपने मॉडल तैनात करने के लिए समझौता किया। रिपोर्टों के अनुसार यह व्यवस्था “वैध उपयोग” ढांचे और कंपनी द्वारा बताए गए सुरक्षा प्रतिबंधों के अधीन है; इसे असीमित उपयोग के रूप में नहीं समझना चाहिए।
कृत्रिम बुद्धिमत्ता के वर्तमान सैन्य उपयोग
एआई प्रणालियां युद्ध की गति और पैमाना बढ़ाने में पहले से उपयोग की जा रही हैं। इन्हें झुंड ड्रोन जैसी बढ़ती स्वायत्त प्रणालियों के साथ काम करने के लिए भी विकसित किया जा रहा है।
कृत्रिम बुद्धिमत्ता अनेक सेंसरों से मिले संकेतों को जोड़कर विश्लेषण और निर्णय सहायता तेज कर सकती है। सैन्य रसद, वित्त और पूर्वानुमानित रखरखाव जैसे क्षेत्रों में भी इसका उपयोग महत्वपूर्ण है।
गाजा में इजराइल द्वारा एआई लक्ष्य-निर्धारण प्रणालियों का उपयोग
गाजा अभियान में एआई लक्ष्य-निर्धारण प्रणालियों का उपयोग चर्चा में रहा। रिपोर्टों के अनुसार इन अभियानों में Lavender जैसे उपकरणों से व्यक्तियों के डेटा और कथित उग्रवादी व्यवहार के संकेतों का मिलान किया गया।
रिपोर्टों में आरोप लगाया गया कि इस उपकरण ने इजराइली सेना को संदिग्ध निम्न-स्तरीय हमास सदस्यों की पहचान और लक्ष्य-निर्धारण में सहायता दी। इजराइली सैन्य सूत्रों से जुड़ी रिपोर्टों में लगभग 10% त्रुटि दर बताई गई, लेकिन यह आंकड़ा स्वतंत्र रूप से सत्यापित और सार्वभौमिक माप नहीं है।
“Gospel” एआई लक्ष्य-निर्धारण प्रणाली की व्याख्या
Gospel नामक एक अन्य इजराइली एआई उपकरण के बारे में बताया गया है कि वह प्रतिदिन बड़ी संख्या में संभावित लक्ष्य सुझा सकता है। यह गतिविधियों और अन्य डेटा का मिलान करके उन इमारतों की पहचान करता है जहां लड़ाके होने का संदेह हो सकता है। रिपोर्टों ने इसे “Where’s Daddy” नामक ट्रैकिंग प्रणाली से भी जोड़ा है।
कानून प्रवर्तन में एआई: खतरे की पहचान और निजता जोखिम
कानून प्रवर्तन में एआई का उपयोग विवादास्पद है। रिपोर्टों के अनुसार ChatGPT की प्रणालियों ने बाद में जेसी वैन रूटसेलार से जुड़े एक खाते में नीति उल्लंघन चिन्हित किए थे; वैन रूटसेलार को कनाडा के टम्बलर रिज सामूहिक गोलीबारी की संदिग्ध बताया गया। संदिग्ध होने और अदालत में दोष सिद्ध होने के बीच अंतर बनाए रखना जरूरी है।
कंपनी के अनुसार, आठ महीने पहले खाते से बंदूक हिंसा से जुड़े बार-बार प्रश्न पूछे गए और नीति उल्लंघन चिन्हित हुए। मामला मानव समीक्षकों के पास गया, जिसके बाद खाता प्रतिबंधित किया गया।
एआई चेतावनी प्रणालियां अक्सर हस्तक्षेप क्यों नहीं करा पातीं
कंपनी ने कहा कि चेतावनी संकेतों के बावजूद खाता उस सीमा तक नहीं पहुंचा जिसे वह सक्रिय खतरा मानती थी, इसलिए अधिकारियों को सूचित नहीं किया गया। बाद में यह सिद्ध नहीं किया जा सकता कि सूचना देने से हमला रुक जाता या निश्चित रूप से जानें बच जातीं, हालांकि उससे अतिरिक्त जांच संभव हो सकती थी।
कंपनी के आंतरिक रिकॉर्ड के बारे में रिपोर्टों ने बताया कि खाता प्रतिबंधित होने के बाद अधिकारियों को सूचित करने पर चर्चा हुई थी। यह भी बताया गया कि हमले से पहले प्रतिबंध से बचते हुए एक दूसरा खाता खोला गया।
कुछ सरकारी अधिकारियों ने तर्क दिया कि संदिग्ध चैट के बारे में अधिकारियों को सूचित करना OpenAI की जिम्मेदारी थी। कंपनी ने कहा कि वह डेटा साझा करने और प्रतिक्रिया समय की अपनी प्रक्रियाओं में सुधार करेगी तथा कुछ सीमाएं कम करेगी।
“We Will Not Be Divided” एआई नैतिकता पत्र
“We Will Not Be Divided Letter” एआई कर्मचारियों से पूरी तरह स्वायत्त हथियारों और जन-निगरानी का सार्वजनिक विरोध करने तथा उद्योग भर में लागू किए जा सकने वाले सुरक्षा वचनों का समर्थन करने की खुली अपील है।
पत्र साझा सुरक्षा सीमाओं की सूची भी प्रस्तुत करता है। इनमें निगरानी और किसी भी घातक कार्रवाई की मंजूरी के लिए मानव को निर्णय प्रक्रिया में रखना तथा दुरुपयोग रोकने के लिए पारदर्शिता बढ़ाना शामिल है।
पत्र का मुख्य उद्देश्य ऐसे नैतिक मानक बनाना है जिन्हें एआई कंपनियां गंभीर हानि और दुरुपयोग के जोखिम घटाने के लिए अपना सकें। सैन्य संगठनों द्वारा लक्ष्य-निर्धारण और खुफिया कार्यों में एआई पर बढ़ती निर्भरता के बीच यह बहस विशेष रूप से महत्वपूर्ण है।
सरकारी और सैन्य उपयोग पर प्रमुख एआई कंपनियों का रुख
इन अलग-अलग घटनाओं से दिखता है कि एआई कंपनियों और सरकारी एजेंसियों का काम तेजी से जुड़ रहा है। दुरुपयोग रोकने के लिए क्षमताओं के साथ सुरक्षा उपाय और पारदर्शिता का संतुलन आवश्यक होगा। नीचे सरकारी उपयोग पर प्रमुख कंपनियों के घोषित रुख का सार है।
स्क्रॉल करने के लिए स्वाइप करें →
| प्रदाता | स्थिति | अनुबंध स्थिति |
|---|---|---|
| Anthropic | सीमित पहुँच | संघीय उपयोग प्रतिबंधित / चरणबद्ध समाप्ति |
| पूर्ण उद्यम समर्थन | CDAO अनुबंध रिपोर्टेड (~$200M) | |
| OpenAI | “कानूनी उपयोग” तैनाती (दावे किए गए सुरक्षा उपाय) | रक्षा तैनाती रिपोर्टेड |
| xAI | “कानूनी उपयोग” इच्छा रिपोर्टेड | सरकारी कार्य रिपोर्टेड |
Anthropic
Anthropic ने स्वायत्त लक्ष्य-निर्धारण और जन-निगरानी पर कड़ी सीमाएं बनाए रखने की मांग की है। संघीय एजेंसियों द्वारा कुछ वातावरणों में उसके मॉडलों का उपयोग सीमित या चरणबद्ध रूप से समाप्त करने से कंपनी को व्यावसायिक कीमत चुकानी पड़ सकती है।
OpenAI
OpenAI ने “वैध उपयोग” ढांचे के तहत रक्षा वातावरण में मॉडल तैनात करने पर सहमति दी है। कंपनी का कहना है कि वह घरेलू जन-निगरानी को प्रतिबंधित करती है और बल प्रयोग के निर्णय में मानव जिम्मेदारी आवश्यक मानती है। इन दावों का मूल्यांकन अनुबंध की वास्तविक शर्तों और क्रियान्वयन के आधार पर होना चाहिए।
xAI
रिपोर्टों के अनुसार Elon Musk की xAI ने “वैध उपयोग” शर्तों के तहत गोपनीय सरकारी तैनाती का समर्थन करने की इच्छा दिखाई है, हालांकि संचालन संबंधी विवरण सीमित हैं।
Google (GOOGL ) में सैन्य उपयोग को लेकर आंतरिक बहस हुई है। 300 से अधिक कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर कर एआई प्रदाताओं से पेंटागन के खुले-अंत वाले अनुबंधों को अस्वीकार करने का आग्रह किया। साथ ही, Google से जुड़े CDAO अनुबंधों का मूल्य लगभग 20 करोड़ डॉलर बताया गया है।
GOOGLE (GOOGL) की नवीनतम खबरें और प्रदर्शन
एआई शासन और लोकतांत्रिक स्थिरता का भविष्य
सरकार से लेकर सैन्य अभियानों तक एआई के बढ़ते एकीकरण से मजबूत सुरक्षा उपायों की आवश्यकता स्पष्ट होती है। ये प्रणालियां तकनीकी और सामाजिक दोनों दृष्टि से अत्यंत शक्तिशाली हो चुकी हैं। कंपनियों, सरकारों और नागरिक समाज को नवाचार के साथ जवाबदेही, अधिकारों और पारदर्शिता की रक्षा करनी होगी; भविष्य का परिणाम केवल लाभ की प्रेरणा से तय होना अनिवार्य नहीं है।
एआई के अन्य विकासों के बारे में यहां पढ़ें।
