कृत्रिम बुद्धिमत्ता (AI) के उदय के साथ प्रामाणिकता सुनिश्चित करना

सभी क्षेत्रों में AI का अपनाना तेज़ी से बढ़ रहा है। अनुमान बताते हैं कि बाजार अगले सात वर्षों में तीन गुना बढ़ने वाला है।

लगभग US$242 बिलियन के आकार से, यह 2030 तक लगभग US$740 बिलियन तक बढ़ने की उम्मीद है। विभिन्न उद्योगों ने अपने संचालन में AI को शामिल करना शुरू कर दिया है। अब तक सबसे अधिक इसका उपयोग करने वाले उद्योगों में स्वास्थ्य देखभाल, वित्त, निर्माण, व्यापार और कानूनी सेवाएँ आदि शामिल हैं।

कम स्तर पर, AI ने मीडिया, मनोरंजन, सुरक्षा, खुदरा, ऊर्जा आदि जैसे उद्योगों में संचालन मॉडल को बदलना शुरू कर दिया है।

AI के बढ़ते अपनाने के साथ, प्रामाणिकता सुनिश्चित करने की चुनौती एक महत्वपूर्ण मुद्दा बन कर उभरी है जिसे तुरंत संबोधित करने की आवश्यकता है। हम आज की चर्चा की शुरुआत इन चुनौतियों को देख कर करेंगे।

कृत्रिम बुद्धिमत्ता में निवेश के बारे में सब कुछ जानने के लिए यहाँ क्लिक करें।

AI अपनाने में प्रामाणिकता चुनौतियाँ

AI की शक्ति ही उसकी कमजोरी बन गई है। AI एल्गोरिदम वास्तविक छवियों, वीडियो, लेखों और अन्य किसी भी प्रकार की मल्टीमीडिया सामग्री उत्पन्न करने में सक्षम हैं, जिन्हें सामान्य दर्शक के लिए मूल से अलग पहचानना अत्यंत कठिन हो सकता है।

साधारण नज़र में, यह विश्वसनीय स्रोत से आई प्रामाणिक जानकारी जैसा लग सकता है, जबकि वास्तविकता में यह पूरी तरह विपरीत हो सकता है: दुर्भावनापूर्ण प्रचार के लिए उत्पन्न नकली सामग्री। हाल के समय में कई घटनाएँ हुई हैं जो AI के बढ़ते अपनाने के इस पक्ष को उजागर करती हैं।

AI-जनित नकली पेंटागन विस्फोट छवि

मई 2023 में, संयुक्त राज्य में पेंटागन के पास एक विस्फोट की खबर प्रकाशित हुई। छवि में पेंटागन भवन के पास के बगीचे से निकलते हुए बहुत सारे काले धुएँ दिखाए गए। यह छवि एक सत्यापित ट्विटर हैंडल, Bloomberg Feed, द्वारा साझा की गई थी, जिसके पास नीला टिक था। जल्द ही कई सत्यापित खातों ने भी इस छवि को साझा किया। फिर भी, यह एक AI-जनित छवि थी, और इसने कई लोगों को धोखा दिया। X द्वारा नीले टिक को मासिक $8 की शुल्क पर उपलब्ध कराने की नई नीति ने समस्या को और बढ़ा दिया।

क्योंकि कोई भी सत्यापित खाता रख सकता है और सत्यापित खातों को अधिक दृश्यता मिलती है, इसलिए खबर तेज़ी से फैली, जिससे सार्वजनिक व्यक्तियों, सरकारी अधिकारियों और समाचार साइटों के प्रतिरूपण की चिंता बढ़ी, डिजिटल क्षेत्र में अराजकता और प्रामाणिकता संकट उत्पन्न हुआ।

हालांकि सामान्य सोशल मीडिया X उपयोगकर्ता के लिए इस छवि को AI-जनित के रूप में पहचानना मुश्किल था, कुछ AI शोधकर्ताओं ने त्रुटियों या अनियमितताओं को पहचाना।

निक वाटर्स, एक AI शोधकर्ता, के अनुसार:

भवन की बाड़ को भीड़ बाधाओं के साथ ‘असामान्य’ मिलाने से पता चलता है कि छवि को कृत्रिम रूप से बनाया या हेरफेर किया गया हो सकता है।

हालांकि, इस जालसाजी ने अपना उद्देश्य पूरा किया, भले ही केवल एक क्षण के लिए, सोशल मीडिया और उससे आगे अराजकता और भ्रम पैदा करके।

Adobe Stock पर हजारों नकली छवियाँ

वॉशिंगटन पोस्ट में प्रकाशित एक रिपोर्ट के अनुसार, AI-निर्मित स्टॉक छवियाँ व्यापक रूप से मौजूद हैं। Adobe Stock पर ‘Ukraine War’ शब्द से खोज करने पर संघर्ष की 15,000 से अधिक नकली छवियाँ मिलीं। रिपोर्ट ने यह भी बताया कि ब्लैक लाइव्स मैटर विरोधों की सैकड़ों AI छवियों की भारी उपस्थिति थी, जो कभी नहीं हुए।

माउई वाइल्डफ़ायर के लिए भी दर्जनों AI-जनित छवियाँ उपलब्ध थीं। इन छवियों में से कई फोटो पत्रकारों द्वारा ली गई वास्तविक जीवन की फ़ोटो के समान थीं, जिससे नकली और वास्तविक को अलग करना मुश्किल हो गया।

ऐसे दिखने वाले वास्तविक जीवन समाचार क्लिप्स का मामला

Forbes द्वारा प्रकाशित एक अन्य रिपोर्ट के अनुसार, AI-जनित नकली सामग्री पर, टिकटॉक और यूट्यूब स्टार कृष्णा साहाय कई सोशल मीडिया उपयोगकर्ताओं में से एक हैं जो जनरेटिव AI का उपयोग करके प्रमुख मुख्यधारा समाचार मीडिया आउटलेट्स के शीर्ष एंकरों के ऐसे दिखने वाले वास्तविक समाचार क्लिप्स बनाते हैं, जिनके काम में बहुत विश्वसनीयता होती है।

CBS से लेकर CNN और BBC तक, इन समाचार एजेंसियों के कई एंकर इस सूची में आते हैं। इन वीडियो को डीप फेक्स भी कहा जाता है, जहाँ शक्तिशाली जनरेटिव AI एल्गोरिदम एंकरों की तरह दिखने और सुनाई देने वाली ऑडियोविज़ुअल सामग्री बनाते हैं।

रिपोर्ट के अनुसार, कृष्णा साहाय के पास अकेले ही लाखों दर्शक हैं। साहाय के वीडियो में स्कूल शूटिंग, आतंकवादी हमले, आपराधिक हमले आदि जैसे संवेदनशील मुद्दों पर AI-हेरफेर किए गए नकली एंकरों की समस्या भरी टिप्पणी शामिल है।

UC Berkeley के डीप फेक विशेषज्ञ और प्रोफेसर हैंनी फरीद के अनुसार, ये वीडियो ज्ञात समाचार एंकरों की लोकप्रियता और विश्वसनीयता का उपयोग “भ्रामक जानकारी पहुँचाने के लिए एक आकर्षक माध्यम” के रूप में करते हैं।

प्रो. फरीद के अनुसार: “कई मामलों में, एंकर दर्शकों को ज्ञात होते हैं और भरोसेमंद होते हैं, और यदि नहीं भी, तो सामान्य समाचार स्वरूप परिचित होता है और इसलिए अधिक भरोसेमंद होता है।” उनका मानना है कि इस खतरे को रोकने के लिए हमें “उन लोगों के अधिकारों की रक्षा करने में अधिक गंभीर होना पड़ेगा जिनकी छवि और आवाज़ का दुरुपयोग किया जा रहा है।”

गाज़ा युद्ध से डीप फेक्स

इंटरनेट ने गाज़ा युद्ध से संबंधित डीप फेक वीडियो का एक महत्वपूर्ण आक्रमण भी देखा। इस चुनौती के जवाब में, AI में विशेषज्ञता रखने वाली टेक कंपनी CREOpoint के सीईओ जीन-क्लॉड गोल्डेनस्टीन ने ऐसी सामग्री की वैधता का आकलन करने में महत्वपूर्ण भूमिका निभाई। स्थिति की गंभीरता को पहचानते हुए, कंपनी ने गाज़ा से उभरे सबसे वायरल डीप फेक्स का एक डेटाबेस विकसित किया, जो इस डिजिटल खतरे से निपटने में एक महत्वपूर्ण कदम है।

जोल्डेनस्टीन के अनुसार:

चित्र, वीडियो और ऑडियो: जनरेटिव AI के साथ, यह एक ऐसी उछाल होगी जो आपने पहले नहीं देखी।

ये वीडियो अक्सर पुराने संघर्षों की सामग्री को पुनः उपयोग करते हैं। वे आपदा की तीव्रता को बढ़ाकर एक तीव्र भावनात्मक प्रतिक्रिया उत्पन्न करने का प्रयास करते हैं।

जनरेटिव AI को पूरी तरह समझने के अलावा, इन डीप फेक निर्माण टीमों में ऐसे लोग भी होते हैं जो मानव मनोविज्ञान और लोगों की गहरी प्रवृत्तियों और चिंताओं को लक्षित करने के बारे में जानते हैं।

प्रचारकों, साजिश सिद्धांतकारों, आतंकवादियों या धोखेबाज संगठनों के हाथों में, नकली सामग्री उत्पन्न करने वाले AI उपकरण सबसे घातक हथियारों में से एक बन गए हैं। उन्हें नियंत्रण में रखने की आवश्यकता हर गुजरते दिन के साथ बढ़ रही है।

इस बढ़ते खतरे से लड़ने के सबसे प्रभावी तरीकों में से एक स्रोत की प्रामाणिकता सुनिश्चित करना होगा। प्रामाणिकता सुनिश्चित करने के लिए अनुसंधान और समाधान निर्माण प्रयास पूरी गति से चल रहे हैं। नीचे कुछ वास्तविक जीवन के उदाहरण दिए गए हैं।

कृत्रिम बुद्धिमत्ता के युग में आप सामग्री की प्रामाणिकता कैसे सुनिश्चित करते हैं?

Sony की इन-कैमरा ऑथेंटिकेशन तकनीक

Sony Electronics एक नया समाधान लेकर आ रहा है। इसने Associated Press के सहयोग से अपनी इन-कैमरा ऑथेंटिसिटी तकनीक का दूसरा परीक्षण चरण पूरा कर लिया है।

इस तकनीक का उद्देश्य क्लिक की गई छवियों को एक जन्म प्रमाणपत्र प्रदान करना है जो सामग्री की उत्पत्ति को प्रमाणित करेगा। विशेष रूप से, यह हार्डवेयर चिपसेट में छवि कैप्चर के क्षण में कैमरे के भीतर उत्पन्न होने वाला मशीन-आधारित डिजिटल हस्ताक्षर होगा।

Sony Electronics के अध्यक्ष और COO Neal Manowitz के अनुसार, “इन-कैमरा ऑथेंटिसिटी तकनीक ने मूल्यवान परिणाम दिखाए हैं,” और कंपनी “इसे व्यापक रिलीज़ की दिशा में विकसित करती रहेगी।”

Sony Electronics और AP का संयुक्त फील्ड टेस्ट इस वर्ष अक्टूबर में समाप्त हुआ। इस परीक्षण चरण का उद्देश्य कैप्चर ऑथेंटिकेशन और संबंधित कार्यप्रवाह की दक्षता का मूल्यांकन करना था।

इस परियोजना में तीसरे सहयोगी CameraBits थे, जो उद्योग-मानक कार्यप्रवाह टूल PhotoMechanic बनाने के लिए जाने जाते हैं।

CameraBits ने इस सहयोग में कैमरे के डिजिटल हस्ताक्षर को मेटाडेटा संपादन प्रक्रिया के माध्यम से संरक्षित करने की तकनीक प्रदान की।

Associated Press के फ़ोटोग्राफी निदेशक David Ake के अनुसार, “नकली और हेरफेर की गई छवियाँ समाचार संगठनों के लिए एक बड़ी चिंता हैं। वे न केवल गलत सूचना और दुष्प्रचार में योगदान देती हैं, बल्कि अंततः सार्वजनिक का तथ्यात्मक, सटीक छवियों में विश्वास कम करती हैं।”

इन-कैमरा हस्ताक्षर और ऑथेंटिकेशन तकनीक को 2024 की वसंत में कई मॉडलों में फर्मवेयर अपडेट के रूप में जारी किया जाएगा।

Sony Group Corporation (SONY ) का मार्केट कैपिटलाइज़ेशन $106.35 बिलियन, P/E अनुपात 19.49 है, और 2022 में इसने $82.64 बिलियन का राजस्व दर्ज किया।

डीप फेक आवाज़ हेरफेर से लड़ने की तकनीक

AI-आधारित तकनीकों ने वास्तविक आवाज़ संश्लेषण में विकास को प्रेरित किया। मूल रूप से, यह तकनीक बहुत लाभदायक हो सकती है। यह व्यक्तिगत वॉयस असिस्टेंट और अन्य संचार उपकरण बनाने में मदद कर सकती है जो पहुँच को बढ़ाते हैं। फिर भी, इसके विपरीत, कई लोग इसका उपयोग डीप फेक वीडियो के लिए आवाज़ बनाने में कर रहे हैं।

इस खतरे का जवाब देने के लिए, Washington University के McKelvey School of Engineering में कंप्यूटर विज्ञान और इंजीनियरिंग की सहायक प्रोफेसर Ning Zhang ने AntiFake नामक उपकरण विकसित किया है। यह एक शमन उपकरण नहीं है जो हमले के बाद पहचान में मदद करता है। बल्कि, यह एक सक्रिय उपकरण है जिसका उद्देश्य समस्या को शुरू में ही रोकना है।

AntiFake यह सुनिश्चित करता है कि जब हम आवाज़ डेटा बाहर डालते हैं, तो अपराधियों के लिए उस जानकारी का उपयोग करके हमारी आवाज़ों को संश्लेषित करना और हमारी नकल करना कठिन हो जाता है।

परिष्कृत साइबर अपराधियों से लड़ने के एक रोचक कदम में, प्रोफेसर Zhang ने उन्हें उनके सिक्कों में वापस भुगतान करने का निर्णय लिया है। उनके अनुसार:

यह उपकरण प्रतिद्वंद्वी AI की एक तकनीक का उपयोग करता है जो मूल रूप से साइबर अपराधियों के टूलबॉक्स का हिस्सा थी, लेकिन अब हम इसे उनके खिलाफ रक्षा करने के लिए उपयोग कर रहे हैं।

AntiFake का मुख्य संचालन सिद्धांत रिकॉर्ड किए गए ऑडियो सिग्नल को हल्का विकृत करना है। विकृति की प्रकृति इतनी सूक्ष्म रूप से कैलिब्रेटेड है कि मानव कानों को सही लगती है, लेकिन AI को यह पूरी तरह अलग रूप में प्रसारित होती है।

सार्वजनिक रूप से उपलब्ध डेटा के अनुसार, AntiFake ने 95% से अधिक की सुरक्षा दर दिखाई है। इसने विभिन्न जनसंख्या तक पहुँचने में अपनी प्रभावशीलता भी सिद्ध की है।

प्रामाणिकता सुनिश्चित करने में ब्लॉकचेन का उपयोग

OARO Media solutions ब्लॉकचेन की अपरिवर्तनीयता गुणों का उपयोग करके डीप फेक खतरे से लड़ते हैं। यह व्यवसायों, सरकारी प्राधिकरणों और व्यक्तिगत उपयोगकर्ताओं के लिए किसी भी फोटो या वीडियो को प्रमाणित करने हेतु एक अपरिवर्तनीय डेटा ट्रेल बनाने में मदद करता है।

OARO Media का उपयोग उपयोगकर्ता के मोबाइल फ़ोन पर सरल लेकिन क्रांतिकारी प्रभावी है। उपयोगकर्ता SMS वेब लिंक या बीमा कंपनी के ऐप के माध्यम से मोबाइल कैमरा तक पहुँचता है। फिर, दृश्य सामग्री को एक प्रमाणपत्र जारी किया जाता है, जिसमें उपयोगकर्ता आईडी, सामग्री, टाइमस्टैम्प और GPS निर्देशांक की अपरिवर्तनीय रिकॉर्ड शामिल होती है। यह प्रक्रिया बीमा उद्योग को दावों को प्रमाणित करने और AI-जनित नकली को वास्तविक से अलग करने में मदद करती है।

सूचना युद्ध के हिस्से के रूप में डीपफेक्स के उपयोग को रोकना

Sentinel की एंटी-डीपफेक समाधान और सेवाएँ लोकतांत्रिक सरकारों, रक्षा एजेंसियों और उद्यमों को दुर्भावनापूर्ण रूप से उत्पन्न AI सामग्री के प्रभावों से अपने संसाधनों की सुरक्षा करने में मदद करती हैं। यह यूरोपीय संघ और एस्टोनिया गणराज्य के आर्थिक मामलों और संचार मंत्रालय के साथ साझेदारी में है। हालांकि, यह एक पोस्ट-आक्रमण समाधान है जो एक बार प्रसारित होने के बाद डीप फेक्स का पता लगाने में मदद करता है।

यह काम करने का तरीका चार सरल चरणों की प्रक्रिया है। पहले चरण में, उपयोगकर्ता Sentinel की वेबसाइट या API के माध्यम से डिजिटल मीडिया अपलोड करता है। Sentinel सिस्टम स्वचालित रूप से मीडिया का विश्लेषण करके AI जालसाजी का पता लगाता है। फिर यह बताता है कि मीडिया डीप फेक है या नहीं। अंत में, उपयोगकर्ताओं को प्रक्रिया के बारे में जागरूक करने के लिए, यह हेरफेर का एक विज़ुअलाइज़ेशन दिखाता है।

AI के बीच प्रामाणिकता सुनिश्चित करना: भविष्य के लिए समृद्ध नवाचार परिदृश्य

AI-जनित असत्य सामग्री वास्तविकता को विकृत करने और घातक प्रचार फैलाने का एक शक्तिशाली उपकरण है। ऐसी सामग्री, चाहे वह मज़ाक या सोशल मीडिया लाइक्स जैसी निरपराध कारणों से बनाई गई हो, बड़े पैमाने पर हिंसा को उकसा सकती है।

इसका प्रभाव विभिन्न क्षेत्रों में अविश्वास बढ़ाने तक फैला है, राज्य-राज्य के कूटनीतिक संबंधों से लेकर सेवा उद्यमों और उनके उपयोगकर्ताओं के बीच की बातचीत और यहाँ तक कि व्यक्तिगत संबंधों तक। इसलिए, यह एक सकारात्मक संकेत है कि विश्वभर के तकनीकी शोधकर्ता और वैज्ञानिकों ने अनियंत्रित नकली सामग्री के खतरों को स्वीकार किया है। हमने पहले ही इस मुद्दे को संबोधित करने वाली कई पहलों को उजागर किया है।

और भी कई हैं। उदाहरण के लिए, Sensity एक विज़ुअल थ्रेट इंटेलिजेंस प्लेटफ़ॉर्म विकसित कर रहा है। इसका API पहले से ही नवीनतम AI-आधारित हेरफेर और संश्लेषण तकनीकों का पता लगाने में सक्षम है। एक अन्य स्टार्टअप, Quantum Integrity, ने SaaS AI समाधान विकसित किए हैं जो छवि और वीडियो जालसाजी का पता लगा सकते हैं।

साइबर अपराधी वास्तव में हमें धोखा देने के लिए नई तकनीकों के साथ आते रहेंगे। लेकिन कई उद्यम उन्हें पूर्वानुमानित करने और रोकने में सक्षम होंगे। नवाचार की निरंतर गति के साथ, यह लड़ाई अब डेविड बनाम गोलियथ नहीं रही।

पांच सम्मिलित तकनीकों में निवेश के बारे में सब कुछ जानने के लिए यहाँ क्लिक करें।