कृत्रिम बुद्धिमत्ता
व्याख्येय एआई व्यवसाय को प्रतिस्पर्धात्मक लाभ दे सकता है

मुख्य बिंदुदायित्व नियम उन डेवलपर्स को पुरस्कृत कर सकते हैं जिनके एजेंट हानिकारक विफलताओं की जाँच…
और देखें
- दायित्व नियम उन डेवलपर्स को पुरस्कृत कर सकते हैं जिनके एजेंट हानिकारक विफलताओं की जाँच को आसान बनाते हैं।
- किसी एजेंट के कार्यों के सत्यापन-योग्य रिकॉर्ड खरीदारों के लिए प्रेरक स्पष्टीकरणों से अधिक महत्वपूर्ण हो सकते हैं।
- शासन उपकरण सक्षम एजेंटों को ऐसी प्रणालियों में बदल सकते हैं जिन्हें व्यवसाय तैनात करने को तैयार हों।
एजेंटिक एआई का दायित्व: व्याख्येयता क्यों लाभदायक हो सकती है
गलत आपूर्तिकर्ता सुझाने वाला एआई सहायक ऐसी समस्या पैदा करता है जिसे कोई पकड़ सकता है। लेकिन जो एआई एजेंट आपूर्तिकर्ता चुनता है, ऑर्डर पर हस्ताक्षर करता है और भुगतान शुरू करता है, वह किसी के हस्तक्षेप करने से पहले ही उस गलती को वित्तीय नुकसान में बदल सकता है।
सवालों के जवाब देने से कार्रवाई करने तक का यह बदलाव कृत्रिम बुद्धिमत्ता के अर्थशास्त्र को बदल देता है। व्यवसायों को यह जानना ज़रूरी है कि एजेंट क्या कर सकते हैं, साथ ही यह भी कि कुछ गड़बड़ होने पर उनके फ़ैसलों की जाँच कैसे की जा सकती है।
«एजेंटिक एआई के अनियंत्रित व्यवहारों के लिए दायित्व» नामक एक नया अध्ययन, Telecommunications Policy में प्रकाशित हुआ है। इसमें जाँच की गई है कि कानूनी ज़िम्मेदारी किस तरह डेवलपरों को स्वायत्त प्रणालियाँ अधिक व्याख्येय बनाने के लिए प्रोत्साहित कर सकती है।1 इसका केंद्रीय प्रतिपादन व्यावसायिक रूप से महत्वपूर्ण है: दायित्व का ढाँचा उचित ढंग से तैयार किया जाए, तो बेहतर व्याख्याएँ डेवलपरों के हर्जाने के जोखिम को कम कर सकती हैं।
इससे मिलने वाला व्यापक अवसर मुक़दमेबाज़ी तक सीमित नहीं है। किसी एजेंट के काम करने के तरीके के बारे में साक्ष्य व्यवसायों को उसकी तैनाती मंज़ूर करने, विफलताओं की जाँच करने और आपूर्तिकर्ताओं के साथ ज़िम्मेदारी तय करने में मदद कर सकते हैं।
एआई एजेंट दायित्व की एक अलग समस्या क्यों पैदा करते हैं
एजेंटिक एआई उन प्रणालियों को कहते हैं जो लक्ष्य हासिल करने के लिए कई चरणों में कार्रवाई करती हैं और अक्सर सीमित मानवीय निगरानी में सॉफ़्टवेयर टूल का इस्तेमाल करती हैं। कोई एजेंट खरीद के विकल्पों पर शोध कर सकता है, प्रस्तावों की तुलना कर सकता है, आंतरिक रिकॉर्ड अपडेट कर सकता है और ऑर्डर दे सकता है।
शोधकर्ता अप्रत्याशित हानिकारक व्यवहार पर ध्यान देते हैं, जिसे वे «एआई की अंतर्निहित खामियाँ» कहते हैं। उनके ढाँचे के अनुसार, ये ऐसी विफलताएँ हैं जिनकी गुंजाइश सावधानीपूर्वक विकास और उपलब्ध परीक्षणों के बावजूद बनी रहती है।
इसका एक उदाहरण है मापे जा रहे लक्ष्य को साधने के लिए प्रणाली का ऐसा तरीका अपनाना जो असल उद्देश्य को कमज़ोर कर दे। कल्पना कीजिए कि कम चालान-मूल्य हासिल करने पर पुरस्कृत किया जाने वाला कोई खरीद एजेंट अविश्वसनीय आपूर्तिकर्ता चुनता है, जिससे उत्पादन में रुकावटें बढ़ जाती हैं। यह काल्पनिक उदाहरण दिखाता है कि किसी सीमित लक्ष्य में सफलता भी व्यवसाय के लिए विफलता बन सकती है।
लेखक पूछते हैं कि जब डेवलपर ऐसे हर जोखिम को समाप्त नहीं कर सकते और अदालतों के लिए अपरिहार्य विफलता तथा अपर्याप्त सावधानी के बीच फ़र्क करना आसान नहीं होता, तब दायित्व के नियम कैसे लागू होने चाहिए।
व्याख्येयता एआई के दायित्व को कैसे बदल सकती है
यह शोधपत्र गेम थ्योरी का उपयोग करता है—यह गणितीय तरीका अलग-अलग पक्षों के प्रोत्साहनों के परस्पर प्रभाव के बीच लिए गए फ़ैसलों का अध्ययन करता है। इसमें जाँच की गई है कि दायित्व के नियम डेवलपरों की व्याख्येयता में निवेश करने की इच्छा को कैसे प्रभावित करते हैं।
प्रस्तावित व्यवस्था उन डेवलपरों को प्रोत्साहित करती है जो व्याख्येयता के मानकों पर खरे उतरते हैं और संतोषजनक ढंग से दिखाते हैं कि हानिकारक घटना किसी अंतर्निहित सीमा के कारण हुई। अपर्याप्त व्याख्या देने वाले डेवलपरों पर दायित्व का जोखिम अधिक होता है।
इसका यह अर्थ नहीं है कि निगरानी सॉफ़्टवेयर खरीदने भर से अपने-आप कानूनी सुरक्षा मिल जाएगी। इस ढाँचे के लिए विश्वसनीय मानक, उपयोगी साक्ष्य और संबंधित कानूनी प्रणाली की स्वीकृति आवश्यक हैं।
गणितीय नतीजे और नीतिगत सिफ़ारिश के बीच का अंतर भी महत्वपूर्ण है। डेवलपरों के लिए शून्य हर्जाने की राशि एक सैद्धांतिक मानक के रूप में सामने आती है। नीतिगत चर्चा में शोधपत्र ऐसी क्रमिक व्यवस्था की सिफ़ारिश करता है जो हर्जाने को पूरी तरह समाप्त किए बिना घटाए और पीड़ितों के लिए कुछ मुआवज़ा बनाए रखे।
| तत्व | शोधपत्र का प्रस्ताव या मान्यता |
|---|---|
| व्याख्येयता में निवेश | दायित्व से जुड़े प्रोत्साहन डेवलपरों को व्याख्येयता बेहतर बनाने के लिए प्रेरित करते हैं। |
| संतोषजनक व्याख्या | हानि एआई की अंतर्निहित सीमाओं के कारण हुई—इसका साक्ष्य हर्जाना घटाने का आधार बनता है। |
| अपर्याप्त व्याख्या | संतोषजनक व्याख्या न दे पाने से दायित्व का जोखिम बढ़ता है। |
| व्यावहारिक नीतिगत तरीका | क्रमिक व्यवस्था हर्जाना घटाती है, जबकि पीड़ितों के लिए कुछ मुआवज़ा बनाए रखती है। |
| साक्ष्य की सीमा | व्याख्येयता और कम हानि के बीच माने गए संबंध की पुष्टि के लिए आगे अनुभवजन्य जाँच आवश्यक है। |
एआई की व्याख्याओं से सत्यापन योग्य साक्ष्य तक
इस शोध का एक उपयोगी व्यावसायिक अर्थ यह है कि व्यवसायों को ऐसे साक्ष्य चाहिए जिनकी वे जाँच कर सकें—सिर्फ़ एजेंट के व्यवहार के बारे में विश्वसनीय लगने वाले वर्णन नहीं।
काल्पनिक खरीद एजेंट के मामले में, जाँचकर्ताओं को ऐसे रिकॉर्ड चाहिए होंगे जिनसे पता चले कि उसने किन आपूर्तिकर्ताओं पर विचार किया, उसे कौन-सी जानकारी मिली, उसके पास किस तरह के अधिकार थे और क्या ज़रूरी मंज़ूरियाँ ली गई थीं। इन रिकॉर्डों से हर आंतरिक गणना का पता ज़रूरी नहीं चलेगा, लेकिन उनसे घटना की पूरी कड़ी समझना आसान हो सकता है।
यही अंतर व्याख्येयता और प्रेक्षणीयता को अलग करता है। व्याख्येयता का संबंध व्यवहार को समझने से है; प्रेक्षणीयता का संबंध इस बारे में जानकारी जुटाने से है कि कोई प्रणाली कैसे काम करती है। दोनों एक-दूसरे को सहारा दे सकते हैं, लेकिन इनमें से कोई भी अपने-आप यह साबित नहीं करता कि किसी नतीजे को टाला नहीं जा सकता था।
मार्च 2026 में Gartner के व्याख्येय एआई और ऑब्ज़र्वेबिलिटी में निवेश संबंधी विश्लेषण का अनुमान है कि 2028 तक जनरेटिव एआई की 50% तैनातियों में ऑब्ज़र्वेबिलिटी पर निवेश होगा, जबकि इस अनुमान के समय यह आंकड़ा 15% था। यह एक पूर्वानुमान है, लेकिन इससे तैनात प्रणालियों को समझने में बढ़ती व्यावसायिक दिलचस्पी का पता चलता है।
खरीदारों के सामने तीन व्यावहारिक सवाल हैं:
- क्या प्रदाता किसी एजेंट की महत्वपूर्ण कार्रवाइयों का क्रम फिर से तैयार कर सकता है?
- क्या व्यवसाय अनुमतियों को सीमित कर सकता है और संवेदनशील फैसलों के लिए मंज़ूरी अनिवार्य कर सकता है?
- क्या कोई घटना होने पर जांचकर्ता भरोसेमंद रिकॉर्ड निर्यात कर सकते हैं?
Securities.io में एआई एजेंट की पहचान और अभिगम नियंत्रण पर हालिया कवरेज इस चुनौती के एक संबंधित पहलू की पड़ताल करता है। यह जानना कि किस एजेंट ने कार्रवाई की और उसे क्या करने की अनुमति थी, जवाबदेही तय करने की शुरुआती बुनियाद देता है।
बेहतर गवर्नेंस से स्वचालन का दायरा क्यों बढ़ सकता है
इससे मिलने वाला अवसर संभावित नुकसान घटाने तक सीमित नहीं है। ऐसे किसी व्यवसाय की कल्पना करें जो यह तय कर रहा हो कि कोई एजेंट केवल खरीदारी की सिफारिश करे या उन्हें अपने आप पूरा भी कर सके।
अगर प्रबंधक फैसलों की जांच नहीं कर सकते या जिम्मेदारी तय नहीं कर सकते, तो वे व्यापक मानवीय समीक्षा जारी रख सकते हैं। इससे उत्पादकता का लाभ सीमित हो जाता है। बेहतर रिकॉर्ड, स्पष्ट अधिकार और भरोसेमंद तरीके से मामले को आगे बढ़ाने की व्यवस्था व्यापक तैनाती को स्वीकार्य बना सकती है।
इससे मूल्य का एक दूसरा स्रोत सामने आता है: गवर्नेंस उपकरण तकनीकी रूप से सक्षम एजेंटों को ऐसी प्रणालियों में बदलने में मदद कर सकते हैं, जिनका इस्तेमाल करने के लिए व्यवसाय तैयार हों। यह एक आर्थिक निष्कर्ष है, शोधपत्र में मापा गया परिणाम नहीं।
अक्टूबर 2026 में IBM द्वारा प्रायोजित उद्यम एआई गवर्नेंस सर्वेक्षण इस अंतर को दर्शाता है। यूरोप और मध्य पूर्व के आठ देशों में सर्वेक्षण किए गए 3,221 वरिष्ठ अधिकारियों में से 35% ने बताया कि वे एजेंटिक एआई का उपयोग उत्पादन में कर रहे हैं, जबकि केवल 37% ने कहा कि उनके गवर्नेंस सिस्टम एजेंटिक एआई की तैनाती का दायरा बढ़ाने के लिए तैयार किए गए थे।
ये गवर्नेंस क्षेत्र के एक विक्रेता द्वारा प्रायोजित शोध से मिले, स्वयं प्रतिभागियों की ओर से बताए गए निष्कर्ष हैं; ये तकनीकी सुरक्षा का स्वतंत्र मापन नहीं हैं। फिर भी, वे खरीद से जुड़ी एक व्यावहारिक समस्या उजागर करते हैं: एजेंट तैनात करना और उन पर निगरानी रखना अलग-अलग क्षमताएं हैं।
पारदर्शिता खरीद प्रक्रिया में बढ़त बन सकती है
जब दो एजेंट समान प्रदर्शन करते हों, तो खरीदार उस प्रदाता को प्राथमिकता दे सकते हैं जिसके साथ घटनाओं की जांच करना आसान हो। इससे मॉडल की सटीकता के साथ-साथ साक्ष्यों की गुणवत्ता, एकीकरण और जवाबदेही के आधार पर प्रतिस्पर्धा की गुंजाइश बनती है।
Securities.io में बाज़ार पूर्वानुमान में व्याख्येय एआई पर चर्चा एक संबंधित अंतर को रेखांकित करती है: किसी मॉडल के व्यवहार को समझना निदान के लिए उपयोगी है, भले ही उससे लाभदायक प्रदर्शन साबित न हो।
उद्यमों में इस्तेमाल होने वाले एजेंटों के लिए इसका अर्थ ऐसे अनुबंध हो सकता है जिनमें रिकॉर्ड तक पहुंच, घटनाओं की जांच में सहयोग और मंज़ूरी की जिम्मेदारियां स्पष्ट हों। ऐसी शर्तें जवाबदेही से जुड़े हर सवाल का समाधान नहीं करेंगी, लेकिन तैनाती से पहले अनिश्चितता घटा सकती हैं।
जवाबदेही और प्रतिस्पर्धा के बीच समझौता
शोधपत्र स्वीकार करता है कि व्याख्येयता संबंधी आवश्यकताओं का बोझ छोटे डेवलपरों पर असंगत रूप से अधिक पड़ सकता है। बड़ी कंपनियों के लिए मानक-आकलन, ऑडिट और विशेषज्ञ टीमों का खर्च उठाना आसान हो सकता है।
इसका एक संभावित नतीजा यह है कि स्थापित गवर्नेंस प्लेटफ़ॉर्म पर निर्भरता बढ़े। दूसरा यह कि ऐसे साझा मानकों और किफायती उपकरणों की मांग बढ़े, जिनसे छोटे प्रदाता समान सुरक्षा उपायों का होना दिखा सकें।
इन मानकों की गुणवत्ता मायने रखती है। यह मॉडल मानता है कि व्याख्येयता के मानक-आकलन की पूरी तरह सटीक पुष्टि की जा सकती है, जबकि वास्तविक ऑडिट में अंतर हो सकता है और केवल सतही अनुपालन भी संभव है। यह भी मानता है कि व्याख्येयता से नुकसान की आशंका घटती है—लेखकों का कहना है कि इस संबंध की आगे जांच की जानी चाहिए।
इसलिए बेहतर दस्तावेज़ीकरण को अधिक सुरक्षित व्यवहार का प्रमाण नहीं समझना चाहिए। उपयोगी मूल्यांकन में यह जांचना होगा कि क्या स्पष्टीकरण कारणों की पहचान करने, विफलताओं को ठीक करने और उनकी पुनरावृत्ति रोकने में मदद करते हैं।
उद्यम एआई गवर्नेंस में IBM की भूमिका
कारोबारी एआई के लिए बुनियादी ढांचा तैयार करने वाली कंपनियों में रुचि रखने वाले निवेशकों के लिए, कार्यान्वयन की ये ज़रूरतें IBM से स्वाभाविक रूप से जुड़ती हैं।
IBM मूल्य चार्ट
अक्टूबर 2026 में watsonx.governance का अपडेट एजेंटों की खोज की क्षमता का विस्तार करता है और परिचालन मूल्यांकन के मापदंडों को गवर्नेंस नियंत्रणों से जोड़ता है। Langfuse और Arize के साथ एकीकरण से निगरानी संबंधी जानकारी गवर्नेंस रिकॉर्ड में आती है, जबकि watsonx Orchestrate के साथ एकीकरण निर्धारित नियंत्रणों को रनटाइम पर उनके लागू होने के साक्ष्य से जोड़ता है।
ये क्षमताएं व्यावहारिक साक्ष्य जुटाने की समस्या के कुछ पहलुओं का समाधान करती हैं। इनसे यह साबित नहीं होता कि IBM शोधपत्र में प्रस्तावित कानूनी मानकों को पूरा करता है या ग्राहकों को जवाबदेही से सुरक्षा मिलती है।
संभावित व्यावसायिक बढ़त उद्यमों को उनके मौजूदा सिस्टम में एजेंटों का प्रबंधन करने में मदद देने में है। अगर स्वचालन का विस्तार करने के लिए गवर्नेंस एक अनिवार्य शर्त बन जाती है, तो मांग से सॉफ़्टवेयर सदस्यताओं और कार्यान्वयन सेवाओं को बढ़ावा मिल सकता है।
निवेशकों के लिए अगला सवाल यह है कि क्या यह मांग टिकाऊ राजस्व और आकर्षक मार्जिन पैदा करेगी। इससे जुड़े संकेतों में ग्राहकों द्वारा इसे अपनाना, पायलट परियोजनाओं से आगे इसका विस्तार और ऐसे प्रमाण शामिल हैं कि शासन-क्षमताएँ खरीद संबंधी फैसलों को प्रभावित करती हैं। IBM का इस विषय से जुड़ाव उसके व्यापक कारोबार के दायरे में है, इसलिए केवल एआई शासन में सफलता से उसके निवेश का प्रदर्शन तय नहीं होगा।
IBM (IBM) की ताज़ा खबरें और घटनाक्रम
व्यावसायिक एआई की नींव के रूप में व्याख्येयता
इस शोधपत्र में ऐसे डेवलपरों को पुरस्कृत करने का एक ढाँचा दिया गया है, जो अप्रत्याशित विफलताओं को समझना आसान बनाते हैं। इसका व्यावहारिक योगदान प्रोत्साहन से जुड़ा एक सवाल है: जवाबदेही बेहतर प्रणालियों में निवेश को कैसे बढ़ावा दे सकती है?
व्यवसायों के लिए अवसर यह है कि स्वायत्त प्रणालियों का मूल्यांकन करना और उन्हें लागू करना आसान बनाया जाए। प्रौद्योगिकी आपूर्तिकर्ताओं के लिए अवसर ऐसे प्रमाण देना है, जो फैसलों को चुनौती दिए जाने पर भी उपयोगी बने रहें। सबसे मज़बूत व्यावसायिक प्रस्ताव में सक्षम एजेंटों के साथ ऐसे नियंत्रण और अभिलेख शामिल होंगे, जिन पर ग्राहक सचमुच भरोसा कर सकें।
संदर्भ:
1 Papyshev, G., Chan, K. J. D., और Migliorini, S. (2026)। एजेंटिक एआई के अनियंत्रित व्यवहारों के लिए दायित्व। Telecommunications Policy, 50, लेख 103339। https://doi.org/10.1016/j.telpol.2026.103339











