कृत्रिम बुद्धिमत्ता
आर्टिफ़िशियल इंटेलिजेंस की न्यायसंगतता का पुनर्मूल्यांकन सामाजिक कल्याण अनुकूलन के माध्यम से
जैसे ही आर्टिफ़िशियल इंटेलिजेंस सिस्टम अधिक व्यापक और शक्तिशाली होते जा रहे हैं, यह सवाल कि उन्हें न्यायसंगत और न्यायपूर्ण कैसे बनाया जाए, सबसे बड़ी चुनौती बन गया है। ऋण और भर्ती से लेकर स्वास्थ्य सेवा और आपराधिक न्याय तक, आर्टिफ़िशियल इंटेलिजेंस एल्गोरिदम अब व्यक्तियों और समुदायों के जीवन और जीविका को नियंत्रित करना शुरू कर दिया है। अक्सर, ये एल्गोरिदम ऐसे तरीके से काम करते हैं जो अदृश्य, जिम्मेदार और कभी-कभी पूर्वाग्रह से ग्रस्त होते हैं इतिहास से वंचित समूहों के खिलाफ।
इन चिंताओं के जवाब में, शोधकर्ताओं, पрак्टिशनर्स और नीति निर्माताओं का एक समुदाय “न्यायसंगत” आर्टिफ़िशियल इंटेलिजेंस सिस्टम विकसित करने के लिए एक साथ आया है जो सभी को समान रूप से व्यवहार करते हैं और सामाजिक असमानताओं को बढ़ावा नहीं देते हैं। आर्टिफ़िशियल इंटेलिजेंस में न्यायसंगतता को औपचारिक और संचालन करने के लिए प्रमुख दृष्टिकोण “सांख्यिकीय समानता मेट्रिक्स” का उपयोग रहा है, जो संरक्षित समूहों में कुछ प्रदर्शन मेट्रिक्स जैसे कि चयन दर या त्रुटि दर को समान बनाने का लक्ष्य रखता है।
हालांकि, जबकि समानता-आधारित न्यायसंगतता की धारणाएं व्यापक रूप से अध्ययन की गई हैं और आर्टिफ़िशियल इंटेलिजेंस समुदाय में अपनाई गई हैं, उन्हें बढ़ती आलोचना का सामना करना पड़ा है जो तर्क देते हैं कि वे概念ually दोषपूर्ण, व्यावहारिक रूप से सीमित और संभावित रूप से प्रतिकूल हैं। वे तर्क देते हैं कि समूहों के बीच सांख्यिकीय परिणामों को समान बनाना ही पर्याप्त नहीं है क्योंकि यह व्यक्तियों और समुदायों पर आर्टिफ़िशियल इंटेलिजेंस निर्णयों के वास्तविक कल्याण प्रभाव की उपेक्षा करता है।
एक नए पत्र में CPAIOR 2024 कार्यवाही, कार्नेगी मेलन विश्वविद्यालय और स्टीवंस इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोधकर्ताओं की एक टीम सामाजिक कल्याण अनुकूलन पर आधारित आर्टिफ़िशियल इंटेलिजेंस की न्यायसंगतता के लिए एक वैकल्पिक दृष्टिकोण का प्रस्ताव करती है। कार्नेगी मेलन विश्वविद्यालय में ऑपरेशंस रिसर्च के प्रोफेसर जॉन हुकर के नेतृत्व में, लेखकों ने प्रसिद्ध सामाजिक कल्याण फंक्शन “अल्फा न्यायसंगतता” का उपयोग लोकप्रिय सांख्यिकीय समानता मेट्रिक्स जैसे कि जनसांख्यिकीय समानता, समान अवसर और पूर्वानुमानिक दर समानता की सीमाओं और अंधे धब्बों को विच्छेदन करने के लिए किया।
उनके परिणाम दिखाते हैं कि ये समानता मेट्रिक्स अक्सर वितरित न्याय के सिद्धांतों के साथ संरेखित नहीं होते हैं जैसे कि सबसे खराब स्थिति को प्राथमिकता देना या लाभ और बोझ का न्यायसंगत वितरण। कई मामलों में, अल्फा-न्यायसंगत समाधान समानता समाधान से बहुत दूर है, इसलिए ये मेट्रिक्स कुशलता और समानता दोनों दृष्टिकोण से उपअधिकतम आर्टिफ़िशियल इंटेलिजेंस सिस्टम का नेतृत्व कर सकते हैं।
यह आर्टिफ़िशियल इंटेलिजेंस नैतिकता के क्षेत्र और मानव मूल्यों और सामाजिक न्याय का सम्मान करने वाले मशीन लर्निंग सिस्टम बनाने के प्रयासों के लिए बड़े प्रभाव है। इसका अर्थ है कि हमें एक अधिक व्यापक और सूक्ष्म दृष्टिकोण की आवश्यकता है जो सांख्यिकीय मेट्रिक्स से परे जाता है और उच्च-जोखिम वाले डोमेन में आर्टिफ़िशियल इंटेलिजेंस के नैतिक व्यापार-बंद को संबोधित करता है: सामाजिक कल्याण अनुकूलन।
सामाजिक कल्याण अनुकूलन को समझना
इसके मूल में, सामाजिक कल्याण अनुकूलन आर्टिफ़िशियल इंटेलिजेंस में न्यायसंगतता के बारे में सोचने और संचालन करने के लिए एक पूरी तरह से अलग दृष्टिकोण है। यह संकीर्ण रूप से कुछ मेट्रिक्स को समूहों के बीच समान बनाने पर ध्यान केंद्रित करने के बजाय, यह व्यापक सामाजिक प्रभाव पर विचार करता है कि आर्टिफ़िशियल इंटेलिजेंस निर्णय मानव कल्याण और भलाई पर है।
विचार यह है कि आर्टिफ़िशियल इंटेलिजेंस सिस्टम को डिज़ाइन करना है जो स्पष्ट रूप से एक सामाजिक कल्याण फंक्शन को अधिकतम करने का लक्ष्य रखता है जो सभी प्रभावित व्यक्तियों द्वारा अनुभव किए जाने वाले उपयोगिताओं (यानी, लाभ और लागत) को एक एकल सामाजिक भलाई के उपाय में एकत्रित करता है। इस दृष्टिकोण के अनुसार, आर्टिफ़िशियल इंटेलिजेंस प्रैक्टिशनर कुशलता और समानता जैसे प्रतिस्पर्धी उद्देश्यों को संतुलित करने वाले एल्गोरिदम बना सकते हैं bằng नैतिक निर्णयों को प्रतिबिंबित करने वाले एक सामाजिक कल्याण फंक्शन को निर्दिष्ट करके।
