Muling Pagsusuri sa Pagkakapantay-pantay ng Artipisyal na Intelihensiya sa Pamamagitan ng Social Welfare Optimization

Habang ang mga sistema ng AI ay nagiging mas laganap at makapangyarihan, ang tanong kung paano gawing patas at makatarungan ang mga ito ay naging pinakamalaking hamon. Mula sa pagpapautang at pagkuha ng empleyado hanggang sa pangangalagang pangkalusugan at hustisyang kriminal, ang mga algorithm ng AI ay nagsimulang kontrolin ang buhay at kabuhayan ng mga indibidwal at komunidad. Madalas, ang mga algorithm na ito ay gumagana sa mga paraang hindi nakikita, walang pananagutan, at kahit na may pagkiling minsan laban sa mga historikal na napag-iwanang grupo.

Bilang tugon sa mga alalahaning ito, nagsama-sama ang isang komunidad ng mga mananaliksik, practitioner, at mga gumagawa ng patakaran upang bumuo ng mga “patas” na sistema ng AI na nagtrato sa lahat nang pantay at hindi nagpapatuloy o nagpapalakas ng mga hindi pagkakapantay-pantay sa lipunan. Ang namumunong pamamaraan sa pag-formalize at pag-operationalize ng pagkakapantay-pantay sa AI ay ang paggamit ng “statistical parity metrics,” na naglalayong pantayin ang ilang performance metrics tulad ng mga rate ng pagpili o mga error rate sa pagitan ng mga protektadong grupo.

Gayunpaman, habang ang mga konsepto ng pagkakapantay-pantay na nakabatay sa parity ay malawak na pinag-aralan at tinanggap sa komunidad ng AI, nakaranas din ito ng tumitinding kritisismo mula sa mga iskolar na nagsasabing ito ay may konseptwal na depekto, praktikal na limitasyon, at posibleng kontra-produktibo. Ipinapahayag nila na ang simpleng pagpapantay ng mga estadistikal na kinalabasan sa pagitan ng mga grupo ay hindi sapat upang makamit ang makabuluhang pagkakapantay-pantay dahil hindi nito kinikilala ang aktwal na epekto sa kapakanan ng mga desisyon ng AI sa mga indibidwal at komunidad.

Sa isang bagong papel sa mga paglalathala ng CPAIOR 2024, isang koponan ng mga mananaliksik mula sa Carnegie Mellon University at Stevens Institute of Technology ang nagmungkahi ng alternatibong pamamaraan sa AI fairness batay sa social welfare optimization. Pinamunuan ni John Hooker, propesor ng operations research sa Carnegie Mellon University, ginagamit ng mga may-akda ang kilalang social welfare function na “alpha fairness” upang suriin ang mga limitasyon at butas ng mga popular na statistical parity metrics tulad ng demographic parity, equalized odds, at predictive rate parity.

Ipinapakita ng kanilang mga resulta na madalas na hindi naaayon ang mga parity metrics sa mga prinsipyo ng distributive justice tulad ng pagbibigay prayoridad sa pinakamahihirap o patas na pamamahagi ng mga benepisyo at pasanin. Sa maraming kaso, ang alpha-fair na solusyon ay malayo sa solusyong ibinibigay ng parity metrics, kaya maaaring magdulot ang mga metric na ito ng mga AI system na hindi optimal mula sa parehong perspektibo ng kahusayan at pagkakapantay-pantay.

May malalaking implikasyon ito para sa larangan ng AI ethics at mga pagsisikap na bumuo ng mga machine-learning system na nirerespeto ang mga halaga ng tao at katarungang panlipunan. Ibig sabihin nito, kailangan natin ng mas komprehensibo at masalimuot na pamamaraan sa algorithmic fairness na lumalampas sa mga estadistikal na metric at tinatalakay ang mga moral na trade-off ng AI sa mga mataas na panganib na larangan: social welfare optimization.

Pag-unawa sa Social Welfare Optimization

Sa kanyang pinakapuso, ang social welfare optimization ay isang ganap na ibang paradigma para sa pag-iisip at pag-operationalize ng pagkakapantay-pantay sa AI. Sa halip na nakatuon lamang sa pagpapantay ng ilang metric sa pagitan ng mga grupo, ito ay humihinto muna at isinasaalang-alang ang mas malawak na epekto sa lipunan ng mga desisyon ng AI sa kapakanan at kaginhawahan ng tao.

Ang ideya ay magdisenyo ng mga AI system na tahasang naglalayong i-maximize ang isang social welfare function na nag-aagregat ng mga utility (i.e., mga benepisyo at gastos) na nararanasan ng lahat ng apektadong indibidwal sa isang solong sukat ng kabutihang panlipunan. Ayon sa pamamaraang ito, maaaring bumuo ang mga practitioner ng AI ng mga algorithm na nagbabalanse sa mga nagkakasalungat na layunin sa pamamagitan ng pagtukoy ng isang social welfare function na sumasalamin sa mga pinag-isipang moral na hatol tungkol sa relatibong kahalagahan ng kahusayan at pagkakapantay-pantay.

Ang social welfare optimization ay may ugat sa welfare economics, na may mahabang kasaysayan sa pagharap sa distributive justice at kolektibong paggawa ng desisyon. Ang mga ekonomista at pilosopo ay nagmungkahi ng iba’t ibang social welfare functions na sumasalamin sa iba’t ibang prinsipyo etikal at hatol sa halaga, tulad ng utilitarianism (i-maximize ang kabuuang utility), prioritarianism (bigyan ng mas malaking timbang ang mga utility gain para sa pinakamahihirap), at egalitarianism (bawasan ang hindi pagkakapantay-pantay).

Sa mga nagdaang taon, dumarami ang mga mananaliksik ng AI na nagsimulang tuklasin ang social welfare optimization bilang paraan upang isama ang pagkakapantay-pantay sa mga system ng machine learning. Ang trabahong ito ay nakabatay sa mga papel na pinamagatang “Algorithmic decision making and the cost of fairness” nina Heidari et al. at Corbett-Davies at Goel, na unang nagpakilala ng ideya ng paggamit ng mga social welfare function upang masaklaw ang pagkakaiba-iba ng epekto ng mga desisyon ng AI sa iba’t ibang indibidwal at grupo.

Isang paraan upang gawin ito ay sa pamamagitan ng alpha fairness, isang parametric na klase ng mga social welfare function na naaaral sa ekonomiks at social choice sa loob ng 70 taon. Pinapayagan ng alpha fairness na mag-interpolate sa pagitan ng mga layuning utilitarian at egalitarian gamit ang isang solong parameter na alpha, na kumokontrol sa antas ng pag-ayaw sa hindi pagkakapantay-pantay.

Kapag ang alpha ay 0, ang social welfare function ay nababawasan sa klasikong utilitarianism, na i-maximize ang kabuuang utility nang hindi iniisip ang pamamahagi. Habang tumataas ang alpha, mas binibigyan ng timbang ang pinakamahihirap, at ang alokasyon ay nagiging mas patas. Sa limitasyon, kapag ang alpha ay papunta sa walang hanggan, ang alpha fairness ay nagko-converge sa Rawlsian “maximin” na prinsipyo ng pag-maximize ng utility ng pinakamahihirap na indibidwal.

Sa kanilang papel sa CPAIOR 2024, ginagamit ng mga mananaliksik ang alpha fairness bilang lente upang suriin ang tatlong popular na statistical parity metrics:

• Demographic parity
• Equalized odds
• Predictive rate parity

Nag-simulate sila ng iba’t ibang senaryo kung saan ang isang AI system ay kailangang mag-allocate ng limitadong mapagkukunan (hal., pautang, job interview, oportunidad pang-edukasyon) sa populasyon ng mga indibidwal na may iba’t ibang qualification rates at utility functions.

Nakakagulat ang mga resulta. Sa maraming kaso, ang alpha-fair na alokasyon ay malaki ang pagkakaiba mula sa mga solusyong iminungkahi ng mga parity metrics.

Ang demographic parity, na nangangailangan ng pantay na rate ng pagpili sa pagitan ng mga grupo, ay madalas na hindi kinikilala ang katotohanang ang mga napag-iwanang grupo ay nakakakuha ng mas malaking marginal utility kapag napili. Dahil dito, nagdudulot ito ng mga alokasyon na hindi epektibo ni patas.

Ang equalized odds, na ikinumpara lamang ang mga rate ng pagpili sa mga “qualified” na indibidwal, ay bahagyang mas maganda ngunit patuloy na nabibigo sa mga senaryo kung saan ang mga false negative error (i.e., mga qualified na indibidwal na tinanggihan) ay mas magastos kaysa sa false positives.

Ang predictive rate parity, na nagpapantay sa proporsyon ng mga napiling indibidwal na qualified, ay may limitadong gamit at naaangkop lamang kapag ang bilang ng mga napiling indibidwal ay mas marami kaysa sa tunay na qualified na kandidato.

Ipinapakita ng mga resulta ang pangunahing limitasyon at mga butas ng mga statistical parity metrics bilang pangunahing paraan upang tasahin at ipatupad ang algorithmic fairness.

Sa pamamagitan ng pagwawalang-bahala sa aktwal na kapakanan ng mga desisyon ng AI at ang pagkakaiba-iba ng epekto sa iba’t ibang grupo, maaaring magdulot ang mga metric na ito ng mga sistema na nagpapatuloy o lalo pang nagpapalala ng umiiral na hindi pagkakapantay-pantay. Wala rin silang normative na pagbatay at pagkakakilanlan, dahil madalas na nagbubunga ng magkasalungat na rekomendasyon ang iba’t ibang parity criteria sa praktika.

Sa kabaligtaran, ang social welfare optimization ay nagbibigay ng isang prinsipyo at pinag-isang paraan upang mag-navigate sa mga tradeoff sa pagitan ng pagkakapantay-pantay at kahusayan sa mga AI system. Nilalayon nitong gawing hayag ang mga hatol sa halaga at mga etikal na palagay sa pagpili ng social welfare function upang payagan ang mga developer at gumagawa ng patakaran na magkaroon ng mas transparent at accountable na pag-uusap tungkol sa distributive impact ng algorithmic decision-making.

Bukod pa rito, ipinakita ng mga kamakailang pag-aaral na ang social welfare optimization ay madaling maisasama sa karaniwang workflow ng machine learning, alinman bilang post-processing step o direkta sa training objective mismo.

Halimbawa, sa “Pagdedesisyon ng algorithmic at ang gastos ng pagiging patas”,” nagpropose ang mga mananaliksik ng isang regularization technique na nagdadagdag ng social welfare term sa loss function ng anumang classification o regression model upang matutunan ng sistema ang mga patas na decision rule na nagma-maximize ng parehong accuracy at welfare. Ipinakilala nina Ustun et al. ang isang post-processing method na kumukuha ng output ng anumang pre-trained model at hinahanap ang mga desisyon na nagma-maximize ng welfare alinsunod sa iba’t ibang fairness constraints.

Ipinapakita ng mga teknikal na resulta na ang social welfare optimization ay isang praktikal at posibleng paraan upang bumuo ng mga patas at makatarungang AI system. Maaaring gamitin ng mga developer ang mga makapangyarihang optimization technique at software packages batay sa isang malinaw at computable objective function na sumasaklaw sa mga normative consideration ng balangkas na ito upang makahanap ng mga alokasyon na nagbabalanse sa magkasalungat na pamantayan.

Ngunit, ang pagganap ng buong potensyal ng social welfare optimization sa praktika ay nangangailangan ding harapin ang ilang mahihirap na hamon at limitasyon. Isa sa pinakamalaking hamon ay ang kahirapan sa pagkuha at pagbuo ng mga indibidwal na utility function na sumasaklaw sa kumplikado, multi-dimensional na epekto ng mga desisyon ng AI sa buhay ng tao. Ito ay nangangailangan ng malalim na pakikipag-ugnayan sa mga stakeholder at mga eksperto sa larangan upang maunawaan ang mga kontekstwal na salik na humuhubog sa mga kagustuhan, halaga, at kaginhawahan ng mga tao.

Mayroon ding mga teoretikal at pilosopikal na tanong tungkol sa interpersonal comparability ng utility, kawalan ng katiyakan, at dinamika, pati na rin kung paano i-aggregate ang mga indibidwal na utility sa isang kolektibong sukat ng social welfare. Ang iba’t ibang social welfare function ay may iba’t ibang assumptions tungkol dito, at walang pangkalahatang consensus kung alin ang pinaka-kapani-paniwala o angkop sa isang partikular na konteksto.

Bukod pa rito, tulad ng anumang optimization-based na pamamaraan, may panganib na ang mga layuning pinapalaki ay maaaring hindi ganap na sumaklaw sa lahat ng kaugnay na etikal na konsiderasyon, o maaari itong maapektuhan ng mga bias at butas sa data at mga modelo na ginagamit upang tantiyahin ang mga utility. Mahalaga ang maayos na proseso ng pakikilahok ng stakeholder, transparency, at accountability upang matiyak na ang mga welfare criteria ay na-optimize upang umayon sa mga halaga at prayoridad ng mga apektadong komunidad.

Sa kabila ng mga hamong ito, napakalaki ng benepisyo ng social welfare optimization para sa algorithmic fairness upang hindi ito balewalain. Gayunpaman, maaaring lumampas ang mga developer ng AI at mga gumagawa ng patakaran sa statistical parity sa pamamagitan ng isang prinsipyo at flexible na paraan upang balansehin ang equity at efficiency ng pamamaraang ito. Sa huli, magdudulot ito ng mas holistic at consequentialist na konsepto ng pagkakapantay-pantay batay sa kapakanan at kaginhawahan ng tao.

I-click dito upang matutunan kung paano masisiguro ng AI ang pagiging tunay. 

Ang #1 na Kaso ng Paggamit: Makatarungang Pagpapautang

Upang ipakita ang pangako at hamon ng social welfare optimization sa praktika, tingnan natin ang mataas na panganib na larangan ng algorithmic lending. Sa mga nagdaang taon, maraming bangko at fintech na kumpanya ang nagpatupad ng mga machine learning model upang i-automate at pabilisin ang mga desisyon sa kredito. Ang mga modelong ito ay gumagamit ng napakalaking dami ng personal at pinansyal na datos upang hulaan ang posibilidad na ang isang aplikante sa pautang ay mag-default, kaya maaaring gumawa ng mas mabilis at mas epektibong underwriting decisions ang mga nagpapautang.

Gayunpaman, may lumalawak na ebidensya na ang mga algorithmic lending system na ito ay nagpapatuloy at nagpapalakas ng mga historikal na bias at pagkakaiba sa pag-access sa kredito. Ipinakita ng mga pag-aaral na ang mga Black at Latino na nangungutang ay mas malamang na ma-deny ang mga pautang o singilin ng mas mataas na interest rate kaysa sa mga katulad na kwalipikadong White na nangungutang, kahit na kinokontrol ang mga tradisyonal na risk factor tulad ng kita, credit score, at employment status.

Bilang tugon sa mga alalahaning ito, maaaring lumipat ang ilang nagpapautang sa mga statistical parity method tulad ng demographic parity at equalized odds upang mapagaan ang bias sa kanilang AI underwriting models. Ang ideya ay pantayin ang loan approval rates o default rates sa pagitan ng mga protektadong grupo upang tratuhin ng mga modelo ang lahat ng aplikante nang pantay-pantay anuman ang lahi o etnisidad.

Bagaman ang mga parity-based na pamamaraan na ito ay maaaring mukhang intuitive, hindi nila nasusukat ang kumplikadong kalagayan ng creditworthiness at ang pagkakaiba-iba ng epekto ng pag-access sa pautang sa kapakanan ng mga marginalized na komunidad. Ipinapakita ng lumalaking katawan ng pananaliksik na ang mga simplistang konsepto ng fairness na batay sa pagpapantay ng mga kinalabasan ay maaaring talagang magbunga ng kabaligtaran at makasama ang mismong mga grupo na kanilang iniingatang protektahan.

Halimbawa, isang artikulo noong 2018 ang nagbabanggit na ang pagpapatupad ng demographic parity constraints sa isang utility-maximizing decision rule ay karaniwang nangangailangan ng paggamit ng sensitibong variable tulad ng lahi sa parehong training ng modelo at paggawa ng desisyon. Ito ay nagpapahiwatig na ang mga pagsubok na matugunan ang parity constraints sa pamamagitan ng paggamit ng lahi lamang sa panahon ng training, na kilala bilang ‘disparate learning processes,’ ay magiging sub-optimal.

Higit pa rito, ang mga parity-based fairness criteria ay hindi kinikilala ang katotohanang ang mga pinsala ng pagkakait ng kredito ay hindi pantay-pantay sa populasyon. Para sa mga low-income at minority na nangungutang na historikal na inalis sa mainstream na serbisyong pinansyal, ang pagkakait ng pautang ay maaaring magdulot ng mapaminsalang kahihinatnan, na nag-iiwan sa kanila sa mga siklo ng kahirapan at mapanlinlang na utang. Para sa mas mayaman at pribilehiyadong aplikante, maaaring mayroon silang alternatibong mapagkukunan ng kapital at mas kaunti ang epekto ng isang negatibong desisyon sa kredito.

Nag-aalok ang social welfare optimization ng alternatibong pamamaraan na direktang isinasama ang mga pagkakaiba-iba ng kapakanan sa disenyo ng mga algorithm para sa makatarungang pagpapautang. Maaaring bumuo ang mga nagpapautang ng mga credit model na nagma-maximize ng kabuuang kapakanan habang tinitiyak ang mas patas na pamamahagi ng mga oportunidad sa pamamagitan ng pagtukoy ng isang social welfare function na sumasaklaw sa relatibong gastos at benepisyo ng pag-access sa pautang para sa iba’t ibang indibidwal at grupo.

Halimbawa, isaalang-alang ang isang social welfare function na nagbibigay prayoridad sa kapakanan ng mga pinaka-mahihirap na aplikante, na nagbibigay ng mas malaking timbang sa mga utility gain ng mga low-income at minority na nangungutang. Ito ay maaaring ipormal gamit ang isang alpha fairness function na may katamtamang mataas na halaga ng alpha, na nagpapahiwatig ng matinding kagustuhan para sa equity kaysa sa efficiency.

Sa ilalim ng layuning ito ng social welfare, ang optimal na patakaran sa pagpapautang ay malamang na magbigay ng mas maraming pautang sa mga marginalized na grupo kahit na ang kanilang tinatayang repayment rates, sa pangkalahatan, ay medyo mababa. Ito ay dahil ang mga kapakinabangan ng pagpapautang sa mga underserved na komunidad (hal., pagpapahintulot sa kanila na bumili ng bahay, magsimula ng negosyo, o magpatuloy sa edukasyon) ay maaaring humigit pa sa nadagdagang panganib ng default mula sa perspektibong panlipunan.

Siyempre, ang pagpapatupad ng ganitong welfare-maximizing na sistema ng pagpapautang sa praktika ay mangangailangan ng pagtagumpayan ng malalaking hamon sa data at pagmomodelo. Kailangan ng mga nagpapautang na mangolekta ng detalyadong data tungkol sa sosyo-ekonomikong katangian at pinansyal na pangangailangan ng mga aplikante sa pautang pati na rin ang downstream na epekto ng pag-access sa kredito sa kanilang kaginhawahan sa paglipas ng panahon. Kailangan din nilang makipag-ugnayan sa mga apektadong komunidad upang matiyak na ang mga welfare criteria ay na-optimize upang umayon sa kanilang mga halaga at prayoridad.

Bukod pa rito, maaaring may mahahalagang legal at regulasyon na konsiderasyon sa paggamit ng impormasyon ng protektadong klase (hal., lahi, kasarian, edad) upang gumawa ng mga desisyon sa pagpapautang, kahit na ang layunin ay itaguyod ang equity. Kailangan ng mga gumagawa ng patakaran na magbigay ng malinaw na gabay kung paano inilalapat ang mga anti-discrimination law sa konteksto ng social welfare optimization at lumikha ng mga safe harbor para sa mga nagpapautang na gumagamit ng mga teknik na ito sa isang transparent at accountable na paraan.

Sa kabila ng mga hamon, sulit ito. Maaaring makatulong ang social welfare optimization na itaguyod ang financial inclusion at isara ang racial wealth gap sa pamamagitan ng pagpapahintulot sa mga nagpapautang na gumawa ng mas holistic at welfare-aware na mga desisyon sa kredito, i-redirect ang daloy ng kapital sa tradisyonal na underserved na komunidad, at palakasin sila sa ekonomiya. Maaari rin itong magbigay ng mas prinsipyo at transparent na paraan upang mag-navigate sa mga tradeoff sa pagitan ng fairness at efficiency sa pagpapautang na nakabatay sa totoong epekto sa buhay ng mga nangungutang.

Paglalagay nito sa Perspektibo

Tulad ng ipinapakita ng halimbawa ng pagpapautang, ang social welfare optimization ay isang frontier para sa algorithmic fairness na lumalampas sa statistical parity at patungo sa mas holistic at consequentialist na konsepto ng equity batay sa kapakanan at kaginhawahan ng tao.

Makakatulong ang pamamaraang ito sa mga developer ng AI at mga gumagawa ng patakaran na gumawa ng mas prinsipyo at accountable na desisyon tungkol sa disenyo at pag-deploy ng mga algorithmic system sa mga mataas na panganib na larangan. Magagawa nila ito sa pamamagitan ng pagtukoy at pag-maximize ng isang social welfare function na sumasalamin sa pinag-isipang moral na hatol tungkol sa pamamahagi ng mga benepisyo at pasanin.

Gayunpaman, ang pagganap ng buong potensyal ng social welfare optimization sa praktika ay mangangailangan ng maraming interdisciplinary na trabaho. Kailangan ng mga computer scientist at AI ethics scholar na makipagtulungan sa mga ekonomista, pilosopo, legal na eksperto, at mga apektadong komunidad upang harapin ang mga normative at teknikal na hamon sa pagde-define at pag-compute ng mga social welfare function. Ito ay kinabibilangan ng mahihirap na tanong tungkol sa pagsukat at pag-aggregate ng indibidwal na utility, kawalan ng katiyakan at dinamika, at ang tamang tradeoff sa pagitan ng kahusayan at equity sa iba’t ibang konteksto.

Gayundin, kailangan ng mga gumagawa ng patakaran at regulator na magbigay ng higit pang gabay at lumikha ng isang kapaligiran kung saan ang welfare-aware AI ay maaaring ma-develop at ma-deploy. Ito ay maaaring mangahulugan ng pag-update ng umiiral na anti-discrimination na mga batas at regulasyon upang tugunan ang hamon ng social welfare optimization at lumikha ng mga bagong governance framework at oversight mechanism para sa transparency, accountability, at public engagement sa disenyo at paggamit ng mga sistemang ito.

Sa huli, ang paglipat sa social welfare optimization sa AI ay dapat samahan ng mas malawak na pagsisikap upang tugunan ang mga nakapailalim na istruktural na hindi pagkakapantay-pantay at power imbalance na humuhubog sa pag-develop at epekto ng teknolohiya sa lipunan.

Ang mga intervention sa algorithmic fairness, gaano man kahusay ang disenyo, ay hindi maaaring palitan ang mas pundamental na reporma upang itaguyod ang social at economic justice, tulad ng pamumuhunan sa edukasyon, pangangalagang pangkalusugan, pabahay, at imprastruktura sa mga marginalized na komunidad.

Ayon kina Hooker at sa kanyang mga kasamahan sa kanilang CPAIOR 2024 paper:

“Ang social welfare optimization ay nagbibigay ng mga bagong paraan upang magdisenyo ng mga patas at mabuting algorithmic system. Marami pang trabaho ang natitira upang magawa ang pag-develop at pag-operationalize ng mga pamamaraang ito, ngunit naniniwala kami na ito ay isang paraan pasulong para sa AI ethics. Maaari tayong makarating sa isang mas holistic at moral na seryosong paraan ng pagbuo ng mga machine learning system na nagsisilbi sa buong lipunan sa pamamagitan ng pag-frame ng ating mga konsepto ng fairness sa wika ng welfare economics at hayagang pagharap sa mga distributional consequence ng ating teknolohiya.”

Sa kabuuan, upang makamit ang tunay na patas na AI, kailangan nating tiyakin na ang mga pamamaraang ito ay masusing sinusuri at pinapahusay sa mga totoong senaryo, na sumasalamin sa isang pangako sa katarungan at kagalingan ng lipunan.

I-click dito upang matutunan ang lahat tungkol sa pamumuhunan sa artificial intelligence.