Vurderer rettferdigheten til kunstig intelligens på nytt gjennom sosial velferdsoptimalisering

Etter hvert som AI-systemer blir mer utbredt og kraftige, har spørsmålet om hvordan man gjør dem rettferdige og rettferdige blitt den største utfordringen. Fra utlån og ansettelse til helsevesen og strafferett har AI-algoritmer nå begynt å kontrollere livene og levebrødene til individer og samfunn. Ofte opererer disse algoritmene på måter som er usynlige, uansvarlige, og til og med partisk til tider mot historisk utsatte grupper.

Som svar på disse bekymringene har et fellesskap av forskere, praktikere og beslutningstakere samlet seg for å utvikle «rettferdige» AI-systemer som behandler alle likt og ikke opprettholder eller forsterker samfunnsmessige ulikheter. Den dominerende tilnærmingen til å formalisere og operasjonalisere rettferdighet i AI har vært bruken av «statistiske likhetsmål», som har som mål å likestille visse ytelsesindikatorer som utvelgelsesrater eller feilrater på tvers av beskyttede grupper.

Imidlertid, selv om likhetsbaserte forestillinger om rettferdighet har blitt bredt studert og tatt i bruk i AI-miljøet, har de også møtt økende kritikk fra akademikere som hevder at de er konseptuelt feilaktige, praktisk begrensede og potensielt kontraproduktive. De argumenterer for at det å bare likestille statistiske resultater mellom grupper ikke er nok til å oppnå substansiell rettferdighet, da det ignorerer den faktiske velferdspåvirkningen av AI-beslutninger på individer og samfunn.

I et nytt papir i CPAIOR 2024-prosedyrene foreslår et team av forskere fra Carnegie Mellon University og Stevens Institute of Technology en alternativ tilnærming til AI-rettferdighet basert på sosial velferdsoptimalisering. Ledet av John Hooker, professor i operasjonsforskning ved Carnegie Mellon University, bruker forfatterne den velkjente sosiale velferdsfunksjonen «alpha fairness» for å dissekere begrensningene og blindsonene til populære statistiske likhetsmål som demografisk likhet, likestilte odds og prediktiv rate‑likhet.

Resultatene deres viser at disse likhetsmålene ofte ikke er i samsvar med prinsipper for distributiv rettferdighet, som å prioritere de dårligst stilte eller en rettferdig fordeling av fordeler og byrder. I mange tilfeller er den alpha‑rettferdige løsningen langt fra likhetsløsningen, så disse målene kan føre til AI-systemer som er suboptimale både fra effektivitet‑ og likhetsperspektiv.

Dette har store implikasjoner for feltet AI-etikk og innsatsen for å bygge maskinlæringssystemer som respekterer menneskelige verdier og sosial rettferdighet. Det betyr at vi trenger en mer omfattende og nyansert tilnærming til algoritmisk rettferdighet som går utover statistiske mål og takler de moralske avveiningene i AI på høy‑risiko‑områder: sosial velferdsoptimalisering.

Forståelse av sosial velferdsoptimalisering

I kjernen er sosial velferdsoptimalisering et helt annet paradigme for å tenke på og operasjonalisere rettferdighet i AI. I stedet for å snevert fokusere på å likestille visse mål mellom grupper, tar den et steg tilbake og vurderer den bredere samfunnsmessige påvirkningen av AI‑beslutninger på menneskelig velferd og velvære.

Ideen er å designe AI‑systemer som eksplisitt har som mål å maksimere en sosial velferdsfunksjon som samler nytten (dvs. fordeler og kostnader) opplevd av alle berørte individer til ett enkelt mål på sosialt gode. I følge denne tilnærmingen kan AI‑praktikere bygge algoritmer som balanserer disse konkurrerende målene ved å spesifisere en sosial velferdsfunksjon som reflekterer gjennomtenkte moralske vurderinger om den relative betydningen av effektivitet og likhet.

Sosial velferdsoptimalisering har sine røtter i velferdsøkonomi, som har en lang historie med å håndtere distributiv rettferdighet og kollektiv beslutningstaking. Økonomer og filosofer har foreslått ulike sosiale velferdsfunksjoner som reflekterer forskjellige etiske prinsipper og verdifordeler, som utilitarisme (maksimere summen av nytte), prioritarianisme (gi mer vekt til nyttegevinster for de dårligst stilte) og egalitarisme (minimere ulikhet).

I de senere årene har et økende antall AI‑forskere begynt å utforske sosial velferdsoptimalisering som en måte å innlemme rettferdighet i maskinlæringssystemer. Dette arbeidet bygger på artikler med tittelen «Algorithmic decision making and the cost of fairness» av Heidari et al. og Corbett‑Davies og Goel, som først introduserte ideen om å bruke sosiale velferdsfunksjoner for å fange den differensielle påvirkningen av AI‑beslutninger på ulike individer og grupper.

En måte å gjøre dette på er med alpha fairness, en parametrisk klasse av sosiale velferdsfunksjoner som har blitt studert i økonomi og sosialvalg i 70 år. Alpha fairness lar deg interpolere mellom utilitaristiske og egalitære mål med en enkelt parameter alpha, som styrer graden av aversjon mot ulikhet.

Når alpha er 0, reduseres den sosiale velferdsfunksjonen til klassisk utilitarisme, som maksimerer summen av nytte uten hensyn til fordeling. Etter hvert som alpha øker, gis mer vekt til de dårligst stilte, og tildelingen blir mer rettferdig. I grensen, når alpha går mot uendelig, konvergerer alpha fairness mot Rawls’ «maximin»-prinsipp om å maksimere nytten til den dårligst stilte individet.

I deres CPAIOR 2024‑paper bruker forskerne alpha fairness som et verktøy for å undersøke tre populære statistiske likhetsmål:

• Demografisk likhet
• Likestilte odds
• Prediktiv rate‑likhet

De simulerer en rekke scenarier hvor et AI‑system må fordele en begrenset ressurs (f.eks. lån, jobbintervjuer, utdanningsmuligheter) blant en befolkning av individer med ulike kvalifikasjonsrater og nyttefunksjoner.

Resultatene er overraskende. I mange tilfeller avviker den alpha‑rettferdige fordelingen betydelig fra løsningene foreslått av likhetsmålene.

Demografisk likhet, som krever like utvelgelsesrater på tvers av grupper, tar ofte ikke hensyn til at utsatte grupper får mer marginal nytte av å bli valgt. Derfor fører det til fordeling som verken er effektive eller rettferdige.

Likestilte odds, som kun sammenligner utvelgelsesrater blant «kvalifiserte» individer, gjør det litt bedre, men mislykkes fortsatt i scenarier hvor falske negative feil (dvs. kvalifiserte individer som blir avvist) er dyrere enn falske positive.

Prediktiv rate‑likhet, som likestiller andelen av valgte individer som er kvalifiserte, har begrenset nytte og er kun anvendelig når antallet valgte individer er større enn antallet virkelig kvalifiserte kandidater.

Disse resultatene viser de grunnleggende begrensningene og blindsonene til statistiske likhetsmål som den primære metoden for å vurdere og håndheve algoritmisk rettferdighet.

Ved å ignorere de faktiske velferdsstakene i AI‑beslutninger og den differensielle påvirkningen på ulike grupper, kan disse målene føre til systemer som opprettholder eller til og med forverrer eksisterende ulikheter. De mangler også normativ begrunnelse og konsistens, ettersom ulike likhetskriterier ofte gir motstridende anbefalinger i praksis.

I kontrast gir sosial velferdsoptimalisering en prinsipiell og samlet måte å navigere avveiningene mellom rettferdighet og effektivitet i AI‑systemer. Den har som mål å gjøre verdidommer og etiske antakelser i valget av sosial velferdsfunksjon eksplisitte, slik at utviklere og beslutningstakere kan ha mer transparente og ansvarlige samtaler om den distributive påvirkningen av algoritmisk beslutningstaking.

Dessuten har nyere arbeid vist at sosial velferdsoptimalisering lett kan integreres i den vanlige maskinlærings‑arbeidsflyten, enten som et etterbehandlingssteg eller direkte i treningsmålet.

For eksempel, i «Algorithmic decision making and the cost of fairness», foreslår forskerne en regulariseringsteknikk som legger til et sosialt‑velferds‑term i tapfunksjonen til enhver klassifiserings‑ eller regresjonsmodell, slik at systemet kan lære rettferdige beslutningsregler som maksimerer både nøyaktighet og velferd. Ustun et al. introduserte en etterbehandlingsmetode som tar utdata fra en forhåndstrent modell og finner de velferds‑maksimerende beslutningene under ulike rettferdighetsbegrensninger.

Disse tekniske resultatene viser at sosial velferdsoptimalisering er en gjennomførbar og praktisk måte å bygge rettferdige og likeverdige AI‑systemer på. Utviklere kan bruke disse kraftige optimaliseringsteknikkene og programvarepakker basert på en klar og beregnbar mål‑funksjon som fanger de normative betraktningene i dette rammeverket for å finne fordeling som balanserer konkurrerende kriterier.

Men for å realisere det fulle potensialet til sosial velferdsoptimalisering i praksis kreves det også å takle en rekke harde utfordringer og begrensninger. En av de største er vanskeligheten med å hente inn og konstruere individuelle nyttefunksjoner som fanger den komplekse, multidimensjonale påvirkningen av AI‑beslutninger på menneskeliv. Dette krever dyp involvering av berørte interessenter og domeneeksperter for å forstå de kontekstuelle faktorene som former folks preferanser, verdier og velvære.

Det finnes også teoretiske og filosofiske spørsmål om interpersonell sammenlignbarhet av nytte, usikkerhet og dynamikk, samt hvordan man skal aggregere individuelle nytteverdier til et kollektivt sosialt velferdsmål. Ulike sosiale velferdsfunksjoner gjør ulike antakelser om dette, og det finnes ingen universell konsensus om hvilken som er mest holdbar eller passende i en gitt kontekst.

Videre, som med enhver optimaliseringsbasert tilnærming, er det en risiko for at målene som maksimeres ikke fullt ut fanger alle relevante etiske betraktninger, eller at de blir skjeve av skjevheter og blindsoner i dataene og modellene som brukes til å estimere nytte. Det er essensielt å ha gjennomtenkte prosesser for interessent‑deltakelse, åpenhet og ansvarlighet for å sikre at velferdskriteriene optimaliseres i tråd med verdiene og prioriteringene til de berørte samfunnene.

Til tross for disse utfordringene er fordelene med sosial velferdsoptimalisering for algoritmisk rettferdighet for store til å ignoreres. Likevel kan AI‑utviklere og beslutningstakere gå utover statistisk likhet gjennom en prinsipiell og fleksibel måte å balansere likhet og effektivitet i denne tilnærmingen. Til slutt vil det føre til en mer helhetlig og konsekvensialistisk forståelse av rettferdighet basert på menneskelig velferd og velvære.

Klikk her for å lære hvordan AI kan sikre autentisitet. 

Det #1 bruksområde: Rettferdig utlån

For å vise løftene og utfordringene ved sosial velferdsoptimalisering i praksis, la oss se på det høy‑risiko‑området algoritmisk utlån. I de senere årene har mange banker og fintech‑selskaper tatt i bruk maskinlæringsmodeller for å automatisere og akselerere kredittbeslutninger. Disse modellene bruker enorme mengder personlig og økonomisk data for å forutsi sannsynligheten for at en lånesøker vil misligholde, slik at långivere kan ta raskere og mer effektive underwriting‑beslutninger.

Det finnes imidlertid økende bevis for at disse algoritmiske utlånssystemene opprettholder og forsterker historiske skjevheter og ulikheter i kredittilgang. Studier har vist at svart- og latinamerikanske låntakere er mer sannsynlig å bli nektet lån eller får høyere rente enn likt kvalifiserte hvite låntakere, selv når man kontrollerer for tradisjonelle risikofaktorer som inntekt, kredittscore og sysselsettingsstatus.

Som svar på disse bekymringene kan noen långivere vende seg til statistiske likhetsmetoder som demografisk likhet og likestilte odds for å dempe skjevhet i sine AI‑underwriting‑modeller. Ideen er å likestille lånegodkjenningsrater eller misligholdsratene på tvers av beskyttede grupper, slik at modellene behandler alle søkere likt uavhengig av rase eller etnisitet.

Selv om disse likhetsbaserte tilnærmingene kan virke intuitive, klarer de ikke å fange kompleksiteten i kredittverdighet og den differensielle påvirkningen av lånetilgang på velferden til marginaliserte samfunn. En voksende forskningskropp antyder at forenklede forestillinger om rettferdighet basert på likestilling av resultater kan faktisk slå tilbake og skade de gruppene de er ment å beskytte.

For eksempel, en artikkel fra 2018 bemerker at håndheving av demografisk likhetsbegrensning på en nytte‑maksimerende beslutningsregel vanligvis krever bruk av sensitive variabler som rase både i modelltrening og beslutningstaking. Dette innebærer at forsøk på å oppfylle likhetsbegrensninger ved kun å bruke rase under trening, kjent som «disparate learning processes», vil være suboptimale.

Videre ignorerer likhetsbaserte rettferdighetskriterier faktumet at skadene ved å bli nektet kreditt ikke er jevnt fordelt på befolkningen. For låntakere med lav inntekt og minoritetsbakgrunn som historisk har blitt ekskludert fra mainstream finansielle tjenester, kan nektelse av lån ha ødeleggende konsekvenser, og fange dem i fattigdomssykluser og rovlån. For mer velstående og privilegerte søkere kan de ha alternative kapitalkilder og bli mindre påvirket av en negativ kredittbeslutning.

Sosial velferdsoptimalisering tilbyr en alternativ tilnærming som direkte innlemmer disse differensielle velferdsstakene i utformingen av rettferdige utlånsalgoritmer. Långivere kan utvikle kredittmodeller som maksimerer total velferd samtidig som de sikrer en mer rettferdig fordeling av muligheter ved å definere en sosial velferdsfunksjon som fanger de relative kostnadene og fordelene ved lånetilgang for ulike individer og grupper.

For eksempel, vurder en sosial velferdsfunksjon som prioriterer velferden til de minst fordelte søkere, og gir mer vekt til nyttegevinster for låntakere med lav inntekt og minoritetsbakgrunn. Dette kunne formaliseres ved bruk av en alpha‑fairness‑funksjon med en moderat høy alpha‑verdi, som indikerer en sterk preferanse for likhet over effektivitet.

Under dette sosiale velferdsmål, vil den optimale utlåns­politikken sannsynligvis innebære å låne mer til marginaliserte grupper selv om deres forventede tilbakebetalingsrater, i gjennomsnitt, er noe lavere. Dette skyldes at velferdsgevinsten ved å låne til disse underbetjente samfunnene (f.eks. å gjøre dem i stand til å kjøpe bolig, starte bedrift eller forfølge utdanning) kan oppveie den økte risikoen for mislighold fra et samfunnsperspektiv.

Selvfølgelig vil implementering av et slikt velferds‑maksimerende utlånssystem i praksis kreve at man overkommer betydelige data‑ og modelleringsutfordringer. Långivere må samle inn detaljerte data om de sosioøkonomiske egenskapene og de finansielle behovene til låntakere, samt de langsiktige påvirkningene av kredittilgang på deres velvære over tid. De må også engasjere seg med berørte samfunn for å sikre at velferdskriteriene er optimalisert i tråd med deres verdier og prioriteringer.

Videre kan det være viktige juridiske og regulatoriske hensyn rundt bruk av beskyttede klasse‑informasjon (f.eks. rase, kjønn, alder) i utlånsbeslutninger, selv om målet er å fremme likhet. Politikere må gi klare retningslinjer for hvordan antidiskrimineringslover gjelder i konteksten av sosial velferdsoptimalisering, og skape trygge havner for långivere som bruker disse teknikkene på en transparent og ansvarlig måte.

Til tross for utfordringene er det verdt innsatsen. Sosial velferdsoptimalisering kan bidra til å fremme finansiell inkludering og redusere den rasiale formueskløften ved å la långivere ta mer helhetlige og velferds‑bevisste kredittbeslutninger, omdirigere kapitalstrømmen til tradisjonelt underbetjente samfunn og styrke dem økonomisk. Det kan også tilby en mer prinsipiell og transparent måte å navigere avveiningene mellom rettferdighet og effektivitet i utlån, forankret i de reelle påvirkningene på låntakernes liv.

Sette det i perspektiv

Som låneeksemplet viser, er sosial velferdsoptimalisering en frontlinje for algoritmisk rettferdighet som går utover statistisk likhet og beveger seg mot en mer helhetlig og konsekvensialistisk forståelse av likhet basert på menneskelig velferd og velvære.

Denne tilnærmingen kan hjelpe AI‑utviklere og beslutningstakere med å ta mer prinsippielle og ansvarlige beslutninger om design og utrulling av algoritmiske systemer i høy‑risiko‑områder. De kan gjøre dette ved å definere og maksimere en sosial velferdsfunksjon som reflekterer gjennomtenkte moralske vurderinger om fordelingen av fordeler og byrder.

Imidlertid vil realiseringen av det fulle potensialet til sosial velferdsoptimalisering i praksis kreve omfattende tverrfaglig arbeid. Datavitere og AI‑etikk‑forskere må samarbeide med økonomer, filosofer, juridiske eksperter og berørte samfunn for å takle de normative og tekniske utfordringene ved å definere og beregne sosiale velferdsfunksjoner. Dette inkluderer vanskelige spørsmål rundt måling og aggregasjon av individuell nytte, usikkerhet og dynamikk, samt den rette avveiningen mellom effektivitet og likhet i ulike kontekster.

I tillegg må politikere og regulatorer gi mer veiledning og skape et miljø der velferds‑bevisst AI kan utvikles og implementeres. Dette kan bety at eksisterende antidiskrimineringslover og -forskrifter må oppdateres for å adressere utfordringene med sosial velferdsoptimalisering, samt etablere nye styringsrammer og tilsynsmekanismer for å sikre åpenhet, ansvarlighet og offentlig engasjement i design og bruk av disse systemene.

Til syvende og sist må overgangen til sosial velferdsoptimalisering i AI ledsages av bredere innsats for å takle de underliggende strukturelle ulikhetene og maktubalanser som former utviklingen og påvirkningen av teknologi i samfunnet.

Algoritmiske rettferdighetsintervensjoner, uansett hvor godt de er designet, kan ikke erstatte mer grunnleggende reformer for å fremme sosial og økonomisk rettferdighet, som investering i utdanning, helsevesen, bolig og infrastruktur i marginaliserte samfunn.

Som Hooker og hans kolleger sier i deres CPAIOR 2024‑paper:

«Sosial velferdsoptimalisering gir nye måter å designe rettferdige og gode algoritmiske systemer på. Det gjenstår mye arbeid for å utvikle og operasjonalisere disse tilnærmingene, men vi mener de er en vei fremover for AI‑etikk. Vi kan komme til en mer helhetlig og moralsk seriøs måte å bygge maskinlæringssystemer som tjener hele samfunnet ved å formulere våre forestillinger om rettferdighet i språk fra velferdsøkonomi og eksplisitt håndtere de distributive konsekvensene av vår teknologi.»

Alt i alt, for å oppnå virkelig rettferdig AI, må vi sikre at disse tilnærmingene blir grundig testet og raffinert i virkelige scenarier, med en forpliktelse til rettferdighet og samfunnsmessig velvære.

Klikk her for å lære alt om investering i kunstig intelligens.