Genvurdering af retfærdigheden i kunstig intelligens gennem social velfærdsoptimering

Efterhånden som AI-systemer bliver mere udbredte og kraftfulde, er spørgsmålet om, hvordan man gør dem retfærdige og retlige, blevet den største udfordring. Fra udlån og ansættelse til sundhedspleje og strafferet har AI-algoritmer nu begyndt at kontrollere liv og levevilkår for enkeltpersoner og fællesskaber. Ofte opererer disse algoritmer på måder, der er usynlige, uansvarlige, og endda forudindtagede til tider mod historisk udsatte grupper.

Som svar på disse bekymringer er et fællesskab af forskere, praktikere og beslutningstagere gået sammen om at udvikle “retfærdige” AI-systemer, der behandler alle lige og ikke fastholder eller forstærker samfundsmæssige uligheder. Den dominerende tilgang til at formalisere og operationalisere retfærdighed i AI har været brugen af “statistiske paritetsmålinger”, som har til formål at udligne visse præstationsmålinger såsom udvælgelsesrater eller fejlrater på tværs af beskyttede grupper.

Men selvom paritetsbaserede forestillinger om retfærdighed er blevet bredt studeret og vedtaget i AI-fællesskabet, har de også mødt stigende kritik fra forskere, der hævder, at de er konceptuelt fejlagtige, praktisk begrænsede og potentielt kontraproduktive. De argumenterer for, at blot at udligne statistiske resultater mellem grupper ikke er nok til at opnå substantiel retfærdighed, da det ignorerer den faktiske velfærdsvirkning af AI-beslutninger på enkeltpersoner og fællesskaber.

I et nyt papir i CPAIOR 2024-proceedings foreslår et team af forskere fra Carnegie Mellon University og Stevens Institute of Technology en alternativ tilgang til AI-retfærdighed baseret på social velfærdsoptimering. Ledet af John Hooker, professor i operations research ved Carnegie Mellon University, bruger forfatterne den velkendte sociale velfærdsfunktion “alpha fairness” til at analysere begrænsningerne og blinde pletter i populære statistiske paritetsmålinger som demografisk paritet, balancerede odds og paritet i forudsigelsesrater.

Deres resultater viser, at disse paritetsmålinger ofte ikke stemmer overens med principper for fordelingsretfærdighed som at prioritere de dårligst stillede eller en retfærdig fordeling af fordele og byrder. I mange tilfælde er den alpha‑retfærdige løsning langt fra paritetsløsningen, så disse målinger kan føre til AI-systemer, der er suboptimale både med hensyn til effektivitet og lighed.

Dette har store implikationer for AI-etikområdet og bestræbelserne på at bygge maskinlæringssystemer, der respekterer menneskelige værdier og social retfærdighed. Det betyder, at vi har brug for en mere omfattende og nuanceret tilgang til algoritmisk retfærdighed, der går ud over statistiske målinger og tackler de moralske afvejninger i AI inden for høj‑risiko områder: social velfærdsoptimering.

Forståelse af social velfærdsoptimering

I sin kerne er social velfærdsoptimering et helt andet paradigme for at tænke på og operationalisere retfærdighed i AI. I stedet for snævert at fokusere på at udligne visse målinger mellem grupper, træder den et skridt tilbage og overvejer den bredere samfundsmæssige påvirkning af AI-beslutninger på menneskelig velfærd og trivsel.

Ideen er at designe AI-systemer, der eksplicit har til formål at maksimere en social velfærdsfunktion, som samler nytte (dvs. fordele og omkostninger) oplevet af alle berørte individer til et enkelt mål for socialt gode. Ifølge denne tilgang kan AI‑praktikere bygge algoritmer, der balancerer disse konkurrerende mål ved at specificere en social velfærdsfunktion, der afspejler overvejede moralske vurderinger af den relative betydning af effektivitet og lighed.

Social velfærdsoptimering har sine rødder i velfærdøkonomi, som har en lang historie med at håndtere fordelingsretfærdighed og kollektiv beslutningstagning. Økonomer og filosoffer har foreslået forskellige sociale velfærdsfunktioner, der afspejler forskellige etiske principper og værdivurderinger, såsom utilitarisme (maksimere summen af nytte), prioritarisme (give større vægt på nyttegevinster for de dårligst stillede) og egalitarisme (minimere ulighed).

I de senere år er et stigende antal AI‑forskere begyndt at udforske social velfærdsoptimering som en måde at indlejre retfærdighed i maskinlæringssystemer. Dette arbejde bygger på papirer med titlen “Algorithmic decision making and the cost of fairness” af Heidari et al. og Corbett‑Davies og Goel, som først introducerede idéen om at bruge sociale velfærdsfunktioner til at indfange den differentielle påvirkning af AI‑beslutninger på forskellige individer og grupper.

En måde at gøre dette på er med alpha‑fairness, en parametrisk klasse af sociale velfærdsfunktioner, der er blevet studeret i økonomi og social valg i 70 år. Alpha‑fairness giver dig mulighed for at interpolere mellem utilitaristiske og egalitære mål med en enkelt parameter alpha, som styrer graden af afersyn mod ulighed.

Når alpha er 0, reduceres den sociale velfærdsfunktion til klassisk utilitarisme, der maksimerer summen af nytte uden hensyn til fordeling. Når alpha stiger, gives der mere vægt til de dårligst stillede, og tildelingen bliver mere retfærdig. I grænsen, når alpha går mod uendelig, konvergerer alpha‑fairness til Rawls’ “maximin”-princip om at maksimere nytten for den dårligst stillede individ.

I deres CPAIOR 2024-papir bruger forskerne alpha‑fairness som et redskab til at undersøge tre populære statistiske paritetsmålinger:

• Demografisk paritet
• Balancede odds
• Paritet i forudsigelsesrater

De simulerer en række scenarier, hvor et AI-system skal fordele en begrænset ressource (f.eks. lån, jobinterviews, uddannelsesmuligheder) blandt en befolkning af individer med forskellige kvalifikationsrater og nyttefunktioner.

Resultaterne er overraskende. I mange tilfælde afviger den alpha‑retfærdige fordeling betydeligt fra de løsninger, som paritetsmålingerne foreslår.

Demografisk paritet, som kræver lige udvælgelsesrater på tværs af grupper, tager ofte ikke højde for, at udsatte grupper får mere marginal nytte ved at blive udvalgt. Derfor fører den til fordeling, der hverken er effektiv eller retfærdig.

Balancede odds, som kun sammenligner udvælgelsesrater blandt “kvalificerede” individer, klarer sig lidt bedre, men fejler stadig i scenarier, hvor falske negative fejl (dvs. kvalificerede individer, der afvises) er dyrere end falske positive.

Paritet i forudsigelsesrater, som udligner andelen af udvalgte individer, der er kvalificerede, har begrænset anvendelse og er kun relevant, når antallet af udvalgte individer er større end antallet af reelt kvalificerede kandidater.

Disse resultater viser de grundlæggende begrænsninger og blinde pletter i statistiske paritetsmålinger som den primære metode til at vurdere og håndhæve algoritmisk retfærdighed.

Ved at ignorere de faktiske velfærdspåvirkninger af AI-beslutninger og den differentielle påvirkning på forskellige grupper, kan disse målinger føre til systemer, der fastholder eller endda forværrer eksisterende uligheder. De mangler også normativ begrundelse og konsistens, da forskellige paritetskriterier ofte giver modstridende anbefalinger i praksis.

I modsætning hertil giver social velfærdsoptimering en principiel og samlet måde at navigere i afvejningerne mellem retfærdighed og effektivitet i AI-systemer. Den har til formål at gøre værdi­vurderinger og etiske antagelser i valget af social velfærdsfunktion eksplicit, så udviklere og beslutningstagere kan have mere gennemsigtige og ansvarlige samtaler om den fordelingsmæssige påvirkning af algoritmisk beslutningstagning.

Desuden har nyere arbejde vist, at social velfærdsoptimering let kan integreres i den standard maskinlæringsarbejdsproces, enten som et efterbehandlingstrin eller direkte i træningsmålet.

For eksempel foreslår forskerne i “Algorithmic decision making and the cost of fairness” en regulariseringsteknik, der tilføjer et socialt velfærdsterm til tabfunktionen for enhver klassifikations‑ eller regressionsmodel, så systemet kan lære retfærdige beslutningsregler, der maksimerer både nøjagtighed og velfærd. Ustun m.fl. introducerede en efterbehandlingsmetode, der tager output fra enhver forudtrænet model og finder de velfærdsmaximerende beslutninger under forskellige retfærdighedsbegrænsninger.

Disse tekniske resultater viser, at social velfærdsoptimering er en gennemførlig og praktisk måde at bygge retfærdige og lige AI-systemer på. Udviklere kan bruge disse kraftfulde optimeringsteknikker og softwarepakker baseret på en klar og beregnelig målfunktion, der indfanger de normative overvejelser i denne ramme, for at finde fordeling, der balancerer konkurrerende kriterier.

Men for at realisere det fulde potentiale af social velfærdsoptimering i praksis kræves også håndtering af en række svære udfordringer og begrænsninger. En af de største er vanskeligheden ved at indhente og konstruere individuelle nyttefunktioner, der indfanger den komplekse, multidimensionelle påvirkning af AI-beslutninger på menneskeliv. Dette kræver dyb involvering af berørte interessenter og domæneeksperter for at forstå de kontekstuelle faktorer, der former folks præferencer, værdier og trivsel.

Der er også teoretiske og filosofiske spørgsmål om den interpersonelle sammenlignelighed af nytte, usikkerhed og dynamik, samt hvordan man aggregerer individuelle nyttefunktioner til et samlet socialt velfærdsmål. Forskellige sociale velfærdsfunktioner gør forskellige antagelser om disse, og der er ingen universel konsensus om, hvilken der er mest holdbar eller passende i en given kontekst.

Desuden er der, som med enhver optimeringsbaseret tilgang, en risiko for, at de mål, der maksimeres, ikke fuldt ud indfanger alle relevante etiske overvejelser, eller at de kan blive skæve af forudindtagelser og blinde pletter i data og modeller, der bruges til at estimere nytte. Det er essentielt at have velovervejede processer for interessentinddragelse, gennemsigtighed og ansvarlighed for at sikre, at velfærdskriterierne optimeres i overensstemmelse med værdier og prioriteringer i de berørte fællesskaber.

På trods af disse udfordringer er fordelene ved social velfærdsoptimering for algoritmisk retfærdighed for store til at blive ignoreret. Ikke desto mindre kan AI‑udviklere og beslutningstagere gå ud over statistisk paritet gennem en principiel og fleksibel måde at balancere lighed og effektivitet i denne tilgang. I sidste ende vil det føre til en mere holistisk og konsekvensbaseret opfattelse af retfærdighed baseret på menneskelig velfærd og trivsel.

Klik her for at lære, hvordan AI kan sikre ægthed. 

Det #1 brugstilfælde: Retfærdig udlån

For at vise løfterne og udfordringerne ved social velfærdsoptimering i praksis, lad os overveje det højrisikodomain, som algoritmisk udlån udgør. I de senere år har mange banker og fintech‑virksomheder taget maskinlæringsmodeller i brug for at automatisere og accelerere kreditbeslutninger. Disse modeller bruger enorme mængder af personlige og finansielle data til at forudsige sandsynligheden for, at en låntager vil misligholde, så långivere kan træffe hurtigere og mere effektive underwriting‑beslutninger.

Der er dog stigende beviser for, at disse algoritmiske udlånsystemer fastholder og forstærker historiske fordomme og uligheder i kreditadgang. Studier har vist, at sorte og latino låntagere er mere tilbøjelige til at få afslag på lån eller blive pålagt højere renter end tilsvarende kvalificerede hvide låntagere, selv når der kontrolleres for traditionelle risikofaktorer som indkomst, kreditscore og beskæftigelsesstatus.

Som svar på disse bekymringer kan nogle långivere vende sig mod statistiske paritetsmetoder som demografisk paritet og balancede odds for at mindske bias i deres AI‑underwriting‑modeller. Ideen er at udligne lånegodkendelsesrater eller misligholdelsesrater på tværs af beskyttede grupper, så modellerne behandler alle ansøgere lige uanset race eller etnicitet.

Selvom disse paritetsbaserede tilgange kan synes intuitive, fanger de ikke kompleksiteten i kreditværdighed og den differentielle påvirkning af låneadgang på velfærden i marginaliserede fællesskaber. En voksende mængde forskning antyder, at forsimplede forestillinger om retfærdighed baseret på udligning af resultater kan faktisk slå fejl og skade de grupper de er beregnet til at beskytte.

For eksempel bemærker en artikel fra 2018, at håndhævelse af demografisk paritet på en nytte‑maksimerende beslutningsregel generelt kræver brug af følsomme variable som race både i modeltræning og beslutningstagning. Dette indebærer, at forsøg på at opfylde paritetskrav ved kun at bruge race under træning, kendt som ‘disparate learning processes’, vil være suboptimale.

Desuden ignorerer paritetsbaserede retfærdighedskriterier, at skaderne ved at blive nægtet kredit ikke er jævnt fordelt på befolkningen. For lavindkomst‑ og minoritetslåntagere, der historisk er blevet udelukket fra de almindelige finansielle tjenester, kan et afslag på et lån have ødelæggende konsekvenser, der fælder dem i fattigdoms‑ og udnyttelses‑cyklusser. For mere velstillede og privilegerede ansøgere kan de have alternative kapitalkilder og blive mindre påvirket af en negativ kreditbeslutning.

Social velfærdsoptimering tilbyder en alternativ tilgang, der direkte indarbejder disse differentielle velfærdspåvirkninger i designet af retfærdige udlånsalgoritmer. Långivere kan udvikle kreditmodeller, der maksimerer den samlede velfærd, samtidig med at de sikrer en mere retfærdig fordeling af muligheder ved at definere en social velfærdsfunktion, der indfanger de relative omkostninger og fordele ved låneadgang for forskellige individer og grupper.

For eksempel kan man overveje en social velfærdsfunktion, der prioriterer velfærden for de mindst fordelte ansøgere, ved at give mere vægt til nyttegevinsterne for lavindkomst‑ og minoritetslåntagere. Dette kunne formaliseres ved brug af en alpha‑fairness‑funktion med en moderat høj alpha‑værdi, hvilket indikerer en stærk præference for lighed frem for effektivitet.

Under dette sociale velfærdsmål ville den optimale udlåningspolitik sandsynligvis indebære at låne mere til marginaliserede grupper, selvom deres forudsagte tilbagebetalingsrater i gennemsnit er noget lavere. Dette skyldes, at velfærdsgevinsterne ved at låne til disse underbetjente fællesskaber (f.eks. at give dem mulighed for at købe et hus, starte en virksomhed eller forfølge uddannelse) kan opveje den øgede risiko for misligholdelse fra et samfundsperspektiv.

Selvfølgelig vil implementeringen af et sådant velfærds‑maksimerende udlånssystem i praksis kræve at overvinde betydelige data‑ og modelleringsudfordringer. Långivere vil skulle indsamle detaljerede data om de socioøkonomiske karakteristika og finansielle behov hos låntagerne samt de efterfølgende påvirkninger af kreditadgang på deres trivsel over tid. De vil også skulle engagere sig med de berørte fællesskaber for at sikre, at velfærdskriterierne optimeres i overensstemmelse med deres værdier og prioriteringer.

Derudover kan der være vigtige juridiske og regulatoriske overvejelser omkring brugen af beskyttede klasseoplysninger (f.eks. race, køn, alder) til at træffe udlånsbeslutninger, selvom målet er at fremme lighed. Politikere vil skulle give klare retningslinjer for, hvordan antidiskrimineringslove gælder i konteksten af social velfærdsoptimering, og skabe sikre rammer for långivere, der bruger disse teknikker på en gennemsigtig og ansvarlig måde.

På trods af udfordringerne er det umagen værd. Social velfærdsoptimering kan hjælpe med at fremme finansiel inklusion og lukke den racemæssige formuekløft ved at give långivere mulighed for at træffe mere holistiske og velfærdsbevidste kreditbeslutninger, omdirigere kapitalstrømmen til traditionelt underbetjente fællesskaber og styrke dem økonomisk. Den kan også give en mere principiel og gennemsigtig måde at navigere i afvejningerne mellem retfærdighed og effektivitet i udlån, der er forankret i de virkelige påvirkninger på låntagernes liv.

Sæt det i perspektiv

Som låneeksemplet viser, er social velfærdsoptimering en frontlinje for algoritmisk retfærdighed, der går ud over statistisk paritet og mod en mere holistisk og konsekvensbaseret opfattelse af lighed baseret på menneskelig velfærd og trivsel.

Denne tilgang kan hjælpe AI‑udviklere og beslutningstagere med at træffe mere principielle og ansvarlige beslutninger om design og implementering af algoritmiske systemer i høj‑risiko domæner. De kan gøre dette ved at definere og maksimere en social velfærdsfunktion, der afspejler overvejede moralske vurderinger af fordelingen af fordele og byrder.

Dog vil realiseringen af det fulde potentiale af social velfærdsoptimering i praksis kræve meget tværfagligt arbejde. Computerforskerne og AI‑etikforskere vil skulle samarbejde med økonomer, filosoffer, juridiske eksperter og berørte fællesskaber for at tackle de normative og tekniske udfordringer ved at definere og beregne sociale velfærdsfunktioner. Dette inkluderer svære spørgsmål omkring individuel nyttemåling og aggregation, usikkerhed og dynamik samt den rette afvejning mellem effektivitet og lighed i forskellige kontekster.

Desuden skal politikere og regulatorer give mere vejledning og skabe et miljø, hvor velfærdsbevidst AI kan udvikles og implementeres. Dette kan betyde at opdatere eksisterende antidiskrimineringslove og -regler for at adressere udfordringen med social velfærdsoptimering samt skabe nye styringsrammer og tilsynsmekanismer for gennemsigtighed, ansvarlighed og offentlig inddragelse i design og brug af disse systemer.

I sidste ende skal overgangen til social velfærdsoptimering i AI ledsages af bredere bestræbelser på at adressere de underliggende strukturelle uligheder og magtubalancer, der former udviklingen og påvirkningen af teknologi i samfundet.

Algoritmiske retfærdighedsinterventioner, uanset hvor veludformede de er, kan ikke erstatte mere grundlæggende reformer for at fremme social og økonomisk retfærdighed, såsom investering i uddannelse, sundhedspleje, bolig og infrastruktur i marginaliserede fællesskaber.

Som Hooker og hans kolleger siger i deres CPAIOR 2024‑paper:

“Social velfærdsoptimering giver nye måder at designe retfærdige og gode algoritmiske systemer på. Der er stadig meget arbejde, der skal udføres for at udvikle og operationalisere disse tilgange, men vi mener, at de er en vej frem for AI-etik. Vi kan nå en mere holistisk og moralsk seriøs måde at bygge maskinlæringssystemer, der tjener hele samfundet, ved at formulere vores forestillinger om retfærdighed i velfærdøkonomiens sprog og eksplicit håndtere de fordelingsmæssige konsekvenser af vores teknologi.”

Alt i alt, for at opnå virkelig retfærdig AI, skal vi sikre, at disse tilgange bliver grundigt testet og forfinet i virkelige scenarier, og dermed udtrykke en forpligtelse til retfærdighed og samfundsmæssig trivsel.

Klik her for at lære alt om investering i kunstig intelligens.