Herbeoordeling van de eerlijkheid van kunstmatige intelligentie door sociale welvaartoptimalisatie

Naarmate AI-systemen meer wijdverspreid en krachtig worden, is de vraag hoe we ze eerlijk en rechtvaardig kunnen maken de grootste uitdaging geworden. Van kredietverlening en werving tot gezondheidszorg en strafrecht, AI-algoritmen hebben nu de levens en het bestaan van individuen en gemeenschappen gaan beheersen. Vaak werken deze algoritmen op manieren die onzichtbaar, niet-verantwoordelijk, en soms zelfs bevooroordeeld tegen historisch achtergestelde groepen.

Als reactie op deze zorgen heeft een gemeenschap van onderzoekers, praktijkmensen en beleidsmakers zich verzameld om “eerlijke” AI-systemen te ontwikkelen die iedereen gelijk behandelen en maatschappelijke ongelijkheden niet in stand houden of versterken. De dominante benadering om eerlijkheid in AI te formaliseren en operationeel te maken is het gebruik van “statistische parity‑metrics”, die erop gericht zijn bepaalde prestatiestatistieken zoals selectieratio’s of foutpercentages over beschermde groepen gelijk te maken.

Hoewel op parity gebaseerde opvattingen van eerlijkheid breed bestudeerd en geadopteerd zijn binnen de AI-gemeenschap, hebben ze ook steeds meer kritiek gekregen van wetenschappers die beweren dat ze conceptueel gebrekkig, praktisch beperkt en mogelijk contraproductief zijn. Zij stellen dat het simpelweg gelijkmaken van statistische uitkomsten tussen groepen niet voldoende is om substantiële eerlijkheid te bereiken, omdat het de daadwerkelijke welvaartsimpact van AI-beslissingen op individuen en gemeenschappen negeert.

In een nieuw artikel in de CPAIOR 2024 proceedings, stelt een team van onderzoekers van Carnegie Mellon University en Stevens Institute of Technology een alternatieve benadering van AI‑eerlijkheid voor, gebaseerd op sociale welvaartoptimalisatie. Onder leiding van John Hooker, professor operationeel onderzoek aan Carnegie Mellon University, gebruiken de auteurs de bekende sociale welvaartsfunctie “alpha fairness” om de beperkingen en blinde vlekken van populaire statistische parity‑metrics zoals demografische parity, gelijkgestelde odds en voorspellende rate parity te analyseren.

Hun resultaten tonen aan dat deze parity‑metrics vaak niet in overeenstemming zijn met principes van distributieve rechtvaardigheid, zoals het prioriteren van de minstbedeelden of een eerlijke verdeling van voordelen en lasten. In veel gevallen ligt de alpha‑fair oplossing ver van de parity‑oplossing, waardoor deze metrics kunnen leiden tot AI‑systemen die zowel qua efficiëntie als rechtvaardigheid suboptimaal zijn.

Dit heeft grote implicaties voor het gebied van AI‑ethiek en de inspanningen om machine‑learning‑systemen te bouwen die menselijke waarden en sociale rechtvaardigheid respecteren. Het betekent dat we een meer uitgebreide en genuanceerde benadering van algoritmische eerlijkheid nodig hebben die verder gaat dan statistische metrics en de morele afwegingen van AI in domeinen met hoge inzet aanpakt: sociale welvaartoptimalisatie.

Begrijpen van sociale welvaartoptimalisatie

In de kern is sociale welvaartoptimalisatie een volledig ander paradigma voor het nadenken over en operationaliseren van eerlijkheid in AI. In plaats van zich smal te richten op het gelijkmaken van bepaalde metrics tussen groepen, neemt het een stap terug en beschouwt het de bredere maatschappelijke impact van AI‑beslissingen op menselijk welzijn en welvaart.

Het idee is om AI‑systemen te ontwerpen die expliciet streven naar het maximaliseren van een sociale welvaartsfunctie die de nutswaarden (d.w.z. voordelen en kosten) die alle getroffen individuen ervaren, aggregeert tot één maatstaf voor maatschappelijk goed. Volgens deze benadering kunnen AI‑praktijken algoritmen bouwen die deze concurrerende doelstellingen in evenwicht brengen door een sociale welvaartsfunctie te specificeren die weloverwogen morele oordelen over de relatieve belangrijkheid van efficiëntie en rechtvaardigheid weerspiegelt.

Sociale welvaartoptimalisatie heeft haar wortels in de welvaartseconomie, die een lange geschiedenis heeft in het omgaan met distributieve rechtvaardigheid en collectieve besluitvorming. Economen en filosofen hebben verschillende sociale welvaartsfuncties voorgesteld die verschillende ethische principes en waardebeoordelingen weerspiegelen, zoals utilitarisme (maximaliseer de som van nut), prioritarisme (geef meer gewicht aan nutwinst voor de minstbedeelden) en egalitarisme (minimaliseer ongelijkheid).

In de afgelopen jaren is een groeiend aantal AI‑onderzoekers begonnen met het verkennen van sociale welvaartoptimalisatie als een manier om eerlijkheid in machine‑learning‑systemen te integreren. Dit werk bouwt voort op papers met de titel “Algorithmic decision making and the cost of fairness” van Heidari et al. en Corbett‑Davies en Goel, die voor het eerst het idee introduceerden om sociale welvaartsfuncties te gebruiken om de differentiële impact van AI‑beslissingen op verschillende individuen en groepen vast te leggen.

Een manier om dit te doen is met alpha fairness, een parametrische klasse van sociale welvaartsfuncties die al 70 jaar bestudeerd wordt in de economie en sociale keuze. Alpha fairness stelt je in staat te interpoleren tussen utilitaire en egalitaire doelstellingen met een enkele parameter alpha, die de mate van afkeer van ongelijkheid regelt.

Wanneer alpha 0 is, wordt de sociale welvaartsfunctie gereduceerd tot klassiek utilitarisme, waarbij de som van nut gemaximaliseerd wordt zonder rekening te houden met de verdeling. Naarmate alpha toeneemt, wordt er meer gewicht gegeven aan de minstbedeelden, en wordt de toewijzing rechtvaardiger. In de limiet, wanneer alpha naar oneindig gaat, convergeert alpha fairness naar het Rawlsiaanse “maximin”-principe van het maximaliseren van de nut van het minstbedeelde individu.

In hun CPAIOR 2024 paper gebruiken onderzoekers alpha fairness als lens om drie populaire statistische parity‑metrics te onderzoeken:

• Demografische parity
• Gelijkgestelde odds
• Predictieve rate parity

Ze simuleren een verscheidenheid aan scenario’s waarin een AI‑systeem een beperkte hulpbron (bijv. leningen, sollicitatiegesprekken, onderwijskansen) moet toewijzen aan een populatie van individuen met verschillende kwalificatiepercentages en nutsfuncties.

De resultaten zijn verrassend. In veel gevallen wijkt de alpha‑fair toewijzing aanzienlijk af van de oplossingen die door de parity‑metrics worden voorgesteld.

Demografische parity, die gelijke selectieratio’s over groepen vereist, houdt vaak geen rekening met het feit dat achtergestelde groepen meer marginale nut halen uit geselecteerd worden. Daarom leidt het tot toewijzingen die noch efficiënt noch rechtvaardig zijn.

Gelijkgestelde odds, die selectieratio’s alleen vergelijkt onder “gekwalificeerde” individuen, presteert iets beter maar faalt nog steeds in scenario’s waarin fout‑negatieve fouten (d.w.z. gekwalificeerde individuen die afgewezen worden) kostbaarder zijn dan fout‑positieve fouten.

Predictieve rate parity, die het aandeel geselecteerde individuen dat gekwalificeerd is gelijk maakt, is van beperkte bruikbaarheid en alleen toepasbaar wanneer het aantal geselecteerde individuen groter is dan het aantal werkelijk gekwalificeerde kandidaten.

Deze resultaten tonen de fundamentele beperkingen en blinde vlekken van statistische parity‑metrics als de primaire manier om algoritmische eerlijkheid te beoordelen en af te dwingen.

Door de daadwerkelijke welvaartsinzet van AI‑beslissingen en de verschillende impact op verschillende groepen te negeren, kunnen deze metrics leiden tot systemen die bestaande ongelijkheden in stand houden of zelfs verergeren. Ze missen ook normatieve rechtvaardiging en consistentie, aangezien verschillende parity‑criteria vaak tegenstrijdige aanbevelingen opleveren in de praktijk.

In tegenstelling biedt sociale welvaartoptimalisatie een principiële en eenduidige manier om de afwegingen tussen eerlijkheid en efficiëntie in AI‑systemen te navigeren. Het streeft ernaar de waardebeoordelingen en ethische aannames in de keuze van de sociale welvaartsfunctie expliciet te maken, zodat ontwikkelaars en beleidsmakers meer transparante en verantwoordelijke gesprekken kunnen voeren over de distributieve impact van algoritmische besluitvorming.

Bovendien heeft recent onderzoek aangetoond dat sociale welvaartoptimalisatie gemakkelijk kan worden geïntegreerd in de standaard machine‑learning‑workflow, hetzij als een post‑processing stap, hetzij direct in de trainingsdoelstelling zelf.

Bijvoorbeeld, in de “Algorithmic decision making and the cost of fairness,” onderzoekers stellen een regularisatietechniek voor die een sociale welvaartscomponent toevoegt aan de verliesfunctie van elk classificatie‑ of regressiemodel, zodat het systeem eerlijke besluitvormingsregels kan leren die zowel nauwkeurigheid als welvaart maximaliseren. Ustun et al. introduceerden een post‑processing methode die de output van elk voorgetraind model neemt en de welvaart‑maximaliserende beslissingen vindt onder verschillende eerlijkheidsbeperkingen.

Deze technische resultaten tonen aan dat sociale welvaartoptimalisatie een haalbare en praktische manier is om eerlijke en rechtvaardige AI‑systemen te bouwen. Ontwikkelaars kunnen deze krachtige optimalisatietechnieken en softwarepakketten gebruiken, gebaseerd op een duidelijke en berekenbare doel­functie die de normatieve overwegingen van dit kader vastlegt, om toewijzingen te vinden die concurrerende criteria in evenwicht brengen.

Maar om het volledige potentieel van sociale welvaartoptimalisatie in de praktijk te realiseren, moeten ook een aantal moeilijke uitdagingen en beperkingen worden aangepakt. Een van de grootste is de moeilijkheid om individuele nutsfuncties te achterhalen en te construeren die de complexe, multidimensionale impact van AI‑beslissingen op menselijk leven vastleggen. Dit vereist diepgaande betrokkenheid van getroffen belanghebbenden en domeinexperts om de contextuele factoren te begrijpen die de voorkeuren, waarden en het welzijn van mensen vormgeven.

Er zijn ook theoretische en filosofische vragen over de interpersoonlijke vergelijkbaarheid van nut, onzekerheid en dynamiek, evenals hoe individuele nutswaarden te aggregeren tot een collectieve sociale welvaartsmaat. Verschillende sociale welvaartsfuncties maken verschillende aannames hierover, en er bestaat geen universele consensus over welke het meest verdedigbaar of passend is in een bepaalde context.

Bovendien bestaat er, zoals bij elke optimalisatie‑gebaseerde benadering, een risico dat de doelstellingen die gemaximaliseerd worden niet alle relevante ethische overwegingen volledig omvatten, of dat ze scheefgetrokken worden door vooroordelen en blinde vlekken in de data en modellen die gebruikt worden om nutswaarden te schatten. Het is essentieel om goed doordachte processen van belanghebbendenparticipatie, transparantie en verantwoording te hebben om ervoor te zorgen dat de welvaartscriteria geoptimaliseerd worden zodat ze aansluiten bij de waarden en prioriteiten van de getroffen gemeenschappen.

Ondanks deze uitdagingen zijn de voordelen van sociale welvaartoptimalisatie voor algoritmische eerlijkheid te groot om te negeren. Toch kunnen AI‑ontwikkelaars en beleidsmakers verder gaan dan statistische parity via een principiële en flexibele manier om de rechtvaardigheid en efficiëntie van deze benadering in evenwicht te brengen. Uiteindelijk zal dit leiden tot een meer holistisch en consequentialistisch begrip van eerlijkheid, gebaseerd op menselijk welzijn en welvaart.

Klik hier om te leren hoe AI authenticiteit kan waarborgen. 

De #1 Use Case: Eerlijke kredietverlening

Om de belofte en uitdagingen van sociale welvaartoptimalisatie in de praktijk te laten zien, laten we het high‑stakes domein van algoritmische kredietverlening overwegen. In de afgelopen jaren hebben veel banken en fintech‑bedrijven machine‑learning‑modellen geïmplementeerd om kredietbeslissingen te automatiseren en te versnellen. Deze modellen gebruiken enorme hoeveelheden persoonlijke en financiële gegevens om de kans te voorspellen dat een leningaanvrager in gebreke blijft, zodat kredietverstrekkers snellere en efficiëntere underwriting‑beslissingen kunnen nemen.

Echter, er is groeiend bewijs dat deze algoritmische kredietverleningssystemen historische vooroordelen en ongelijkheden in krediettoegang in stand houden en versterken. Studies hebben aangetoond dat zwarte en Latino leners vaker een lening wordt geweigerd of hogere rentetarieven krijgen dan even gekwalificeerde witte leners, zelfs wanneer rekening wordt gehouden met traditionele risicofactoren zoals inkomen, kredietscore en arbeidsstatus.

Als reactie op deze zorgen kunnen sommige kredietverstrekkers zich wenden tot statistische parity‑methoden zoals demografische parity en gelijkgestelde odds om vooringenomenheid in hun AI‑underwriting‑modellen te verminderen. Het idee is om goedkeuringspercentages of wanbetalingspercentages voor leningen over beschermde groepen gelijk te maken, zodat de modellen alle aanvragers gelijk behandelen, ongeacht ras of etniciteit.

Hoewel deze op parity gebaseerde benaderingen intuïtief lijken, slagen ze er niet in de complexiteit van kredietwaardigheid en de verschillende impact van krediettoegang op het welzijn van gemarginaliseerde gemeenschappen te vangen. Een groeiende hoeveelheid onderzoek suggereert dat simplistische opvattingen van eerlijkheid gebaseerd op het gelijkmaken van uitkomsten daadwerkelijk kunnen averechts werken en de groepen die ze moeten beschermen kunnen schaden.

Bijvoorbeeld, een artikel uit 2018 merkt op dat het handhaven van demografische parity‑beperkingen op een nut‑maximaliserende besluitregel doorgaans vereist dat gevoelige variabelen zoals ras zowel bij het trainen van het model als bij de besluitvorming worden gebruikt. Dit impliceert dat pogingen om parity‑beperkingen te voldoen door ras alleen tijdens het trainen te gebruiken, bekend als ‘disparate learning processes’, suboptimaal zullen zijn.

Bovendien negeren parity‑gebaseerde eerlijkheidscriteria het feit dat de schade van het worden geweigerd van krediet niet gelijkmatig over de bevolking is verdeeld. Voor lage‑inkomens‑ en minderheidsleners die historisch gezien zijn uitgesloten van de reguliere financiële diensten, kan het weigeren van een lening verwoestende gevolgen hebben, waardoor ze vast komen te zitten in armoedecycli en roofzuchtige schulden. Voor meer welvarende en bevoorrechte aanvragers kunnen ze alternatieve kapitaalbronnen hebben en minder worden getroffen door een nadelige kredietbeslissing.

Sociale welvaartoptimalisatie biedt een alternatieve benadering die deze verschillende welvaartsinzet direct opneemt in het ontwerp van eerlijke kredietalgoritmen. Kredietverstrekkers kunnen kredietmodellen ontwikkelen die het algehele welzijn maximaliseren, terwijl ze een meer rechtvaardige verdeling van kansen waarborgen door een sociale welvaartsfunctie te definiëren die de relatieve kosten en voordelen van krediettoegang voor verschillende individuen en groepen vastlegt.

Bijvoorbeeld, overweeg een sociale welvaartsfunctie die het welzijn van de minst bevoordeelde aanvragers prioriteert, door meer gewicht te geven aan de nutwinst van lage‑inkomens‑ en minderheidsleners. Dit zou geformaliseerd kunnen worden met een alpha‑fairness‑functie met een matig hoge alpha‑waarde, wat duidt op een sterke voorkeur voor rechtvaardigheid boven efficiëntie.

Onder dit sociale welvaartsdoel zou het optimale kredietbeleid waarschijnlijk inhouden dat er meer geleend wordt aan gemarginaliseerde groepen, zelfs als hun voorspelde terugbetalingspercentages gemiddeld iets lager zijn. Dit komt doordat de welvaartswinst van het verstrekken van kredieten aan deze onderbediende gemeenschappen (bijv. hen in staat stellen een huis te kopen, een bedrijf te starten of onderwijs te volgen) de verhoogde wanbetalingsrisico’s vanuit maatschappelijk perspectief kan overtreffen.

Natuurlijk zou de implementatie van een dergelijk welvaarts‑maximaliserend kredietsysteem in de praktijk vereisen dat aanzienlijke data‑ en modeluitdagingen worden overwonnen. Kredietverstrekkers zouden gedetailleerde gegevens moeten verzamelen over de sociaaleconomische kenmerken en financiële behoeften van leningaanvragers, evenals de downstream‑impact van krediettoegang op hun welzijn in de loop van de tijd. Ze zouden ook moeten samenwerken met getroffen gemeenschappen om ervoor te zorgen dat de welvaartscriteria geoptimaliseerd worden zodat ze aansluiten bij hun waarden en prioriteiten.

Bovendien kunnen er belangrijke juridische en regelgevende overwegingen zijn rond het gebruik van beschermde klasse‑informatie (bijv. ras, geslacht, leeftijd) om kredietbeslissingen te nemen, zelfs als het doel is om rechtvaardigheid te bevorderen. Beleidsmakers zouden duidelijke richtlijnen moeten geven over hoe anti‑discriminatiewetten van toepassing zijn in de context van sociale welvaartoptimalisatie en veilige havens moeten creëren voor kredietverstrekkers die deze technieken op een transparante en verantwoorde manier gebruiken.

Ondanks de uitdagingen is het de moeite waard. Sociale welvaartoptimalisatie kan bijdragen aan financiële inclusie en de raciale vermogenskloof verkleinen door kredietverstrekkers in staat te stellen meer holistische en welvaarts‑bewuste kredietbeslissingen te nemen, de kapitaalstroom te herleiden naar traditioneel onderbediende gemeenschappen en hen economisch te versterken. Het kan ook een meer principiële en transparante manier bieden om de afwegingen tussen eerlijkheid en efficiëntie in kredietverlening te navigeren, gebaseerd op de reële impact op het leven van leners.

Het in perspectief plaatsen

Zoals het kredietvoorbeeld laat zien, is sociale welvaartoptimalisatie een grensgebied voor algoritmische eerlijkheid dat verder gaat dan statistische parity en richting een meer holistisch en consequentialistisch begrip van rechtvaardigheid, gebaseerd op menselijk welzijn en welvaart.

Deze benadering kan AI‑ontwikkelaars en beleidsmakers helpen meer principiële en verantwoorde beslissingen te nemen over het ontwerp en de inzet van algoritmische systemen in domeinen met hoge inzet. Ze kunnen dit doen door een sociale welvaartsfunctie te definiëren en te maximaliseren die weloverwogen morele oordelen over de verdeling van voordelen en lasten weerspiegelt.

Echter, om het volledige potentieel van sociale welvaartoptimalisatie in de praktijk te realiseren, is veel interdisciplinaire samenwerking nodig. Computerwetenschappers en AI‑ethiekwetenschappers moeten samenwerken met economen, filosofen, juridische experts en getroffen gemeenschappen om de normatieve en technische uitdagingen van het definiëren en berekenen van sociale welvaartsfuncties aan te pakken. Dit omvat moeilijke vragen rond individuele nutmeting en aggregatie, onzekerheid en dynamiek, en de juiste afweging tussen efficiëntie en rechtvaardigheid in verschillende contexten.

Ook moeten beleidsmakers en regelgevers meer richtlijnen bieden en een omgeving creëren waarin welvaarts‑bewuste AI kan worden ontwikkeld en ingezet. Dit kan betekenen dat bestaande anti‑discriminatiewetten en -reguleringen worden bijgewerkt om de uitdaging van sociale welvaartoptimalisatie aan te pakken en nieuwe governance‑kaders en toezichtsmechanismen te creëren voor transparantie, verantwoording en publieke betrokkenheid bij het ontwerp en gebruik van deze systemen.

Uiteindelijk moet de verschuiving naar sociale welvaartoptimalisatie in AI gepaard gaan met bredere inspanningen om de onderliggende structurele ongelijkheden en machtsongelijkheden die de ontwikkeling en impact van technologie in de samenleving vormgeven, aan te pakken.

Algoritmische eerlijkheidsinterventies, hoe goed ook ontworpen, kunnen geen vervanging zijn voor meer fundamentele hervormingen om sociale en economische rechtvaardigheid te bevorderen, zoals investeren in onderwijs, gezondheidszorg, huisvesting en infrastructuur in gemarginaliseerde gemeenschappen.

Zoals Hooker en zijn collega’s zeggen in hun CPAIOR 2024 paper:

“Sociale welvaartoptimalisatie biedt nieuwe manieren om eerlijke en goede algoritmische systemen te ontwerpen. Er is nog veel werk te doen om deze benaderingen te ontwikkelen en operationeel te maken, maar wij denken dat ze een vooruitgang bieden voor AI‑ethiek. We kunnen komen tot een meer holistische en moreel serieuze manier om machine learning‑systemen te bouwen die de hele samenleving dienen door onze opvattingen over eerlijkheid te kaderen in de taal van de welvaartseconomie en expliciet om te gaan met de distributieve consequenties van onze technologie.”

Al met al, om echt eerlijke AI te bereiken, moeten we ervoor zorgen dat deze benaderingen rigoureus worden getest en verfijnd in real‑world scenario’s, met een toewijding aan gerechtigheid en maatschappelijk welzijn.

Klik hier om alles te leren over investeren in kunstmatige intelligentie.