Rivalutare l’Equità dell’Intelligenza Artificiale attraverso l’Ottimizzazione del Benessere Sociale

Man mano che i sistemi di IA diventano più diffusi e potenti, la questione su come renderli equi e giusti è diventata la più grande sfida. Dal credito e assunzione alla sanità e giustizia penale, gli algoritmi di IA hanno ora iniziato a controllare le vite e i mezzi di sussistenza di individui e comunità. Spesso, questi algoritmi operano in modi invisibili, non responsabili, e anche talvolta parziali contro gruppi storicamente svantaggiati.

In risposta a queste preoccupazioni, una comunità di ricercatori, professionisti e responsabili politici si è riunita per sviluppare sistemi di IA “equi” che trattino tutti allo stesso modo e non perpetuino o amplifichino le disuguaglianze sociali. L’approccio dominante per formalizzare e operazionalizzare l’equità nell’IA è stato l’uso delle “metriche di parità statistica”, che mirano a uniformare alcune metriche di performance come i tassi di selezione o i tassi di errore tra i gruppi protetti.

Tuttavia, sebbene le nozioni di equità basate sulla parità siano state ampiamente studiate e adottate nella comunità IA, hanno anche ricevuto crescenti critiche da parte di studiosi che sostengono siano concettualmente difettose, praticamente limitate e potenzialmente controproducenti. Essi affermano che semplicemente uniformare i risultati statistici tra i gruppi non è sufficiente per raggiungere un’equità sostanziale, poiché ignora l’effettivo impatto sul benessere delle decisioni di IA su individui e comunità.

In un nuovo articolo negli atti di CPAIOR 2024, un team di ricercatori della Carnegie Mellon University e del Stevens Institute of Technology propone un approccio alternativo all’equità dell’IA basato sull’ottimizzazione del benessere sociale. Guidati da John Hooker, professore di ricerca operativa alla Carnegie Mellon University, gli autori utilizzano la nota funzione di benessere sociale “alpha fairness” per analizzare le limitazioni e i punti ciechi delle metriche di parità statistica popolari come la parità demografica, le odds equalizzate e la parità di tasso predittivo.

I loro risultati mostrano che queste metriche di parità spesso non sono allineate ai principi di giustizia distributiva, come dare priorità ai più svantaggiati o una distribuzione equa di benefici e oneri. In molti casi, la soluzione alpha-fair è molto distante dalla soluzione di parità, quindi queste metriche possono portare a sistemi di IA subottimali sia dal punto di vista dell’efficienza che dell’equità.

Questo ha grandi implicazioni per il campo dell’etica dell’IA e gli sforzi per costruire sistemi di apprendimento automatico che rispettino i valori umani e la giustizia sociale. Significa che abbiamo bisogno di un approccio più completo e sfumato all’equità algoritmica che vada oltre le metriche statistiche e affronti i compromessi morali dell’IA in domini ad alto rischio: l’ottimizzazione del benessere sociale.

Comprendere l’Ottimizzazione del Benessere Sociale

Nel suo nucleo, l’ottimizzazione del benessere sociale è un paradigma completamente diverso per concepire e operazionalizzare l’equità nell’IA. Invece di concentrarsi strettamente sull’uniformare certe metriche tra i gruppi, fa un passo indietro e considera l’impatto più ampio delle decisioni di IA sul benessere e la prosperità umana.

L’idea è progettare sistemi di IA che mirino esplicitamente a massimizzare una funzione di benessere sociale che aggrega le utilità (cioè benefici e costi) sperimentate da tutti gli individui interessati in una singola misura del bene sociale. Secondo questo approccio, i professionisti dell’IA possono costruire algoritmi che bilanciano questi obiettivi concorrenti specificando una funzione di benessere sociale che rifletta giudizi morali ponderati sull’importanza relativa di efficienza ed equità.

L’ottimizzazione del benessere sociale ha le sue radici nell’economia del benessere, che ha una lunga storia nel trattare la giustizia distributiva e il processo decisionale collettivo. Economisti e filosofi hanno proposto varie funzioni di benessere sociale che riflettono diversi principi etici e giudizi di valore, come l’utilitarismo (massimizzare la somma dell’utilità), il prioritarismo (dare più peso ai guadagni di utilità per i più svantaggiati) e l’egalitarismo (minimizzare la disuguaglianza).

Negli ultimi anni, un numero crescente di ricercatori IA ha iniziato a esplorare l’ottimizzazione del benessere sociale come modo per incorporare l’equità nei sistemi di apprendimento automatico. Questo lavoro si basa su articoli intitolati “Algorithmic decision making and the cost of fairness” di Heidari et al. e Corbett-Davies e Goel, che hanno introdotto per la prima volta l’idea di usare funzioni di benessere sociale per catturare l’impatto differenziale delle decisioni di IA su diversi individui e gruppi.

Un modo per farlo è con l’alpha fairness, una classe parametrica di funzioni di benessere sociale che è stata studiata in economia e scelta sociale per 70 anni. L’alpha fairness consente di interpolare tra obiettivi utilitaristici ed egalitari con un unico parametro alpha, che controlla il grado di avversione all’ineguaglianza.

Quando alpha è 0, la funzione di benessere sociale si riduce al classico utilitarismo, massimizzando la somma dell’utilità senza riguardo per la distribuzione. Man mano che alpha aumenta, più peso è dato ai più svantaggiati, e l’allocazione diventa più equa. In limite, quando alpha tende all’infinito, l’alpha fairness converge al principio Rawlsiano “maximin” di massimizzare l’utilità dell’individuo più svantaggiato.

Nel loro articolo CPAIOR 2024, i ricercatori usano l’alpha fairness come lente per esaminare tre metriche di parità statistica popolari:

• Parità demografica
• Odds equalizzate
• Parità di tasso predittivo

Simulano una varietà di scenari in cui un sistema di IA deve allocare una risorsa limitata (ad esempio, prestiti, colloqui di lavoro, opportunità educative) tra una popolazione di individui con diversi tassi di qualificazione e funzioni di utilità.

I risultati sono sorprendenti. In molti casi, l’allocazione alpha-fair differisce significativamente dalle soluzioni proposte dalle metriche di parità.

La parità demografica, che richiede tassi di selezione uguali tra i gruppi, spesso non tiene conto del fatto che i gruppi svantaggiati ottengono più utilità marginale dall’essere selezionati. Pertanto, porta a allocazioni che non sono né efficienti né eque.

Le odds equalizzate, che confrontano i tassi di selezione solo tra individui “qualificati”, vanno leggermente meglio ma falliscono comunque in scenari in cui gli errori di falsi negativi (cioè individui qualificati rifiutati) sono più costosi dei falsi positivi.

La parità di tasso predittivo, che uniforma la frazione di individui selezionati che sono qualificati, ha un’utilità limitata ed è applicabile solo quando il numero di individui selezionati è maggiore del numero di candidati realmente qualificati.

Questi risultati mostrano le limitazioni fondamentali e i punti ciechi delle metriche di parità statistica come metodo principale per valutare e imporre l’equità algoritmica.

Ignorando le reali poste in gioco del benessere delle decisioni di IA e l’impatto differenziale sui diversi gruppi, queste metriche possono portare a sistemi che perpetuano o addirittura aggravano le disuguaglianze esistenti. Mancano inoltre di giustificazione normativa e coerenza, poiché diversi criteri di parità spesso producono raccomandazioni contrastanti nella pratica.

Al contrario, l’ottimizzazione del benessere sociale offre un modo fondato e unificato per navigare i compromessi tra equità ed efficienza nei sistemi di IA. Mira a rendere espliciti i giudizi di valore e le assunzioni etiche nella scelta della funzione di benessere sociale, permettendo a sviluppatori e responsabili politici di avere conversazioni più trasparenti e responsabili sull’impatto distributivo delle decisioni algoritmiche.

Inoltre, lavori recenti hanno dimostrato che l’ottimizzazione del benessere sociale può essere facilmente integrata nel flusso di lavoro standard del machine learning, sia come passo di post-elaborazione sia direttamente nell’obiettivo di addestramento.

Ad esempio, nel “Algorithmic decision making and the cost of fairness,” i ricercatori propongono una tecnica di regolarizzazione che aggiunge un termine di benessere sociale alla funzione di perdita di qualsiasi modello di classificazione o regressione, così il sistema può apprendere regole decisionali eque che massimizzano sia l’accuratezza sia il benessere. Ustun et al. hanno introdotto un metodo di post-elaborazione che prende l’output di qualsiasi modello pre-addestrato e trova le decisioni che massimizzano il benessere soggette a varie vincoli di equità.

Questi risultati tecnici mostrano che l’ottimizzazione del benessere sociale è un modo fattibile e pratico per costruire sistemi di IA equi e giusti. Gli sviluppatori possono utilizzare queste potenti tecniche di ottimizzazione e pacchetti software basati su una funzione obiettivo chiara e calcolabile che cattura le considerazioni normative di questo quadro per trovare allocazioni che bilanciano criteri concorrenti.

Ma realizzare il pieno potenziale dell’ottimizzazione del benessere sociale nella pratica richiede anche di affrontare numerose sfide e limitazioni difficili. Una delle più grandi è la difficoltà di estrarre e costruire funzioni di utilità individuali che catturino l’impatto complesso e multidimensionale delle decisioni di IA sulla vita umana. Questo richiede un coinvolgimento profondo con le parti interessate e gli esperti di dominio per comprendere i fattori contestuali che modellano le preferenze, i valori e il benessere delle persone.

Ci sono anche questioni teoriche e filosofiche sulla comparabilità interpersonale dell’utilità, sull’incertezza e sulle dinamiche, nonché su come aggregare le utilità individuali in una misura collettiva di benessere sociale. Diverse funzioni di benessere sociale fanno ipotesi differenti su questi aspetti, e non esiste un consenso universale su quale sia la più difendibile o appropriata in un dato contesto.

Inoltre, come per qualsiasi approccio basato sull’ottimizzazione, c’è il rischio che gli obiettivi massimizzati non catturino pienamente tutte le considerazioni etiche rilevanti, o che siano distorti da bias e punti ciechi nei dati e nei modelli usati per stimare le utilità. È essenziale avere processi ben pensati di partecipazione delle parti interessate, trasparenza e responsabilità per garantire che i criteri di benessere siano ottimizzati per allinearsi ai valori e alle priorità delle comunità interessate.

Nonostante queste sfide, i benefici dell’ottimizzazione del benessere sociale per l’equità algoritmica sono troppo grandi per essere ignorati. Tuttavia, sviluppatori di IA e responsabili politici possono andare oltre la parità statistica attraverso un modo fondato e flessibile per bilanciare l’equità e l’efficienza di questo approccio. In definitiva, porterà a una nozione più olistica e consequenzialista di equità basata sul benessere e la prosperità umana.

Clicca qui per scoprire come l’IA può garantire l’autenticità. 

Il Caso d’Uso #1: Prestiti Equi

Per mostrare le promesse e le sfide dell’ottimizzazione del benessere sociale nella pratica, consideriamo il dominio ad alto rischio del credito algoritmico. Negli ultimi anni, molte banche e società fintech hanno adottato modelli di machine learning per automatizzare e accelerare le decisioni di credito. Questi modelli utilizzano enormi quantità di dati personali e finanziari per prevedere la probabilità che un richiedente un prestito vada in default, così i creditori possono prendere decisioni di underwriting più rapide ed efficienti.

Tuttavia, vi sono crescenti evidenze che questi sistemi di credito algoritmico perpetuino e amplifichino i bias storici e le disparità nell’accesso al credito. Gli studi hanno dimostrato che i mutuatari neri e latino sono più propensi a vedere negati i prestiti o a subire tassi di interesse più alti rispetto a mutuatari bianchi similmente qualificati, anche controllando fattori di rischio tradizionali come reddito, punteggio di credito e stato occupazionale.

In risposta a queste preoccupazioni, alcuni creditori possono ricorrere a metodi di parità statistica come la parità demografica e le odds equalizzate per mitigare il bias nei loro modelli di underwriting IA. L’idea è uniformare i tassi di approvazione dei prestiti o i tassi di default tra i gruppi protetti affinché i modelli trattino tutti i richiedenti allo stesso modo indipendentemente da razza o etnia.

Mentre questi approcci basati sulla parità possono sembrare intuitivi, non riescono a catturare la complessità della solvibilità creditizia e l’impatto differenziale dell’accesso al prestito sul benessere delle comunità emarginate. Un corpus crescente di ricerca suggerisce che nozioni semplicistiche di equità basate sull’uniformare i risultati possono in realtà ritorcersi contro e danneggiare i gruppi stessi che sono destinati a proteggere.

Ad esempio, un articolo del 2018 osserva che l’applicazione di vincoli di parità demografica su una regola decisionale che massimizza l’utilità richiede generalmente l’uso di variabili sensibili come la razza sia nella formazione del modello sia nella decisione. Questo implica che i tentativi di soddisfare i vincoli di parità usando la razza solo durante l’addestramento, noti come ‘processi di apprendimento dispari’, saranno subottimali.

Inoltre, i criteri di equità basati sulla parità ignorano il fatto che i danni derivanti dal rifiuto del credito non sono distribuiti uniformemente nella popolazione. Per i mutuatari a basso reddito e minoranze che sono stati storicamente esclusi dai servizi finanziari tradizionali, essere rifiutati per un prestito può avere conseguenze devastanti, intrappolandoli in cicli di povertà e debito predatorio. Per i richiedenti più benestanti e privilegiati, possono avere fonti alternative di capitale e essere meno colpiti da una decisione creditizia avversa.

L’ottimizzazione del benessere sociale offre un approccio alternativo che incorpora direttamente questi diversi stake di benessere nella progettazione di algoritmi di prestito equi. I creditori possono sviluppare modelli di credito che massimizzano il benessere complessivo garantendo una distribuzione più equa delle opportunità definendo una funzione di benessere sociale che cattura i costi e i benefici relativi dell’accesso al prestito per diversi individui e gruppi.

Ad esempio, consideriamo una funzione di benessere sociale che dà priorità al benessere dei richiedenti meno avvantaggiati, dando più peso ai guadagni di utilità dei mutuatari a basso reddito e minoranze. Questo potrebbe essere formalizzato usando una funzione di alpha fairness con un valore di alpha moderatamente alto, indicando una forte preferenza per l’equità rispetto all’efficienza.

Con questo obiettivo di benessere sociale, la politica di prestito ottimale probabilmente comporterebbe concedere più prestiti a gruppi emarginati anche se i loro tassi di rimborso previsti, in media, sono leggermente più bassi. Questo è perché i guadagni di benessere derivanti dal prestare a queste comunità non servite (ad esempio, consentendo loro di acquistare una casa, avviare un’impresa o perseguire un’istruzione) possono superare il rischio aumentato di default dal punto di vista della società.

Naturalmente, implementare un tale sistema di prestito che massimizza il benessere nella pratica richiederebbe superare sfide significative di dati e modellazione. I creditori dovrebbero raccogliere dati granulari sulle caratteristiche socioeconomiche e le necessità finanziarie dei richiedenti, nonché gli impatti a valle dell’accesso al credito sul loro benessere nel tempo. Dovrebbero anche coinvolgere le comunità interessate per garantire che i criteri di benessere siano ottimizzati per allinearsi ai loro valori e priorità.

Inoltre, potrebbero esserci importanti considerazioni legali e normative sull’uso di informazioni di classe protetta (ad esempio, razza, genere, età) per prendere decisioni di prestito, anche se l’obiettivo è promuovere l’equità. I responsabili politici dovrebbero fornire linee guida chiare su come le leggi anti-discriminazione si applicano nel contesto dell’ottimizzazione del benessere sociale e creare zone di sicurezza per i creditori che utilizzano queste tecniche in modo trasparente e responsabile.

Nonostante le sfide, ne vale la pena. L’ottimizzazione del benessere sociale può contribuire a promuovere l’inclusione finanziaria e colmare il divario di ricchezza razziale consentendo ai creditori di prendere decisioni di credito più olistiche e consapevoli del benessere, reindirizzare il flusso di capitale verso le comunità tradizionalmente non servite e potenziarle economicamente. Può anche fornire un modo più fondato e trasparente per navigare i compromessi tra equità ed efficienza nel credito, basato sugli impatti reali sulla vita dei mutuatari.

Mettere le Cose in Prospettiva

Come mostra l’esempio del credito, l’ottimizzazione del benessere sociale è una frontiera per l’equità algoritmica che va oltre la parità statistica verso una nozione più olistica e consequenzialista di equità basata sul benessere e la prosperità umana.

Questo approccio può aiutare gli sviluppatori di IA e i responsabili politici a prendere decisioni più fondate e responsabili sulla progettazione e l’implementazione di sistemi algoritmici in domini ad alto rischio. Possono farlo definendo e massimizzando una funzione di benessere sociale che rifletta giudizi morali ponderati sulla distribuzione di benefici e oneri.

Tuttavia, realizzare il pieno potenziale dell’ottimizzazione del benessere sociale nella pratica richiederà molto lavoro interdisciplinare. Gli informatici e gli studiosi di etica dell’IA dovranno collaborare con economisti, filosofi, esperti legali e le comunità interessate per affrontare le sfide normative e tecniche nella definizione e nel calcolo delle funzioni di benessere sociale. Questo include domande difficili sulla misurazione e aggregazione dell’utilità individuale, sull’incertezza e le dinamiche, e sul giusto compromesso tra efficienza ed equità in diversi contesti.

Inoltre, i responsabili politici e i regolatori devono fornire più linee guida e creare un ambiente in cui l’IA consapevole del benessere possa essere sviluppata e implementata. Questo potrebbe significare aggiornare le leggi e le normative anti-discriminazione esistenti per affrontare la sfida dell’ottimizzazione del benessere sociale e creare nuovi quadri di governance e meccanismi di supervisione per la trasparenza, la responsabilità e il coinvolgimento pubblico nella progettazione e nell’uso di questi sistemi.

In definitiva, il passaggio all’ottimizzazione del benessere sociale nell’IA deve essere accompagnato da sforzi più ampi per affrontare le disuguaglianze strutturali sottostanti e gli squilibri di potere che modellano lo sviluppo e l’impatto della tecnologia nella società.

Gli interventi di equità algoritmica, per quanto ben progettati, non possono sostituire riforme più fondamentali per promuovere la giustizia sociale ed economica, come investire in istruzione, assistenza sanitaria, abitazione e infrastrutture nelle comunità emarginate.

Come affermano Hooker e i suoi colleghi nel loro articolo CPAIOR 2024:

“L’ottimizzazione del benessere sociale offre nuovi modi per progettare sistemi algoritmici equi e buoni. Rimane molto lavoro da fare per sviluppare e operazionalizzare questi approcci, ma crediamo che siano una via da percorrere per l’etica dell’IA. Possiamo arrivare a un modo più olistico e moralmente serio di costruire sistemi di apprendimento automatico che servano tutta la società inquadrando le nostre nozioni di equità nel linguaggio dell’economia del benessere e affrontando esplicitamente le conseguenze distributive della nostra tecnologia.”

In generale, per raggiungere un’IA veramente equa, dobbiamo assicurarci che questi approcci siano rigorosamente testati e perfezionati in scenari reali, incarnando un impegno per la giustizia e il benessere della società.

Clicca qui per scoprire tutto sull’investimento nell’intelligenza artificiale.