Neubewertung der Fairness von Künstlicher Intelligenz durch Optimierung des sozialen Wohls

Während KI‑Systeme immer weiter verbreitet und leistungsfähiger werden, ist die Frage, wie man sie fair und gerecht macht, zur größten Herausforderung geworden. Von Kreditvergabe und Einstellung über Gesundheitswesen bis hin zur Strafjustiz haben KI‑Algorithmen begonnen, das Leben und den Lebensunterhalt von Einzelpersonen und Gemeinschaften zu steuern. Oft arbeiten diese Algorithmen auf unsichtbare, nicht nachvollziehbare Weise und sogar zeitweise voreingenommen gegen historisch benachteiligte Gruppen.

Als Reaktion auf diese Bedenken hat sich eine Gemeinschaft von Forschern, Praktikern und politischen Entscheidungsträgern zusammengeschlossen, um „faire“ KI‑Systeme zu entwickeln, die alle gleich behandeln und gesellschaftliche Ungleichheiten nicht perpetuieren oder verstärken. Der dominierende Ansatz zur Formalisierung und Operationalisierung von Fairness in KI war die Verwendung von „statistischen Paritätsmetriken“, die darauf abzielen, bestimmte Leistungskennzahlen wie Auswahlraten oder Fehlerraten über geschützte Gruppen hinweg zu angleichen.

Allerdings haben die auf Parität basierenden Fairness‑Konzeptionen, obwohl sie in der KI‑Gemeinschaft weit verbreitet und übernommen wurden, zunehmende Kritik von Wissenschaftlern erfahren, die argumentieren, dass sie konzeptionell fehlerhaft, praktisch begrenzt und potenziell kontraproduktiv seien. Sie behaupten, dass das bloße Angleichen statistischer Ergebnisse zwischen Gruppen nicht ausreicht, um substanzielle Fairness zu erreichen, da dabei die tatsächlichen Wohlfahrtsauswirkungen von KI‑Entscheidungen auf Individuen und Gemeinschaften ignoriert werden.

In einem neuen Beitrag in den CPAIOR‑2024‑Proceedings schlägt ein Team von Forschern der Carnegie Mellon University und des Stevens Institute of Technology einen alternativen Ansatz für KI‑Fairness vor, der auf der Optimierung des sozialen Wohls basiert. Unter der Leitung von John Hooker, Professor für Operations Research an der Carnegie Mellon University, nutzen die Autoren die bekannte Sozialwohlstands‑Funktion „Alpha‑Fairness“, um die Beschränkungen und blinden Flecken populärer statistischer Paritätsmetriken wie demografische Parität, equalized odds und predictive rate parity zu analysieren.

Ihre Ergebnisse zeigen, dass diese Paritätsmetriken häufig nicht mit Prinzipien der distributiven Gerechtigkeit übereinstimmen, etwa dem Priorisieren der am schlechtesten Gestellten oder einer fairen Verteilung von Nutzen und Lasten. In vielen Fällen liegt die alpha‑faire Lösung weit von der Paritätslösung entfernt, sodass diese Metriken zu KI‑Systemen führen können, die sowohl aus Effizienz‑ als auch aus Gerechtigkeitsperspektive suboptimal sind.

Dies hat große Auswirkungen auf das Feld der KI‑Ethik und die Bemühungen, maschinelle Lernsysteme zu bauen, die menschliche Werte und soziale Gerechtigkeit respektieren. Es bedeutet, dass wir einen umfassenderen und nuancierteren Ansatz für algorithmische Fairness benötigen, der über statistische Metriken hinausgeht und die moralischen Trade‑offs von KI in hochriskanten Bereichen adressiert: Optimierung des sozialen Wohls.

Verständnis der Sozialen Wohlfahrtsoptimierung

Im Kern ist die Optimierung des sozialen Wohls ein völlig anderes Paradigma, um über Fairness in KI nachzudenken und sie zu operationalisieren. Anstatt sich eng darauf zu konzentrieren, bestimmte Metriken zwischen Gruppen zu angleichen, tritt man einen Schritt zurück und berücksichtigt die breitere gesellschaftliche Auswirkung von KI‑Entscheidungen auf das menschliche Wohl und das Wohlergehen.

Die Idee ist, KI‑Systeme zu entwerfen, die explizit darauf abzielen, eine Sozialwohlstands‑Funktion zu maximieren, die die Nutzen (d. h. Vorteile und Kosten) aller betroffenen Individuen zu einem einzigen Maß des gesellschaftlichen Guten aggregiert. Nach diesem Ansatz können KI‑Praktiker Algorithmen bauen, die diese konkurrierenden Ziele ausbalancieren, indem sie eine Sozialwohlstands‑Funktion spezifizieren, die wohlüberlegte moralische Urteile über die relative Bedeutung von Effizienz und Gerechtigkeit widerspiegelt.

Die Optimierung des sozialen Wohls hat ihre Wurzeln in der Wohlfahrtsökonomie, die eine lange Geschichte im Umgang mit distributiver Gerechtigkeit und kollektiver Entscheidungsfindung besitzt. Ökonomen und Philosophen haben verschiedene Sozialwohlstands‑Funktionen vorgeschlagen, die unterschiedliche ethische Prinzipien und Werturteile reflektieren, wie Utilitarismus (die Summe des Nutzens maximieren), Prioritarismus (mehr Gewicht auf Nutzengewinne der am schlechtesten Gestellten legen) und Egalitarismus (Ungleichheit minimieren).

In den letzten Jahren hat eine wachsende Zahl von KI‑Forschern begonnen, die Optimierung des sozialen Wohls als Mittel zu erforschen, Fairness in maschinelle Lernsysteme zu integrieren. Diese Arbeit baut auf den Papieren „Algorithmic decision making and the cost of fairness“ von Heidari et al. und Corbett‑Davies und Goel auf, die erstmals die Idee einführten, Sozialwohlstands‑Funktionen zu nutzen, um die differenzierten Auswirkungen von KI‑Entscheidungen auf verschiedene Individuen und Gruppen zu erfassen.

Eine Möglichkeit, dies zu tun, ist Alpha‑Fairness, eine parametrische Klasse von Sozialwohlstands‑Funktionen, die seit 70 Jahren in der Ökonomie und Sozialwahlforschung untersucht wird. Alpha‑Fairness ermöglicht es, zwischen utilitaristischen und egalitären Zielen mit einem einzigen Parameter Alpha zu interpolieren, der den Grad der Aversion gegenüber Ungleichheit steuert.

Wenn Alpha = 0 ist, reduziert sich die Sozialwohlstands‑Funktion auf den klassischen Utilitarismus, der die Summe des Nutzens maximiert, ohne die Verteilung zu berücksichtigen. Mit steigendem Alpha wird mehr Gewicht auf die am schlechtesten Gestellten gelegt, und die Zuteilung wird gerechter. Im Grenzfall, wenn Alpha gegen Unendlich geht, konvergiert Alpha‑Fairness zum Rawls’schen „Maximin“-Prinzip, das den Nutzen des am schlechtesten Gestellten maximiert.

In ihrem CPAIOR‑2024‑Papier verwenden die Forschenden Alpha‑Fairness als Linse, um drei populäre statistische Paritätsmetriken zu untersuchen:

• Demografische Parität
• Equalized odds
• Predictive rate parity

Sie simulieren verschiedene Szenarien, in denen ein KI‑System eine begrenzte Ressource (z. B. Kredite, Vorstellungsgespräche, Bildungsmöglichkeiten) unter einer Population von Individuen mit unterschiedlichen Qualifikationsraten und Nutzenfunktionen zuweisen muss.

Die Ergebnisse sind überraschend. In vielen Fällen unterscheidet sich die alpha‑faire Zuteilung signifikant von den Lösungen, die von den Paritätsmetriken vorgeschlagen werden.

Demografische Parität, die gleiche Auswahlraten über Gruppen hinweg verlangt, vernachlässigt häufig die Tatsache, dass benachteiligte Gruppen einen höheren Grenznutzen aus einer Auswahl ziehen. Daher führt sie zu Zuteilungen, die weder effizient noch gerecht sind.

Equalized odds, das Auswahlraten nur unter „qualifizierten“ Individuen vergleicht, schneidet etwas besser ab, versagt jedoch in Szenarien, in denen Fehlalarme (d. h. qualifizierte Personen, die abgelehnt werden) kostspieliger sind als Fehlpositiven.

Predictive rate parity, das den Anteil ausgewählter, qualifizierter Personen angleicht, ist nur von begrenztem Nutzen und nur anwendbar, wenn die Zahl der ausgewählten Personen größer ist als die der tatsächlich qualifizierten Kandidaten.

Diese Ergebnisse zeigen die grundlegenden Beschränkungen und blinden Flecken statistischer Paritätsmetriken als primäres Mittel zur Bewertung und Durchsetzung algorithmischer Fairness.

Indem sie die tatsächlichen Wohlfahrtsaspekte von KI‑Entscheidungen und die differenzierten Auswirkungen auf verschiedene Gruppen ignorieren, können diese Metriken zu Systemen führen, die bestehende Ungleichheiten perpetuieren oder sogar verschärfen. Sie fehlen zudem normative Rechtfertigungen und Konsistenz, da unterschiedliche Paritätskriterien häufig widersprüchliche Empfehlungen in der Praxis liefern.

Im Gegensatz dazu bietet die Optimierung des sozialen Wohls einen prinzipiellen und einheitlichen Weg, die Trade‑offs zwischen Fairness und Effizienz in KI‑Systemen zu navigieren. Sie zielt darauf ab, die Werturteile und ethischen Annahmen bei der Wahl der Sozialwohlstands‑Funktion explizit zu machen, sodass Entwickler und politische Entscheidungsträger transparentere und verantwortungsvollere Gespräche über die distributiven Auswirkungen algorithmischer Entscheidungen führen können.

Zudem hat jüngste Arbeit gezeigt, dass die Optimierung des sozialen Wohls leicht in den Standard‑Workflow des maschinellen Lernens integriert werden kann, entweder als Nachbearbeitungsschritt oder direkt in das Trainingsziel eingebettet.

Zum Beispiel schlagen die Forscher im „Algorithmic decision making and the cost of fairness“-Papier eine Regularisierungstechnik vor, die einen Sozialwohlstands‑Term zur Verlustfunktion jedes Klassifikations‑ oder Regressionsmodells hinzufügt, sodass das System faire Entscheidungsregeln lernen kann, die sowohl Genauigkeit als auch Wohlfahrt maximieren. Ustun et al. stellten eine Nachbearbeitungsmethode vor, die die Ausgabe jedes vortrainierten Modells nimmt und die wohlfahrtsmaximierenden Entscheidungen unter verschiedenen Fairness‑Beschränkungen findet.

Diese technischen Ergebnisse zeigen, dass die Optimierung des sozialen Wohls ein praktikabler und realistischer Weg ist, faire und gerechte KI‑Systeme zu bauen. Entwickler können diese leistungsstarken Optimierungstechniken und Software‑Pakete nutzen, die auf einer klaren und berechenbaren Zielfunktion basieren, welche die normativen Überlegungen dieses Rahmens erfasst, um Zuteilungen zu finden, die konkurrierende Kriterien ausbalancieren.

Doch die Realisierung des vollen Potenzials der Optimierung des sozialen Wohls in der Praxis erfordert die Bewältigung zahlreicher harter Herausforderungen und Beschränkungen. Eine der größten ist die Schwierigkeit, individuelle Nutzenfunktionen zu erheben und zu konstruieren, die die komplexen, multidimensionalen Auswirkungen von KI‑Entscheidungen auf das menschliche Leben erfassen. Dies erfordert ein tiefes Engagement mit betroffenen Interessengruppen und Fachexperten, um die kontextuellen Faktoren zu verstehen, die die Präferenzen, Werte und das Wohlergehen der Menschen prägen.

Es gibt zudem theoretische und philosophische Fragen zur interpersonellen Vergleichbarkeit von Nutzen, zu Unsicherheit und Dynamik sowie zur Aggregation individueller Nutzen zu einem kollektiven Sozialwohlstands‑Maß. Verschiedene Sozialwohlstands‑Funktionen treffen unterschiedliche Annahmen darüber, und es gibt keinen universellen Konsens darüber, welche in einem gegebenen Kontext am defensibelsten oder angemessensten ist.

Darüber hinaus besteht – wie bei jedem optimierungsbasierten Ansatz – das Risiko, dass die zu maximierenden Ziele nicht alle relevanten ethischen Überlegungen vollständig erfassen oder durch Verzerrungen und blinde Flecken in den Daten und Modellen, die zur Schätzung der Nutzen verwendet werden, verzerrt werden. Es ist essenziell, gut durchdachte Prozesse der Stakeholder‑Beteiligung, Transparenz und Verantwortlichkeit zu etablieren, um sicherzustellen, dass die Wohlfahrtskriterien so optimiert werden, dass sie mit den Werten und Prioritäten der betroffenen Gemeinschaften übereinstimmen.

Trotz dieser Herausforderungen sind die Vorteile der Optimierung des sozialen Wohls für algorithmische Fairness zu bedeutend, um sie zu ignorieren. KI‑Entwickler und politische Entscheidungsträger können über die statistische Parität hinausgehen, indem sie einen prinzipiellen und flexiblen Weg nutzen, um die Gerechtigkeit und Effizienz dieses Ansatzes auszubalancieren. Letztlich führt dies zu einer ganzheitlicheren und konsequentialistischen Vorstellung von Fairness, die auf menschlichem Wohlergehen basiert.

Klicken Sie hier, um zu erfahren, wie KI Authentizität gewährleisten kann. 

Der #1 Anwendungsfall: Faire Kreditvergabe

Um das Potenzial und die Herausforderungen der Optimierung des sozialen Wohls in der Praxis zu zeigen, betrachten wir den hochriskanten Bereich der algorithmischen Kreditvergabe. In den letzten Jahren haben viele Banken und FinTech‑Unternehmen maschinelle Lernmodelle übernommen, um Kreditentscheidungen zu automatisieren und zu beschleunigen. Diese Modelle nutzen enorme Mengen persönlicher und finanzieller Daten, um die Wahrscheinlichkeit vorherzusagen, dass ein Kreditbewerber ausfällt, sodass Kreditgeber schnellere und effizientere Underwriting‑Entscheidungen treffen können.

Allerdings gibt es wachsende Hinweise darauf, dass diese algorithmischen Kreditvergabesysteme historische Vorurteile und Ungleichheiten beim Kreditzugang perpetuieren und verstärken. Studien haben gezeigt, dass schwarze und lateinamerikanische Kreditnehmer eher abgelehnt werden oder höhere Zinssätze erhalten als ähnlich qualifizierte weiße Kreditnehmer, selbst wenn traditionelle Risikofaktoren wie Einkommen, Kredit‑Score und Beschäftigungsstatus kontrolliert werden.

Als Reaktion auf diese Bedenken können einige Kreditgeber zu statistischen Paritätsmethoden wie demografischer Parität und equalized odds greifen, um Vorurteile in ihren KI‑Underwriting‑Modellen zu mindern. Die Idee ist, Kreditgenehmigungsraten oder Ausfallraten über geschützte Gruppen hinweg zu angleichen, sodass die Modelle alle Bewerber unabhängig von Rasse oder ethnischer Zugehörigkeit gleich behandeln.

Obwohl diese auf Parität basierenden Ansätze intuitiv erscheinen mögen, erfassen sie nicht die Komplexität der Kreditwürdigkeit und die differenzierten Auswirkungen des Kreditzugangs auf das Wohlergehen marginalisierter Gemeinschaften. Eine wachsende Forschungsbasis legt nahe, dass vereinfachte Fairness‑Konzeptionen, die auf der Angleichung von Ergebnissen basieren, tatsächlich nach hinten losgehen und den Gruppen, die sie schützen sollen, schaden können. Ein 2018‑Artikel weist darauf hin, dass die Durchsetzung demografischer Paritäts‑Beschränkungen in einer nutzenmaximierenden Entscheidungsregel im Allgemeinen die Verwendung sensibler Variablen wie Rasse sowohl beim Modell‑Training als auch bei der Entscheidungsfindung erfordert. Dies impliziert, dass Versuche, Paritäts‑Beschränkungen nur während des Trainings unter Verwendung von Rasse zu erfüllen – sogenannte „disparate learning processes“ – suboptimal sein werden.

Zudem ignorieren paritätsbasierte Fairness‑Kriterien die Tatsache, dass die Schäden einer Kreditverweigerung nicht gleichmäßig über die Bevölkerung verteilt sind. Für einkommensschwache und Minderheiten‑Kreditnehmer, die historisch vom Mainstream‑Finanzsektor ausgeschlossen wurden, kann eine Kreditverweigerung verheerende Folgen haben, sie in Armut‑ und Wucher‑Zyklen gefangen halten. Wohlhabendere und privilegierte Bewerber hingegen verfügen möglicherweise über alternative Kapitalquellen und sind weniger stark von einer nachteiligen Kreditentscheidung betroffen.

Die Optimierung des sozialen Wohls bietet einen alternativen Ansatz, der diese differenzierten Wohlfahrtsaspekte direkt in das Design fairer Kreditvergaberalgorithmen einbezieht. Kreditgeber können Kreditmodelle entwickeln, die das Gesamtniveau des Wohls maximieren und gleichzeitig eine gerechtere Verteilung von Chancen sicherstellen, indem sie eine Sozialwohlstands‑Funktion definieren, die die relativen Kosten und Nutzen des Kreditzugangs für verschiedene Individuen und Gruppen erfasst.

Zum Beispiel könnte man eine Sozialwohlstands‑Funktion betrachten, die das Wohlergehen der am wenigsten Begünstigten priorisiert und den Nutzenzuwachs von einkommensschwachen und Minderheiten‑Kreditnehmern stärker gewichtet. Dies könnte mit einer Alpha‑Fairness‑Funktion formalisiert werden, die einen moderat hohen Alpha‑Wert verwendet, was eine starke Präferenz für Gerechtigkeit gegenüber Effizienz signalisiert.

Unter diesem Sozialwohlstands‑Ziel würde die optimale Kreditpolitik wahrscheinlich mehr Kredite an marginalisierte Gruppen vergeben, selbst wenn deren prognostizierte Rückzahlungsraten im Durchschnitt etwas niedriger sind. Das liegt daran, dass die Wohlfahrtsgewinne aus der Kreditvergabe an diese unterversorgten Gemeinschaften (z. B. der Erwerb von Wohneigentum, die Gründung eines Unternehmens oder die Verfolgung einer Ausbildung) die aus gesellschaftlicher Sicht erhöhten Ausfallrisiken überwiegen könnten.

Natürlich würde die Umsetzung eines solchen wohlfahrtsmaximierenden Kreditvergabesystems in der Praxis erhebliche Daten‑ und Modellierungs‑Herausforderungen mit sich bringen. Kreditgeber müssten detaillierte Daten zu den sozioökonomischen Merkmalen und finanziellen Bedürfnissen von Kreditbewerbern sammeln sowie die langfristigen Auswirkungen des Kreditzugangs auf deren Wohlergehen erfassen. Zudem müssten sie mit den betroffenen Gemeinschaften zusammenarbeiten, um sicherzustellen, dass die Wohlfahrtskriterien mit deren Werten und Prioritäten abgestimmt sind.

Darüber hinaus könnten wichtige rechtliche und regulatorische Überlegungen hinsichtlich der Nutzung geschützter Klasseninformationen (z. B. Rasse, Geschlecht, Alter) für Kreditentscheidungen bestehen, selbst wenn das Ziel die Förderung von Gerechtigkeit ist. Gesetzgeber müssten klare Leitlinien dafür bereitstellen, wie Antidiskriminierungsgesetze im Kontext der Optimierung des sozialen Wohls anzuwenden sind, und sichere Rechtsrahmen für Kreditgeber schaffen, die diese Techniken transparent und verantwortungsbewusst einsetzen.

Trotz der Herausforderungen lohnt es sich. Die Optimierung des sozialen Wohls kann die finanzielle Inklusion vorantreiben und die rassische Vermögenslücke schließen, indem Kreditgeber ganzheitlichere und wohlfahrtsbewusste Kreditentscheidungen treffen, Kapitalströme zu traditionell unterversorgten Gemeinschaften umleiten und sie wirtschaftlich stärken. Sie bietet zudem einen prinzipielleren und transparenteren Weg, die Trade‑offs zwischen Fairness und Effizienz in der Kreditvergabe zu navigieren, der in den realen Auswirkungen auf das Leben der Kreditnehmer verankert ist.

Einordnung in den Kontext

Wie das Beispiel der Kreditvergabe zeigt, ist die Optimierung des sozialen Wohls ein Vorreiterbereich für algorithmische Fairness, der über die statistische Parität hinausgeht und zu einer ganzheitlicheren und konsequentialistischen Vorstellung von Gerechtigkeit führt, die auf menschlichem Wohlergehen basiert.

Dieser Ansatz kann KI‑Entwicklern und politischen Entscheidungsträgern helfen, prinzipiellere und verantwortungsvollere Entscheidungen über die Gestaltung und den Einsatz algorithmischer Systeme in hochriskanten Bereichen zu treffen. Sie können dies tun, indem sie eine Sozialwohlstands‑Funktion definieren und maximieren, die wohlüberlegte moralische Urteile über die Verteilung von Nutzen und Lasten widerspiegelt.

Die Realisierung des vollen Potenzials der Optimierung des sozialen Wohls in der Praxis erfordert jedoch umfangreiche interdisziplinäre Zusammenarbeit. Informatiker und KI‑Ethik‑Forscher müssen mit Ökonomen, Philosophen, Rechtsexperten und betroffenen Gemeinschaften zusammenarbeiten, um die normativen und technischen Herausforderungen bei der Definition und Berechnung von Sozialwohlstands‑Funktionen zu bewältigen. Dies schließt schwierige Fragen zur Messung und Aggregation individueller Nutzen, zu Unsicherheit und Dynamik sowie zum richtigen Trade‑off zwischen Effizienz und Gerechtigkeit in unterschiedlichen Kontexten ein.

Auch politische Entscheidungsträger und Regulierungsbehörden müssen mehr Leitlinien bereitstellen und ein Umfeld schaffen, in dem wohlfahrtsbewusste KI entwickelt und eingesetzt werden kann. Das könnte bedeuten, bestehende Antidiskriminierungsgesetze und -vorschriften zu aktualisieren, um die Herausforderung der Optimierung des sozialen Wohls zu adressieren, und neue Governance‑Rahmen sowie Aufsichtsmechanismen für Transparenz, Verantwortlichkeit und öffentliche Beteiligung an der Gestaltung und Nutzung dieser Systeme zu etablieren.

Letztlich muss die Verlagerung hin zur Optimierung des sozialen Wohls in KI von breiteren Anstrengungen begleitet werden, die den zugrunde liegenden strukturellen Ungleichheiten und Machtungleichgewichten entgegenwirken, die die Entwicklung und Wirkung von Technologie in der Gesellschaft prägen.

Algorithmische Fairness‑Interventionen, so gut sie auch gestaltet sein mögen, können grundlegende Reformen zur Förderung sozialer und wirtschaftlicher Gerechtigkeit nicht ersetzen, etwa Investitionen in Bildung, Gesundheitswesen, Wohnen und Infrastruktur in marginalisierten Gemeinschaften.

Wie Hooker und seine Kolleginnen in ihrem CPAIOR‑2024‑Papier sagen: „Die Optimierung des sozialen Wohls bietet neue Wege, faire und gute algorithmische Systeme zu entwerfen. Es bleibt noch viel Arbeit zu erledigen, um diese Ansätze zu entwickeln und zu operationalisieren, aber wir glauben, dass sie ein Weg nach vorn für die KI‑Ethik sind. Wir können zu einer ganzheitlicheren und moralisch fundierteren Art des Aufbaus von maschinellen Lernsystemen gelangen, die der gesamten Gesellschaft dienen, indem wir unsere Vorstellungen von Fairness in die Sprache der Wohlfahrtsökonomie übersetzen und die distributiven Konsequenzen unserer Technologie explizit behandeln.“

Insgesamt müssen wir, um wirklich faire KI zu erreichen, sicherstellen, dass diese Ansätze rigoros in realen Szenarien getestet und verfeinert werden, wobei ein Bekenntnis zu Gerechtigkeit und gesellschaftlichem Wohlergehen verkörpert wird.

Klicken Sie hier, um alles über Investitionen in Künstliche Intelligenz zu erfahren.