Ponowna ocena uczciwości sztucznej inteligencji poprzez optymalizację opieki społecznej

W miarę jak systemy sztucznej inteligencji stają się coraz bardziej powszechne i potężne, największym wyzwaniem stało się pytanie, jak sprawić, by były sprawiedliwe i sprawiedliwe. Od udzielania pożyczek i zatrudniania po opiekę zdrowotną i wymiar sprawiedliwości w sprawach karnych – algorytmy sztucznej inteligencji zaczęły teraz kontrolować życie i źródła utrzymania jednostek i społeczności. Często algorytmy te działają w sposób niewidoczny, niewytłumaczalny i czasami nawet stronniczy przeciwko grupom znajdującym się w niekorzystnej sytuacji historycznej.

W odpowiedzi na te obawy, społeczność badaczy, praktyków i decydentów zjednoczyła się, aby opracować „sprawiedliwe” systemy sztucznej inteligencji, które traktują wszystkich równo i nie utrwalają ani nie wzmacniają nierówności społecznych. Dominującym podejściem do formalizacji i operacjonalizacji sprawiedliwości w sztucznej inteligencji jest stosowanie „statystycznych wskaźników parytetu”, których celem jest wyrównanie pewnych wskaźników wydajności, takich jak wskaźniki selekcji czy wskaźniki błędów, w grupach chronionych.

Chociaż jednak koncepcje sprawiedliwości oparte na parytecie były szeroko badane i przyjęte w społeczności sztucznej inteligencji, spotykały się one również z coraz większą krytyką ze strony badaczy, którzy twierdzą, że są one błędne koncepcyjnie, ograniczone praktycznie i potencjalnie przynoszą efekt przeciwny do zamierzonego. Twierdzą, że samo wyrównanie wyników statystycznych między grupami nie wystarczy, aby osiągnąć merytoryczną sprawiedliwość, ponieważ ignoruje rzeczywisty wpływ decyzji sztucznej inteligencji na dobrostan jednostek i społeczności.

In nowy artykuł w postępowaniu CPAIOR 2024, zespół naukowców z Carnegie Mellon University i Stevens Institute of Technology proponuje alternatywne podejście do uczciwości sztucznej inteligencji w oparciu o optymalizację dobrobytu społecznego. Autorzy pracujący pod kierunkiem Johna Hookera, profesora badań operacyjnych na Uniwersytecie Carnegie Mellon, autorzy wykorzystują dobrze znaną funkcję dobrobytu społecznego „uczciwość alfa”, aby przeanalizować ograniczenia i słabe punkty popularnych statystycznych wskaźników parytetu, takich jak parytet demograficzny, wyrównane szanse i stopa predykcyjna parytet.

Ich wyniki pokazują, że te wskaźniki parytetowe często nie są zgodne z zasadami sprawiedliwości dystrybucyjnej, takimi jak priorytetyzacja najuboższych czy sprawiedliwy podział korzyści i obciążeń. W wielu przypadkach rozwiązanie oparte na zasadzie sprawiedliwego podziału alfa jest dalekie od rozwiązania opartego na parytecie, dlatego te wskaźniki mogą prowadzić do powstania systemów AI, które są nieoptymalne zarówno pod względem efektywności, jak i równości.

Niniejsze ma duże implikacje dla dziedziny etyki sztucznej inteligencji i wysiłków na rzecz budowy systemów uczenia maszynowego, które szanują wartości ludzkie i sprawiedliwość społeczną. Oznacza to, że potrzebujemy bardziej kompleksowego i zniuansowanego podejścia do uczciwości algorytmicznej, które wykracza poza wskaźniki statystyczne i uwzględnia moralne kompromisy związane ze sztuczną inteligencją w kluczowych obszarach: optymalizacji opieki społecznej.

Zrozumienie optymalizacji opieki społecznej

W swej istocie optymalizacja opieki społecznej to zupełnie inny paradygmat myślenia o sprawiedliwości w sztucznej inteligencji i jej operacjonalizacji. Zamiast skupiać się wąsko na wyrównywaniu niektórych wskaźników między grupami, cofa się o krok i uwzględnia szerszy wpływ decyzji AI na dobrostan i dobrostan ludzi.

Pomysł polega na zaprojektowaniu systemów sztucznej inteligencji, których wyraźnym celem jest maksymalizacja funkcji dobrobytu społecznego, która agreguje użyteczności (tj. korzyści i koszty) doświadczane przez wszystkie dotknięte osoby w jedną miarę dobra społecznego. Zgodnie z tym podejściem praktycy sztucznej inteligencji mogą budować algorytmy, które równoważą te konkurencyjne cele, określając funkcję dobrobytu społecznego, która odzwierciedla przemyślane oceny moralne na temat względnego znaczenia wydajności i równości.

Optymalizacja dobrobytu społecznego ma swoje korzenie w ekonomii dobrobytu, która ma długą historię zajmowania się sprawiedliwością dystrybutywną i zbiorowym podejmowaniem decyzji. Ekonomiści i filozofowie proponowali różne funkcje dobrobytu społecznego, które odzwierciedlają różne zasady etyczne i sądy wartościujące, takie jak utylitaryzm (maksymalizacja sumy użyteczności), priorytetyzm (przypisywanie większej wagi zyskom użyteczności dla najgorszych) i egalitaryzm (minimalizowanie nierówności).

W ostatnich latach coraz większa liczba badaczy sztucznej inteligencji zaczęła badać optymalizację opieki społecznej jako sposób na wbudowanie uczciwości w systemy uczenia maszynowego. Ten praca opiera się na artykułach zatytułowanych „Algorithmic Decision Making and the cost of fairness” autorstwa Heidari i in. oraz Corbett-Davies i Goel, w którym po raz pierwszy przedstawiono pomysł wykorzystania funkcji opieki społecznej do uchwycenia zróżnicowanego wpływu decyzji AI na różne osoby i grupy.

Jednym ze sposobów osiągnięcia tego jest sprawiedliwość alfa, parametryczna klasa funkcji opieki społecznej, która ma studiowano w ekonomii i wyborach społecznych od 70 lat. Sprawiedliwość alfa pozwala na interpolację celów utylitarnych i egalitarnych za pomocą jednego parametru alfa, który kontroluje stopień niechęci do nierówności.

Gdy alfa wynosi 0, funkcja dobrobytu społecznego zostaje zredukowana do klasycznego utylitaryzmu, maksymalizującego sumę użyteczności bez względu na dystrybucję. Wraz ze wzrostem alfa, większa waga jest podawany najuboższym, a przydział stanie się bardziej sprawiedliwy. W granicy, gdy alfa zmierza do nieskończoności, sprawiedliwość alfa zbiega się z Rawlsowską zasadą „maximin” dotyczącą maksymalizacji użyteczności jednostki znajdującej się w najgorszym położeniu.

W swoim artykule CPAIOR 2024 badacze wykorzystują sprawiedliwość alfa jako soczewkę do badania trzech popularnych wskaźników parytetu statystycznego:

• Parytet demograficzny
• Wyrównane szanse
• Przewidywany parytet stóp procentowych

Symulują różne scenariusze, w których system sztucznej inteligencji musi przydzielić ograniczone zasoby (np. pożyczki, rozmowy kwalifikacyjne, możliwości edukacyjne) wśród populacji osób o różnych wskaźnikach kwalifikacji i funkcjach użyteczności.

Wyniki są zaskakujące. W wielu przypadkach alokacja alfa-sprawiedliwa znacznie różni się od rozwiązań proponowanych przez metryki parytetowe.

Równość demograficzna, która wymaga równych wskaźników selekcji we wszystkich grupach, często nie uwzględnia faktu, że grupy znajdujące się w niekorzystnej sytuacji uzyskują większą użyteczność krańcową z selekcji. Prowadzi to zatem do alokacji, które nie są ani efektywne, ani sprawiedliwe.

Wyrównane szanse, które porównują współczynniki selekcji tylko wśród „wykwalifikowanych” osób, sprawdzają się nieco lepiej, ale nadal zawodzą w scenariuszach, w których występują błędy fałszywie ujemne (tj. zostaje odrzucony) są droższe niż wyniki fałszywie dodatnie.

Predykcyjny parytet stawek, który wyrównuje odsetek wybranych osób, które są wykwalifikowane, ma ograniczone zastosowanie i ma zastosowanie tylko wtedy, gdy liczba wybranych osób jest większa niż liczba rzeczywiście wykwalifikowanych kandydatów.

Wyniki te pokazują podstawowe ograniczenia i słabe punkty statystycznych wskaźników parytetu jako głównego sposobu oceny i egzekwowania sprawiedliwości algorytmicznej.

Ignorując rzeczywiste korzyści wynikające z decyzji AI oraz zróżnicowany wpływ na różne grupy, wskaźniki te mogą prowadzić do systemów, które utrwalają lub nawet pogłębiają istniejące nierówności. Brakuje im także normatywnego uzasadnienia i spójności, gdyż różne kryteria parytetu często prowadzą do sprzecznych w praktyce zaleceń.

Natomiast optymalizacja opieki społecznej zapewnia oparty na zasadach i ujednolicony sposób radzenia sobie z kompromisami między uczciwością a wydajnością w systemach AI. Ma na celu wyraźne przedstawienie sądów wartościujących i założeń etycznych przy wyborze funkcji opieki społecznej, aby umożliwić twórcom polityki i decydentom prowadzenie bardziej przejrzystych i odpowiedzialnych rozmów na temat dystrybucyjnego wpływu algorytmicznego podejmowania decyzji.

Co więcej, ostatnie prace wykazały, że optymalizacja opieki społecznej może być łatwo zintegrowane do standardowego przepływu pracy uczenia maszynowego, albo jako etap przetwarzania końcowego, albo bezpośrednio do samego celu szkoleniowego.

Na przykład, w „Algorytmiczne podejmowanie decyzji i koszt uczciwości" badacze proponują technikę regularyzacji, która dodaje termin dobrobytu społecznego do funkcji straty dowolnego modelu klasyfikacji lub regresji, dzięki czemu system może nauczyć się sprawiedliwych reguł decyzyjnych, które maksymalizują zarówno dokładność, jak i dobrobyt. Ustun i in. wprowadzili metodę przetwarzania końcowego, która pobiera dane wyjściowe z dowolnego wcześniej wyszkolonego modelu i stwierdza, że ​​decyzje maksymalizujące dobrostan podlegają różnym ograniczeniom uczciwości.

Te wyniki techniczne pokazują, że optymalizacja opieki społecznej jest wykonalnym i praktycznym sposobem budowania sprawiedliwych i sprawiedliwych systemów sztucznej inteligencji. Programiści mogą korzystać z tych potężnych technik optymalizacji i pakietów oprogramowania w oparciu o jasną i obliczalną funkcję celu, która uwzględnia normatywne rozważania tego frameworka, aby znaleźć alokacje równoważące konkurencyjne kryteria.

Jednak wykorzystanie pełnego potencjału optymalizacji opieki społecznej w praktyce wymaga także stawienia czoła szeregowi trudnych wyzwań i ograniczeń. Jedną z największych jest trudność w wydobyciu i skonstruowaniu indywidualnych funkcji użyteczności, które oddają złożony, wielowymiarowy wpływ decyzji AI na życie ludzkie. Niniejsze wymaga głębokiego zaangażowania zainteresowanych stron i ekspertów w danej dziedzinie, aby zrozumieć czynniki kontekstowe kształtujące preferencje, wartości i samopoczucie ludzi.

Istnieją również pytania teoretyczne i filozoficzne dotyczące interpersonalnej porównywalności użyteczności, niepewności i dynamiki, a także tego, jak agregować indywidualne użyteczności w zbiorową miarę dobrobytu społecznego. Różne funkcje opieki społecznej przyjmują różne założenia na ten temat i nie ma powszechnego konsensusu co do tego, który z nich jest najbardziej możliwy do obrony lub odpowiedni w danym kontekście.

Ponadto, jak w przypadku każdego podejścia opartego na optymalizacji, istnieje ryzyko, że cele nie zostaną osiągnięte maksymalizowane mogą nie uwzględniać w pełni wszystkich istotnych kwestii etycznych lub mogą być przekrzywiony przez błędy systematyczne i słabe punkty w danych i modelach stosowanych do szacowania użyteczności. Niezbędne jest posiadanie przemyślanych procesów udziału zainteresowanych stron, przejrzystości i odpowiedzialności, aby zapewnić optymalizację kryteriów dobrostanu w celu dostosowania ich do wartości i priorytetów dotkniętych społeczności.

Pomimo tych wyzwań korzyści płynące z optymalizacji opieki społecznej pod kątem sprawiedliwości algorytmicznej są zbyt duże, aby je zignorować. Niemniej jednak twórcy sztucznej inteligencji i decydenci mogą wyjść poza parytet statystyczny w elastyczny i oparty na zasadach sposób zrównoważenia równości i wydajności tego podejścia. Ostatecznie doprowadzi to do bardziej holistycznego i konsekwentnego pojęcia sprawiedliwości opartej na ludzkim dobrobycie i dobrostanie.

Kliknij tutaj, aby dowiedzieć się, jak sztuczna inteligencja może zapewnić autentyczność. 

Przypadek użycia numer 1: uczciwe pożyczanie

Aby pokazać potencjał i wyzwania związane z optymalizacją świadczeń socjalnych w praktyce, rozważmy obszar pożyczek algorytmicznych, który wiąże się z wysokim ryzykiem. W ostatnich latach wiele banków i firm fintech wdrożyło modele uczenia maszynowego, aby zautomatyzować i przyspieszyć podejmowanie decyzji kredytowych. Modele te wykorzystują ogromne ilości danych osobowych i finansowych do przewidywania prawdopodobieństwa niewypłacalności wnioskodawcy, dzięki czemu pożyczkodawcy mogą podejmować szybsze i skuteczniejsze decyzje kredytowe.

Istnieje jednak coraz więcej dowodów na to, że te algorytmiczne systemy pożyczkowe utrwalają i wzmacniają historyczne uprzedzenia i dysproporcje w dostępie do kredytów. Badania to wykazały Kredytobiorcom czarnoskórym i latynoskim częściej odmawia się pożyczki lub pobierali wyższe stopy procentowe niż podobnie wykwalifikowani biali pożyczkobiorcy, nawet przy uwzględnieniu tradycyjnych czynników ryzyka, takich jak dochód, zdolność kredytowa i status zatrudnienia.

W odpowiedzi na te obawy niektórzy pożyczkodawcy mogą zwrócić się do metod statystycznego parytetu, takich jak parytet demograficzny i wyrównane szanse, aby złagodzić stronniczość w swoich modelach gwarantowania sztucznej inteligencji. Pomysł polega na tym, aby zrównać wskaźniki zatwierdzania pożyczek lub wskaźniki niewypłacalności we wszystkich grupach chronionych, tak aby modele traktowały wszystkich wnioskodawców jednakowo, niezależnie od rasy czy pochodzenia etnicznego.

Choć podejścia oparte na parytecie mogą wydawać się intuicyjne, nie oddają one złożoności zdolności kredytowej i zróżnicowanego wpływu dostępu do pożyczek na dobrobyt społeczności zmarginalizowanych. Coraz większa liczba badań sugeruje, że uproszczone pojęcia sprawiedliwości opierają się na wyrównywaniu wyników może w rzeczywistości przynieść odwrotny skutek i zaszkodzić samym grupom one są zamierzone chronić.

Na przykład, notatki z artykułu z 2018 roku że egzekwowanie ograniczeń parytetu demograficznego w oparciu o regułę decyzyjną maksymalizującą użyteczność generalnie wymaga stosowania wrażliwych zmiennych, takich jak rasa, zarówno w szkoleniu modeli, jak i podczas podejmowania decyzji. Niniejsze oznacza, że ​​próby zaspokojenia ograniczeń parytetu poprzez wykorzystywanie rasy wyłącznie podczas treningu, zwane „odległymi procesami uczenia się”, będą nieoptymalne.

Co więcej, kryteria sprawiedliwości oparte na parytecie ignorują fakt, że szkody wynikające z odmowy kredytu nie są równomiernie rozłożone w całej populacji. W przypadku kredytobiorców o niskich dochodach i mniejszościowych, którzy w przeszłości byli wykluczani z głównych usług finansowych, odmawia się pożyczka może mieć druzgocące konsekwencje, wciągając je w cykle ubóstwa i drapieżnego zadłużenia. W przypadku bardziej zamożnych i uprzywilejowanych wnioskodawców mogą oni mieć alternatywne źródła kapitału i być mniej dotknięty przez negatywną decyzję kredytową.

Optymalizacja opieki społecznej oferuje alternatywne podejście, które bezpośrednio uwzględnia te zróżnicowane stawki w zakresie opieki społecznej w projektowaniu algorytmów sprawiedliwego udzielania pożyczek. Kredytodawcy mogą opracować modele kredytowe, które maksymalizują ogólny dobrobyt, zapewniając jednocześnie bardziej sprawiedliwy podział możliwości, definiując funkcję dobrobytu społecznego, która odzwierciedla względne koszty i korzyści dostępu do pożyczki dla różnych osób i grup.

Rozważmy na przykład funkcję opieki społecznej, która priorytetowo traktuje dobro najmniej uprzywilejowanych wnioskodawców, przypisując większą wagę zyskom użyteczności pożyczkobiorców o niskich dochodach i pożyczkobiorców mniejszościowych. Niniejsze mógłby być sformalizowane przy użyciu funkcji uczciwości alfa o umiarkowanie wysokiej wartości alfa, co wskazuje na silną preferencję sprawiedliwości nad efektywnością.

W ramach tego celu dotyczącego opieki społecznej optymalna polityka kredytowa prawdopodobnie obejmowałaby większe pożyczanie grupom zmarginalizowanym, nawet jeśli ich przewidywane stopy spłaty są średnio nieco niższe. Niniejsze Dzieje się tak dlatego, że zyski socjalne wynikające z udzielania pożyczek tym społecznościom znajdującym się w niedostatecznym stopniu (np. umożliwienie im zakupu domu, rozpoczęcia działalności gospodarczej lub kontynuowania edukacji) mogą z punktu widzenia społecznego przewyższać zwiększone ryzyko niewypłacalności.

Oczywiście wdrożenie w praktyce takiego systemu pożyczkowego maksymalizującego dobrobyt wymagałoby pokonania znaczących wyzwań związanych z danymi i modelowaniem. Kredytodawcy musieliby gromadzić szczegółowe dane na temat charakterystyki społeczno-ekonomicznej i potrzeb finansowych osób ubiegających się o pożyczkę, a także dalszego wpływu dostępu do kredytu na ich dobrostan w czasie. Musiałyby także nawiązać współpracę z dotkniętymi społecznościami, aby zapewnić optymalizację kryteriów dobrostanu w taki sposób, aby były one zgodne z ich wartościami i priorytetami.

Co więcej, mogą istnieć ważne względy prawne i regulacyjne dotyczące wykorzystywania informacji o klasie chronionej (np. rasy, płci, wieku) przy podejmowaniu decyzji kredytowych, nawet jeśli celem jest promowanie równości. Decydenci musieliby zapewnić jasne wytyczne dotyczące stosowania przepisów antydyskryminacyjnych w kontekście optymalizacji opieki społecznej oraz stworzyć bezpieczną przystań dla pożyczkodawców, którzy korzystają z tych technik w sposób przejrzysty i odpowiedzialny.

Pomimo wyzwań, warto. Optymalizacja opieki społecznej może przyczynić się do zwiększenia włączenia finansowego i zniwelowania różnic w zamożności między rasami, umożliwiając pożyczkodawcom podejmowanie bardziej holistycznych i uwzględniających potrzeby socjalne decyzji kredytowych, przekierowanie przepływu kapitału do społeczności tradycyjnie niedostatecznie obsługiwanych oraz wzmocnienie ich pozycji ekonomicznej. Może również zapewnić bardziej oparty na zasadach i transparentny sposób na znalezienie kompromisu między sprawiedliwością a efektywnością w udzielaniu pożyczek, oparty na realnym wpływie na życie pożyczkobiorców.

Umieszczenie tego w perspektywie

Jak pokazuje przykład udzielania pożyczek, optymalizacja opieki społecznej stanowi granicę dla sprawiedliwości algorytmicznej, która wykracza poza parytet statystyczny i kieruje się w stronę bardziej holistycznego i konsekwencjalistycznego pojęcia sprawiedliwości opartej na dobrobycie i dobrostanie ludzi.

Takie podejście może pomóc twórcom sztucznej inteligencji i decydentom w podejmowaniu bardziej opartych na zasadach i odpowiedzialnych decyzji dotyczących projektowania i wdrażania systemów algorytmicznych w dziedzinach o dużej stawce. Mogą tego dokonać poprzez zdefiniowanie i maksymalizację funkcji dobrobytu społecznego, która odzwierciedla przemyślane sądy moralne na temat podziału korzyści i obciążeń.

Jednak wykorzystanie pełnego potencjału optymalizacji opieki społecznej w praktyce będzie wymagało wiele pracy interdyscyplinarnej. Informatycy i badacze etyki sztucznej inteligencji będą musieli współpracować z ekonomistami, filozofami, ekspertami prawnymi i społecznościami, których to dotyczy, aby stawić czoła normatywnym i technicznym wyzwaniom związanym z definiowaniem i obliczaniem funkcji dobrobytu społecznego. Niniejsze zawiera trudne pytania dotyczące pomiaru i agregacji indywidualnej użyteczności, niepewności i dynamiki oraz właściwego kompromisu między efektywnością a równością w różnych kontekstach.

Ponadto decydenci i organy regulacyjne muszą zapewnić więcej wskazówek i stworzyć środowisko, w którym można rozwijać i wdrażać sztuczną inteligencję uwzględniającą dobrostan zwierząt. Niniejsze może oznaczać aktualizację istniejących przepisów i regulacji antydyskryminacyjnych, aby sprostać wyzwaniu optymalizacji opieki społecznej i stworzyć nowe ramy zarządzania i mechanizmy nadzoru zapewniające przejrzystość, rozliczalność i zaangażowanie społeczne w projektowanie i użytkowanie tych systemów.

Ostatecznie konieczne jest przejście na optymalizację opieki społecznej w zakresie sztucznej inteligencji towarzyszyć poprzez szersze wysiłki mające na celu rozwiązanie podstawowych nierówności strukturalnych i braku równowagi sił, które kształtują rozwój i wpływ technologii na społeczeństwo.

Interwencje mające na celu zapewnienie sprawiedliwości algorytmicznej, niezależnie od tego, jak dobrze są zaprojektowane, nie mogą zastąpić bardziej fundamentalnych reform mających na celu promowanie sprawiedliwości społecznej i ekonomicznej, takich jak inwestowanie w edukację, opiekę zdrowotną, mieszkalnictwo i infrastrukturę w społecznościach marginalizowanych.

Jak mówią Hooker i jego współpracownicy w swoim artykule CPAIOR 2024:

„Optymalizacja opieki społecznej zapewnia nowe sposoby projektowania sprawiedliwych i dobrych systemów algorytmicznych. Pozostaje jeszcze wiele pracy będzie zrobione opracować i wdrożyć te podejścia, uważamy jednak, że stanowią one krok naprzód w zakresie etyki sztucznej inteligencji. Możemy przejść do bardziej holistycznego i moralnie poważnego sposobu budowania systemów uczenia maszynowego, które służą całemu społeczeństwu, poprzez sformułowanie naszych koncepcji sprawiedliwości w języku ekonomii dobrobytu i wyraźne zajęcie się dystrybucyjnymi konsekwencjami naszej technologii.

Ogólnie rzecz biorąc, aby osiągnąć naprawdę sprawiedliwą sztuczną inteligencję, musimy dopilnować, aby podejścia te zostały rygorystycznie przetestowane i udoskonalone w rzeczywistych scenariuszach, co odzwierciedla zaangażowanie na rzecz sprawiedliwości i dobrostanu społeczeństwa.

Kliknij tutaj, aby dowiedzieć się wszystkiego o inwestowaniu w sztuczną inteligencję.