Tekoälyn oikeudenmukaisuuden uudelleenarviointi sosiaalisen hyvinvoinnin optimoinnin avulla

Kun tekoälyjärjestelmät yleistyvät ja tehostuvat, kysymys siitä, miten tehdä niistä oikeudenmukaisia ja reiluja, on noussut suurimmaksi haasteeksi. Lainauksesta ja rekrytoinnista terveydenhuoltoon ja rikosoikeuteen, tekoälyalgoritmit ovat nyt alkaneet hallita yksilöiden ja yhteisöjen elämää ja toimeentuloa. Usein nämä algoritmit toimivat tavoilla, jotka ovat näkymättömiä, vastuuttomia, ja jopa puolueellisia ajoittain historiallisesti epäedullisia ryhmiä vastaan.

Vastauksena näihin huoliin, tutkijoiden, käytännön ammattilaisten ja päättäjien yhteisö on yhdistynyt kehittämään “oikeudenmukaisia” tekoälyjärjestelmiä, jotka kohtelevat kaikkia tasapuolisesti eivätkä ylläpidä tai vahvista yhteiskunnallisia epätasa-arvoja. Hallitseva lähestymistapa oikeudenmukaisuuden formalisoimiseksi ja operatiiviseksi tekoälyssä on ollut “tilastollisten pariteettimittareiden” käyttö, jotka pyrkivät tasoittamaan tiettyjä suorituskykymittareita, kuten valintaprosentteja tai virheprosentteja suojattujen ryhmien välillä.

Kuitenkin, vaikka pariteettipohjaisia oikeudenmukaisuuden käsitteitä on tutkittu laajasti ja otettu käyttöön tekoälyyhteisössä, ne ovat saaneet yhä enemmän kritiikkiä tutkijoilta, jotka väittävät niiden olevan käsitteellisesti virheellisiä, käytännöllisesti rajoitettuja ja mahdollisesti vastakkaisia. He väittävät, että pelkkä tilastollisten tulosten tasaaminen ryhmien välillä ei riitä saavuttamaan merkittävää oikeudenmukaisuutta, koska se jättää huomiotta tekoälypäätösten todellisen hyvinvointivaikutuksen yksilöihin ja yhteisöihin.

Uudessa CPAIOR 2024 -konferenssin julkaistussa artikkelissa Carnegie Mellon -yliopiston ja Stevens Institute of Technology:n tutkijatiimi ehdottaa vaihtoehtoista lähestymistapaa tekoälyn oikeudenmukaisuuteen, joka perustuu sosiaalisen hyvinvoinnin optimointiin. John Hookerin, Carnegie Mellon -yliopiston operaatioanalyysin professorin johdolla, kirjoittajat käyttävät tunnettua sosiaalisen hyvinvoinnin funktiota “alpha fairness” analysoidakseen suosittujen tilastollisten pariteettimittareiden, kuten demografisen pariteetin, tasapainotettujen todennäköisyyksien ja ennustettavan suhteen pariteetin, rajoituksia ja sokeita pisteitä.

Tulokset osoittavat, että nämä pariteettimittarit eivät usein ole linjassa jakeluoikeuden periaatteiden, kuten heikoimpien priorisoinnin tai hyötyjen ja rasitusten oikeudenmukaisen jakautumisen, kanssa. Monissa tapauksissa alpha-fair -ratkaisu poikkeaa merkittävästi pariteettiratkaisusta, joten nämä mittarit voivat johtaa tekoälyjärjestelmiin, jotka ovat alitehoisia sekä tehokkuuden että tasapuolisuuden näkökulmasta.

Tällä on suuret vaikutukset tekoälyetiikan alalle ja pyrkimyksiin rakentaa koneoppimisjärjestelmiä, jotka kunnioittavat ihmisen arvoja ja sosiaalista oikeudenmukaisuutta. Se tarkoittaa, että tarvitsemme kattavampaa ja vivahteikkaampaa lähestymistapaa algoritmiselle oikeudenmukaisuudelle, joka ylittää tilastolliset mittarit ja käsittelee tekoälyn moraalisia kompromisseja korkean riskin aloilla: sosiaalisen hyvinvoinnin optimointi.

Sosiaalisen hyvinvoinnin optimoinnin ymmärtäminen

Ytimessään sosiaalisen hyvinvoinnin optimointi on täysin erilainen paradigma oikeudenmukaisuuden pohtimiseen ja toteuttamiseen tekoälyssä. Sen sijaan, että keskityttäisiin kapeasti tiettyjen mittareiden tasaamiseen ryhmien välillä, se ottaa askeleen taaksepäin ja tarkastelee tekoälypäätösten laajempaa yhteiskunnallista vaikutusta ihmisten hyvinvointiin ja elämänlaatuun.

Idea on suunnitella tekoälyjärjestelmiä, jotka nimenomaisesti pyrkivät maksimoimaan sosiaalisen hyvinvoinnin funktion, joka aggregoi kaikkien vaikuttavien yksilöiden kokemat hyödyt (eli edut ja kustannukset) yhdeksi sosiaalisen hyvän mittariksi. Tämän lähestymistavan mukaan tekoälyammattilaiset voivat rakentaa algoritmeja, jotka tasapainottavat näitä kilpailevia tavoitteita määrittelemällä sosiaalisen hyvinvoinnin funktion, joka heijastaa harkittuja moraalisia arvioita tehokkuuden ja tasapuolisuuden suhteellisesta merkityksestä.

Sosiaalisen hyvinvoinnin optimoinnilla on juurensa hyvinvointitaloustieteessä, jolla on pitkä historia jakeluoikeuden ja kollektiivisen päätöksenteon käsittelemisessä. Taloustieteilijät ja filosofit ovat ehdottaneet erilaisia sosiaalisen hyvinvoinnin funktioita, jotka heijastavat eri eettisiä periaatteita ja arvoarvioita, kuten utilitarismi (maksimoi hyödyn summan), prioritarismi (antaa enemmän painoarvoa heikoimpien hyötykasvulle) ja egalitarismi (minimoi epätasa-arvon).

Viime vuosina yhä useampi tekoälytutkija on alkanut tutkia sosiaalisen hyvinvoinnin optimointia keinona sisällyttää oikeudenmukaisuus koneoppimisjärjestelmiin. Tämä työ perustuu Heidari ym. ja Corbett-Davies ja Goelin kirjoittamiin artikkeleihin “Algorithmic decision making and the cost of fairness”, jotka ensimmäisenä esittelivät idean sosiaalisen hyvinvoinnin funktioiden käytöstä tekoälypäätösten erilaisten vaikutusten tallentamiseen eri yksilöihin ja ryhmiin.

Yksi tapa tehdä tämä on alpha fairness -menetelmä, joka on parametrinen luokka sosiaalisen hyvinvoinnin funktioita, joita on tutkittu taloustieteessä ja sosiaalisessa valinnassa 70 vuoden ajan. Alpha fairness mahdollistaa interpoloinnin utilitarististen ja egalitaaristen tavoitteiden välillä yhdellä alpha-parametrilla, joka säätelee epätasa-arvon vastustuksen astetta.

Kun alpha on 0, sosiaalisen hyvinvoinnin funktio supistuu klassiseen utilitarismiin, maksimoiden hyödyn summan ilman jakautumisen huomioimista. Alpha-arvon kasvaessa painoarvoa annetaan enemmän heikoimmille, ja jako muuttuu oikeudenmukaisemmaksi. Rajoituksena, kun alpha lähestyy ääretöntä, alpha fairness konvergoi Rawlsin “maximin”-periaatteeseen, jossa maksimoidaan heikoimman yksilön hyöty.

Heidän CPAIOR 2024 -paperissaan tutkijat käyttävät alpha fairness -lähestymistapaa tarkastellakseen kolmea suosituinta tilastollista pariteettimittaria:

• Demografinen pariteetti
• Tasapainotetut todennäköisyydet
• Ennusteen suhteen pariteetti

He simuloi erilaisia skenaarioita, joissa tekoälyjärjestelmän on jaettava rajoitettu resurssi (esim. lainat, työhaastattelut, koulutusmahdollisuudet) väestölle, jossa yksilöillä on erilaiset kelpoisuusasteet ja hyötyfunktiot.

Tulokset ovat yllättäviä. Monissa tapauksissa alpha-fair -jako poikkeaa merkittävästi pariteettimittareiden ehdottamista ratkaisuista.

Demografinen pariteetti, joka vaatii yhtäläisiä valintaprosentteja ryhmien välillä, ei usein ota huomioon sitä, että epäedulliset ryhmät saavat enemmän marginaalista hyötyä valinnasta. Tämän seurauksena se johtaa jakoihin, jotka eivät ole tehokkaita eivätkä oikeudenmukaisia.

Tasapainotetut todennäköisyydet, jotka vertaavat valintaprosentteja vain “kelvollisten” yksilöiden kesken, suoriutuvat hieman paremmin, mutta epäonnistuvat silti skenaarioissa, joissa väärien negatiivisten virheiden (kelvollisten hylkääminen) kustannukset ovat suuremmat kuin väärien positiivisten.

Ennusteen suhteen pariteetti, joka tasaa valittujen kelvollisten yksilöiden osuutta, on rajoitetun hyödyllinen ja soveltuu vain silloin, kun valittujen yksilöiden määrä on suurempi kuin todellisten kelvollisten hakijoiden määrä.

Nämä tulokset osoittavat tilastollisten pariteettimittareiden perustavanlaatuiset rajoitukset ja sokeat pisteet ensisijaisena tapana arvioida ja toteuttaa algoritminen oikeudenmukaisuus.

Ohittamalla tekoälypäätösten todelliset hyvinvointivaikutukset ja erilaisten ryhmien väliset eroavaisuudet, nämä mittarit voivat johtaa järjestelmiin, jotka ylläpitävät tai jopa pahentavat olemassa olevia epätasa-arvoja. Ne myös puuttuvat normatiivisesta perustelusta ja johdonmukaisuudesta, sillä erilaiset pariteettikriteerit antavat usein ristiriitaisia suosituksia käytännössä.

Vastakohtana sosiaalisen hyvinvoinnin optimointi tarjoaa periaatteellisen ja yhtenäisen tavan navigoida oikeudenmukaisuuden ja tehokkuuden välisten kompromissien välillä tekoälyjärjestelmissä. Se pyrkii tekemään selväksi arvopäätökset ja eettiset oletukset sosiaalisen hyvinvoinnin funktion valinnassa, jotta kehittäjät ja päättäjät voivat käydä avoimempia ja vastuullisempia keskusteluja algoritmisen päätöksenteon jakelullisista vaikutuksista.

Lisäksi viimeaikaiset tutkimukset ovat osoittaneet, että sosiaalisen hyvinvoinnin optimointi voidaan helposti integroida standardiin koneoppimistyönkulkuun, joko jälkikäsittelyvaiheena tai suoraan koulutustavoitteeseen.

Esimerkiksi “Algoritminen päätöksenteko ja oikeudenmukaisuuden kustannus,” tutkijat ehdottavat regularisointitekniikkaa, joka lisää sosiaalisen hyvinvoinnin termin mihin tahansa luokittelu- tai regressiomallin häviöfunktioon, jotta järjestelmä voi oppia oikeudenmukaisia päätössääntöjä, jotka maksimoivat sekä tarkkuuden että hyvinvoinnin. Ustun ym. esittelivät jälkikäsittelymenetelmän, joka ottaa minkä tahansa esikoulutetun mallin ulostulon ja löytää hyvinvointia maksimoivat päätökset erilaisiin oikeudenmukaisuuskriteereihin alistettuna.

Nämä tekniset tulokset osoittavat, että sosiaalisen hyvinvoinnin optimointi on toteuttamiskelpoinen ja käytännöllinen tapa rakentaa oikeudenmukaisia ja tasapuolisia tekoälyjärjestelmiä. Kehittäjät voivat käyttää näitä tehokkaita optimointitekniikoita ja ohjelmistopaketteja, jotka perustuvat selkeään ja laskettavissa olevaan tavoitteelliseen funktioon, joka sisältää tämän kehyksen normatiiviset näkökohdat, löytääkseen jakoja, jotka tasapainottavat kilpailevia kriteerejä.

Kuitenkin sosiaalisen hyvinvoinnin optimoinnin täyden potentiaalin toteuttaminen käytännössä vaatii myös monien vaikeiden haasteiden ja rajoitusten ratkaisemista. Yksi suurimmista on vaikeus saada ja rakentaa yksilöllisiä hyötyfunktioita, jotka kuvaavat tekoälypäätösten monimutkaista, monidimensionaalista vaikutusta ihmisten elämään. Tämä vaatii syvällistä sitoutumista vaikuttaviin sidosryhmiin ja alansa asiantuntijoihin, jotta voidaan ymmärtää kontekstuaaliset tekijät, jotka muokkaavat ihmisten mieltymyksiä, arvoja ja hyvinvointia.

On myös teoreettisia ja filosofisia kysymyksiä hyötyjen, epävarmuuden ja dynamiikan välisten henkilökohtaisten vertailukelpoisuuksien suhteen, sekä siitä, miten yksilölliset hyödyt aggregoidaan kollektiiviseksi sosiaalisen hyvinvoinnin mittariksi. Eri sosiaalisen hyvinvoinnin funktiot tekevät erilaisia oletuksia näistä, eikä ole olemassa yleistä konsensusta siitä, mikä on puolustettavin tai sopivin tietyssä kontekstissa.

Lisäksi, kuten kaikissa optimointiperusteisissa lähestymistavoissa, on riski, että maksimoitavat tavoitteet eivät täysin kata kaikkia olennaisia eettisiä näkökohtia, tai ne voivat olla vinoutuneita datassa ja malleissa olevien puolueellisuuksien ja sokeiden pisteiden vuoksi, jotka on käytetty hyötyjen arviointiin. On olennaista, että sidosryhmien osallistuminen, läpinäkyvyys ja vastuullisuus ovat hyvin harkittuja prosesseja, jotta hyvinvointikriteerit optimoidaan vastaamaan vaikuttavien yhteisöjen arvoja ja prioriteetteja.

Huolimatta näistä haasteista, sosiaalisen hyvinvoinnin optimoinnin hyödyt algoritmiselle oikeudenmukaisuudelle ovat liian suuria, jotta ne voitaisiin sivuuttaa. Tästä huolimatta tekoälykehittäjät ja päättäjät voivat edetä tilastollisen pariteetin ohi periaatteellisella ja joustavalla tavalla tasapainottaen tämän lähestymistavan oikeudenmukaisuutta ja tehokkuutta. Lopulta se johtaa kokonaisvaltaisempaan ja seuraukselliseen oikeudenmukaisuuskäsitteeseen, joka perustuu ihmisen hyvinvointiin ja elämänlaatuun.

Huolimatta näistä haasteista, se on sen arvoista. Sosiaalisen hyvinvoinnin optimointi voi edistää taloudellista osallisuutta ja kaventaa rotujen välistä varallisuuseroa antamalla lainanantajille mahdollisuuden tehdä kokonaisvaltaisempia ja hyvinvointitietoisia luottopäätöksiä, ohjata pääoman virtausta perinteisesti alipalveluille yhteisöille ja vahvistaa niitä taloudellisesti. Se voi myös tarjota periaatteellisemman ja läpinäkyvämmän tavan navigoida oikeudenmukaisuuden ja tehokkuuden kompromisseja lainanannossa, jotka perustuvat lainanottajien elämään kohdistuviin todellisiin vaikutuksiin.

Klikkaa tästä oppiaksesi, miten tekoäly voi varmistaa aitouden. 

#1 Käyttötapaus: Oikeudenmukainen lainananto

Jotta voimme osoittaa sosiaalisen hyvinvoinnin optimoinnin lupaukset ja haasteet käytännössä, tarkastellaan korkean riskin algoritmista lainanantoa. Viime vuosina monet pankit ja fintech-yritykset ovat ottaneet käyttöön koneoppimismalleja automatisoidakseen ja nopeuttaakseen luottopäätöksiä. Nämä mallit käyttävät valtavia määriä henkilökohtaisia ja taloudellisia tietoja ennustaakseen, kuinka todennäköisesti lainahakija ei pysty maksamaan takaisin, jotta lainanantajat voivat tehdä nopeampia ja tehokkaampia riskinarviointipäätöksiä.

Kuitenkin, todisteet kasvavat, että nämä algoritmiset lainajärjestelmät ylläpitävät ja vahvistavat historiallisia puolueellisuuksia ja eroja luottopääsyssä. Musta- ja latinalaislainanottajat saavat lainahakemuksensa hylätyksi tai heille asetetaan korkeammat korot kuin vastaavien kelpoisuuksien omaaville valkoisille lainanottajille, vaikka perinteisiä riskitekijöitä kuten tuloja, luottopistettä ja työllisyystilannetta otettaisiin huomioon.

Vastauksena näihin huoliin, jotkut lainanantajat voivat turvautua tilastollisiin pariteettimenetelmiin, kuten demografiseen pariteettiin ja tasapainotettuihin todennäköisyyksiin, vähentääkseen puolueellisuutta AI-päättelymalleissaan. Ideana on tasata lainahakemusten hyväksymisprosentteja tai maksuhäiriöprosentteja suojattujen ryhmien välillä, jotta mallit kohtelevat kaikkia hakijoita tasapuolisesti rodusta tai etnisyydestä riippumatta.

Vaikka nämä pariteettipohjaiset lähestymistavat saattavat vaikuttaa intuitiivisilta, ne eivät pysty kuvaamaan luottokelpoisuuden monimutkaisuutta ja lainan saatavuuden erilaista vaikutusta marginalisoituneiden yhteisöjen hyvinvointiin. Kasvava tutkimusmäärä viittaa siihen, että yksinkertaiset oikeudenmukaisuuskäsitteet, jotka perustuvat tulosten tasaamiseen, voivat itse asiassa kääntyä itseään vastaan ja vahingoittaa juuri niitä ryhmiä, joita niiden on tarkoitus suojella. voivat itse asiassa kääntyä itseään vastaan ja vahingoittaa juuri niitä ryhmiä, joita niiden on tarkoitus suojella.

Esimerkiksi vuoden 2018 artikkeli toteaa, että demografisen pariteetin rajoitteiden pakottaminen hyötyä maksimoivaan päätössääntöön vaatii yleensä arkaluontoisten muuttujien, kuten rodun, käyttöä sekä mallin koulutuksessa että päätöksenteossa. Tämä tarkoittaa, että yritykset täyttää pariteettirajoitteet käyttämällä rotua vain koulutuksen aikana, tunnetaan nimellä ‘eriytyvät oppimisprosessit’, ovat alitehoisia.

Lisäksi pariteettipohjaiset oikeudenmukaisuuskriteerit jättävät huomiotta sen, että luoton hylkäämisen haitat eivät jakaudu tasaisesti väestön kesken. Alhaisen tulotason ja vähemmistöjen lainanottajille, jotka on historiallisesti suljettu pois valtavirran rahoituspalveluista, lainan hylkääminen voi aiheuttaa tuhoisia seurauksia, juuttamalla heidät köyhyyden ja ahneiden velkojen kierteeseen. Varakkaammille ja etuoikeutetuille hakijoille voi olla vaihtoehtoisia pääoman lähteitä, eikä heitä vaikuta yhtä paljon negatiivinen luottopäätös.

Sosiaalisen hyvinvoinnin optimointi tarjoaa vaihtoehtoisen lähestymistavan, joka sisällyttää suoraan nämä erilaiset hyvinvointivaikutukset oikeudenmukaisen lainanantoalgoritmin suunnitteluun. Lainanantajat voivat kehittää luottomalleja, jotka maksimoivat kokonaisvaltaisen hyvinvoinnin samalla varmistaen oikeudenmukaisemman mahdollisuuksien jakautumisen määrittelemällä sosiaalisen hyvinvoinnin funktion, joka tallentaa lainan saatavuuden suhteelliset kustannukset ja hyödyt eri yksilöille ja ryhmille.

Esimerkiksi harkitse sosiaalisen hyvinvoinnin funktiota, joka priorisoi heikoimmin edustettujen hakijoiden hyvinvoinnin, antaen enemmän painoarvoa alhaisen tulotason ja vähemmistöjen lainanottajien hyötykasvulle. Tämä voitaisiin formalisoida alpha fairness -funktion avulla, jossa alpha-arvo on kohtuullisen korkea, mikä osoittaa vahvan mieltymyksen oikeudenmukaisuuteen tehokkuuden sijaan.

Tämän sosiaalisen hyvinvoinnin tavoitteen alla optimaalinen lainanantopolitiikka todennäköisesti sisältäisi enemmän lainoja marginalisoituneille ryhmille, vaikka niiden ennustetut takaisinmaksuprosentit olisivat keskimäärin hieman alhaisemmat. Tämä johtuu siitä, että lainan antamisen hyvinvointihyödyt näille alipalveluille yhteisöille (esim. mahdollisuus ostaa asunto, perustaa yritys tai jatkaa koulutusta) voivat ylittää yhteiskunnallisen näkökulman mukaisen maksuhäiriöriskin.

Tietenkin tällaisen hyvinvointia maksimoivan lainajärjestelmän toteuttaminen käytännössä vaatisi merkittävien data- ja mallinnushaasteiden voittamista. Lainanantajien tulisi kerätä tarkkoja tietoja lainahakijoiden sosioekonomisista ominaisuuksista ja taloudellisista tarpeista sekä luoton saatavuuden pitkän aikavälin vaikutuksista heidän hyvinvointiinsa. Heidän tulisi myös olla vuorovaikutuksessa vaikuttavien yhteisöjen kanssa varmistaakseen, että hyvinvointikriteerit optimoidaan vastaamaan näiden arvoja ja prioriteetteja.

Lisäksi saattaa olla tärkeitä oikeudellisia ja sääntelykysymyksiä suojattujen luokkien tietojen (esim. rotu, sukupuoli, ikä) käytöstä lainapäätöksissä, vaikka tavoitteena olisi edistää oikeudenmukaisuutta. Päättäjien tulisi antaa selkeät ohjeet siitä, miten syrjintälainsäädäntö soveltuu sosiaalisen hyvinvoinnin optimoinnin kontekstissa, ja luoda turvapaikkoja lainanantajille, jotka käyttävät näitä tekniikoita läpinäkyvästi ja vastuullisesti.

Haasteista huolimatta se on sen arvoista. Sosiaalisen hyvinvoinnin optimointi voi edistää taloudellista osallisuutta ja kaventaa rotujen välistä varallisuuseroa antamalla lainanantajille mahdollisuuden tehdä kokonaisvaltaisempia ja hyvinvointitietoisia luottopäätöksiä, ohjata pääoman virtausta perinteisesti alipalveluille yhteisöille ja vahvistaa niitä taloudellisesti. Se voi myös tarjota periaatteellisemman ja läpinäkyvämmän tavan navigoida oikeudenmukaisuuden ja tehokkuuden kompromisseja lainanannossa, jotka perustuvat lainanottajien elämään kohdistuviin todellisiin vaikutuksiin.

Kontekstin asettaminen

Kuten lainanantoesimerkki osoittaa, sosiaalisen hyvinvoinnin optimointi on algoritmisen oikeudenmukaisuuden eturaja, joka ylittää tilastollisen pariteetin ja suuntautuu kohti kokonaisvaltaisempaa ja seurauksellista oikeudenmukaisuuskäsitettä, joka perustuu ihmisen hyvinvointiin ja elämänlaatuun.

Tämä lähestymistapa voi auttaa tekoälykehittäjiä ja päättäjiä tekemään periaatteellisempia ja vastuullisempia päätöksiä algoritmisista järjestelmistä korkean riskin aloilla. He voivat tehdä sen määrittelemällä ja maksimoimalla sosiaalisen hyvinvoinnin funktion, joka heijastaa harkittuja moraalisia arvioita hyötyjen ja rasitusten jakautumisesta.

Kuitenkin sosiaalisen hyvinvoinnin optimoinnin täyden potentiaalin toteuttaminen käytännössä vaatii paljon monitieteistä työtä. Tietojenkäsittelytieteilijöiden ja tekoälyetiikan tutkijoiden on tehtävä yhteistyötä taloustieteilijöiden, filosofien, oikeudellisten asiantuntijoiden ja vaikuttavien yhteisöjen kanssa käsitelläkseen normatiivisia ja teknisiä haasteita sosiaalisen hyvinvoinnin funktioiden määrittämisessä ja laskemisessa. Tämä sisältää vaikeita kysymyksiä yksilöllisen hyödyn mittaamisesta ja aggregoinnista, epävarmuudesta ja dynamiikasta sekä oikeasta tasapainosta tehokkuuden ja oikeudenmukaisuuden välillä eri konteksteissa.

Myös päättäjien ja sääntelijöiden on annettava enemmän ohjeistusta ja luotava ympäristö, jossa hyvinvointitietoinen tekoäly voidaan kehittää ja ottaa käyttöön. Tämä voi tarkoittaa olemassa olevien syrjintälainsäädäntöjen ja -säädösten päivittämistä sosiaalisen hyvinvoinnin optimoinnin haasteen käsittelemiseksi sekä uusien hallintokehysten ja valvontamekanismien luomista läpinäkyvyyden, vastuullisuuden ja julkisen osallistumisen varmistamiseksi näiden järjestelmien suunnittelussa ja käytössä.

Lopulta siirtyminen sosiaalisen hyvinvoinnin optimointiin tekoälyssä on oltava yhdessä laajempien ponnistelujen kanssa, jotka pyrkivät ratkaisemaan taustalla olevat rakenteelliset epätasa-arvot ja valtasuhteiden epätasapainot, jotka muokkaavat teknologian kehitystä ja vaikutuksia yhteiskunnassa.

Algoritmiset oikeudenmukaisuustoimenpiteet, vaikka kuinka hyvin suunniteltuja, eivät voi korvata perusteellisempia uudistuksia sosiaalisen ja taloudellisen oikeudenmukaisuuden edistämiseksi, kuten investointeja koulutukseen, terveydenhuoltoon, asumiseen ja infrastruktuuriin marginalisoiduissa yhteisöissä.

Kuten Hooker ja hänen kollegansa sanovat CPAIOR 2024 -paperissaan:

“Sosiaalisen hyvinvoinnin optimointi tarjoaa uusia tapoja suunnitella oikeudenmukaisia ja hyviä algoritmisia järjestelmiä. Paljon työtä on vielä tehtävänä näiden lähestymistapojen kehittämiseksi ja operatiiviseksi tekemiseksi, mutta uskomme niiden olevan tie eteenpäin tekoälyetiikassa. Voimme saavuttaa kokonaisvaltaisemman ja moraalisesti vakavamman tavan rakentaa koneoppimisen järjestelmiä, jotka palvelevat koko yhteiskuntaa, kun kehitämme oikeudenmukaisuuskäsityksemme hyvinvointitaloustieteen kielellä ja käsittelemme nimenomaisesti teknologiamme jakelullisia seurauksia.”

Yleisesti ottaen, jotta saavutetaan todellisesti oikeudenmukainen tekoäly, meidän on varmistettava, että nämä lähestymistavat testataan ja hiotaan perusteellisesti todellisissa tilanteissa, ilmentäen sitoutumista oikeudenmukaisuuteen ja yhteiskunnalliseen hyvinvointiin.

Klikkaa tästä oppiaksesi kaiken tekoälyyn sijoittamisesta.