Sosyal Refah Optimizasyonu Yoluyla Yapay Zekanın Adilliğini Yeniden Değerlendirmek

Yapay zeka sistemleri yaygınlaştıkça ve güçlü hale geldikçe, bunların nasıl adil ve adil hale getirileceği sorusu en büyük zorluk haline geldi. Borç verme ve işe alımdan sağlık hizmetlerine ve cezai adalete kadar yapay zeka algoritmaları artık bireylerin ve toplulukların yaşamlarını ve geçim kaynaklarını kontrol etmeye başladı. Çoğu zaman bu algoritmalar görünmez, hesap verilemez ve hatta bazen önyargılı tarihsel olarak dezavantajlı gruplara karşı.

Bu endişelere yanıt olarak, araştırmacılar, uygulayıcılar ve politika yapıcılardan oluşan bir topluluk, herkese eşit davranan ve toplumsal eşitsizlikleri sürdürmeyen veya artırmayan "adil" yapay zeka sistemleri geliştirmek için bir araya geldi. Yapay zekada adaleti resmileştirme ve işlevselleştirme konusundaki baskın yaklaşım, korunan gruplar arasında seçim oranları veya hata oranları gibi belirli performans ölçütlerini eşitlemeyi amaçlayan "istatistiksel eşitlik ölçütlerinin" kullanımı olmuştur.

Bununla birlikte, eşitliğe dayalı adalet kavramları yapay zeka topluluğunda geniş çapta incelenip benimsenirken, aynı zamanda kavramsal olarak kusurlu, pratik olarak sınırlı ve potansiyel olarak verimsiz olduklarını iddia eden bilim adamlarının artan eleştirileriyle de karşı karşıya kalıyorlar. Yapay zeka kararlarının bireyler ve topluluklar üzerindeki gerçek refah etkisini göz ardı ettiğinden, gruplar arasındaki istatistiksel sonuçları basitçe eşitlemenin esaslı adaleti sağlamak için yeterli olmadığını savunuyorlar.

In CPAIOR 2024 tutanaklarında yeni bir makaleCarnegie Mellon Üniversitesi ve Stevens Teknoloji Enstitüsü'nden araştırmacılardan oluşan bir ekip, sosyal refah optimizasyonuna dayalı yapay zeka adaletine alternatif bir yaklaşım öneriyor. Carnegie Mellon Üniversitesi'nde yöneylem araştırması profesörü John Hooker liderliğindeki yazarlar, demografik eşitlik, eşitlenmiş oranlar ve tahmin oranı gibi popüler istatistiksel eşitlik ölçümlerinin sınırlamalarını ve kör noktalarını incelemek için iyi bilinen sosyal refah işlevi "alfa adaleti"ni kullanıyor. parite.

Bulguları, bu eşitlik ölçütlerinin genellikle en kötü durumda olanlara öncelik verme veya fayda ve yüklerin adil dağıtımı gibi dağıtım adaleti ilkeleriyle uyuşmadığını göstermektedir. Çoğu durumda, alfa-adil çözüm eşitlik çözümünden çok uzaktır, bu nedenle bu ölçütler hem verimlilik hem de eşitlik açısından yetersiz yapay zeka sistemlerine yol açabilir.

Bu Yapay zeka etiği alanı ve insani değerlere ve sosyal adalete saygılı makine öğrenimi sistemleri oluşturma çabaları üzerinde büyük etkileri vardır. Bu, algoritmik adalet konusunda istatistiksel ölçümlerin ötesine geçen ve yüksek riskli alanlarda yapay zekanın ahlaki ödünleşimlerini ele alan daha kapsamlı ve incelikli bir yaklaşıma ihtiyacımız olduğu anlamına geliyor: Sosyal refah optimizasyonu.

Sosyal Refah Optimizasyonunu Anlamak

Özünde sosyal refah optimizasyonu, yapay zekada adaleti düşünmek ve hayata geçirmek için tamamen farklı bir paradigmadır. Gruplar arasında belirli ölçümleri eşitlemeye dar bir şekilde odaklanmak yerine, bir adım geri atıyor ve yapay zeka kararlarının insan refahı ve refahı üzerindeki daha geniş toplumsal etkisini değerlendiriyor.

Buradaki fikir, etkilenen tüm bireylerin deneyimlediği faydaları (yani faydalar ve maliyetler) tek bir sosyal fayda ölçüsünde toplayan bir sosyal refah fonksiyonunu açıkça maksimize etmeyi amaçlayan yapay zeka sistemleri tasarlamaktır. Bu yaklaşıma göre yapay zeka uygulayıcıları, verimlilik ve eşitliğin göreceli önemi hakkında dikkate alınan ahlaki yargıları yansıtan bir sosyal refah fonksiyonu belirleyerek bu rakip hedefleri dengeleyen algoritmalar oluşturabilirler.

Sosyal refah optimizasyonunun kökleri, dağıtım adaleti ve kolektif karar alma ile ilgili uzun bir geçmişe sahip olan refah ekonomisine dayanmaktadır. İktisatçılar ve filozoflar, faydacılık (faydanın toplamını maksimuma çıkarmak), öncelikçilik (en kötü durumda olanların fayda kazanımlarına daha fazla ağırlık vermek) ve eşitlikçilik (eşitsizliği en aza indirmek) gibi farklı etik ilkeleri ve değer yargılarını yansıtan çeşitli sosyal refah fonksiyonları önermişlerdir.

Son yıllarda giderek artan sayıda yapay zeka araştırmacısı, makine öğrenimi sistemlerine adaleti yerleştirmenin bir yolu olarak sosyal refah optimizasyonunu keşfetmeye başladı. Bu çalışma Heidari ve arkadaşlarının "Algoritmik karar verme ve adaletin maliyeti" başlıklı makalelerine dayanıyor. ve Corbett-Davies ve GoelYapay zeka kararlarının farklı bireyler ve gruplar üzerindeki farklı etkisini yakalamak için sosyal refah işlevlerini kullanma fikrini ilk kez ortaya atan.

Bunu yapmanın bir yolu, sosyal refah fonksiyonlarının parametrik bir sınıfı olan alfa adaletidir. incelendi 70 yıldır ekonomi ve sosyal tercih alanında. Alfa adaleti, eşitsizlikten kaçınma derecesini kontrol eden tek bir alfa parametresi ile faydacı ve eşitlikçi hedefler arasında enterpolasyon yapmanıza olanak tanır.

Alfa 0 olduğunda, sosyal refah fonksiyonu klasik faydacılığa indirgenir ve dağıtım dikkate alınmaksızın faydanın toplamı maksimuma çıkarılır. Alfa arttıkça ağırlık artar verilmiş en kötüsüne ve tahsis daha adil hale gelir. Sınırda, alfa sonsuza giderken, alfa adaleti Rawls'un en kötü durumdaki bireyin faydasını maksimuma çıkarma ilkesine yakınlaşır.

Araştırmacılar, CPAIOR 2024 makalelerinde, üç popüler istatistiksel eşlik ölçüsünü incelemek için alfa adaletini bir mercek olarak kullanıyor:

• Demografik eşitlik
• Eşitlenmiş oranlar
• Tahmini oran paritesi

Bir yapay zeka sisteminin, farklı yeterlilik oranlarına ve fayda işlevlerine sahip bireylerden oluşan bir popülasyon arasında sınırlı bir kaynak (örneğin, krediler, iş görüşmeleri, eğitim fırsatları) tahsis etmek zorunda olduğu çeşitli senaryoları simüle ederler.

Sonuçlar şaşırtıcı. Çoğu durumda alfa adil tahsis, parite metriklerinin önerdiği çözümlerden önemli ölçüde farklılık gösterir.

Gruplar arasında eşit seçim oranları gerektiren demografik eşitlik, dezavantajlı grupların seçilmekten daha fazla marjinal fayda elde ettiği gerçeğini çoğu kez hesaba katmıyor. Bu nedenle, ne verimli ne de adil olmayan tahsisatlara yol açmaktadır.

Yalnızca "nitelikli" bireyler arasındaki seçim oranlarını karşılaştıran eşitlenmiş oranlar biraz daha iyi sonuç verir ancak yanlış negatif hataların (yani nitelikli bireylerin) olduğu senaryolarda yine de başarısız olur. reddedilmek) yanlış pozitiflerden daha maliyetlidir.

Seçilmiş nitelikli bireylerin oranını eşitleyen tahmini oran eşitliği sınırlı kullanıma sahiptir ve yalnızca seçilen bireylerin sayısı gerçekten nitelikli adayların sayısından fazla olduğunda uygulanabilir.

Bu sonuçlar, algoritmik adaleti değerlendirmenin ve uygulamanın birincil yolu olarak istatistiksel eşlik ölçümlerinin temel sınırlamalarını ve kör noktalarını göstermektedir.

Yapay zeka kararlarının gerçek refah çıkarlarını ve farklı gruplar üzerindeki farklı etkilerini göz ardı ederek bu ölçümler, mevcut eşitsizlikleri sürdüren, hatta daha da kötüleştiren sistemlere yol açabilir. Ayrıca, farklı eşitlik kriterleri uygulamada sıklıkla birbiriyle çelişen önerilere yol açtığından, normatif gerekçe ve tutarlılıktan da yoksundurlar.

Buna karşılık, sosyal refah optimizasyonu, yapay zeka sistemlerinde adalet ve verimlilik arasındaki dengeyi sağlamak için ilkeli ve birleşik bir yol sağlar. Geliştiricilerin ve politika yapıcıların algoritmik karar vermenin dağıtıcı etkisi hakkında daha şeffaf ve hesap verebilir konuşmalar yapmalarına olanak sağlamak için sosyal refah fonksiyonunun seçiminde değer yargılarını ve etik varsayımları açıklığa kavuşturmayı amaçlamaktadır.

Dahası, son çalışmalar sosyal refah optimizasyonunun kolayca entegre edilebilir standart makine öğrenimi iş akışına, ya bir işlem sonrası adım olarak ya da doğrudan eğitim hedefinin kendisine.

Örneğin, “Algoritmik karar verme ve adaletin maliyeti, " Araştırmacılar, sistemin hem doğruluğu hem de refahı en üst düzeye çıkaracak adil karar kurallarını öğrenebilmesi için herhangi bir sınıflandırma veya regresyon modelinin kayıp fonksiyonuna bir sosyal refah terimi ekleyen bir düzenleme tekniği önermektedir. Üstün ve ark. önceden eğitilmiş herhangi bir modelin çıktısını alan ve çeşitli adalet kısıtlamalarına tabi olan refahı en üst düzeye çıkaran kararları bulan bir son işleme yöntemini tanıttı.

Bu teknik sonuçlar, sosyal refah optimizasyonunun adil ve eşitlikçi yapay zeka sistemleri oluşturmanın uygulanabilir ve pratik bir yolu olduğunu gösteriyor. Geliştiriciler, rakip kriterleri dengeleyen tahsisleri bulmak için bu çerçevenin normatif hususlarını yakalayan açık ve hesaplanabilir bir amaç fonksiyonuna dayalı bu güçlü optimizasyon tekniklerini ve yazılım paketlerini kullanabilirler.

Ancak uygulamada sosyal refah optimizasyonunun tam potansiyelinin farkına varılması aynı zamanda bir takım zorlu zorluklarla ve sınırlamalarla mücadele etmeyi de gerektirir. En büyük zorluklardan biri, yapay zeka kararlarının insan yaşamı üzerindeki karmaşık, çok boyutlu etkisini yakalayan bireysel fayda işlevlerini ortaya çıkarmanın ve oluşturmanın zorluğudur. Bu İnsanların tercihlerini, değerlerini ve refahını şekillendiren bağlamsal faktörleri anlamak için etkilenen paydaşlar ve alan uzmanlarıyla derin bir etkileşim gerektirir.

Fayda, belirsizlik ve dinamiklerin kişiler arası karşılaştırılabilirliği ve bireysel faydaların kolektif bir sosyal refah ölçüsünde nasıl toplanacağı hakkında teorik ve felsefi sorular da vardır. Farklı sosyal refah işlevleri bunlar hakkında farklı varsayımlarda bulunur ve hangisinin belirli bir bağlamda en savunulabilir veya uygun olduğu konusunda evrensel bir fikir birliği yoktur.

Ayrıca, herhangi bir optimizasyona dayalı yaklaşımda olduğu gibi, hedeflerin maksimize ediliyor İlgili tüm etik hususları tam olarak kapsamayabilir veya çarpık olmak Faydaları tahmin etmek için kullanılan veri ve modellerdeki önyargılar ve kör noktalar nedeniyle. Refah kriterlerinin etkilenen toplulukların değerleri ve öncelikleriyle uyumlu olacak şekilde optimize edilmesini sağlamak için paydaş katılımı, şeffaflık ve hesap verebilirliğe ilişkin iyi düşünülmüş süreçlere sahip olmak önemlidir.

Bu zorluklara rağmen, algoritmik adalet için sosyal refah optimizasyonunun faydaları göz ardı edilemeyecek kadar büyüktür. Bununla birlikte, yapay zeka geliştiricileri ve politika yapıcılar, bu yaklaşımın eşitliğini ve verimliliğini dengelemek için ilkeli ve esnek bir yöntemle istatistiksel eşitliğin ötesine geçebilirler. Sonuçta, insanın refahına ve refahına dayalı daha bütünsel ve sonuçsalcı bir adalet kavramına yol açacaktır.

Yapay zekanın özgünlüğü nasıl sağlayabileceğini öğrenmek için burayı tıklayın. 

1 Numaralı Kullanım Örneği: Adil Kredi Verme

Sosyal refah optimizasyonunun pratikteki vaatlerini ve zorluklarını göstermek için, algoritmik kredilendirme gibi yüksek riskli bir alanı ele alalım. Son yıllarda birçok banka ve fintech şirketi, kredi kararlarını otomatikleştirmek ve hızlandırmak için makine öğrenimi modellerini benimsedi. Bu modeller, kredi başvurusunda bulunan kişinin temerrüde düşme olasılığını tahmin etmek için büyük miktarda kişisel ve finansal veri kullanır, böylece kredi verenler daha hızlı ve daha verimli kredi değerlendirme kararları alabilir.

Bununla birlikte, bu algoritmik borç verme sistemlerinin, kredi erişimindeki tarihsel önyargıları ve eşitsizlikleri sürdürdüğüne ve güçlendirdiğine dair giderek artan kanıtlar var. Araştırmalar şunu gösterdi Siyahi ve Latin kökenli borçluların kredilerinin reddedilme olasılığı daha yüksek veya gelir, kredi puanı ve istihdam durumu gibi geleneksel risk faktörleri kontrol edilirken bile benzer niteliklere sahip Beyaz borçlulardan daha yüksek faiz oranları talep ediliyor.

Bu endişelere yanıt olarak bazı kredi verenler, yapay zeka sigortalama modellerindeki önyargıyı azaltmak için demografik eşitlik ve eşitlenmiş oranlar gibi istatistiksel eşitlik yöntemlerine başvurabilirler. Buradaki fikir, korunan gruplar arasında kredi onay oranlarını veya temerrüt oranlarını eşitleyerek modellerin ırk veya etnik kökene bakılmaksızın tüm başvuru sahiplerine eşit davranmasını sağlamaktır.

Bu eşitliğe dayalı yaklaşımlar sezgisel görünse de, kredi itibarının karmaşıklığını ve kredi erişiminin marjinalleştirilmiş toplulukların refahı üzerindeki farklı etkisini kavramakta başarısız oluyorlar. Gittikçe artan sayıda araştırma, sonuçların eşitlenmesine dayanan basit adalet kavramlarının ortaya çıktığını öne sürüyor. aslında geri tepebilir ve gruplara zarar verebilir onlar amaçlanan korumak.

Örneğin, 2018 makale notları Faydayı maksimize eden bir karar kuralında demografik eşitlik kısıtlamalarının uygulanmasının, genellikle hem model eğitiminde hem de karar vermede ırk gibi hassas değişkenlerin kullanılmasını gerektirdiği. Bu 'farklı öğrenme süreçleri' olarak bilinen, yalnızca eğitim sırasında ırkı kullanarak eşitlik kısıtlamalarını karşılama girişimlerinin optimalin altında olacağını ima eder.

Üstelik pariteye dayalı adalet kriterleri, kredi alamamanın zararlarının da göz ardı edildiği gerçeğini göz ardı ediyor. eşit olarak dağıtılmıyor nüfus genelinde. Tarihsel olarak ana akım finansal hizmetlerden dışlanmış olan düşük gelirli ve azınlık borçlular için, reddedilmek Bir kredinin yıkıcı sonuçları olabilir, onları yoksulluk ve yağmacı borç döngüsüne hapsedebilir. Daha varlıklı ve imtiyazlı başvuru sahipleri için alternatif sermaye kaynakları olabilir ve daha az etkilenmek Olumsuz bir kredi kararıyla.

Sosyal refah optimizasyonu, bu farklı refah çıkarlarını doğrudan adil kredilendirme algoritmalarının tasarımına dahil eden alternatif bir yaklaşım sunmaktadır. Kredi verenler, farklı bireyler ve gruplar için kredi erişiminin göreceli maliyet ve faydalarını yakalayan bir sosyal refah fonksiyonu tanımlayarak, fırsatların daha adil bir şekilde dağıtılmasını sağlarken genel refahı en üst düzeye çıkaran kredi modelleri geliştirebilirler.

Örneğin, en az avantajlı başvuru sahiplerinin refahına öncelik veren, düşük gelirli ve azınlık borçluların fayda kazanımlarına daha fazla ağırlık veren bir sosyal refah fonksiyonunu düşünün. Bu olabilir resmileştirilmek Orta derecede yüksek bir alfa değerine sahip bir alfa adalet fonksiyonu kullanmak, verimlilik yerine eşitliğin güçlü bir şekilde tercih edildiğini gösterir.

Bu sosyal refah hedefi kapsamında, optimal borç verme politikası, tahmin edilen geri ödeme oranları ortalama olarak biraz daha düşük olsa bile, dışlanmış gruplara muhtemelen daha fazla borç vermeyi içerecektir. Bu bunun nedeni, yeterince hizmet alamayan bu topluluklara verilen kredilerden elde edilen refah kazanımlarının (örneğin, onların bir ev satın almalarını, iş kurmalarını veya eğitim almalarını sağlamak), toplumsal açıdan artan temerrüt riskinden daha ağır basabilmesidir.

Elbette, refahı en üst düzeye çıkaran böyle bir kredi sisteminin pratikte uygulanması, önemli veri ve modelleme zorluklarının aşılmasını gerektirecektir. Kredi verenlerin, kredi başvurusunda bulunanların sosyoekonomik özellikleri ve finansal ihtiyaçlarının yanı sıra kredi erişiminin zaman içinde refahları üzerindeki olumsuz etkileri hakkında ayrıntılı veriler toplaması gerekecektir. Ayrıca refah kriterlerinin kendi değerleri ve öncelikleriyle uyumlu olacak şekilde optimize edilmesini sağlamak için etkilenen topluluklarla etkileşime geçmeleri gerekecektir.

Ayrıca, amaç eşitliği teşvik etmek olsa bile, kredi verme kararlarında korunan sınıf bilgilerinin (örneğin ırk, cinsiyet, yaş) kullanılmasıyla ilgili önemli yasal ve düzenleyici hususlar olabilir. Politika yapıcıların, ayrımcılıkla mücadele yasalarının sosyal refah optimizasyonu bağlamında nasıl uygulanacağı konusunda açık bir rehberlik sağlamaları ve bu teknikleri şeffaf ve hesap verebilir bir şekilde kullanan kredi verenler için güvenli limanlar oluşturmaları gerekecektir.

Zorluklara rağmen buna değer. Sosyal refah optimizasyonu, kredi verenlerin daha bütünsel ve refah bilincine sahip kredi kararları almalarına, sermaye akışını geleneksel olarak yetersiz hizmet alan topluluklara yönlendirmelerine ve onları ekonomik olarak güçlendirmelerine olanak tanıyarak finansal kapsayıcılığı ilerletmeye ve ırksal servet uçurumunu kapatmaya yardımcı olabilir. Ayrıca, borçluların yaşamları üzerindeki gerçek dünya etkilerine dayanan, kredi vermede adalet ve verimlilik arasındaki dengeleri yönetmek için daha ilkeli ve şeffaf bir yol sağlayabilir.

Perspektife koymak

Borç verme örneğinin gösterdiği gibi, sosyal refah optimizasyonu, istatistiksel eşitliğin ötesine geçen ve insan refahı ve refahına dayalı daha bütünsel ve sonuçsalcı bir eşitlik kavramına doğru giden algoritmik adalet için bir sınırdır.

Bu yaklaşım, yapay zeka geliştiricilerinin ve politika yapıcıların yüksek riskli alanlarda algoritmik sistemlerin tasarımı ve dağıtımı konusunda daha ilkeli ve hesap verebilir kararlar almasına yardımcı olabilir. Bunu, faydaların ve yüklerin dağıtımına ilişkin dikkate alınan ahlaki yargıları yansıtan bir sosyal refah fonksiyonunu tanımlayarak ve maksimuma çıkararak yapabilirler.

Ancak uygulamada sosyal refah optimizasyonunun tam potansiyelinin hayata geçirilmesi, çok sayıda disiplinlerarası çalışmayı gerektirecektir. Bilgisayar bilimcileri ve yapay zeka etiği akademisyenlerinin, sosyal refah işlevlerini tanımlama ve hesaplama konusundaki normatif ve teknik zorlukların üstesinden gelmek için ekonomistler, filozoflar, hukuk uzmanları ve etkilenen topluluklarla birlikte çalışması gerekecek. Bu bireysel fayda ölçümü ve toplanması, belirsizlik ve dinamikler ile farklı bağlamlarda verimlilik ve eşitlik arasındaki doğru dengeyle ilgili zorlu soruları içerir.

Ayrıca politika yapıcıların ve düzenleyicilerin daha fazla rehberlik sağlaması ve refah bilincine sahip yapay zekanın geliştirilip konuşlandırılabileceği bir ortam yaratması gerekiyor. Bu sosyal refah optimizasyonu sorununu ele almak ve bu sistemlerin tasarımı ve kullanımında şeffaflık, hesap verebilirlik ve halkın katılımı için yeni yönetişim çerçeveleri ve gözetim mekanizmaları oluşturmak için mevcut ayrımcılık karşıtı yasa ve düzenlemelerin güncellenmesi anlamına gelebilir.

Nihayetinde, yapay zekada sosyal refah optimizasyonuna geçiş, eşlik etmek Teknolojinin toplumdaki gelişimini ve etkisini şekillendiren temeldeki yapısal eşitsizlikleri ve güç dengesizliklerini ele almaya yönelik daha geniş çabalarla.

Algoritmik adalet müdahaleleri, ne kadar iyi tasarlanmış olursa olsun, marjinal topluluklarda eğitim, sağlık, konut ve altyapıya yatırım yapmak gibi sosyal ve ekonomik adaleti teşvik etmeye yönelik daha temel reformların yerini tutamaz.

Hooker ve meslektaşlarının CPAIOR 2024 makalelerinde söyledikleri gibi:

“Sosyal refah optimizasyonu, adil ve iyi algoritmik sistemler tasarlamanın yeni yollarını sunuyor. Geriye çok iş kalıyor yapıldı Bu yaklaşımları geliştirmek ve operasyonel hale getirmek için çalışıyoruz ancak bunların yapay zeka etiği açısından ileriye dönük bir yol olduğunu düşünüyoruz. Adalet kavramlarımızı refah ekonomisi diliyle çerçeveleyerek ve teknolojimizin dağıtımsal sonuçlarıyla açıkça ilgilenerek, tüm topluma hizmet edecek makine öğrenimi sistemleri oluşturmanın daha bütünsel ve ahlaki açıdan ciddi bir yolunu bulabiliriz."

Genel olarak, gerçekten adil bir yapay zekaya ulaşmak için, bu yaklaşımların gerçek dünya senaryolarında titizlikle test edildiğinden ve iyileştirildiğinden, adalet ve toplumsal refah taahhüdünü somutlaştırdığından emin olmalıyız.

Yapay zekaya yatırım hakkında her şeyi öğrenmek için buraya tıklayın.