Yapay Zekanın Adilliğini Sosyal Refah Optimizasyonu ile Yeniden Değerlendirmek

Yapay zeka sistemleri daha yaygın ve güçlü hale geldikçe, onları adil ve adaletli hâle getirme sorunu en büyük zorluk haline geldi. Kredi verme ve işe alımdan sağlık hizmetleri ve ceza adaletine kadar, AI algoritmaları artık bireylerin ve toplulukların yaşamlarını ve geçim kaynaklarını kontrol etmeye başladı. Çoğu zaman, bu algoritmalar görünmez, sorumsuz ve bazen hatta önyargılı tarihsel olarak dezavantajlı gruplara karşı.

Bu endişelere yanıt olarak, araştırmacılar, uygulayıcılar ve politika yapıcılarından oluşan bir topluluk, herkesi eşit şekilde muamele eden ve toplumsal eşitsizlikleri sürdürmeyen ya da artırmayan “adil” AI sistemleri geliştirmek için bir araya geldi. AI’da adaleti biçimlendirmek ve operasyonelleştirmek için baskın yaklaşım, korumalı gruplar arasında seçim oranları veya hata oranları gibi belirli performans ölçütlerini eşitlemeyi amaçlayan “istatistiksel eşitlik ölçütleri” kullanımı olmuştur.

Bununla birlikte, eşitlik temelli adalet kavramları AI topluluğunda geniş çapta incelenip benimsenmiş olsa da, kavramsal olarak kusurlu, pratikte sınırlı ve potansiyel olarak ters etki yaratabileceğini savunan akademisyenlerden artan eleştirilerle karşılaşmaktadır. Gruplar arasındaki istatistiksel sonuçları basitçe eşitlemenin, AI kararlarının bireyler ve topluluklar üzerindeki gerçek refah etkisini göz ardı ettiği için anlamlı bir adalete ulaşmak için yeterli olmadığını savunuyorlar.

İçinde CPAIOR 2024 bildirilerinde yeni bir makale, Carnegie Mellon University ve Stevens Institute of Technology’den bir araştırmacı ekibi, sosyal refah optimizasyonuna dayalı AI adaleti için alternatif bir yaklaşım öneriyor. Carnegie Mellon University’de operasyon araştırması profesörü John Hooker liderliğindeki yazarlar, demografik eşitlik, eşitlenmiş olasılık ve öngörücü oran eşitliği gibi popüler istatistiksel eşitlik ölçütlerinin sınırlılıklarını ve kör noktalarını çözümlemek için tanınmış sosyal refah fonksiyonu “alfa adaleti”ni kullanıyor.

Sonuçları, bu eşitlik ölçütlerinin çoğu zaman en dezavantajlıları önceliklendirme veya fayda ve yükümlülüklerin adil dağılımı gibi dağıtıcı adalet ilkeleriyle uyumlu olmadığını gösteriyor. Birçok durumda, alfa-adil çözüm eşitlik çözümünden çok uzaktır, bu nedenle bu ölçütler verimlilik ve eşitlik açısından ikisinde de optimal olmayan AI sistemlerine yol açabilir.

Bu AI etiği alanı ve insan değerlerine ve sosyal adalete saygı duyan makine öğrenimi sistemleri inşa etme çabaları için büyük sonuçlar doğuruyor. Bu, istatistiksel ölçütlerin ötesine geçen ve yüksek riskli alanlardaki AI’ın ahlaki ödünleşimlerini ele alan daha kapsamlı ve nüanslı bir algoritmik adalet yaklaşımına ihtiyaç duyduğumuz anlamına geliyor: Sosyal refah optimizasyonu.

Sosyal Refah Optimizasyonunu Anlamak

Özünde, sosyal refah optimizasyonu, AI’da adaleti düşünmek ve operasyonelleştirmek için tamamen farklı bir paradigma. Gruplar arasındaki belirli ölçütleri eşitlemeye dar bir odaklanmak yerine, bir adım geri çekilip AI kararlarının insan refahı ve esenliğine olan daha geniş toplumsal etkisini değerlendirir.

Fikir, tüm etkilenen bireylerin deneyimlediği faydaları (yani yararlar ve maliyetler) tek bir sosyal iyilik ölçütünde toplayan bir sosyal refah fonksiyonunu maksimize etmeyi açıkça hedefleyen AI sistemleri tasarlamaktır. Bu yaklaşıma göre, AI uygulayıcıları, verimlilik ve eşitliğin göreceli önemi hakkında düşünülmüş ahlaki yargıları yansıtan bir sosyal refah fonksiyonu belirleyerek bu rekabet eden hedefleri dengeleyen algoritmalar oluşturabilir.

Sosyal refah optimizasyonu, dağıtıcı adalet ve kolektif karar alma ile uzun bir geçmişi olan refah ekonomisinde köklenmiştir. Ekonomistler ve filozoflar, faydacılık (yararın toplamını maksimize etmek), öncelikçilik (en dezavantajlıların fayda kazanımlarına daha fazla ağırlık vermek) ve eşitlikçilik (eşitsizliği en aza indirmek) gibi farklı etik ilkeleri ve değer yargılarını yansıtan çeşitli sosyal refah fonksiyonları önermiştir.

Son yıllarda, giderek artan sayıda AI araştırmacısı, makine öğrenimi sistemlerine adaleti yerleştirmenin bir yolu olarak sosyal refah optimizasyonunu keşfetmeye başladı. Bu çalışma, Heidari ve ark. ile Corbett-Davies ve Goel’in “Algorithmic decision making and the cost of fairness” başlıklı makalelerine dayanıyor, bu makaleler AI kararlarının farklı bireyler ve gruplar üzerindeki farklı etkisini yakalamak için sosyal refah fonksiyonlarını kullanma fikrini ilk kez tanıttı.

Bunu yapmanın bir yolu, 70 yıldır ekonomi ve sosyal tercih teorisinde incelenen parametrik bir sosyal refah fonksiyonu sınıfı olan alfa adaleti kullanmaktır. Alfa adaleti, tek bir alfa parametresiyle faydacılık ve eşitlikçi hedefler arasında geçiş yapmanıza olanak tanır; bu parametre eşitsizliğe karşı duyarlılık derecesini kontrol eder.

Alfa 0 olduğunda, sosyal refah fonksiyonu klasik faydacılığa indirgenir; dağıtıma bakılmaksızın faydanın toplamını maksimize eder. Alfa arttıkça, en dezavantajlılara daha fazla ağırlık verilir ve tahsis daha adil hâle gelir. Sınıra doğru, alfa sonsuza gittiğinde, alfa adaleti Rawls’un “maximin” ilkesine, yani en dezavantajlı bireyin faydasını maksimize etmeye yakınsar.

CPAIOR 2024 makalelerinde, araştırmacılar alfa adaletini üç popüler istatistiksel eşitlik ölçütünü incelemek için bir mercek olarak kullanıyorlar:

• Demografik eşitlik
• Eşitlenmiş olasılık
• Öngörücü oran eşitliği

Farklı nitelik oranları ve fayda fonksiyonlarına sahip bireylerden oluşan bir nüfusa sınırlı bir kaynağı (ör. krediler, iş görüşmeleri, eğitim fırsatları) tahsis etmesi gereken çeşitli senaryoları simüle ederler.

Sonuçlar şaşırtıcı. Birçok durumda, alfa-adil tahsis, eşitlik ölçütleri tarafından önerilen çözümlerden önemli ölçüde farklılık gösteriyor.

Gruplar arasında eşit seçim oranları gerektiren demografik eşitlik, dezavantajlı grupların seçilmekten daha fazla marjinal fayda elde ettiğini hesaba katamaz. Bu nedenle, ne verimli ne de adil tahsislere yol açar.

Yalnızca “nitelikli” bireyler arasında seçim oranlarını karşılaştıran eşitlenmiş olasılık, biraz daha iyi sonuç verir ancak yanlış negatif hataların (yani nitelikli bireylerin reddedilmesi) yanlış pozitiflerden daha maliyetli olduğu senaryolarda hâlâ başarısız olur.

Seçilen bireylerin nitelikli olma oranını eşitleyen öngörücü oran eşitliği, sınırlı bir kullanıma sahiptir ve yalnızca seçilen birey sayısı gerçek nitelikli aday sayısından fazla olduğunda uygulanabilir.

Bu sonuçlar, istatistiksel eşitlik ölçütlerinin algoritmik adaleti değerlendirmek ve uygulamak için birincil yol olarak temel sınırlılıklarını ve kör noktalarını gösteriyor.

AI kararlarının gerçek refah risklerini ve farklı gruplar üzerindeki farklı etkilerini göz ardı ederek, bu ölçütler mevcut eşitsizlikleri sürdüren ya da daha da kötüleştiren sistemlere yol açabilir. Ayrıca, farklı eşitlik kriterlerinin pratikte sık sık çelişkili öneriler vermesi nedeniyle normatif bir gerekçelendirme ve tutarlılıktan yoksundurlar.

Buna karşılık, sosyal refah optimizasyonu, AI sistemlerinde adalet ve verimlilik arasındaki ödünleşimleri yönlendirmek için ilkesel ve bütünleşik bir yol sunar. Sosyal refah fonksiyonu seçimindeki değer yargılarını ve etik varsayımları açıkça ortaya koymayı amaçlayarak, geliştiricilerin ve politika yapıcıların algoritmik karar almanın dağıtıcı etkileri hakkında daha şeffaf ve sorumlu tartışmalar yapmalarını sağlar.

Ayrıca, son çalışmalar, sosyal refah optimizasyonunun standart makine öğrenimi iş akışına, ya bir son işleme adımı olarak ya da doğrudan eğitim hedefine entegre edilebileceğini göstermiştir.

Örneğin, “Algorithmic decision making and the cost of fairness,” araştırmacılar herhangi bir sınıflandırma veya regresyon modelinin kayıp fonksiyonuna bir sosyal refah terimi ekleyen bir düzenleme tekniği öneriyorlar; böylece sistem, doğruluk ve refahı maksimize eden adil karar kurallarını öğrenebilir. Ustun ve ark. herhangi bir önceden eğitilmiş modelin çıktısını alıp çeşitli adalet kısıtlamalarına tabi tutarak refahı maksimize eden kararları bulan bir son işleme yöntemi tanıttı.

Bu teknik sonuçlar, sosyal refah optimizasyonunun adil ve eşit AI sistemleri inşa etmek için uygulanabilir ve pratik bir yol olduğunu gösteriyor. Geliştiriciler, bu çerçevenin normatif hususlarını yakalayan açık ve hesaplanabilir bir hedef fonksiyonuna dayalı güçlü optimizasyon tekniklerini ve yazılım paketlerini kullanarak rekabet eden kriterleri dengeleyen tahsisler bulabilir.

Ancak, sosyal refah optimizasyonunun pratikte tam potansiyelini gerçekleştirmek, bir dizi zorluğu ve sınırlamayı ele almayı da gerektirir. En büyüklerinden biri, AI kararlarının insan yaşamları üzerindeki karmaşık, çok boyutlu etkisini yakalayan bireysel fayda fonksiyonlarını elde etme ve oluşturma zorluğudur. Bu, etkilenen paydaşlar ve alan uzmanlarıyla derin bir etkileşim gerektirir; insanların tercihlerini, değerlerini ve refahını şekillendiren bağlamsal faktörleri anlamak için.

Ayrıca, faydanın, belirsizliğin ve dinamiklerin kişilerarası karşılaştırılabilirliği ve bireysel faydaların toplu bir sosyal refah ölçütüne nasıl toplandığı konusunda teorik ve felsefi sorular da vardır. Farklı sosyal refah fonksiyonları bu konularda farklı varsayımlar yapar ve belirli bir bağlamda hangisinin en savunulabilir veya uygun olduğu konusunda evrensel bir fikir birliği yoktur.

Ayrıca, herhangi bir optimizasyon temelli yaklaşımda olduğu gibi, maksimize edilen hedeflerin tüm ilgili etik hususları tam olarak yakalamama riski vardır; ya da faydaları tahmin etmek için kullanılan veri ve modellerdeki önyargılar ve kör noktalar tarafından çarpıtılabilir. Refah kriterlerinin, etkilenen toplulukların değerleri ve öncelikleriyle uyumlu şekilde optimize edilmesini sağlamak için paydaş katılımı, şeffaflık ve sorumluluk süreçlerinin iyi düşünülmüş olması esastır.

Bu zorluklara rağmen, algoritmik adalet için sosyal refah optimizasyonunun faydaları göz ardı edilemeyecek kadar büyüktür. Yine de, AI geliştiricileri ve politika yapıcıları, bu yaklaşımın eşitlik ve verimliliğini dengelemek için ilkesel ve esnek bir yol izleyerek istatistiksel eşitliğin ötesine geçebilir. Sonuçta, insan refahı ve esenliğine dayalı daha bütünsel ve sonuç odaklı bir adalet anlayışına yol açacaktır.

AI’nin nasıl özgünlük sağlayabileceğini öğrenmek için buraya tıklayın. 

Birinci Kullanım Durumu: Adil Kredi

Sosyal refah optimizasyonunun pratikteki vaat ve zorluklarını göstermek için, yüksek riskli algoritmik kredi alanını ele alalım. Son yıllarda, birçok banka ve fintech şirketi kredi kararlarını otomatikleştirmek ve hızlandırmak için makine öğrenimi modelleri benimsedi. Bu modeller, kredi başvurusunda bulunan kişinin temerrüt etme olasılığını tahmin etmek için büyük miktarda kişisel ve finansal veri kullanır; böylece kredi verenler daha hızlı ve daha verimli risk değerlendirme kararları alabilir.

Bununla birlikte, bu algoritmik kredi sistemlerinin tarihsel önyargıları ve kredi erişimindeki eşitsizlikleri sürdürdüğü ve artırdığına dair artan kanıtlar vardır. Araştırmalar, gelir, kredi puanı ve istihdam durumu gibi geleneksel risk faktörleri kontrol edildiğinde bile, Siyah ve Latino borçluların benzer nitelikteki Beyaz borçlulara göre kredi reddiyle karşılaşma olasılıklarının daha yüksek olduğunu veya daha yüksek faiz oranlarıyla karşılaştıklarını göstermiştir.

Bu endişelere yanıt olarak, bazı kredi verenler, AI risk değerlendirme modellerindeki önyargıyı azaltmak için demografik eşitlik ve eşitlenmiş olasılık gibi istatistiksel eşitlik yöntemlerine yönelebilir. Fikir, korumalı gruplar arasında kredi onay oranlarını veya temerrüt oranlarını eşitlemek ve modellerin ırk veya etnik kökene bakılmaksızın tüm başvuranları eşit şekilde muamele etmesini sağlamaktır.

Bu eşitlik temelli yaklaşımlar sezgisel görünebilir, ancak kredi değerliliğinin karmaşıklığını ve kredi erişiminin marjinal toplulukların refahı üzerindeki farklı etkisini yakalayamaz. Artan bir araştırma birikimi, sonuçları eşitlemeye dayalı basit adalet kavramlarının aslında korumayı amaçladıkları gruplara zarar verebileceğini göstermektedir.

Örneğin, 2018 tarihli bir makale, fayda-maksimizasyon karar kuralına demografik eşitlik kısıtlamalarını uygulamanın genellikle model eğitimi ve karar verme aşamalarında ırk gibi hassas değişkenlerin kullanılmasını gerektirdiğini belirtmektedir. Bu, ırkı yalnızca eğitim sırasında kullanarak eşitlik kısıtlamalarını karşılamaya yönelik çabaların, ‘farklı öğrenme süreçleri’ olarak bilinen, alt-optimal olacağını ima eder.

Ayrıca, eşitlik temelli adalet kriterileri, kredi reddedilmesinin zararlarının nüfus genelinde eşit dağıtılmadığı gerçeğini göz ardı eder. Tarihsel olarak ana akım finansal hizmetlerden dışlanmış düşük gelirli ve azınlık borçlular için, kredi reddedilmesi yıkıcı sonuçlara yol açabilir ve onları yoksulluk ve tehlikeli borç döngülerine hapsetebilir. Daha varlıklı ve ayrıcalıklı başvuranlar ise alternatif sermaye kaynaklarına sahip olabilir ve olumsuz bir kredi kararından daha az etkilenebilir.

Sosyal refah optimizasyonu, bu farklı refah risklerini doğrudan adil kredi algoritmalarının tasarımına dahil eden alternatif bir yaklaşım sunar. Kredi verenler, farklı bireyler ve gruplar için kredi erişiminin göreli maliyet ve faydalarını yakalayan bir sosyal refah fonksiyonu tanımlayarak, fırsatların daha adil dağılımını sağlarken toplam refahı maksimize eden kredi modelleri geliştirebilir.

Örneğin, en az avantajlı başvuranların refahını önceliklendiren, düşük gelirli ve azınlık borçluların fayda kazanımlarına daha fazla ağırlık veren bir sosyal refah fonksiyonunu düşünün. Bu orta derecede yüksek bir alfa değeriyle bir alfa adaleti fonksiyonu kullanılarak biçimlendirilebilir; bu, verimlilikten ziyade eşitliğe güçlü bir tercih gösterir.

Bu sosyal refah hedefi altında, optimal kredi politikası, ortalama olarak tahmini geri ödeme oranları biraz daha düşük olsa bile, marjinal gruplara daha fazla kredi vermeyi içerebilir. Bu, bu hizmet dışı bırakılmış topluluklara kredi vermenin (örneğin, bir ev satın almalarını, bir iş kurmalarını veya eğitim almalarını sağlamak) refah kazançlarının, toplumsal açıdan artan temerrüt riskinden daha ağır basmasıdır.

Elbette, pratikte böyle bir refah-maksimizasyonlu kredi sistemini uygulamak, önemli veri ve modelleme zorluklarının üstesinden gelmeyi gerektirir. Kredi verenler, kredi başvurusunda bulunanların sosyoekonomik özellikleri ve finansal ihtiyaçları hakkında ayrıntılı veri toplamalı ve kredi erişiminin zaman içinde refahları üzerindeki downstream etkilerini izlemelidir. Ayrıca, refah kriterlerinin onların değerleri ve öncelikleriyle uyumlu şekilde optimize edilmesini sağlamak için etkilenen topluluklarla etkileşime girmeleri gerekir.

Ayrıca, eşitliği teşvik etmeyi amaçlasa bile, korumalı sınıf bilgilerini (ör. ırk, cinsiyet, yaş) kredi kararları vermek için kullanma konusunda önemli yasal ve düzenleyici hususlar olabilir. Politika yapıcılar, sosyal refah optimizasyonu bağlamında anti-diskriminasyon yasalarının nasıl uygulanacağı konusunda net rehberlik sağlamalı ve bu teknikleri şeffaf ve sorumlu bir şekilde kullanan kredi verenler için güvenli limanlar oluşturmalıdır.

Zorluklara rağmen, buna değer. Sosyal refah optimizasyonu, kredi verenlerin daha bütünsel ve refah odaklı kredi kararları almasına, sermaye akışını geleneksel olarak hizmet dışı bırakılmış topluluklara yönlendirmesine ve onları ekonomik olarak güçlendirmesine olanak tanıyarak finansal kapsayıcılığı ilerletebilir ve ırksal servet farkını kapatabilir. Ayrıca, borçluların yaşamları üzerindeki gerçek dünya etkilerine dayanan, kredi verme sürecinde adalet ve verimlilik arasındaki ödünleşimleri yönlendirmek için daha ilkesel ve şeffaf bir yol sunabilir.

Perspektife Koymak

Kredi örneği gösterdiği gibi, sosyal refah optimizasyonu, istatistiksel eşitliğin ötesine geçen ve insan refahı ve esenliğine dayalı daha bütünsel ve sonuç odaklı bir eşitlik anlayışına yönelen algoritmik adaletin öncüsü bir alandır.

Bu yaklaşım, AI geliştiricileri ve politika yapıcıların yüksek riskli alanlarda algoritmik sistemlerin tasarımı ve dağıtımı hakkında daha ilkesel ve sorumlu kararlar almalarına yardımcı olabilir. Bunu, fayda ve yük dağılımı üzerine düşünülmüş ahlaki yargıları yansıtan bir sosyal refah fonksiyonunu tanımlayıp maksimize ederek yapabilirler.

Bununla birlikte, sosyal refah optimizasyonunun pratikte tam potansiyelini gerçekleştirmek çok disiplinli bir çalışma gerektirecek. Bilgisayar bilimcileri ve AI etik akademisyenleri, sosyal refah fonksiyonlarını tanımlama ve hesaplamanın normatif ve teknik zorluklarıyla başa çıkmak için ekonomistler, filozoflar, hukuk uzmanları ve etkilenen topluluklarla birlikte çalışmalıdır. Bu, bireysel fayda ölçümü ve toplama, belirsizlik ve dinamikler, ve farklı bağlamlarda verimlilik ile eşitlik arasındaki doğru ödünleşim gibi zor soruları içerir.

Ayrıca, politika yapıcılar ve düzenleyiciler, refah odaklı AI’nin geliştirilebileceği ve dağıtılabileceği bir ortam sağlamak için daha fazla rehberlik sunmalı ve bir ortam yaratmalıdır. Bu, mevcut anti-diskriminasyon yasalarını ve düzenlemelerini sosyal refah optimizasyonu sorununu ele alacak şekilde güncellemeyi ve bu sistemlerin tasarım ve kullanımında şeffaflık, sorumluluk ve kamu katılımı için yeni yönetişim çerçeveleri ve denetim mekanizmaları oluşturmayı gerektirebilir.

Sonuçta, AI’da sosyal refah optimizasyonuna geçiş, teknolojinin toplumdaki gelişimini ve etkisini şekillendiren temel yapısal eşitsizlikleri ve güç dengesizliklerini ele alan daha geniş çabalarla birlikte olmalıdır.

Algoritmik adalet müdahaleleri, ne kadar iyi tasarlanmış olursa olsun, eğitim, sağlık, konut ve marjinal topluluklardaki altyapıya yatırım gibi sosyal ve ekonomik adaleti teşvik eden daha temel reformların yerini tutamaz.

Hooker ve meslektaşları, CPAIOR 2024 makalesinde şöyle diyor:

“Sosyal refah optimizasyonu, adil ve iyi algoritmik sistemler tasarlamanın yeni yollarını sunar. Bu yaklaşımları geliştirmek ve operasyonelleştirmek için hâlâ çok iş yapılması gerekiyor, ancak bunların AI etiği için bir ilerleme yolu olduğunu düşünüyoruz. Adalet kavramlarımızı refah ekonomisinin diliyle çerçeveleyerek ve teknolojimizin dağıtıcı sonuçlarıyla açıkça ilgilenerek, tüm topluma hizmet eden makine öğrenimi sistemlerini daha bütünsel ve ahlaki açıdan ciddi bir şekilde inşa edebiliriz.”

Genel olarak, gerçekten adil bir AI elde etmek için, bu yaklaşımların gerçek dünya senaryolarında titizlikle test edilip iyileştirildiğinden emin olmalı ve adalet ile toplumsal refaha olan bağlılığı yansıtmalıyız.

Yapay zekaya yatırım hakkında her şeyi öğrenmek için buraya tıklayın.