Menilai Kembali Keadilan Kecerdasan Buatan melalui Optimisasi Kesejahteraan Sosial

Seiring sistem AI menjadi lebih luas dan kuat, pertanyaan tentang bagaimana membuatnya adil dan berkeadilan telah menjadi tantangan terbesar. Dari pemberian pinjaman dan perekrutan hingga perawatan kesehatan dan keadilan kriminal, algoritma AI kini mulai mengendalikan kehidupan dan mata pencaharian individu serta komunitas. Seringkali, algoritma ini beroperasi dengan cara yang tidak terlihat, tidak dapat dipertanggungjawabkan, dan bahkan bias pada beberapa waktu terhadap kelompok yang secara historis terpinggirkan.

Sebagai respons terhadap kekhawatiran ini, komunitas peneliti, praktisi, dan pembuat kebijakan telah bersatu untuk mengembangkan sistem AI “adil” yang memperlakukan semua orang secara setara dan tidak memperpetuasi atau memperbesar ketidaksetaraan sosial. Pendekatan dominan untuk memformalkan dan mengoperasionalkan keadilan dalam AI telah menggunakan “metrik paritas statistik,” yang bertujuan menyamakan metrik kinerja tertentu seperti tingkat seleksi atau tingkat kesalahan di antara kelompok yang dilindungi.

Namun, meskipun konsep keadilan berbasis paritas telah banyak dipelajari dan diadopsi dalam komunitas AI, mereka juga menghadapi kritik yang meningkat dari para akademisi yang berargumen bahwa metrik tersebut secara konseptual cacat, secara praktis terbatas, dan berpotensi kontraproduktif. Mereka berpendapat bahwa sekadar menyamakan hasil statistik antar kelompok tidak cukup untuk mencapai keadilan substantif karena mengabaikan dampak kesejahteraan nyata dari keputusan AI pada individu dan komunitas.

Dalam sebuah makalah baru di prosiding CPAIOR 2024, tim peneliti dari Carnegie Mellon University dan Stevens Institute of Technology mengusulkan pendekatan alternatif untuk keadilan AI yang didasarkan pada optimisasi kesejahteraan sosial. Dipimpin oleh John Hooker, profesor operasi riset di Carnegie Mellon University, penulis menggunakan fungsi kesejahteraan sosial yang terkenal “alpha fairness” untuk menguraikan keterbatasan dan titik buta metrik paritas statistik populer seperti paritas demografis, odds yang diseimbangkan, dan paritas tingkat prediktif.

Hasil mereka menunjukkan bahwa metrik paritas ini sering tidak selaras dengan prinsip keadilan distributif seperti memprioritaskan yang paling miskin atau distribusi manfaat dan beban yang adil. Dalam banyak kasus, solusi alpha-fair jauh berbeda dari solusi paritas, sehingga metrik ini dapat menghasilkan sistem AI yang suboptimal baik dari perspektif efisiensi maupun ekuitas.

Hal ini memiliki implikasi besar bagi bidang etika AI dan upaya membangun sistem pembelajaran mesin yang menghormati nilai manusia dan keadilan sosial. Ini berarti kita memerlukan pendekatan yang lebih komprehensif dan bernuansa terhadap keadilan algoritmik yang melampaui metrik statistik dan menangani pertukaran moral AI di domain berisiko tinggi: optimisasi kesejahteraan sosial.

Memahami Optimisasi Kesejahteraan Sosial

Pada intinya, optimisasi kesejahteraan sosial adalah paradigma yang sepenuhnya berbeda untuk memikirkan dan mengoperasionalkan keadilan dalam AI. Alih-alih berfokus sempit pada penyamaan metrik tertentu antar kelompok, pendekatan ini mundur selangkah dan mempertimbangkan dampak sosial yang lebih luas dari keputusan AI terhadap kesejahteraan dan kebajikan manusia.

Gagasannya adalah merancang sistem AI yang secara eksplisit bertujuan memaksimalkan fungsi kesejahteraan sosial yang mengagregasikan utilitas (yaitu, manfaat dan biaya) yang dialami semua individu yang terdampak menjadi satu ukuran kebaikan sosial. Menurut pendekatan ini, praktisi AI dapat membangun algoritma yang menyeimbangkan tujuan bersaing tersebut dengan menentukan fungsi kesejahteraan sosial yang mencerminkan penilaian moral yang dipertimbangkan tentang pentingnya relatif antara efisiensi dan ekuitas.

Optimisasi kesejahteraan sosial berakar pada ekonomi kesejahteraan, yang memiliki sejarah panjang dalam menangani keadilan distributif dan pengambilan keputusan kolektif. Ekonom dan filsuf telah mengusulkan berbagai fungsi kesejahteraan sosial yang mencerminkan prinsip etika dan penilaian nilai yang berbeda, seperti utilitarianisme (memaksimalkan jumlah utilitas), prioritarianisme (memberi bobot lebih pada peningkatan utilitas bagi yang paling miskin), dan egalitarianisme (meminimalkan ketidaksetaraan).

Dalam beberapa tahun terakhir, semakin banyak peneliti AI yang mulai mengeksplorasi optimisasi kesejahteraan sosial sebagai cara menyematkan keadilan ke dalam sistem pembelajaran mesin. Karya ini membangun pada makalah berjudul “Pengambilan keputusan algoritmik dan biaya keadilan” oleh Heidari et al. dan Corbett-Davies serta Goel, yang pertama kali memperkenalkan gagasan penggunaan fungsi kesejahteraan sosial untuk menangkap dampak diferensial keputusan AI pada individu dan kelompok yang berbeda.

Salah satu cara melakukannya adalah dengan alpha fairness, kelas parametrik fungsi kesejahteraan sosial yang telah dipelajari dalam ekonomi dan pilihan sosial selama 70 tahun. Alpha fairness memungkinkan Anda menginterpolasi antara tujuan utilitarian dan egalitarian dengan satu parameter alpha, yang mengontrol tingkat keengganan terhadap ketidaksetaraan.

Ketika alpha = 0, fungsi kesejahteraan sosial direduksi menjadi utilitarian klasik, memaksimalkan jumlah utilitas tanpa memperhatikan distribusi. Saat alpha meningkat, bobot lebih diberikan kepada yang paling miskin, dan alokasi menjadi lebih adil. Pada batas, ketika alpha menuju tak terhingga, alpha fairness konvergen ke prinsip “maximin” Rawlsian yang memaksimalkan utilitas individu yang paling tidak beruntung.

Dalam makalah CPAIOR 2024 mereka, peneliti menggunakan alpha fairness sebagai lensa untuk memeriksa tiga metrik paritas statistik populer:

• Paritas demografis
• Odds yang diseimbangkan
• Paritas tingkat prediktif

Mereka mensimulasikan berbagai skenario di mana sistem AI harus mengalokasikan sumber daya terbatas (misalnya, pinjaman, wawancara kerja, peluang pendidikan) di antara populasi individu dengan tingkat kualifikasi dan fungsi utilitas yang berbeda.

Hasilnya mengejutkan. Dalam banyak kasus, alokasi alpha-fair berbeda secara signifikan dari solusi yang diusulkan oleh metrik paritas.

Paritas demografis, yang mengharuskan tingkat seleksi yang sama antar kelompok, sering gagal memperhitungkan fakta bahwa kelompok yang kurang beruntung memperoleh utilitas marginal lebih besar ketika dipilih. Akibatnya, alokasi tersebut tidak efisien maupun adil.

Odds yang diseimbangkan, yang membandingkan tingkat seleksi hanya di antara individu “kualifikasi,” sedikit lebih baik tetapi tetap gagal dalam skenario di mana kesalahan negatif palsu (yaitu, individu kualifikasi yang ditolak) lebih mahal daripada positif palsu.

Paritas tingkat prediktif, yang menyamakan fraksi individu terpilih yang kualifikasi, memiliki kegunaan terbatas dan hanya berlaku ketika jumlah individu terpilih lebih besar daripada jumlah kandidat yang benar‑benar kualifikasi.

Hasil ini menunjukkan keterbatasan mendasar dan titik buta metrik paritas statistik sebagai cara utama menilai dan menegakkan keadilan algoritmik.

Dengan mengabaikan taruhan kesejahteraan nyata dari keputusan AI serta dampak diferensial pada kelompok yang berbeda, metrik‑metrik ini dapat menghasilkan sistem yang memperpetuasi atau bahkan memperburuk ketidaksetaraan yang ada. Mereka juga kurang memiliki justifikasi normatif dan konsistensi, karena kriteria paritas yang berbeda sering menghasilkan rekomendasi yang saling bertentangan dalam praktik.

Sebaliknya, optimisasi kesejahteraan sosial menyediakan cara yang berprinsip dan terpadu untuk menavigasi pertukaran antara keadilan dan efisiensi dalam sistem AI. Ia bertujuan menjadikan penilaian nilai dan asumsi etis dalam pemilihan fungsi kesejahteraan sosial eksplisit, memungkinkan pengembang dan pembuat kebijakan memiliki percakapan yang lebih transparan dan dapat dipertanggungjawabkan tentang dampak distributif dari pengambilan keputusan algoritmik.

Selain itu, pekerjaan terbaru menunjukkan bahwa optimisasi kesejahteraan sosial dapat dengan mudah diintegrasikan ke dalam alur kerja pembelajaran mesin standar, baik sebagai langkah pasca‑pemrosesan maupun langsung ke dalam tujuan pelatihan itu sendiri.

Sebagai contoh, dalam “Pengambilan keputusan algoritmik dan biaya keadilan”, peneliti mengusulkan teknik regularisasi yang menambahkan istilah kesejahteraan sosial ke fungsi loss dari model klasifikasi atau regresi apa pun sehingga sistem dapat belajar aturan keputusan yang adil yang memaksimalkan baik akurasi maupun kesejahteraan. Ustun et al. memperkenalkan metode pasca‑pemrosesan yang mengambil output dari model pra‑latih apa pun dan menemukan keputusan yang memaksimalkan kesejahteraan dengan batasan keadilan yang beragam.

Hasil teknis ini menunjukkan bahwa optimisasi kesejahteraan sosial merupakan cara yang layak dan praktis untuk membangun sistem AI yang adil dan setara. Pengembang dapat menggunakan teknik optimisasi yang kuat dan paket perangkat lunak berbasis fungsi tujuan yang jelas dan dapat dihitung yang menangkap pertimbangan normatif kerangka kerja ini untuk menemukan alokasi yang menyeimbangkan kriteria bersaing.

Namun, mewujudkan potensi penuh optimisasi kesejahteraan sosial dalam praktik juga memerlukan penanganan sejumlah tantangan dan keterbatasan yang berat. Salah satu yang terbesar adalah kesulitan dalam mengelola dan membangun fungsi utilitas individu yang menangkap dampak multidimensi kompleks keputusan AI pada kehidupan manusia. Hal ini memerlukan keterlibatan mendalam dengan pemangku kepentingan yang terdampak dan pakar domain untuk memahami faktor kontekstual yang membentuk preferensi, nilai, dan kesejahteraan orang.

Ada pula pertanyaan teoretis dan filosofis tentang keterbandingan interpersonal utilitas, ketidakpastian, dan dinamika, serta cara mengagregasi utilitas individu menjadi ukuran kesejahteraan sosial kolektif. Fungsi kesejahteraan sosial yang berbeda membuat asumsi yang berbeda tentang hal‑hal ini, dan tidak ada konsensus universal tentang mana yang paling dapat dipertahankan atau tepat dalam konteks tertentu.

Lebih jauh lagi, seperti halnya pendekatan berbasis optimisasi apa pun, ada risiko bahwa tujuan yang dimaksimalkan mungkin tidak sepenuhnya menangkap semua pertimbangan etis yang relevan, atau dapat terdistorsi oleh bias dan titik buta dalam data serta model yang digunakan untuk memperkirakan utilitas. Penting memiliki proses partisipasi pemangku kepentingan, transparansi, dan akuntabilitas yang matang untuk memastikan kriteria kesejahteraan dioptimalkan selaras dengan nilai dan prioritas komunitas yang terdampak.

Meskipun tantangan‑tantangan ini, manfaat optimisasi kesejahteraan sosial bagi keadilan algoritmik terlalu besar untuk diabaikan. Namun demikian, pengembang AI dan pembuat kebijakan dapat melampaui paritas statistik melalui cara yang berprinsip dan fleksibel untuk menyeimbangkan ekuitas dan efisiensi pendekatan ini. Pada akhirnya, hal ini akan menghasilkan konsep keadilan yang lebih holistik dan konsekuensialis berdasarkan kesejahteraan dan kebajikan manusia.

Klik di sini untuk mempelajari bagaimana AI dapat memastikan keaslian. 

Kasus Penggunaan #1: Pemberian Pinjaman yang Adil

Untuk menunjukkan janji dan tantangan optimisasi kesejahteraan sosial dalam praktik, mari kita pertimbangkan domain berisiko tinggi dalam pemberian pinjaman algoritmik. Dalam beberapa tahun terakhir, banyak bank dan perusahaan fintech telah mengadopsi model pembelajaran mesin untuk mengotomatisasi dan mempercepat keputusan kredit. Model‑model ini menggunakan sejumlah besar data pribadi dan keuangan untuk memprediksi kemungkinan peminjam akan gagal bayar sehingga pemberi pinjaman dapat membuat keputusan underwriting yang lebih cepat dan efisien.

Namun, terdapat bukti yang semakin banyak bahwa sistem pemberian pinjaman algoritmik ini memperpetuasi dan memperbesar bias historis serta disparitas dalam akses kredit. Studi menunjukkan bahwa pemohon pinjaman kulit hitam dan Latino lebih mungkin ditolak atau dikenakan suku bunga lebih tinggi dibandingkan peminjam kulit putih yang memiliki kualifikasi serupa, bahkan ketika mengendalikan faktor risiko tradisional seperti pendapatan, skor kredit, dan status pekerjaan.

Sebagai respons terhadap kekhawatiran ini, beberapa pemberi pinjaman dapat beralih ke metode paritas statistik seperti paritas demografis dan odds yang diseimbangkan untuk mengurangi bias dalam model underwriting AI mereka. Ide dasarnya adalah menyamakan tingkat persetujuan pinjaman atau tingkat gagal bayar di antara kelompok yang dilindungi sehingga model memperlakukan semua pelamar secara setara terlepas dari ras atau etnis.

Meskipun pendekatan berbasis paritas ini tampak intuitif, mereka gagal menangkap kompleksitas kelayakan kredit dan dampak diferensial akses pinjaman terhadap kesejahteraan komunitas terpinggirkan. Berbagai penelitian menunjukkan bahwa konsep keadilan sederhana yang berfokus pada penyamaan hasil dapat berbalik merugikan kelompok yang dimaksudkan untuk dilindungi.

Sebagai contoh, sebuah artikel 2018 mencatat bahwa menerapkan batasan paritas demografis pada aturan keputusan yang memaksimalkan utilitas umumnya memerlukan penggunaan variabel sensitif seperti ras baik dalam pelatihan model maupun dalam pengambilan keputusan. Hal ini menyiratkan bahwa upaya memenuhi batasan paritas dengan menggunakan ras hanya selama pelatihan, yang dikenal sebagai ‘proses pembelajaran yang berbeda,’ akan bersifat sub‑optimal.

Lebih jauh lagi, kriteria keadilan berbasis paritas mengabaikan fakta bahwa kerugian akibat ditolak kredit tidak terdistribusi merata di seluruh populasi. Bagi peminjam berpendapatan rendah dan minoritas yang secara historis dikeluarkan dari layanan keuangan mainstream, penolakan pinjaman dapat menimbulkan konsekuensi menghancurkan, menjebak mereka dalam siklus kemiskinan dan utang predator. Bagi pelamar yang lebih kaya dan beruntung, mereka mungkin memiliki sumber modal alternatif dan lebih sedikit terpengaruh oleh keputusan kredit yang merugikan.

Optimisasi kesejahteraan sosial menawarkan pendekatan alternatif yang secara langsung memasukkan taruhan kesejahteraan diferensial ini ke dalam desain algoritma pemberian pinjaman yang adil. Pemberi pinjaman dapat mengembangkan model kredit yang memaksimalkan kesejahteraan keseluruhan sambil memastikan distribusi peluang yang lebih adil dengan mendefinisikan fungsi kesejahteraan sosial yang menangkap biaya dan manfaat relatif akses pinjaman bagi individu dan kelompok yang berbeda.

Sebagai contoh, pertimbangkan fungsi kesejahteraan sosial yang memprioritaskan kesejahteraan pemohon paling tidak beruntung, memberikan bobot lebih pada peningkatan utilitas peminjam berpendapatan rendah dan minoritas. Hal ini dapat diformalkan menggunakan fungsi alpha fairness dengan nilai alpha yang cukup tinggi, menunjukkan preferensi kuat untuk ekuitas dibandingkan efisiensi.

Di bawah tujuan kesejahteraan sosial ini, kebijakan pinjaman optimal kemungkinan akan melibatkan pemberian pinjaman lebih banyak kepada kelompok terpinggirkan meskipun tingkat pembayaran kembali yang diprediksi, secara rata‑rata, sedikit lebih rendah. Hal ini karena keuntungan kesejahteraan dari memberikan pinjaman kepada komunitas yang kurang terlayani (misalnya, memungkinkan mereka membeli rumah, memulai bisnis, atau melanjutkan pendidikan) dapat melebihi peningkatan risiko gagal bayar dari perspektif masyarakat.

Tentu saja, mengimplementasikan sistem pemberian pinjaman yang memaksimalkan kesejahteraan dalam praktik memerlukan mengatasi tantangan data dan pemodelan yang signifikan. Pemberi pinjaman harus mengumpulkan data terperinci tentang karakteristik sosial‑ekonomi dan kebutuhan keuangan pemohon serta dampak jangka panjang akses kredit terhadap kesejahteraan mereka. Mereka juga harus berinteraksi dengan komunitas yang terdampak untuk memastikan kriteria kesejahteraan dioptimalkan selaras dengan nilai dan prioritas mereka.

Selain itu, mungkin terdapat pertimbangan hukum dan regulasi penting terkait penggunaan informasi kelas yang dilindungi (misalnya, ras, gender, usia) dalam membuat keputusan pinjaman, meskipun tujuannya untuk mempromosikan ekuitas. Pembuat kebijakan perlu memberikan panduan yang jelas tentang bagaimana undang‑undang anti‑diskriminasi berlaku dalam konteks optimisasi kesejahteraan sosial dan menciptakan “safe harbors” bagi pemberi pinjaman yang menggunakan teknik ini secara transparan dan dapat dipertanggungjawabkan.

Meskipun tantangannya signifikan, upaya ini layak. Optimisasi kesejahteraan sosial dapat membantu memajukan inklusi keuangan dan menutup kesenjangan kekayaan rasial dengan memungkinkan pemberi pinjaman membuat keputusan kredit yang lebih holistik dan sadar kesejahteraan, mengalihkan aliran modal ke komunitas yang secara tradisional kurang terlayani, dan memberdayakan mereka secara ekonomi. Ini juga dapat menyediakan cara yang lebih berprinsip dan transparan untuk menavigasi pertukaran antara keadilan dan efisiensi dalam pemberian pinjaman yang berlandaskan pada dampak dunia nyata pada kehidupan peminjam.

Menempatkannya dalam Perspektif

Seperti yang ditunjukkan contoh pemberian pinjaman, optimisasi kesejahteraan sosial merupakan frontier keadilan algoritmik yang melampaui paritas statistik dan menuju konsep ekuitas yang lebih holistik dan konsekuensialis berdasarkan kesejahteraan dan kebajikan manusia.

Pendekatan ini dapat membantu pengembang AI dan pembuat kebijakan membuat keputusan yang lebih berprinsip dan dapat dipertanggungjawabkan tentang desain dan penerapan sistem algoritmik di domain berisiko tinggi. Mereka dapat melakukannya dengan mendefinisikan dan memaksimalkan fungsi kesejahteraan sosial yang mencerminkan penilaian moral yang dipertimbangkan tentang distribusi manfaat dan beban.

Namun, mewujudkan potensi penuh optimisasi kesejahteraan sosial dalam praktik akan memerlukan kerja interdisipliner yang luas. Ilmuwan komputer dan sarjana etika AI harus bekerja sama dengan ekonom, filsuf, pakar hukum, dan komunitas yang terdampak untuk mengatasi tantangan normatif dan teknis dalam mendefinisikan serta menghitung fungsi kesejahteraan sosial. Hal ini mencakup pertanyaan sulit tentang pengukuran dan agregasi utilitas individu, ketidakpastian dan dinamika, serta trade‑off yang tepat antara efisiensi dan ekuitas dalam konteks yang berbeda.

Selain itu, pembuat kebijakan dan regulator perlu memberikan panduan lebih banyak serta menciptakan lingkungan di mana AI yang sadar kesejahteraan dapat dikembangkan dan diterapkan. Ini mungkin berarti memperbarui undang‑undang dan regulasi anti‑diskriminasi yang ada untuk menangani tantangan optimisasi kesejahteraan sosial serta menciptakan kerangka tata kelola baru dan mekanisme pengawasan untuk transparansi, akuntabilitas, dan keterlibatan publik dalam desain serta penggunaan sistem‑sistem ini.

Pada akhirnya, pergeseran ke optimisasi kesejahteraan sosial dalam AI harus disertai dengan upaya lebih luas untuk mengatasi ketidaksetaraan struktural yang mendasari serta ketidakseimbangan kekuasaan yang membentuk pengembangan dan dampak teknologi dalam masyarakat.

Intervensi keadilan algoritmik, sekecil apapun desainnya, tidak dapat menggantikan reformasi fundamental yang lebih mendasar untuk mempromosikan keadilan sosial dan ekonomi, seperti investasi dalam pendidikan, perawatan kesehatan, perumahan, dan infrastruktur di komunitas terpinggirkan.

Seperti yang dikatakan Hooker dan rekan‑rekannya dalam makalah CPAIOR 2024 mereka:

“Optimisasi kesejahteraan sosial menyediakan cara baru untuk merancang sistem algoritmik yang adil dan baik. Masih banyak pekerjaan yang harus dilakukan untuk mengembangkan dan mengoperasionalkan pendekatan ini, tetapi kami percaya ini adalah jalan ke depan bagi etika AI. Kita dapat mencapai cara yang lebih holistik dan moral dalam membangun sistem pembelajaran mesin yang melayani seluruh masyarakat dengan merumuskan konsep keadilan kita dalam bahasa ekonomi kesejahteraan dan secara eksplisit menangani konsekuensi distributif teknologi kita.”

Overall, to achieve truly fair AI, we must ensure these approaches are rigorously tested and refined in real-world scenarios, embodying a commitment to justice and societal well‑being.

Klik di sini untuk mempelajari semua tentang berinvestasi dalam kecerdasan buatan.