인공지능
사회 복지 최적화를 통한 인공지능 공정성 재평가
AI 시스템이 점점 더 널리 퍼지고 강력해짐에 따라, 이를 공정하고 정의롭게 만드는 방법에 대한 질문이 가장 큰 과제가 되었습니다. 대출 및 채용에서부터 의료와 형사 사법에 이르기까지, AI 알고리즘은 이제 개인과 공동체의 삶과 생계에 영향을 미치기 시작했습니다. 종종 이러한 알고리즘은 보이지 않고, 책임이 없으며, 때때로 편향되기도 합니다 역사적으로 불리한 그룹에 대해.
이러한 우려에 대응하여, 연구자, 실무자, 정책 입안자 커뮤니티가 모여 모두를 동등하게 대우하고 사회적 불평등을 지속하거나 확대하지 않는 “공정한” AI 시스템을 개발하고 있습니다. AI에서 공정성을 형식화하고 구현하는 주된 접근 방식은 “통계적 동등성 지표”를 사용하는 것으로, 이는 보호된 그룹 간에 선택 비율이나 오류 비율과 같은 특정 성과 지표를 균등하게 맞추는 것을 목표로 합니다.
하지만, 동등성 기반의 공정성 개념은 AI 커뮤니티에서 널리 연구되고 채택된 반면, 개념적으로 결함이 있고 실제 적용이 제한적이며 역효과를 낼 수 있다는 비판도 증가하고 있습니다. 학자들은 단순히 통계적 결과를 그룹 간에 동일하게 맞추는 것만으로는 실제로 AI 결정이 개인과 공동체에 미치는 복지 영향을 무시하기 때문에 실질적인 공정성을 달성하기에 충분하지 않다고 주장합니다.
CPAIOR 2024 논문 에 발표된 새로운 연구에서, 카네기 멜론 대학교와 스티븐스 기술 연구소의 연구진은 사회 복지 최적화를 기반으로 한 AI 공정성 접근법을 제안합니다. 카네기 멜론 대학교 운영 연구 교수인 John Hooker가 이끄는 이 팀은 잘 알려진 사회 복지 함수 “알파 공정성(alpha fairness)”을 사용해 인구 통계 동등성, 균등화된 오즈, 예측 비율 동등성 같은 인기 있는 통계적 동등성 지표의 한계와 맹점을 분석합니다.
그들의 결과는 이러한 동등성 지표가 종종 최악의 상황에 처한 사람들을 우선시하거나 혜택과 부담의 공정한 분배와 같은 분배 정의 원칙과 일치하지 않는다는 것을 보여줍니다. 많은 경우 알파 공정성 해법은 동등성 해법과 크게 달라, 이러한 지표가 효율성과 형평성 모두에서 최적이 아닌 AI 시스템을 초래할 수 있음을 시사합니다.
이는 AI 윤리 분야와 인간 가치와 사회 정의를 존중하는 머신러닝 시스템 구축 노력에 큰 함의를 가집니다. 즉, 통계적 지표를 넘어선 보다 포괄적이고 미묘한 알고리즘 공정성 접근법, 즉 사회 복지 최적화가 필요함을 의미합니다.
Understanding Social Welfare Optimization
핵심적으로, 사회 복지 최적화는 AI에서 공정성을 사고하고 구현하는 완전히 다른 패러다임입니다. 특정 지표를 그룹 간에 균등하게 맞추는 데에만 국한하지 않고, AI 결정이 인간 복지와 웰빙에 미치는 광범위한 사회적 영향을 고려합니다.
아이디어는 모든 영향을 받는 개인이 경험하는 효용(즉, 혜택과 비용)을 하나의 사회적 선량 측정치로 집계하는 사회 복지 함수를 명시적으로 최대화하도록 AI 시스템을 설계하는 것입니다. 이 접근법에 따르면, AI 실무자는 효율성과 형평성의 상대적 중요성에 대한 도덕적 판단을 반영하는 사회 복지 함수를 지정함으로써 이러한 상충 목표를 균형 있게 조정하는 알고리즘을 구축할 수 있습니다.
사회 복지 최적화는 복지 경제학에 뿌리를 두고 있으며, 이는 분배 정의와 집단 의사결정을 다루는 오랜 역사를 가지고 있습니다. 경제학자와 철학자는 효용주의(효용의 합을 최대화), 우선주의(가장 불리한 사람들의 효용 증가에 더 큰 가중치를 부여), 평등주의(불평등 최소화)와 같은 다양한 윤리 원칙과 가치 판단을 반영하는 여러 사회 복지 함수를 제안해 왔습니다.
최근 몇 년간, 점점 더 많은 AI 연구자들이 사회 복지 최적화를 탐구하여 머신러닝 시스템에 공정성을 내재화하려 하고 있습니다. 이 연구는 Heidari 등과 Corbett‑Davies 및 Goel이 발표한 “Algorithmic decision making and the cost of fairness” 논문을 기반으로, AI 결정이 개인 및 그룹에 미치는 차별적 영향을 포착하기 위해 사회 복지 함수를 사용하는 아이디어를 처음 제시했습니다.
이를 구현하는 한 방법은 알파 공정성(alpha fairness)이라는 파라메트릭 사회 복지 함수 클래스를 활용하는 것입니다. 알파 공정성은 70년 넘게 경제학과 사회 선택 이론에서 연구되어 왔으며, 단일 파라미터 알파를 통해 효용 불평등에 대한 회피 정도를 조절함으로써 효용주의와 평등주의 목표 사이를 보간할 수 있게 합니다.
알파가 0이면, 사회 복지 함수는 고전적 효용주의로 축소되어 효용의 합을 최대화하지만 분배는 고려하지 않습니다. 알파가 증가함에 따라 최악의 상황에 처한 사람들에게 더 큰 가중치가 부여되고 할당은 보다 공평해집니다. 알파가 무한대로 갈 경우, 알파 공정성은 최악의 개인 효용을 최대화하는 Rawlsian “maximin” 원칙에 수렴합니다.
그들의 CPAIOR 2024 논문에서 연구진은 알파 공정성을 렌즈로 삼아 세 가지 인기 있는 통계적 동등성 지표를 검토했습니다:
- Demographic parity
- Equalized odds
- Predictive rate parity
그들은 AI 시스템이 제한된 자원(예: 대출, 면접, 교육 기회)을 다양한 자격률과 효용 함수를 가진 개인 집단에 할당해야 하는 다양한 시나리오를 시뮬레이션했습니다.
결과는 놀라웠습니다. 많은 경우 알파 공정성 할당은 동등성 지표가 제시하는 해법과 크게 달랐습니다.
인구 통계 동등성(Demographic parity)은 그룹 간에 동일한 선택 비율을 요구하지만, 불리한 그룹이 선택될 때 더 큰 한계 효용을 얻는 사실을 고려하지 못합니다. 따라서 효율적이거나 공평하지 않은 할당을 초래합니다.
균등화된 오즈(Equalized odds)는 “자격이 있는” 개인들 사이에서만 선택 비율을 비교하므로 약간은 개선되지만, 거짓 음성 오류(즉, 자격이 있는 개인이 거부되는 경우)가 거짓 양성보다 더 큰 비용을 초래하는 시나리오에서는 여전히 실패합니다.
예측 비율 동등성(Predictive rate parity)은 선택된 개인 중 자격이 있는 비율을 동일하게 맞추려 하지만, 선택된 인원의 수가 실제 자격이 있는 후보자 수보다 많을 때만 적용 가능하고 그 활용도는 제한적입니다.
이러한 결과는 통계적 동등성 지표가 알고리즘 공정성을 평가하고 강제하는 주요 방법으로서 근본적인 한계와 맹점을 보여줍니다.
그들은 AI 결정의 실제 복지 스테이크와 그룹 간 차별적 영향을 무시함으로써 이러한 지표가 기존 불평등을 영속하거나 심화시킬 수 있는 시스템을 초래한다는 점을 강조합니다. 또한, 서로 다른 동등성 기준이 실제 적용에서 상충되는 권고를 내놓는 경우가 많아 규범적 정당성과 일관성이 부족합니다.
반면, 사회 복지 최적화는 AI 시스템에서 공정성과 효율성 사이의 트레이드오프를 탐색하는 원칙적이고 통합된 방법을 제공합니다. 이는 사회 복지 함수를 선택함에 있어 가치 판단과 윤리적 가정을 명시적으로 드러내어 개발자와 정책 입안자가 알고리즘 의사결정의 분배적 영향을 보다 투명하고 책임 있게 논의할 수 있게 합니다.
또한, 최근 연구는 사회 복지 최적화가 표준 머신러닝 워크플로우에 쉽게 통합될 수 있음을 보여주었습니다. 이는 사후 처리 단계이든 훈련 목표에 직접 포함되든 가능합니다.
예를 들어, 연구자들은 “Algorithmic decision making and the cost of fairness” 논문에서 사회 복지 항을 손실 함수에 추가하는 정규화 기법을 제안했습니다. 이를 통해 시스템은 정확도와 복지를 동시에 최대화하는 공정한 의사결정 규칙을 학습할 수 있습니다. Ustun 등은 사전 훈련된 모델의 출력을 받아 다양한 공정성 제약 하에 복지‑최대 결정을 찾는 사후 처리 방법을 도입했습니다.
이러한 기술적 결과는 사회 복지 최적화가 공정하고 형평성 있는 AI 시스템을 구축하는 실현 가능하고 실용적인 방법임을 보여줍니다. 개발자는 명확하고 계산 가능한 목표 함수를 기반으로 하는 강력한 최적화 기법과 소프트웨어 패키지를 활용해 상충 기준을 균형 있게 맞추는 할당을 찾을 수 있습니다.
하지만, 사회 복지 최적화를 실제로 구현하려면 여러 어려운 과제와 제한 사항을 해결해야 합니다. 가장 큰 과제 중 하나는 AI 결정이 인간 삶에 미치는 복합적이고 다차원적인 영향을 포착하는 개인 효용 함수를 도출하고 구성하는 어려움입니다. 이는 영향을 받는 이해관계자와 도메인 전문가와의 깊은 협업을 통해 사람들의 선호, 가치, 웰빙을 형성하는 맥락적 요인을 이해해야 함을 의미합니다.
또한 효용의 개인 간 비교 가능성, 불확실성, 동적 변화 등에 대한 이론적·철학적 질문이 존재하며, 개인 효용을 집합적 사회 복지 측정치로 집계하는 방법도 논쟁거리입니다. 서로 다른 사회 복지 함수는 이러한 가정에 차이가 있으며, 특정 상황에서 어느 것이 가장 방어력 있고 적절한지에 대한 보편적 합의는 없습니다.
게다가 모든 최적화 기반 접근법과 마찬가지로, 최대화하려는 목표가 모든 관련 윤리적 고려를 완전히 포착하지 못하거나, 데이터와 모델에 내재된 편향·맹점에 의해 왜곡될 위험이 있습니다. 따라서 이해관계자 참여, 투명성, 책임성을 갖춘 프로세스를 구축해 복지 기준이 영향을 받는 공동체의 가치와 우선순위에 맞게 최적화되도록 하는 것이 필수적입니다.
이러한 도전에도 불구하고, 알고리즘 공정성을 위한 사회 복지 최적화의 이점은 무시할 수 없습니다. AI 개발자와 정책 입안자는 통계적 동등성을 넘어 효율성과 형평성을 균형 있게 맞추는 원칙적이고 유연한 방법을 통해 더 전체론적이고 결과주의적인 공정성 개념을 구현할 수 있습니다. 궁극적으로 이는 인간 복지와 웰빙에 기반한 보다 포괄적이고 실질적인 공정성 개념으로 이어질 것입니다.
AI가 진위성을 보장하는 방법을 알아보려면 여기를 클릭하십시오.
The #1 Use Case: Fair Lending
사회 복지 최적화의 약속과 과제를 실제로 보여주기 위해, 고위험 분야인 알고리즘 대출을 예시로 살펴보겠습니다. 최근 몇 년간 많은 은행과 핀테크 기업이 머신러닝 모델을 도입해 신용 결정을 자동화하고 가속화하고 있습니다. 이러한 모델은 방대한 개인·재무 데이터를 활용해 대출 신청자의 채무 불이행 가능성을 예측함으로써 대출 기관이 보다 빠르고 효율적인 인수 결정을 내릴 수 있게 합니다.
하지만, 이러한 알고리즘 대출 시스템이 역사적 편향과 신용 접근성 격차를 지속·증폭시키고 있다는 증거가 늘어나고 있습니다. 연구에 따르면 흑인 및 라틴계 차용자는 동일한 자격을 갖춘 백인 차용자보다 대출이 거부되거나 더 높은 이자율을 부과받을 가능성이 높으며, 이는 소득, 신용 점수, 고용 상태와 같은 전통적 위험 요인을 통제한 경우에도 나타납니다.
이러한 우려에 대응해 일부 대출 기관은 통계적 동등성 방법(예: 인구 통계 동등성, 균등화된 오즈)으로 AI 인수 모델의 편향을 완화하려 시도합니다. 목표는 인종·민족에 관계없이 모든 신청자를 동등하게 대우하도록 대출 승인 비율이나 채무 불이행 비율을 그룹 간에 맞추는 것입니다.
이러한 동등성 기반 접근법은 직관적으로 보일 수 있지만, 신용도와 대출 접근이 소외된 공동체 복지에 미치는 복합적 영향을 포착하지 못합니다. 결과를 동일하게 맞추는 단순한 개념은 실제로 오히려 역효과를 내어 보호하려는 그룹에 해를 끼칠 수 있다는 연구가 늘어나고 있습니다.
예를 들어, 2018년 기사에서는 효용을 최대화하는 의사결정 규칙에 인구 통계 동등성 제약을 적용하려면 일반적으로 모델 훈련과 의사결정 모두에서 인종과 같은 민감 변수를 사용해야 한다고 지적합니다. 이는 훈련 단계에서만 인종을 사용하고 ‘다른 학습 과정(disparate learning processes)’이라 부르는 방법이 최적이 아님을 의미합니다.
또한, 동등성 기반 공정성 기준은 신용 거절의 피해가 인구 전체에 고르게 퍼지지 않는다는 사실을 무시합니다. 역사적으로 주류 금융 서비스에서 배제된 저소득·소수민족 차용자에게 대출 거절은 파산과 고리 대출의 악순환을 초래할 수 있는 파괴적인 결과를 낳습니다. 반면, 보다 부유하고 특권을 가진 신청자는 대체 자본원을 보유하고 있어 부정적인 신용 결정의 영향을 덜 받을 수 있습니다.
사회 복지 최적화는 이러한 차별적 복지 스테이크를 직접 반영하는 공정 대출 알고리즘 설계에 대안을 제공합니다. 대출 기관은 전체 복지를 최대화하면서 기회의 보다 공평한 분배를 보장하는 사회 복지 함수를 정의함으로써 신용 모델을 개발할 수 있습니다.
예를 들어, 가장 불리한 신청자의 복지를 우선시하고 저소득·소수민족 차용자의 효용 증가에 더 큰 가중치를 부여하는 사회 복지 함수를 고려해 보십시오. 이는 알파 공정성 함수를 중간에서 높은 알파 값으로 설정해 효율성보다 형평성을 강하게 선호한다는 의미로 공식화될 수 있습니다.
이러한 사회 복지 목표 하에 최적의 대출 정책은 평균적으로 회수율이 다소 낮더라도 소외된 그룹에 더 많은 대출을 제공하는 방향으로 설계될 가능성이 높습니다. 이는 소외된 커뮤니티에 대출을 제공함으로써 얻는 복지 이득(예: 주택 구입, 사업 시작, 교육 기회 제공)이 사회 전체 관점에서 증가된 채무 불이행 위험보다 더 큰 가치를 창출한다는 판단에 기반합니다.
물론, 이러한 복지‑최대 대출 시스템을 실제로 구현하려면 데이터와 모델링 측면에서 상당한 도전 과제를 극복해야 합니다. 대출 기관은 차용자의 사회경제적 특성·재정적 필요에 대한 세분화된 데이터를 수집하고, 신용 접근이 장기적으로 복지에 미치는 영향을 추적해야 합니다. 또한, 복지 기준이 해당 커뮤니티의 가치와 우선순위에 부합하도록 영향을 받는 사람들과 지속적인 대화를 진행해야 합니다.
더불어, 보호계층 정보(예: 인종, 성별, 연령)를 활용해 대출 결정을 내리는 데는 법적·규제적 고려사항도 존재합니다. 정책 입안자는 차별 금지법이 사회 복지 최적화 맥락에서 어떻게 적용되는지 명확한 지침을 제공하고, 투명하고 책임 있는 방식으로 이러한 기법을 사용하는 대출 기관을 위한 안전지대를 마련해야 합니다.
이러한 도전에도 불구하고, 사회 복지 최적화는 금융 포용성을 촉진하고 인종 부의 격차를 해소하는 데 큰 도움이 될 수 있습니다. 이는 대출 기관이 보다 전체론적이고 복지‑인식적인 신용 결정을 내리게 하여 전통적으로 소외된 커뮤니티에 자본 흐름을 재배치하고 경제적 역량을 강화합니다. 또한, 대출 분야에서 공정성과 효율성 사이의 트레이드오프를 실제 차입자 삶에 미치는 영향을 기반으로 투명하고 원칙적인 방식으로 탐색할 수 있게 합니다.
Putting it in Perspective
대출 사례가 보여주듯, 사회 복지 최적화는 통계적 동등성을 넘어 인간 복지와 웰빙에 기반한 보다 전체론적이고 결과주의적인 형평성 개념을 제시하는 알고리즘 공정성의 최전선입니다.
이 접근법은 AI 개발자와 정책 입안자가 고위험 분야에서 알고리즘 시스템의 설계·배포에 대해 보다 원칙적이고 책임 있는 결정을 내릴 수 있도록 돕습니다. 이는 혜택과 부담의 분배에 대한 신중한 도덕적 판단을 반영한 사회 복지 함수를 정의하고 최대화함으로써 가능합니다.
하지만, 사회 복지 최적화의 전체 잠재력을 실현하려면 다학제적 협력이 필수적입니다. 컴퓨터 과학자와 AI 윤리 학자는 경제학자, 철학자, 법률 전문가, 그리고 영향을 받는 공동체와 협력해 사회 복지 함수를 정의하고 계산하는 데 필요한 규범적·기술적 과제를 해결해야 합니다. 여기에는 개인 효용 측정·집계, 불확실성·동적 변화, 그리고 다양한 상황에서 효율성과 형평성 사이의 적절한 트레이드오프에 관한 어려운 질문이 포함됩니다.
또한, 정책 입안자와 규제 기관은 보다 명확한 지침을 제공하고 복지‑인식 AI가 개발·배포될 수 있는 환경을 조성해야 합니다. 이는 기존 차별 금지 법과 규제를 사회 복지 최적화 과제를 다루도록 업데이트하고, 이러한 시스템의 설계·사용에 있어 투명성, 책임성, 공공 참여를 보장하는 새로운 거버넌스 프레임워크와 감독 메커니즘을 구축하는 것을 의미합니다.
궁극적으로 AI에서 사회 복지 최적화로의 전환은 기술 개발과 사회·경제적 정의를 형성하는 근본적인 구조적 불평등과 권력 불균형을 해결하려는 광범위한 노력과 함께 이루어져야 합니다.
알고리즘 공정성 개입이 아무리 잘 설계되더라도, 교육, 의료, 주거, 인프라 등에 대한 투자와 같은 보다 근본적인 사회·경제 정의 개혁을 대체할 수는 없습니다.
Hooker와 그의 동료들이 CPAIOR 2024 논문에서 말했듯이:
“사회 복지 최적화는 공정하고 좋은 알고리즘 시스템을 설계하는 새로운 방법을 제공합니다. 이러한 접근법을 개발·운용하기 위해 해야 할 일이 많이 남아 있지만, 우리는 이것이 AI 윤리의 앞으로 나아갈 길이라고 생각합니다. 복지 경제학의 언어로 공정성 개념을 재구성하고 기술의 분배적 결과를 명시적으로 다룸으로써, 모든 사회를 위해 머신러닝 시스템을 구축하는 보다 전체론적이고 도덕적으로 진지한 방식을 구현할 수 있습니다.”
Overall, to achieve truly fair AI, we must ensure these approaches are rigorously tested and refined in real-world scenarios, embodying a commitment to justice and societal well-being.
