الذكاء الاصطناعي
إعادة تقييم عدالة الذكاء الاصطناعي من خلال تحسين الرفاهية الاجتماعية
مع انتشار أنظمة الذكاء الاصطناعي وتزايد قوتها، أصبحت مسألة كيفية جعلها عادلة ومنصفة أكبر تحدٍ. من الإقراض والتوظيف إلى الرعاية الصحية والعدالة الجنائية، بدأت خوارزميات الذكاء الاصطناعي الآن تتحكم في حياة وسبل عيش الأفراد والمجتمعات. غالبًا ما تعمل هذه الخوارزميات بطرق غير مرئية، غير خاضعة للمساءلة، وحتى متحيزة أحيانًا ضد الفئات التاريخية المتضررة.
استجابةً لهذه المخاوف، تجمع مجتمع من الباحثين والممارسين وصانعي السياسات لتطوير أنظمة ذكاء اصطناعي “عادلة” تعامِل الجميع بالمساواة ولا تُعيد أو تُضاعف عدم المساواة المجتمعية. النهج السائد لتصميم وتنفيذ العدالة في الذكاء الاصطناعي كان استخدام “مقاييس التساوي الإحصائي”، التي تهدف إلى موازنة بعض مؤشرات الأداء مثل معدلات الاختيار أو معدلات الخطأ عبر الفئات المحمية.
مع ذلك، رغم أن مفاهيم العدالة القائمة على التساوي قد دُرست واعتمدت على نطاق واسع في مجتمع الذكاء الاصطناعي، فقد واجهت أيضًا انتقادات متزايدة من قبل العلماء الذين يرون أنها معيبة من الناحية المفاهيمية، ومحدودة عمليًا، وربما مضادة للنتيجة المرجوة. يجادلون بأن مجرد موازنة النتائج الإحصائية بين المجموعات لا يكفي لتحقيق عدالة جوهرية لأنها تتجاهل الأثر الفعلي لقرارات الذكاء الاصطناعي على رفاهية الأفراد والمجتمعات.
في ورقة جديدة ضمن مؤتمرات CPAIOR 2024، اقترح فريق من الباحثين من جامعة كارنيجي ميلون ومعهد ستيفنز للتكنولوجيا نهجًا بديلاً للعدالة في الذكاء الاصطناعي يعتمد على تحسين الرفاهية الاجتماعية. بقيادة جون هوكر، أستاذ بحوث العمليات في جامعة كارنيجي ميلون، يستخدم المؤلفون دالة الرفاهية الاجتماعية المعروفة “العدالة ألفا” لتفصيل القيود والنقاط العمياء لمقاييس التساوي الإحصائي الشائعة مثل التساوي الديموغرافي، وتساوي الاحتمالات، وتساوي معدل التنبؤ.
تظهر نتائجهم أن هذه المقاييس القائمة على التساوي غالبًا لا تتماشى مع مبادئ العدالة التوزيعية مثل إعطاء الأولوية للأكثر ضعفًا أو توزيع عادل للمنافع والأعباء. في كثير من الحالات، يكون حل العدالة ألفا بعيدًا عن حل التساوي، لذا قد تؤدي هذه المقاييس إلى أنظمة ذكاء اصطناعي غير مثالية من منظور الكفاءة والإنصاف.
هذا يحمل تداعيات كبيرة على مجال أخلاقيات الذكاء الاصطناعي والجهود المبذولة لبناء أنظمة تعلم آلي تحترم القيم الإنسانية والعدالة الاجتماعية. وهذا يعني أننا بحاجة إلى نهج أكثر شمولًا وتفصيلًا للعدالة الخوارزمية يتجاوز المقاييس الإحصائية ويتعامل مع الموازين الأخلاقية للذكاء الاصطناعي في المجالات ذات المخاطر العالية: تحسين الرفاهية الاجتماعية.
فهم تحسين الرفاهية الاجتماعية
في جوهره، يُعد تحسين الرفاهية الاجتماعية نموذجًا مختلفًا تمامًا للتفكير في وتطبيق العدالة في الذكاء الاصطناعي. بدلاً من التركيز الضيق على موازنة بعض المقاييس بين المجموعات، يأخذ خطوة إلى الوراء ويُنظر في الأثر المجتمعي الأوسع لقرارات الذكاء الاصطناعي على رفاهية الإنسان ورفاهيته.
الفكرة هي تصميم أنظمة ذكاء اصطناعي تهدف صراحة إلى تعظيم دالة الرفاهية الاجتماعية التي تجمع المنافع (أي الفوائد والتكاليف) التي يختبرها جميع الأفراد المتأثرين في مقياس واحد للخير الاجتماعي. وفقًا لهذا النهج، يمكن لممارسي الذكاء الاصطناعي بناء خوارزميات توازن بين هذه الأهداف المتنافسة من خلال تحديد دالة رفاهية اجتماعية تعكس أحكامًا أخلاقية مدروسة حول الأهمية النسبية للكفاءة والإنصاف.
يرجع أصل تحسين الرفاهية الاجتماعية إلى اقتصاد الرفاهية، الذي يمتلك تاريخًا طويلًا في التعامل مع العدالة التوزيعية واتخاذ القرارات الجماعية. اقترح الاقتصاديون والفلاسفة دوال رفاهية اجتماعية مختلفة تعكس مبادئ أخلاقية وحكم قيمية متنوعة، مثل النفعية (تعظيم مجموع المنفعة)، الأولوية للضعفاء (إعطاء وزن أكبر لمكاسب المنفعة للأكثر ضعفًا)، والمساواة (تقليل عدم المساواة).
في السنوات الأخيرة، بدأ عدد متزايد من باحثي الذكاء الاصطناعي في استكشاف تحسين الرفاهية الاجتماعية كطريقة لدمج العدالة في أنظمة التعلم الآلي. هذا العمل يبني على أوراق بعنوان “صنع القرار الخوارزمي وتكلفة العدالة” للباحثين هيداري وآخرين وكوربيت-ديفيز وجول، التي قدمت لأول مرة فكرة استخدام دوال الرفاهية الاجتماعية لالتقاط الأثر التفاضلي لقرارات الذكاء الاصطناعي على الأفراد والمجموعات المختلفة.
إحدى الطرق للقيام بذلك هي باستخدام العدالة ألفا، فئة بارامترية من دوال الرفاهية الاجتماعية التي دُرست في الاقتصاد والاختيار الاجتماعي لمدة 70 عامًا. تتيح لك العدالة ألفا التوسط بين الأهداف النفعية والمساواتية باستخدام معامل واحد ألفا، الذي يتحكم في درجة النفور من عدم المساواة.
عندما يكون ألفا 0، تُختزل دالة الرفاهية الاجتماعية إلى النفعية الكلاسيكية، التي تعظم مجموع المنفعة دون اعتبار للتوزيع. كلما ارتفع قيمة ألفا، يُعطى وزن أكبر للأكثر ضعفًا، وتصبح التخصيصات أكثر عدلاً. في الحد الأقصى، عندما يذهب ألفا إلى ما لا نهائي، تتقارب العدالة ألفا إلى مبدأ راؤل “ماكسيمين” الذي يهدف إلى تعظيم منفعة الفرد الأكثر ضعفًا.
في ورقتهم في مؤتمر CPAIOR 2024، يستخدم الباحثون العدالة ألفا كمنظور لفحص ثلاث مقاييس شائعة للتساوي الإحصائي:
- التساوي الديموغرافي
- تساوي الاحتمالات
- تساوي معدل التنبؤ
يقومون بمحاكاة مجموعة متنوعة من السيناريوهات حيث يتعين على نظام ذكاء اصطناعي تخصيص مورد محدود (مثل القروض، مقابلات العمل، فرص التعليم) بين مجموعة من الأفراد الذين لديهم معدلات تأهيل مختلفة ودوال منفعة.
النتائج مفاجئة. في كثير من الحالات، يختلف تخصيص العدالة ألفا بشكل كبير عن الحلول المقترحة بواسطة مقاييس التساوي.
التساوي الديموغرافي، الذي يتطلب معدلات اختيار متساوية عبر المجموعات، غالبًا ما يفشل في مراعاة حقيقة أن الفئات المتضررة تحصل على منفعة هامشية أكبر عند اختيارها. وبالتالي، يؤدي إلى تخصيصات لا تكون فعّالة ولا عادلة.
تساوي الاحتمالات، الذي يقارن معدلات الاختيار فقط بين الأفراد “المؤهلين”، يحقق تحسنًا طفيفًا لكنه لا يزال يفشل في السيناريوهات التي تكون فيها أخطاء السلبية الكاذبة (أي رفض الأفراد المؤهلين) أكثر تكلفة من الإيجابيات الكاذبة.
تساوي معدل التنبؤ، الذي يساوي نسبة الأفراد المختارين الذين هم مؤهلون، له فائدة محدودة ولا يُطبق إلا عندما يكون عدد الأفراد المختارين أكبر من عدد المرشحين المؤهلين فعليًا.
تُظهر هذه النتائج الحدود الأساسية والنقاط العمياء لمقاييس التساوي الإحصائي كطريقة أساسية لتقييم وفرض العدالة الخوارزمية.
من خلال تجاهل الرهانات الفعلية لرفاهية قرارات الذكاء الاصطناعي والأثر التفاضلي على المجموعات المختلفة، يمكن لهذه المقاييس أن تؤدي إلى أنظمة تُعيد أو حتى تُفاقم عدم المساواة القائمة. كما أنها تفتقر إلى مبرر معياري واتساق، حيث غالبًا ما تُنتج معايير التساوي المختلفة توصيات متضاربة في الممارسة.
على النقيض من ذلك، يوفر تحسين الرفاهية الاجتماعية طريقة مبدئية وموحدة للتنقل بين الموازين بين العدالة والكفاءة في أنظمة الذكاء الاصطناعي. يهدف إلى توضيح الأحكام القيمية والافتراضات الأخلاقية في اختيار دالة الرفاهية الاجتماعية للسماح للمطورين وصانعي السياسات بإجراء محادثات أكثر شفافية ومساءلة حول الأثر التوزيعي لاتخاذ القرار الخوارزمي.
علاوة على ذلك، أظهرت الأعمال الحديثة أن تحسين الرفاهية الاجتماعية يمكن دمجه بسهولة في سير عمل التعلم الآلي القياسي، إما كخطوة ما بعد المعالجة أو مباشرةً في هدف التدريب نفسه.
على سبيل المثال، في “صنع القرار الخوارزمي وتكلفة العدالة”، يقترح الباحثون تقنية تنظيمية تضيف عنصر الرفاهية الاجتماعية إلى دالة الخسارة لأي نموذج تصنيف أو انحدار بحيث يمكن للنظام تعلم قواعد قرار عادلة تعظم كلًا من الدقة والرفاهية. قدم أستون وآخرون طريقة ما بعد المعالجة التي تأخذ مخرجات أي نموذج مُدرب مسبقًا وتجد القرارات التي تعظم الرفاهية مع مراعاة قيود عدالة مختلفة.
تُظهر هذه النتائج التقنية أن تحسين الرفاهية الاجتماعية هو طريقة قابلة للتنفيذ وعملية لبناء أنظمة ذكاء اصطناعي عادلة ومتساوية. يمكن للمطورين استخدام هذه التقنيات القوية للتصميم وحزم البرمجيات القائمة على دالة هدف واضحة وقابلة للحساب تلتقط الاعتبارات المعيارية لهذا الإطار للعثور على تخصيصات توازن بين المعايير المتنافسة.
لكن تحقيق الإمكانات الكاملة لتحسين الرفاهية الاجتماعية في الممارسة يتطلب أيضًا معالجة عدد من التحديات والقيود الصعبة. أحد أكبر هذه التحديات هو صعوبة استخراج وبناء دوال منفعة فردية تلتقط الأثر المعقد والمتعدد الأبعاد لقرارات الذكاء الاصطناعي على حياة البشر. يتطلب ذلك مشاركة عميقة مع أصحاب المصلحة المتأثرين وخبراء المجال لفهم العوامل السياقية التي تشكل تفضيلات الناس وقيمهم ورفاهيتهم.
هناك أيضًا أسئلة نظرية وفلسفية حول قابلية المقارنة بين الأفراد للمنفعة، وعدم اليقين، والديناميكيات، وكذلك كيفية تجميع المنافع الفردية في مقياس رفاهية اجتماعية جماعي. تتخذ دوال الرفاهية الاجتماعية المختلفة افتراضات مختلفة حول هذه الأمور، ولا يوجد إجماع عالمي على أي منها هو الأكثر دفاعًا أو ملاءمة في سياق معين.
علاوة على ذلك، كما هو الحال مع أي نهج قائم على التحسين، هناك خطر أن الأهداف التي يتم تعظيمها قد لا تلتقط جميع الاعتبارات الأخلاقية ذات الصلة بالكامل، أو قد تكون متحيزة بسبب تحيزات ونقاط عمياء في البيانات والنماذج المستخدمة لتقدير المنافع. من الضروري وجود عمليات مدروسة لمشاركة أصحاب المصلحة، والشفافية، والمسائلة لضمان تحسين معايير الرفاهية لتتوافق مع قيم وأولويات المجتمعات المتأثرة.
على الرغم من هذه التحديات، فإن فوائد تحسين الرفاهية الاجتماعية للعدالة الخوارزمية كبيرة جدًا لا يمكن تجاهلها. ومع ذلك، يمكن لمطوري الذكاء الاصطناعي وصانعي السياسات تجاوز التساوي الإحصائي من خلال طريقة مبدئية ومرنة لتحقيق توازن بين الإنصاف والكفاءة في هذا النهج. في النهاية، سيؤدي ذلك إلى مفهوم أكثر شمولية وتبعية للنتائج للعدالة يعتمد على رفاهية الإنسان ورفاهيته.
انقر هنا لتعلم كيف يمكن للذكاء الاصطناعي ضمان الأصالة.
الحالة رقم 1: الإقراض العادل
لإظهار الوعد والتحديات التي يقدمها تحسين الرفاهية الاجتماعية في الممارسة، دعونا نأخذ في الاعتبار المجال عالي المخاطر للإقراض الخوارزمي. في السنوات الأخيرة، اعتمدت العديد من البنوك وشركات التكنولوجيا المالية نماذج التعلم الآلي لأتمتة وتسريع قرارات الائتمان. تستخدم هذه النماذج كميات هائلة من البيانات الشخصية والمالية لتوقع احتمال تعثر المتقدم للحصول على قرض، مما يتيح للمقرضين اتخاذ قرارات تمويلية أسرع وأكثر كفاءة.
ومع ذلك، هناك أدلة متزايدة على أن أنظمة الإقراض الخوارزمية هذه تُعيد وتُضاعف التحيزات التاريخية والفوارق في الوصول إلى الائتمان. أظهرت الدراسات أن المقترضين السود واللاتينيين أكثر عرضة لرفض القروض أو فرض معدلات فائدة أعلى مقارنة بالمقترضين البيض المؤهلين بالمثل، حتى عند التحكم في عوامل المخاطر التقليدية مثل الدخل، وتقييم الائتمان، وحالة التوظيف.
استجابةً لهذه المخاوف، يمكن لبعض المقرضين اللجوء إلى طرق التساوي الإحصائي مثل التساوي الديموغرافي وتساوي الاحتمالات لتخفيف التحيز في نماذج الإقراض الخوارزمية الخاصة بهم. الفكرة هي موازنة معدلات الموافقة على القروض أو معدلات التعثر عبر الفئات المحمية بحيث تعامِل النماذج جميع المتقدمين على قدم المساواة بغض النظر عن العرق أو الإثنية.
في حين قد تبدو هذه الأساليب القائمة على التساوي بديهية، فإنها تفشل في التقاط تعقيد الجدارة الائتمانية والأثر التفاضلي للوصول إلى القروض على رفاهية المجتمعات المهمشة. تشير مجموعة متزايدة من الأبحاث إلى أن يمكن أن تنقلب فعليًا وتضر بالمجموعات نفسها التي يُقصد حمايتها.
على سبيل المثال، مقالة عام 2018 تشير إلى أن فرض قيود التساوي الديموغرافي على قاعدة قرار تعظيم المنفعة يتطلب عمومًا استخدام متغيرات حساسة مثل العرق في كل من تدريب النموذج واتخاذ القرار. وهذا يعني أن محاولات تحقيق قيود التساوي باستخدام العرق فقط أثناء التدريب، والمعروفة باسم “عمليات التعلم المتفاوتة”، ستكون دون المستوى الأمثل.
علاوة على ذلك، تتجاهل معايير العدالة القائمة على التساوي حقيقة أن أضرار رفض الائتمان لا تُوزع بالتساوي عبر السكان. بالنسبة للمقترضين ذوي الدخل المنخفض والأقليات الذين تم استبعادهم تاريخيًا من الخدمات المالية السائدة، يمكن أن يكون رفض القرض له عواقب مدمرة، تُحبسهم في دوائر الفقر والديون الاستغلالية. أما المتقدمين الأكثر ثراءً وامتيازًا، فقد يكون لديهم مصادر بديلة لرأس المال ويكونون أقل تأثرًا بقرار ائتماني سلبي.
يقدم تحسين الرفاهية الاجتماعية نهجًا بديلاً يدمج مباشرة هذه الرهانات الرفاهية التفاضلية في تصميم خوارزميات الإقراض العادل. يمكن للمقرضين تطوير نماذج ائتمان تعظم الرفاهية العامة مع ضمان توزيع أكثر عدلاً للفرص من خلال تعريف دالة رفاهية اجتماعية تلتقط التكاليف والفوائد النسبية للوصول إلى القرض للأفراد والمجموعات المختلفة.
على سبيل المثال، ضع في الاعتبار دالة رفاهية اجتماعية تعطي الأولوية لرفاهية المتقدمين الأقل حظًا، مع إعطاء وزن أكبر لمكاسب المنفعة للمقترضين ذوي الدخل المنخفض والأقليات. يمكن صياغة ذلك باستخدام دالة العدالة ألفا بقيمة ألفا مرتفعة إلى حد ما، مما يدل على تفضيل قوي للإنصاف على الكفاءة.
بموجب هذا الهدف الرفاهي الاجتماعي، من المحتمل أن تتضمن سياسة الإقراض المثلى إقراضًا أكبر للمجموعات المهمشة حتى وإن كانت معدلات السداد المتوقعة لها، في المتوسط، أقل قليلًا. ذلك لأن مكاسب الرفاهية من إقراض هذه المجتمعات غير المخدومة (مثل تمكينهم من شراء منزل، أو بدء عمل تجاري، أو متابعة التعليم) قد تفوق خطر التعثر المتزايد من منظور المجتمع.
بالطبع، سيتطلب تنفيذ نظام إقراض يهدف إلى تعظيم الرفاهية في الواقع التغلب على تحديات كبيرة في البيانات والنمذجة. سيحتاج المقرضون إلى جمع بيانات دقيقة حول الخصائص الاجتماعية والاقتصادية والاحتياجات المالية للمتقدمين للقرض بالإضافة إلى الأثار اللاحقة للوصول إلى الائتمان على رفاهيتهم مع مرور الوقت. كما سيحتاجون إلى التواصل مع المجتمعات المتأثرة لضمان تحسين معايير الرفاهية لتتوافق مع قيمهم وأولوياتهم.
علاوة على ذلك، قد تكون هناك اعتبارات قانونية وتنظيمية مهمة بشأن استخدام معلومات الفئات المحمية (مثل العرق، الجنس، العمر) لاتخاذ قرارات الإقراض، حتى وإن كان الهدف هو تعزيز الإنصاف. سيحتاج صانعو السياسات إلى تقديم إرشادات واضحة حول كيفية تطبيق قوانين مكافحة التمييز في سياق تحسين الرفاهية الاجتماعية وإنشاء ملاذات آمنة للمقرضين الذين يستخدمون هذه التقنيات بطريقة شفافة ومسؤولة.
على الرغم من التحديات، فإن الأمر يستحق العناء. يمكن لتحسين الرفاهية الاجتماعية أن يساعد في تعزيز الشمول المالي وسد الفجوة العرقية في الثروة من خلال تمكين المقرضين من اتخاذ قرارات ائتمانية أكثر شمولية ومراعية للرفاهية، وإعادة توجيه تدفق رأس المال إلى المجتمعات التي تُعاني من نقص الخدمات تقليديًا، وتمكينها اقتصاديًا. كما يمكن أن يوفر طريقة أكثر مبدئية وشفافة للتنقل بين الموازين بين العدالة والكفاءة في الإقراض التي تستند إلى الأثار الواقعية على حياة المقترضين.
وضعه في السياق
كما يظهر مثال الإقراض، يُعد تحسين الرفاهية الاجتماعية جبهة للعدالة الخوارزمية تتجاوز التساوي الإحصائي وتنتقل إلى مفهوم أكثر شمولية وتبعية للنتائج للإنصاف يعتمد على رفاهية الإنسان ورفاهيته.
يمكن لهذا النهج أن يساعد مطوري الذكاء الاصطناعي وصانعي السياسات على اتخاذ قرارات أكثر مبدئية ومسؤولة بشأن تصميم ونشر الأنظمة الخوارزمية في المجالات ذات المخاطر العالية. يمكنهم القيام بذلك من خلال تعريف وتعظيم دالة رفاهية اجتماعية تعكس أحكامًا أخلاقية مدروسة حول توزيع المنافع والأعباء.
مع ذلك، فإن تحقيق الإمكانات الكاملة لتحسين الرفاهية الاجتماعية في الممارسة سيتطلب الكثير من العمل متعدد التخصصات. سيحتاج علماء الحاسوب وعلماء أخلاقيات الذكاء الاصطناعي إلى التعاون مع الاقتصاديين والفلاسفة والخبراء القانونيين والمجتمعات المتأثرة لمعالجة التحديات المعيارية والتقنية في تعريف وحساب دوال الرفاهية الاجتماعية. يشمل ذلك أسئلة صعبة حول قياس المنفعة الفردية وتجميعها، وعدم اليقين والديناميكيات، والميزان المناسب بين الكفاءة والإنصاف في سياقات مختلفة.
كما يحتاج صانعو السياسات والجهات التنظيمية إلى تقديم إرشادات أكثر وإنشاء بيئة يمكن فيها تطوير ونشر الذكاء الاصطناعي المدرك للرفاهية. قد يعني ذلك تحديث القوانين والأنظمة الحالية لمكافحة التمييز لمعالجة تحدي تحسين الرفاهية الاجتماعية وإنشاء أطر حوكمة وآليات إشراف جديدة للشفافية والمسؤولية والمشاركة العامة في تصميم واستخدام هذه الأنظمة.
في النهاية، يجب أن يصاحب التحول إلى تحسين الرفاهية الاجتماعية في الذكاء الاصطناعي جهود أوسع لمعالجة عدم المساواة الهيكلية الأساسية واختلالات القوة التي تشكل تطوير وتأثير التكنولوجيا في المجتمع.
لا يمكن لتدخلات العدالة الخوارزمية، مهما كانت مصممة جيدًا، أن تحل محل الإصلاحات الأساسية لتعزيز العدالة الاجتماعية والاقتصادية، مثل الاستثمار في التعليم والرعاية الصحية والإسكان والبنية التحتية في المجتمعات المهمشة.
كما يقول هوكر وزملاؤه في ورقتهم في مؤتمر CPAIOR 2024:
“تحسين الرفاهية الاجتماعية يوفر طرقًا جديدة لتصميم أنظمة خوارزمية عادلة وجيدة. لا يزال هناك الكثير من العمل الذي يتعين إنجازه لتطوير وتشغيل هذه الأساليب، لكننا نعتقد أنها طريق للمستقبل في أخلاقيات الذكاء الاصطناعي. يمكننا الوصول إلى طريقة أكثر شمولية وجدية أخلاقيًا لبناء أنظمة تعلم آلي تخدم جميع أفراد المجتمع من خلال صياغة مفاهيمنا للعدالة بلغة اقتصاد الرفاهية ومعالجة العواقب التوزيعية لتقنيتنا بشكل صريح.”
بشكل عام، لتحقيق ذكاء اصطناعي عادل حقًا، يجب أن نضمن اختبار هذه الأساليب وصقلها بدقة في سيناريوهات العالم الحقيقي، مع تجسيد الالتزام بالعدالة ورفاهية المجتمع.
انقر هنا لتتعرف على كل ما يتعلق بالاستثمار في الذكاء الاصطناعي.
