Αναθεώρηση της Δικαιοσύνης της Τεχνητής Νοημοσύνης μέσω της Βελτιστοποίησης Κοινωνικής Ευημερίας

Καθώς τα συστήματα AI γίνονται πιο διαδεδομένα και ισχυρά, το ερώτημα του πώς να τα κάνουμε δίκαια και ισότιμα έχει γίνει η μεγαλύτερη πρόκληση. Από τη χορήγηση δανείων και την πρόσληψη έως την υγειονομική περίθαλψη και τη ποινική δικαιοσύνη, οι αλγόριθμοι AI έχουν πλέον αρχίσει να ελέγχουν τις ζωές και τα μέσα διαβίωσης των ατόμων και των κοινοτήτων. Συχνά, αυτοί οι αλγόριθμοι λειτουργούν με τρόπους που είναι αόρατοι, μη λογοδοτούν, και ακόμη και προκατειλημμένοι κατά καιρούς εναντίον ιστορικά μειονεκτούντων ομάδων.

Σε απάντηση σε αυτές τις ανησυχίες, μια κοινότητα ερευνητών, επαγγελματιών και πολιτικών έχει ενωθεί για να αναπτύξει «δίκαια» συστήματα AI που αντιμετωπίζουν όλους ισότιμα και δεν διατηρούν ή ενισχύουν τις κοινωνικές ανισότητες. Η κυρίαρχη προσέγγιση για τη διατύπωση και υλοποίηση της δικαιοσύνης στην AI ήταν η χρήση «μετρικών στατιστικής ισοτιμίας», που στοχεύουν στην εξίσωση ορισμένων δεικτών απόδοσης όπως τα ποσοστά επιλογής ή τα ποσοστά σφάλματος μεταξύ προστατευόμενων ομάδων.

Ωστόσο, ενώ οι έννοιες δικαιοσύνης βασισμένες στην ισοτιμία έχουν μελετηθεί εκτενώς και υιοθετηθεί στην κοινότητα AI, έχουν επίσης αντιμετωπίσει αυξανόμενη κριτική από μελετητές που υποστηρίζουν ότι είναι εννοιολογικά ελαττωματικές, πρακτικά περιορισμένες και ενδεχομένως αντισυμβατικές. Υποστηρίζουν ότι η απλή εξίσωση των στατιστικών αποτελεσμάτων μεταξύ ομάδων δεν είναι αρκετή για την επίτευξη ουσιαστικής δικαιοσύνης, καθώς αγνοεί την πραγματική επίπτωση στην ευημερία των αποφάσεων AI για τα άτομα και τις κοινότητες.

Σε μια νέα εργασία στις πρακτικές του CPAIOR 2024, μια ομάδα ερευνητών από το Carnegie Mellon University και το Stevens Institute of Technology προτείνουν μια εναλλακτική προσέγγιση στην δικαιοσύνη AI βασισμένη στη βελτιστοποίηση κοινωνικής ευημερίας. Καθοδηγούμενοι από τον John Hooker, καθηγητή ερευνητικών λειτουργιών στο Carnegie Mellon University, οι συγγραφείς χρησιμοποιούν τη γνωστή κοινωνική λειτουργία ευημερίας «alpha fairness» για να αναλύσουν τους περιορισμούς και τα τυφλά σημεία των δημοφιλών μετρικών στατιστικής ισοτιμίας όπως η δημογραφική ισοτιμία, η ισορροπία αποτελεσμάτων και η ισοτιμία ποσοστού πρόβλεψης.

Τα αποτελέσματά τους δείχνουν ότι αυτές οι μετρικές ισοτιμίας συχνά δεν ευθυγραμμίζονται με τις αρχές της κατανεμητικής δικαιοσύνης, όπως η προτεραιότητα προς τους πιο μειονεκτούντες ή η δίκαιη κατανομή των ωφελειών και των βαρών. Σε πολλές περιπτώσεις, η λύση alpha-fair απέχει πολύ από τη λύση ισοτιμίας, οπότε αυτές οι μετρικές μπορεί να οδηγήσουν σε συστήματα AI που είναι υποβέλτιστα τόσο από άποψη αποδοτικότητας όσο και ισότητας.

Αυτό έχει μεγάλες επιπτώσεις για το πεδίο της ηθικής AI και τις προσπάθειες να δημιουργηθούν συστήματα μηχανικής μάθησης που σέβονται τις ανθρώπινες αξίες και την κοινωνική δικαιοσύνη. Σημαίνει ότι χρειαζόμαστε μια πιο ολοκληρωμένη και λεπτομερή προσέγγιση στην αλγοριθμική δικαιοσύνη που υπερβαίνει τις στατιστικές μετρικές και αντιμετωπίζει τις ηθικές ανταλλαγές της AI σε τομείς υψηλού κινδύνου: τη βελτιστοποίηση κοινωνικής ευημερίας.

Κατανόηση της Βελτιστοποίησης Κοινωνικής Ευημερίας

Στην ουσία, η βελτιστοποίηση κοινωνικής ευημερίας αποτελεί ένα εντελώς διαφορετικό παράδειγμα σκέψης και υλοποίησης της δικαιοσύνης στην AI. Αντί να εστιάζει στενά στην εξίσωση ορισμένων μετρικών μεταξύ ομάδων, κάνει ένα βήμα πίσω και εξετάζει την ευρύτερη κοινωνική επίπτωση των αποφάσεων AI στην ανθρώπινη ευημερία και ευδαιμονία.

Η ιδέα είναι να σχεδιάσουμε συστήματα AI που στοχεύουν ρητά στη μεγιστοποίηση μιας λειτουργίας κοινωνικής ευημερίας που συγκεντρώνει τις χρησιμότητες (δηλαδή τα οφέλη και τα κόστη) που βιώνουν όλα τα επηρεαζόμενα άτομα σε ένα ενιαίο μέτρο κοινωνικού καλού. Σύμφωνα με αυτήν την προσέγγιση, οι προγραμματιστές AI μπορούν να χτίσουν αλγόριθμους που ισορροπούν αυτούς τους ανταγωνιστικούς στόχους ορίζοντας μια λειτουργία κοινωνικής ευημερίας που αντικατοπτρίζει σκεπτόμενες ηθικές κρίσεις σχετικά με τη σχετική σημασία της αποδοτικότητας και της ισότητας.

Η βελτιστοποίηση κοινωνικής ευημερίας έχει τις ρίζες της στην οικονομία ευημερίας, η οποία έχει μακρά ιστορία στην αντιμετώπιση της κατανεμητικής δικαιοσύνης και της συλλογικής λήψης αποφάσεων. Οι οικονομολόγοι και οι φιλόσοφοι έχουν προτείνει διάφορες λειτουργίες κοινωνικής ευημερίας που αντανακλούν διαφορετικές ηθικές αρχές και αξιακές κρίσεις, όπως ο ωφελιμισμός (μεγιστοποίηση του αθροίσματος της χρησιμότητας), ο προτεραιτισμός (βάρος στις κερδισμένες χρησιμότητες των πιο μειονεκτούντων) και ο ισοτιμισμός (ελαχιστοποίηση της ανισότητας).

Τα τελευταία χρόνια, ένας αυξανόμενος αριθμός ερευνητών AI έχει αρχίσει να εξερευνά τη βελτιστοποίηση κοινωνικής ευημερίας ως τρόπο ενσωμάτωσης της δικαιοσύνης στα συστήματα μηχανικής μάθησης. Αυτή η εργασία βασίζεται σε άρθρα με τίτλο “Algorithmic decision making and the cost of fairness” από τους Heidari κ.ά. και Corbett-Davies και Goel, που εισήγαγαν για πρώτη φορά την ιδέα της χρήσης λειτουργιών κοινωνικής ευημερίας για τη σύλληψη της διαφορικής επίπτωσης των αποφάσεων AI σε διαφορετικά άτομα και ομάδες.

Ένας τρόπος για να γίνει αυτό είναι με την alpha fairness, μια παραμετρική κλάση λειτουργιών κοινωνικής ευημερίας που έχει μελετηθεί στην οικονομία και την κοινωνική επιλογή για 70 χρόνια. Η alpha fairness σας επιτρέπει να παρεμβάλετε μεταξύ ωφελιμιστικών και ισοτιμιστικών στόχων με μια μόνο παράμετρο alpha, η οποία ελέγχει το βαθμό αποστροφής προς την ανισότητα.

Όταν η alpha είναι 0, η λειτουργία κοινωνικής ευημερίας μειώνεται στον κλασικό ωφελιμισμό, μεγιστοποιώντας το άθροισμα της χρησιμότητας χωρίς να λαμβάνει υπόψη τη διανομή. Καθώς η alpha αυξάνεται, δίνεται μεγαλύτερο βάρος στους πιο μειονεκτούντες, και η κατανομή γίνεται πιο δίκαιη. Στο όριο, καθώς η alpha τείνει στο άπειρο, η alpha fairness συγκλίνει στην αρχή Rawlsian «maximin» της μεγιστοποίησης της χρησιμότητας του πιο μειονεκτούντος ατόμου.

Στην εργασία τους για το CPAIOR 2024, οι ερευνητές χρησιμοποιούν την alpha fairness ως φακό για να εξετάσουν τρεις δημοφιλείς μετρικές στατιστικής ισοτιμίας:

• Δημογραφική ισοτιμία
• Ισορροπία αποτελεσμάτων
• Ισοτιμία ποσοστού πρόβλεψης

Προσομοιώνουν διάφορα σενάρια όπου ένα σύστημα AI πρέπει να κατανείμει έναν περιορισμένο πόρο (π.χ. δάνεια, συνεντεύξεις εργασίας, εκπαιδευτικές ευκαιρίες) μεταξύ ενός πληθυσμού ατόμων με διαφορετικά ποσοστά προσόντων και λειτουργίες χρησιμότητας.

Τα αποτελέσματα είναι εκπληκτικά. Σε πολλές περιπτώσεις, η κατανομή alpha-fair διαφέρει σημαντικά από τις λύσεις που προτείνουν οι μετρικές ισοτιμίας.

Η δημογραφική ισοτιμία, η οποία απαιτεί ίσους ρυθμούς επιλογής μεταξύ ομάδων, συχνά αποτυγχάνει να λογαριάσει το γεγονός ότι οι μειονεκτούντες ομάδες λαμβάνουν μεγαλύτερη οριακή χρησιμότητα από την επιλογή. Συνεπώς, οδηγεί σε κατανομές που δεν είναι ούτε αποδοτικές ούτε δίκαιες.

Η ισορροπία αποτελεσμάτων, η οποία συγκρίνει τους ρυθμούς επιλογής μόνο μεταξύ «προσόντων» ατόμων, κάνει ελαφρώς καλύτερα αλλά εξακολουθεί να αποτυγχάνει σε σενάρια όπου τα σφάλματα ψευδούς αρνητικού (δηλαδή τα προσόντα άτομα που απορρίπτονται) είναι πιο δαπανηρά από τα ψευδώς θετικά.

Η ισοτιμία ποσοστού πρόβλεψης, η οποία εξισώνει το κλάσμα των επιλεγμένων ατόμων που είναι προσόντα, είναι περιορισμένη και εφαρμόσιμη μόνο όταν ο αριθμός των επιλεγμένων ατόμων είναι μεγαλύτερος από τον αριθμό των πραγματικά προσόντων υποψηφίων.

Αυτά τα αποτελέσματα δείχνουν τους θεμελιώδεις περιορισμούς και τα τυφλά σημεία των μετρικών στατιστικής ισοτιμίας ως κύρια μέθοδο αξιολόγησης και επιβολής αλγοριθμικής δικαιοσύνης.

Αγνοώντας τις πραγματικές επιπτώσεις στην ευημερία των αποφάσεων AI και τη διαφορική επίπτωση σε διαφορετικές ομάδες, αυτές οι μετρικές μπορούν να οδηγήσουν σε συστήματα που διατηρούν ή ακόμη και εντείνουν τις υπάρχουσες ανισότητες. Επίσης, λείπουν από αυτές η κανονιστική δικαιολόγηση και η συνέπεια, καθώς διαφορετικά κριτήρια ισοτιμίας συχνά οδηγούν σε συγκρουόμενες συστάσεις στην πράξη.

Αντίθετα, η βελτιστοποίηση κοινωνικής ευημερίας προσφέρει μια αρχή και ενοποιημένο τρόπο για να πλοηγηθεί κανείς στις ανταλλαγές μεταξύ δικαιοσύνης και αποδοτικότητας στα συστήματα AI. Στοχεύει στο να κάνει ρητές τις αξιακές κρίσεις και τις ηθικές υποθέσεις στην επιλογή της λειτουργίας κοινωνικής ευημερίας, ώστε οι προγραμματιστές και οι πολιτικοί να έχουν πιο διαφανείς και λογοδοτικούς διαλόγους για τις κατανεμητικές επιπτώσεις της αλγοριθμικής λήψης αποφάσεων.

Επιπλέον, πρόσφατη εργασία έχει δείξει ότι η βελτιστοποίηση κοινωνικής ευημερίας μπορεί να ενσωματωθεί εύκολα στη τυπική ροή εργασίας μηχανικής μάθησης, είτε ως βήμα μετά την επεξεργασία είτε άμεσα στον στόχο εκπαίδευσης.

Για παράδειγμα, στην «Algorithmic decision making and the cost of fairness», οι ερευνητές προτείνουν μια τεχνική κανονικοποίησης που προσθέτει έναν όρο κοινωνικής ευημερίας στη συνάρτηση απώλειας οποιουδήποτε μοντέλου ταξινόμησης ή παλινδρόμησης, ώστε το σύστημα να μπορεί να μάθει δίκαιους κανόνες λήψης αποφάσεων που μεγιστοποιούν τόσο την ακρίβεια όσο και την ευημερία. Οι Ustun κ.ά. εισήγαγαν μια μέθοδο μετά-επεξεργασίας που λαμβάνει την έξοδο οποιουδήποτε προεκπαιδευμένου μοντέλου και βρίσκει τις αποφάσεις που μεγιστοποιούν την ευημερία υπό διάφορους περιορισμούς δικαιοσύνης.

Αυτά τα τεχνικά αποτελέσματα δείχνουν ότι η βελτιστοποίηση κοινωνικής ευημερίας είναι ένας εφικτός και πρακτικός τρόπος για την κατασκευή δίκαιων και ισότιμων συστημάτων AI. Οι προγραμματιστές μπορούν να χρησιμοποιήσουν αυτές τις ισχυρές τεχνικές βελτιστοποίησης και τα λογισμικά πακέτα που βασίζονται σε μια σαφή και υπολογίσιμη συνάρτηση στόχου, η οποία συλλαμβάνει τις κανονιστικές παραμέτρους αυτού του πλαισίου, για να βρουν κατανομές που ισορροπούν ανταγωνιστικά κριτήρια.

Ωστόσο, η πραγματοποίηση του πλήρους δυναμικού της βελτιστοποίησης κοινωνικής ευημερίας στην πράξη απαιτεί επίσης την αντιμετώπιση μιας σειράς σκληρών προκλήσεων και περιορισμών. Ένα από τα μεγαλύτερα είναι η δυσκολία εξαγωγής και κατασκευής ατομικών λειτουργιών χρησιμότητας που συλλαμβάνουν την πολύπλοκη, πολυδιάστατη επίπτωση των αποφάσεων AI στην ανθρώπινη ζωή. Αυτό απαιτεί βαθιά εμπλοκή με τα ενδιαφερόμενα μέρη και τους ειδικούς του τομέα για να κατανοηθούν οι παραγοντικές συνθήκες που διαμορφώνουν τις προτιμήσεις, τις αξίες και την ευημερία των ανθρώπων.

Υπάρχουν επίσης θεωρητικές και φιλοσοφικές ερωτήσεις σχετικά με τη διαπροσωπική συγκρισιμότητα της χρησιμότητας, την αβεβαιότητα και τις δυναμικές, καθώς και το πώς να συγκεντρώσουμε τις ατομικές χρησιμότητες σε ένα συλλογικό μέτρο κοινωνικής ευημερίας. Διαφορετικές λειτουργίες κοινωνικής ευημερίας κάνουν διαφορετικές υποθέσεις για αυτά, και δεν υπάρχει καθολική συναίνεση για το ποια είναι η πιο υπερασπιτική ή κατάλληλη σε ένα δεδομένο πλαίσιο.

Επιπλέον, όπως συμβαίνει με κάθε προσέγγιση που βασίζεται στη βελτιστοποίηση, υπάρχει ο κίνδυνος οι στόχοι που μεγιστοποιούνται να μην συλλαμβάνουν πλήρως όλες τις σχετικές ηθικές παραμέτρους, ή να παραμορφώνονται από προκαταλήψεις και τυφλά σημεία στα δεδομένα και τα μοντέλα που χρησιμοποιούνται για την εκτίμηση των χρησικοτήτων. Είναι ουσιώδες να υπάρχουν καλά σχεδιασμένες διαδικασίες συμμετοχής των ενδιαφερόμενων μερών, διαφάνειας και λογοδοσίας, ώστε τα κριτήρια ευημερίας να βελτιστοποιηθούν ώστε να ευθυγραμμίζονται με τις αξίες και τις προτεραιότητες των κοινοτήτων που επηρεάζονται.

Παρά τις προκλήσεις, τα οφέλη της βελτιστοποίησης κοινωνικής ευημερίας για την αλγοριθμική δικαιοσύνη είναι πολύ μεγάλα για να αγνοηθούν. Ωστόσο, οι προγραμματιστές AI και οι πολιτικοί μπορούν να προχωρήσουν πέρα από τη στατιστική ισοτιμία μέσω μιας αρχής και ευέλικτης μεθόδου που εξισορροπεί την ισότητα και την αποδοτικότητα. Τελικά, αυτό θα οδηγήσει σε μια πιο ολιστική και συνεπαγώμενη έννοια δικαιοσύνης βασισμένη στην ανθρώπινη ευημερία και ευδαιμονία.

Κάντε κλικ εδώ για να μάθετε πώς η AI μπορεί να εξασφαλίσει την αυθεντικότητα. 

Η #1 Περίπτωση Χρήσης: Δίκαιη Χρηματοδότηση

Για να δείξουμε τις δυνατότητες και τις προκλήσεις της βελτιστοποίησης κοινωνικής ευημερίας στην πράξη, ας εξετάσουμε τον τομέα υψηλού κινδύνου της αλγοριθμικής χορήγησης δανείων. Τα τελευταία χρόνια, πολλές τράπεζες και εταιρείες fintech έχουν υιοθετήσει μοντέλα μηχανικής μάθησης για την αυτοματοποίηση και επιτάχυνση των αποφάσεων πιστωτικού κινδύνου. Αυτά τα μοντέλα χρησιμοποιούν τεράστιες ποσότητες προσωπικών και οικονομικών δεδομένων για να προβλέψουν την πιθανότητα ένας αιτών δανείου να αθετήσει, ώστε οι δανειστές να λαμβάνουν ταχύτερες και πιο αποδοτικές αποφάσεις underwriting.

Ωστόσο, υπάρχουν αυξανόμενα στοιχεία ότι αυτά τα αλγοριθμικά συστήματα χορήγησης δανείων διατηρούν και ενισχύουν ιστορικές προκαταλήψεις και ανισότητες στην πρόσβαση σε πιστώσεις. Μελέτες έχουν δείξει ότι οι μαύροι και Λατινοαμερικανοί δανειολήπτες είναι πιο πιθανό να απορριφθούν ή να χρεώνονται υψηλότερα επιτόκια σε σύγκριση με λευκούς δανειολήπτες με παρόμοια προσόντα, ακόμη και όταν ελέγχονται οι παραδοσιακοί παράγοντες κινδύνου όπως το εισόδημα, η πιστωτική βαθμολογία και η κατάσταση απασχόλησης.

Σε απάντηση σε αυτές τις ανησυχίες, ορισμένοι δανειστές μπορούν να στραφούν σε μεθόδους στατιστικής ισοτιμίας όπως η δημογραφική ισοτιμία και η ισορροπία αποτελεσμάτων για τη μείωση της προκατάληψης στα μοντέλα underwriting AI. Η ιδέα είναι να εξισώνονται οι ρυθμοί έγκρισης δανείων ή οι ρυθμοί αθέτησης μεταξύ προστατευόμενων ομάδων, ώστε τα μοντέλα να αντιμετωπίζουν όλους τους αιτούντες ισότιμα, ανεξαρτήτως φυλής ή εθνότητας.

Ενώ αυτές οι προσεγγίσεις βασισμένες στην ισοτιμία μπορεί να φαίνονται διαισθητικές, αποτυγχάνουν να αποτυπώσουν την πολυπλοκότητα της πιστωτικής αξιοπιστίας και τη διαφορική επίπτωση της πρόσβασης σε δάνεια στην ευημερία των περιθωριοποιημένων κοινοτήτων. Ένα αυξανόμενο σώμα έρευνας υποστηρίζει ότι οι απλοϊκές έννοιες δικαιοσύνης που βασίζονται στην εξίσωση των αποτελεσμάτων μπορούν στην πραγματικότητα να αντιστραφούν και να βλάψουν τις ίδιες ομάδες που προορίζονται να προστατεύσουν.

Για παράδειγμα, ένα άρθρο του 2018 σημειώνει ότι η επιβολή περιορισμών δημογραφικής ισοτιμίας σε έναν κανόνα λήψης απόφασης που μεγιστοποιεί την χρησιμότητα γενικά απαιτεί τη χρήση ευαίσθητων μεταβλητών όπως η φυλή τόσο στην εκπαίδευση του μοντέλου όσο και στη λήψη αποφάσεων. Αυτό υποδηλώνει ότι οι προσπάθειες ικανοποίησης των περιορισμών ισοτιμίας χρησιμοποιώντας τη φυλή μόνο κατά την εκπαίδευση, γνωστές ως «διαφορετικές διαδικασίες μάθησης», θα είναι υποβέλτιστες.

Επιπλέον, τα κριτήρια δικαιοσύνης βασισμένα στην ισοτιμία αγνοούν το γεγονός ότι οι βλάβες από την άρνηση πιστωτικού είναι δεν κατανέμονται ομοιόμορφα στον πληθυσμό. Για δανειολήπτες χαμηλού εισοδήματος και μειονότητας που ιστορικά έχουν αποκλειστεί από τις κύριες χρηματοοικονομικές υπηρεσίες, η άρνηση δανείου μπορεί να έχει καταστροφικές συνέπειες, παγιδεύοντάς τους σε κύκλους φτώχειας και δανειστικών παγίδων. Για πιο ευκατάστατους και προνομιούχους αιτούντες, μπορεί να υπάρχουν εναλλακτικές πηγές κεφαλαίου και να επηρεαστούν λιγότερο από μια αρνητική πιστωτική απόφαση.

Η βελτιστοποίηση κοινωνικής ευημερίας προσφέρει μια εναλλακτική προσέγγιση που ενσωματώνει άμεσα αυτές τις διαφορικές ευημεριακές επιπτώσεις στο σχεδιασμό αλγορίθμων δίκαιης χορήγησης δανείων. Οι δανειστές μπορούν να αναπτύξουν μοντέλα πιστωτικής αξιολόγησης που μεγιστοποιούν τη συνολική ευημερία, εξασφαλίζοντας ταυτόχρονα μια πιο δίκαιη κατανομή ευκαιριών, ορίζοντας μια λειτουργία κοινωνικής ευημερίας που συλλαμβάνει τα σχετικά κόστη και οφέλη της πρόσβασης σε δάνεια για διαφορετικά άτομα και ομάδες.

Για παράδειγμα, σκεφτείτε μια λειτουργία κοινωνικής ευημερίας που δίνει προτεραιότητα στην ευημερία των λιγότερο προνομιούχων αιτούντων, δίνοντας μεγαλύτερο βάρος στα κέρδη χρησιμότητας των δανειοληπτών χαμηλού εισοδήματος και μειονότητας. Αυτό θα μπορούσε να διατυπωθεί χρησιμοποιώντας μια συνάρτηση alpha fairness με μέτρια‑υψηλή τιμή της alpha, υποδεικνύοντας ισχυρή προτίμηση στην ισότητα έναντι της αποδοτικότητας.

Με αυτόν τον κοινωνικό στόχο, η βέλτιστη πολιτική χορήγησης δανείων πιθανότατα θα περιλάμβανε μεγαλύτερη χορήγηση σε περιθωριοποιημένες ομάδες, ακόμη και αν οι προβλεπόμενοι ρυθμοί αποπληρωμής τους, κατά μέσο όρο, είναι ελαφρώς χαμηλότεροι. Αυτό συμβαίνει επειδή τα κέρδη ευημερίας από τη χορήγηση δανείων σε αυτές τις υποεξυπηρετούμενες κοινότητες (π.χ. η δυνατότητα αγοράς σπιτιού, έναρξη επιχείρησης ή συνέχιση σπουδών) μπορεί να υπερτερούν του αυξημένου κινδύνου αθέτησης από την κοινωνική προοπτική.

Φυσικά, η υλοποίηση ενός τέτοιου συστήματος χορήγησης δανείων που μεγιστοποιεί την ευημερία στην πράξη θα απαιτούσε την υπέρβαση σημαντικών προκλήσεων δεδομένων και μοντελοποίησης. Οι δανειστές θα χρειαστούν λεπτομερή δεδομένα για τα κοινωνικοοικονομικά χαρακτηριστικά και τις χρηματοοικονομικές ανάγκες των αιτούντων, καθώς και τις μεταγενέστερες επιπτώσεις της πρόσβασης σε πιστώσεις στην ευημερία τους με την πάροδο του χρόνου. Θα πρέπει επίσης να συνεργαστούν με τις επηρεαζόμενες κοινότητες για να διασφαλίσουν ότι τα κριτήρια ευημερίας βελτιστοποιούνται ώστε να ευθυγραμμίζονται με τις αξίες και τις προτεραιότητές τους.

Επιπλέον, μπορεί να υπάρξουν σημαντικές νομικές και κανονιστικές προεκτάσεις σχετικά με τη χρήση πληροφοριών προστατευόμενων κατηγοριών (π.χ. φυλή, φύλο, ηλικία) για τη λήψη αποφάσεων δανεισμού, ακόμη και αν ο στόχος είναι η προώθηση της ισότητας. Οι νομοθέτες θα πρέπει να παρέχουν σαφείς οδηγίες για το πώς οι νόμοι κατά του διακρίσεων εφαρμόζονται στο πλαίσιο της βελτιστοποίησης κοινωνικής ευημερίας και να δημιουργήσουν ασφαλή καταφύγια για τους δανειστές που χρησιμοποιούν αυτές τις τεχνικές με διαφανή και λογοδοτικό τρόπο.

Παρά τις προκλήσεις, αξίζει τον κόπο. Η βελτιστοποίηση κοινωνικής ευημερίας μπορεί να βοηθήσει στην προώθηση της χρηματοοικονομικής ένταξης και στη γεφύρωση του φυλετικού χάσματος πλούτου, επιτρέποντας στους δανειστές να λαμβάνουν πιο ολιστικές και ευημεριακά συνειδητές αποφάσεις πιστωτικού κινδύνου, να κατευθύνουν τη ροή του κεφαλαίου προς παραδοσιακά υποεξυπηρετούμενες κοινότητες και να τις ενδυναμώνουν οικονομικά. Μπορεί επίσης να προσφέρει έναν πιο αρχαίο και διαφανή τρόπο για την πλοήγηση των ανταλλαγών μεταξύ δικαιοσύνης και αποδοτικότητας στη χορήγηση δανείων, βασισμένο στις πραγματικές επιπτώσεις στη ζωή των δανειοληπτών.

Θέτοντας το σε Προοπτική

Όπως δείχνει το παράδειγμα της χορήγησης δανείων, η βελτιστοποίηση κοινωνικής ευημερίας αποτελεί ένα όριο για την αλγοριθμική δικαιοσύνη που υπερβαίνει τη στατιστική ισοτιμία και κατευθύνεται προς μια πιο ολιστική και συνεπαγώμενη έννοια ισότητας βασισμένη στην ανθρώπινη ευημερία και ευδαιμονία.

Αυτή η προσέγγιση μπορεί να βοηθήσει τους προγραμματιστές AI και τους νομοθέτες να λαμβάνουν πιο αρχαίες και λογοδοτικές αποφάσεις σχετικά με το σχεδιασμό και την υλοποίηση αλγοριθμικών συστημάτων σε τομείς υψηλού κινδύνου. Μπορούν να το κάνουν ορίζοντας και μεγιστοποιώντας μια λειτουργία κοινωνικής ευημερίας που αντικατοπτρίζει σκεπτόμενες ηθικές κρίσεις σχετικά με τη διανομή των ωφελειών και των βαρών.

Ωστόσο, η πραγματοποίηση του πλήρους δυναμικού της βελτιστοποίησης κοινωνικής ευημερίας στην πράξη θα απαιτήσει εκτενή διεπιστημονική συνεργασία. Οι επιστήμονες υπολογιστών και οι μελετητές ηθικής AI θα πρέπει να συνεργαστούν με οικονομολόγους, φιλοσόφους, νομικούς εμπειρογνώμονες και τις επηρεαζόμενες κοινότητες για να αντιμετωπίσουν τις κανονιστικές και τεχνικές προκλήσεις του ορισμού και του υπολογισμού των λειτουργιών κοινωνικής ευημερίας. Αυτό περιλαμβάνει δύσκολες ερωτήσεις γύρω από τη μέτρηση και τη συγκέντρωση της ατομικής χρησιμότητας, την αβεβαιότητα και τις δυναμικές, καθώς και το σωστό ανταλλάγμα μεταξύ αποδοτικότητας και ισότητας σε διαφορετικά πλαίσια.

Επιπλέον, οι νομοθέτες και οι ρυθμιστές πρέπει να παρέχουν περισσότερη καθοδήγηση και να δημιουργήσουν ένα περιβάλλον στο οποίο η AI με προσανατολισμό στην ευημερία μπορεί να αναπτυχθεί και να εφαρμοστεί. Αυτό μπορεί να σημαίνει την ενημέρωση των υφιστάμενων νόμων κατά του διακρίσεων και των κανονισμών για την αντιμετώπιση της πρόκλησης της βελτιστοποίησης κοινωνικής ευημερίας, καθώς και τη δημιουργία νέων πλαισίων διακυβέρνησης και μηχανισμών εποπτείας για τη διαφάνεια, τη λογοδοσία και τη δημόσια συμμετοχή στο σχεδιασμό και τη χρήση αυτών των συστημάτων.

Τελικά, η μετάβαση στην βελτιστοποίηση κοινωνικής ευημερίας στην AI πρέπει να συνοδεύεται από ευρύτερες προσπάθειες αντιμετώπισης των υποκείμενων δομικών ανισοτήτων και ανισορροπιών εξουσίας που διαμορφώνουν την ανάπτυξη και την επίδραση της τεχνολογίας στην κοινωνία.

Οι παρεμβάσεις αλγοριθμικής δικαιοσύνης, όσο και αν είναι καλά σχεδιασμένες, δεν μπορούν να υποκαταστήσουν πιο θεμελιώδεις μεταρρυθμίσεις για την προώθηση κοινωνικής και οικονομικής δικαιοσύνης, όπως η επένδυση στην εκπαίδευση, την υγειονομική περίθαλψη, τη στέγαση και τις υποδομές σε περιθωριοποιημένες κοινότητες.

Όπως λένε ο Hooker και οι συνάδελφοί του στην εργασία τους για το CPAIOR 2024:

«Η βελτιστοποίηση κοινωνικής ευημερίας παρέχει νέους τρόπους σχεδιασμού δίκαιων και καλών αλγοριθμικών συστημάτων. Ακόμη υπάρχει πολύ δουλειά που πρέπει να γίνει για την ανάπτυξη και λειτουργική υλοποίηση αυτών των προσεγγίσεων, αλλά πιστεύουμε ότι αποτελούν το μέλλον της ηθικής AI. Μπορούμε να φτάσουμε σε μια πιο ολιστική και ηθικά σοβαρή προσέγγιση στην κατασκευή συστημάτων μηχανικής μάθησης που εξυπηρετούν όλη την κοινωνία, διατυπώνοντας τις έννοιες δικαιοσύνης στη γλώσσα της οικονομίας ευημερίας και αντιμετωπίζοντας ρητά τις κατανεμητικές συνέπειες της τεχνολογίας μας.»

Συνολικά, για να επιτύχουμε πραγματικά δίκαιη AI, πρέπει να διασφαλίσουμε ότι αυτές οι προσεγγίσεις δοκιμάζονται αυστηρά και βελτιώνονται σε πραγματικά σενάρια, ενσωματώνοντας μια δέσμευση για δικαιοσύνη και κοινωνική ευημερία.

Κάντε κλικ εδώ για να μάθετε τα πάντα για την επένδυση στην τεχνητή νοημοσύνη.