Τεχνητή νοημοσύνη

Γιατί η εξηγήσιμη ΤΝ θα μπορούσε να αποτελέσει επιχειρηματικό πλεονέκτημα

Daniel Martin
Προσθέστε το Securities.io στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι κανόνες ευθύνης θα μπορούσαν να επιβραβεύουν τους προγραμματιστές των οποίων οι…
Δείτε περισσότερα
  • Οι κανόνες ευθύνης θα μπορούσαν να επιβραβεύουν τους προγραμματιστές των οποίων οι πράκτορες καθιστούν τις επιβλαβείς αστοχίες ευκολότερα διερευνήσιμες.
  • Τα επαληθεύσιμα αρχεία των ενεργειών ενός πράκτορα μπορεί να έχουν μεγαλύτερη σημασία για τους αγοραστές από ό,τι οι πειστικές εξηγήσεις.
  • Τα εργαλεία διακυβέρνησης θα μπορούσαν να μετατρέψουν ικανούς πράκτορες σε συστήματα που οι επιχειρήσεις είναι πρόθυμες να αναπτύξουν.

Ευθύνη για την πρακτορική ΤΝ: γιατί η επεξηγησιμότητα θα μπορούσε να αποδώσει

Ένας βοηθός ΤΝ που προτείνει λάθος προμηθευτή δημιουργεί ένα πρόβλημα που κάποιος μπορεί να εντοπίσει. Ένας πράκτορας ΤΝ που επιλέγει τον προμηθευτή, υπογράφει μια παραγγελία και ξεκινά την πληρωμή μπορεί να μετατρέψει αυτό το λάθος σε οικονομική ζημία προτού παρέμβει κανείς.

Η μετάβαση από την απάντηση σε ερωτήσεις στην ανάληψη δράσης αλλάζει τα οικονομικά δεδομένα της τεχνητής νοημοσύνης. Οι επιχειρήσεις πρέπει να γνωρίζουν τι μπορούν να κάνουν οι πράκτορες, αλλά και πώς μπορούν να διερευνηθούν οι αποφάσεις τους όταν κάτι πάει στραβά.

Μια νέα μελέτη, «Ευθύνη για ανεξέλεγκτες συμπεριφορές της πρακτορικής ΤΝ», που δημοσιεύτηκε στο Telecommunications Policy, εξετάζει πώς η νομική ευθύνη θα μπορούσε να ενθαρρύνει τους προγραμματιστές να κάνουν τα αυτόνομα συστήματα πιο επεξηγήσιμα.1 Η βασική της θέση έχει εμπορική σημασία: με ένα κατάλληλα σχεδιασμένο πλαίσιο ευθύνης, οι καλύτερες εξηγήσεις θα μπορούσαν να περιορίσουν την έκθεση των προγραμματιστών σε υποχρεώσεις αποζημίωσης.

Η ευρύτερη ευκαιρία δεν περιορίζεται στις δικαστικές διαμάχες. Τα στοιχεία για τον τρόπο λειτουργίας ενός πράκτορα θα μπορούσαν να βοηθήσουν τις επιχειρήσεις να εγκρίνουν την εφαρμογή του, να διερευνούν αστοχίες και να διαπραγματεύονται με τους προμηθευτές τον καταμερισμό της ευθύνης.

Γιατί οι πράκτορες ΤΝ δημιουργούν διαφορετικό πρόβλημα ευθύνης

Ο όρος πρακτορική ΤΝ αναφέρεται σε συστήματα που επιδιώκουν στόχους μέσω διαδοχικών ενεργειών, συχνά χρησιμοποιώντας εργαλεία λογισμικού με περιορισμένη ανθρώπινη επίβλεψη. Ένας πράκτορας μπορεί να αναζητήσει προϊόντα για αγορά, να συγκρίνει προσφορές, να ενημερώσει εσωτερικά αρχεία και να υποβάλει παραγγελία.

Οι ερευνητές εστιάζουν σε απρόβλεπτες επιβλαβείς συμπεριφορές, τις οποίες περιγράφουν ως «εγγενείς αδυναμίες της ΤΝ». Στο πλαίσιο που προτείνουν, πρόκειται για αστοχίες που εξακολουθούν να είναι πιθανές παρά την επιμελή ανάπτυξη και τις διαθέσιμες δοκιμές.

Ένα παράδειγμα είναι η εκμετάλλευση των προδιαγραφών: ένα σύστημα πετυχαίνει έναν μετρήσιμο στόχο, υπονομεύοντας όμως τον πραγματικό σκοπό. Φανταστείτε έναν πράκτορα προμηθειών που ανταμείβεται επειδή μειώνει τις τιμές των τιμολογίων, αλλά επιλέγει αναξιόπιστους προμηθευτές και αυξάνει τις διακοπές της παραγωγής. Αυτό το υποθετικό παράδειγμα δείχνει πώς η επιτυχία ως προς έναν στενά ορισμένο στόχο μπορεί να καταλήξει σε επιχειρηματική αποτυχία.

Οι συγγραφείς εξετάζουν πώς θα πρέπει να λειτουργεί η ευθύνη όταν οι προγραμματιστές δεν μπορούν να εξαλείψουν κάθε τέτοιο κίνδυνο και τα δικαστήρια δεν μπορούν εύκολα να διακρίνουν μια αναπόφευκτη αστοχία από την ανεπαρκή λήψη προληπτικών μέτρων.

Πώς θα μπορούσε η επεξηγησιμότητα να αλλάξει την ευθύνη για την ΤΝ

Η μελέτη χρησιμοποιεί τη θεωρία παιγνίων, μια μαθηματική προσέγγιση για τη μελέτη αποφάσεων στις οποίες αλληλεπιδρούν τα κίνητρα διαφορετικών μερών. Εξετάζει πώς οι κανόνες ευθύνης επηρεάζουν την προθυμία των προγραμματιστών να επενδύσουν στην επεξηγησιμότητα.

Ο προτεινόμενος μηχανισμός επιβραβεύει τους προγραμματιστές που πληρούν τα κριτήρια επεξηγησιμότητας και αποδεικνύουν ικανοποιητικά ότι ένα επιβλαβές περιστατικό οφειλόταν σε εγγενή περιορισμό. Οι προγραμματιστές που παρέχουν ανεπαρκείς εξηγήσεις αντιμετωπίζουν μεγαλύτερη έκθεση σε υποχρεώσεις ευθύνης.

Αυτό δεν σημαίνει ότι η αγορά λογισμικού παρακολούθησης θα παρείχε αυτομάτως νομική προστασία. Το πλαίσιο προϋποθέτει αξιόπιστα πρότυπα, χρήσιμα αποδεικτικά στοιχεία και αποδοχή στο οικείο νομικό σύστημα.

Σημασία έχει επίσης η διάκριση ανάμεσα στο μαθηματικό αποτέλεσμα και την πρόταση πολιτικής. Η μηδενική αποζημίωση από τους προγραμματιστές εμφανίζεται ως θεωρητικό σημείο αναφοράς. Στην ανάλυση πολιτικής της, η μελέτη προτείνει μια κλιμακωτή προσέγγιση που μειώνει τις αποζημιώσεις χωρίς να τις καταργεί, διατηρώντας ένα μέρος της αποζημίωσης για τα θύματα.

Βασικά στοιχεία του προτεινόμενου πλαισίου της μελέτης
Στοιχείο Τι προτείνει ή θεωρεί δεδομένο η μελέτη
Επένδυση στην επεξηγησιμότητα Τα κίνητρα που συνδέονται με την ευθύνη ενθαρρύνουν τους προγραμματιστές να βελτιώσουν την επεξηγησιμότητα.
Ικανοποιητική εξήγηση Τα στοιχεία ότι η βλάβη προέκυψε από εγγενείς περιορισμούς της ΤΝ στηρίζουν τη μείωση των αποζημιώσεων.
Ανεπαρκής εξήγηση Η μη παροχή ικανοποιητικών εξηγήσεων συνεπάγεται μεγαλύτερη έκθεση σε υποχρεώσεις ευθύνης.
Πρακτική προσέγγιση πολιτικής Μια κλιμακωτή προσέγγιση μειώνει τις αποζημιώσεις, διατηρώντας παράλληλα ένα μέρος της αποζημίωσης για τα θύματα.
Περιορισμός των αποδεικτικών στοιχείων Η παραδοχή ότι η επεξηγησιμότητα συνδέεται με τη μείωση της βλάβης χρειάζεται περαιτέρω εμπειρική επιβεβαίωση.

Από τις εξηγήσεις της ΤΝ στα επαληθεύσιμα στοιχεία

Μια χρήσιμη εμπορική ερμηνεία της έρευνας είναι ότι οι επιχειρήσεις χρειάζονται στοιχεία που μπορούν να εξετάσουν, όχι απλώς πειστικές περιγραφές της συμπεριφοράς ενός πράκτορα.

Στην περίπτωση του υποθετικού πράκτορα προμηθειών, οι ερευνητές θα ήθελαν αρχεία που να δείχνουν ποιους προμηθευτές εξέτασε, ποιες πληροφορίες έλαβε, ποιες αρμοδιότητες είχε και αν δόθηκαν οι απαιτούμενες εγκρίσεις. Αυτά τα αρχεία δεν θα αποκάλυπταν κατ’ ανάγκην κάθε εσωτερικό υπολογισμό, αλλά θα μπορούσαν να διευκολύνουν την ανασύνθεση των γεγονότων ενός περιστατικού.

Αυτή η διάκριση διαχωρίζει την επεξηγησιμότητα από την παρατηρησιμότητα. Η επεξηγησιμότητα αφορά την κατανόηση της συμπεριφοράς, ενώ η παρατηρησιμότητα αφορά τη συλλογή πληροφοριών για τον τρόπο λειτουργίας ενός συστήματος. Οι δύο έννοιες μπορούν να αλληλοϋποστηρίζονται, αλλά καμία τους δεν αποδεικνύει αυτομάτως ότι ένα αποτέλεσμα ήταν αναπόφευκτο.

Η ανάλυση του Gartner για τον Μάρτιο 2026 σχετικά με επένδυση σε εξηγήσιμη AI και παρατηρησιμότητα προβλέπει ότι η επένδυση σε παρατηρησιμότητα θα φτάσει το 50% των εγκαταστάσεων γενετικής AI έως το 2028, αυξάνοντας από το 15% κατά τη στιγμή της πρόβλεψης. Πρόκειται για πρόβλεψη, αλλά δείχνει την αυξανόμενη εμπορική προσοχή γύρω από την κατανόηση των εγκατεστημένων συστημάτων.

Για τους αγοραστές, προκύπτουν τρία πρακτικά ερωτήματα:

  • Μπορεί ο προμηθευτής να ανασυνθέσει τις ενέργειες ενός πράκτορα που έχουν σημαντικές συνέπειες;
  • Μπορεί η επιχείρηση να περιορίσει τα δικαιώματα πρόσβασης και να απαιτεί έγκριση για ευαίσθητες αποφάσεις;
  • Μπορούν οι ερευνητές να εξαγάγουν αξιόπιστα αρχεία καταγραφής όταν συμβεί ένα περιστατικό;

Η πρόσφατη κάλυψη της Securities.io για ταυτότητα και έλεγχους πρόσβασης του πράκτορα AI εξερευνά ένα σχετικό μέρος αυτής της πρόκλησης. Η γνώση του ποιος πράκτορας ενεργήθηκε και τι είχε εξουσιοδοτηθεί να κάνει αποτελεί σημείο εκκίνησης για την υπευθυνότητα.

Γιατί η καλύτερη διακυβέρνηση θα μπορούσε να ανοίξει τον δρόμο για περισσότερη αυτοματοποίηση

Η ευκαιρία δεν περιορίζεται στη μείωση πιθανών ζημιών. Ας εξετάσουμε μια εταιρεία που αποφασίζει αν ένας πράκτορας μπορεί απλώς να προτείνει αγορές ή να τις εκτελεί αυτόνομα.

Αν τα στελέχη δεν μπορούν να διερευνήσουν τις αποφάσεις ή να αποδώσουν ευθύνες, ενδέχεται να διατηρήσουν εκτεταμένους χειροκίνητους ελέγχους. Αυτό περιορίζει τα οφέλη στην παραγωγικότητα. Καλύτερα αρχεία, σαφής κατανομή εξουσιών και αξιόπιστη κλιμάκωση των ζητημάτων θα μπορούσαν να καταστήσουν αποδεκτή την ευρύτερη χρήση.

Αυτό υποδεικνύει μια δεύτερη πηγή αξίας: τα εργαλεία διακυβέρνησης θα μπορούσαν να συμβάλουν στη μετατροπή τεχνικά ικανών πρακτόρων σε συστήματα που οι επιχειρήσεις είναι πρόθυμες να χρησιμοποιήσουν. Πρόκειται για οικονομικό συμπέρασμα και όχι για αποτέλεσμα που μετρήθηκε στη μελέτη.

Μια έρευνα που διοργανώθηκε από την IBM τον Οκτώβριο 2026 για έρευνα που διοργανώθηκε από την IBM για την εταιρική διακυβέρνηση της AI δείχνει το κενό υλοποίησης. Μεταξύ 3 221 ανώτερων στελεχών που ερεύνησαν σε οκτώ χώρες της Ευρώπης και της Μέσης Ανατολής, το 35% ανέφερε ότι τρέχει agentic AI στην παραγωγή, ενώ μόνο το 37% είπε ότι τα συστήματα διακυβέρνησής τους σχεδιάστηκαν να κλιμακώνονται με τις agentic deployments.

Πρόκειται για ευρήματα που βασίζονται στις δηλώσεις των συμμετεχόντων, από έρευνα την οποία ανέθεσε ένας προμηθευτής λύσεων διακυβέρνησης, και όχι για ανεξάρτητη μέτρηση της τεχνικής ασφάλειας. Παρ’ όλα αυτά, αναδεικνύουν ένα πρακτικό πρόβλημα στις αγορές: η ανάπτυξη πρακτόρων και η εποπτεία τους είναι διαφορετικές δυνατότητες.

Η διαφάνεια θα μπορούσε να αποτελέσει πλεονέκτημα στις διαδικασίες προμηθειών

Όταν δύο πράκτορες έχουν παρόμοιες επιδόσεις, οι αγοραστές θα μπορούσαν να προτιμήσουν τον προμηθευτή που διευκολύνει τη διερεύνηση περιστατικών. Έτσι δημιουργείται περιθώριο ανταγωνισμού ως προς την ποιότητα των τεκμηρίων, την ενσωμάτωση και τη λογοδοσία, παράλληλα με την ακρίβεια των μοντέλων.

Η συζήτηση της Securities.io για εξηγήσιμη AI στην πρόβλεψη αγορών αναδεικνύει μια σχετική διαφορά: η κατανόηση της συμπεριφοράς ενός μοντέλου έχει διαγνωστική αξία ακόμη και όταν δεν αποδεικνύει κερδοφόρα απόδοση.

Για τους εταιρικούς πράκτορες, αυτό θα μπορούσε να οδηγήσει σε συμβάσεις που καθορίζουν την πρόσβαση στα αρχεία καταγραφής, τη συνεργασία σε περίπτωση περιστατικού και τις αρμοδιότητες έγκρισης. Τέτοιες διατάξεις δεν θα έλυναν κάθε ζήτημα ευθύνης, θα μπορούσαν όμως να περιορίσουν την αβεβαιότητα πριν από την υλοποίηση.

Η ισορροπία ανάμεσα στη λογοδοσία και τον ανταγωνισμό

Η μελέτη αναγνωρίζει ότι οι απαιτήσεις εξηγησιμότητας θα μπορούσαν να επιβαρύνουν δυσανάλογα τους μικρότερους δημιουργούς. Οι μεγαλύτερες εταιρείες ενδέχεται να μπορούν ευκολότερα να χρηματοδοτήσουν συγκριτικές αξιολογήσεις, ελέγχους και εξειδικευμένες ομάδες.

Ένα πιθανό αποτέλεσμα είναι η μεγαλύτερη εξάρτηση από καθιερωμένες πλατφόρμες διακυβέρνησης. Ένα άλλο είναι η αυξημένη ζήτηση για κοινά πρότυπα και οικονομικά προσιτά εργαλεία που επιτρέπουν στους μικρότερους προμηθευτές να αποδεικνύουν ότι παρέχουν ισοδύναμες δικλίδες ασφαλείας.

Σημασία έχει η ποιότητα αυτών των προτύπων. Το μοντέλο υποθέτει ότι η συμμόρφωση με τα κριτήρια συγκριτικής αξιολόγησης της εξηγησιμότητας μπορεί να επαληθευτεί με απόλυτη ακρίβεια, ενώ στην πράξη οι έλεγχοι μπορεί να διαφέρουν και η επιφανειακή συμμόρφωση παραμένει πιθανή. Υποθέτει επίσης ότι η εξηγησιμότητα μειώνει την πιθανότητα πρόκλησης βλάβης, σχέση που, όπως λένε οι συγγραφείς, χρειάζεται περαιτέρω διερεύνηση.

Επομένως, η καλύτερη τεκμηρίωση δεν πρέπει να εκλαμβάνεται ως απόδειξη ασφαλέστερης συμπεριφοράς. Μια χρήσιμη αξιολόγηση θα εξέταζε κατά πόσο οι εξηγήσεις βοηθούν στον εντοπισμό των αιτιών, στη διόρθωση των αστοχιών και στην αποτροπή της επανάληψής τους.

Ο ρόλος της IBM στη διακυβέρνηση της ΤΝ στις επιχειρήσεις

Αυτές οι ανάγκες υλοποίησης συνδέονται άμεσα με την IBM, για επενδυτές που ενδιαφέρονται για εταιρείες οι οποίες αναπτύσσουν υποδομές για την εταιρική ΤΝ.

IBM Διάγραμμα τιμής

Η αναβάθμιση του watsonx.governance τον Οκτώβριο 2026 της IBM επεκτείνει την ανακάλυψη πράκτορα και συνδέει μετρικές λειτουργικής αξιολόγησης με ελέγχους διακυβέρνησης. Οι ενσωματώσεις με Langfuse και Arize φέρνουν πληροφορίες παρακολούθησης στα αρχεία διακυβέρνησης, ενώ η ενσωμάτωση με το watsonx Orchestrate συνδέει καθορισμένους ελέγχους με αποδείξεις εκτέλεσης σε πραγματικό χρόνο.

Αυτές οι δυνατότητες καλύπτουν ορισμένες πτυχές του πρακτικού προβλήματος της τεκμηρίωσης. Δεν αποδεικνύουν ότι η IBM πληροί τα προτεινόμενα στη μελέτη νομικά κριτήρια ούτε ότι οι πελάτες απολαμβάνουν προστασία από την ευθύνη.

Το δυνητικό εμπορικό πλεονέκτημα έγκειται στη βοήθεια προς τις επιχειρήσεις για τη διαχείριση πρακτόρων στα υφιστάμενα συστήματά τους. Αν η διακυβέρνηση καταστεί προϋπόθεση για την επέκταση της αυτοματοποίησης, η ζήτηση θα μπορούσε να ενισχύσει τις συνδρομές λογισμικού και τις εργασίες υλοποίησης.

Για τους επενδυτές, το επόμενο ερώτημα είναι αν αυτή η ζήτηση θα οδηγήσει σε διατηρήσιμα έσοδα και ελκυστικά περιθώρια κέρδους. Σχετικές ενδείξεις είναι η υιοθέτηση από τους πελάτες, η επέκταση πέρα από πιλοτικά έργα και τα στοιχεία που δείχνουν ότι οι δυνατότητες διακυβέρνησης επηρεάζουν τις αγοραστικές αποφάσεις. Η IBM προσφέρει έκθεση σε αυτή την τάση στο πλαίσιο μιας ευρύτερης επιχειρηματικής δραστηριότητας, επομένως η επιτυχία της στη διακυβέρνηση της ΤΝ από μόνη της δεν θα καθόριζε τις επενδυτικές της επιδόσεις.

Τελευταία νέα και εξελίξεις για την IBM (IBM)

Η επεξηγησιμότητα ως θεμέλιο της εμπορικής ΤΝ

Η μελέτη προτείνει ένα πλαίσιο επιβράβευσης των δημιουργών που διευκολύνουν την κατανόηση απρόβλεπτων αστοχιών. Η πρακτική συμβολή της συνίσταται στο ερώτημα των κινήτρων: πώς μπορεί η λογοδοσία να ενθαρρύνει τις επενδύσεις σε καλύτερα συστήματα;

Για τις επιχειρήσεις, η ευκαιρία έγκειται στο να μπορούν να αξιολογούν και να αναπτύσσουν ευκολότερα την αυτονομία. Για τους προμηθευτές τεχνολογίας, έγκειται στην παροχή τεκμηρίων που παραμένουν χρήσιμα όταν αμφισβητούνται αποφάσεις. Η ισχυρότερη εμπορική πρόταση θα συνδυάζει ικανούς πράκτορες με μηχανισμούς ελέγχου και αρχεία που οι πελάτες μπορούν πράγματι να εμπιστευτούν.

Βιβλιογραφικές αναφορές:

1 Papyshev, G., Chan, K. J. D., & Migliorini, S. (2026). Ευθύνη για ανεξέλεγκτες συμπεριφορές της πρακτορικής ΤΝ. Telecommunications Policy, 50, Άρθρο 103339. https://doi.org/10.1016/j.telpol.2026.103339

Ο Daniel είναι ένας ισχυρός υποστηρικτής των δυνατοτήτων του blockchain να διαταράξει τις παραδοσιακές χρηματοοικονομικές υπηρεσίες. Έχει βαθύ πάθος για την τεχνολογία και εξερευνά πάντα τις τελευταίες καινοτομίες και gadgets.