Η Σύγκρουση Μεταξύ της Δύναμης της ΤΝ και των Δημοκρατικών Προτύπων

Καθώς η τεχνολογία της τεχνητής νοημοσύνης γίνεται πιο διαδεδομένη και ισχυρή, γίνεται ολοένα δυσκολότερο να βρεθεί ισορροπία μεταξύ δημοκρατικών αξιών και τεχνολογικής προόδου. Από τη μία πλευρά, ποτέ δεν ήταν ευκολότερο για τους ανθρώπους να μοιράζονται τα οράματά τους με το ευρύ κοινό.

Ωστόσο, η ΤΝ στερείται δικλίδων ασφαλείας, με αποτέλεσμα να δοκιμάζει συνεχώς τα όρια σχεδόν κάθε κοινωνικού κριτηρίου. Ακολουθεί μια ματιά στις προσπάθειες των δημιουργών της να εναρμονίσουν τις δυνατότητές της με τις δημοκρατικές αξίες, καθώς και στους λόγους για τους οποίους αυτό ίσως είναι αδύνατο.

Πώς η ΤΝ Αναδιαμορφώνει τις Προστασίες της Ελευθερίας του Λόγου

Η τεχνητή νοημοσύνη έχει επηρεάσει βαθιά την ελευθερία του λόγου. Κατ’ αρχάς, διευκολύνει τη δημιουργία ζωντανών απεικονίσεων των ιδεών των ανθρώπων και τη διάδοσή τους μέσω των κοινωνικών δικτύων. Έχει επίσης μειώσει το κόστος παραγωγής σχεδόν στο μηδέν, επιτρέποντας σε κάθε οργανισμό να προωθεί τον σκοπό του διαδικτυακά.

Τα εργαλεία ΤΝ προσφέρουν αρκετά οφέλη, όπως τη δυνατότητα εύκολης τροποποίησης και προσαρμογής των μηνυμάτων σε συγκεκριμένες δημογραφικές ομάδες. Επιπλέον, το περιεχόμενο ΤΝ θεωρείται μέχρι στιγμής ότι εμπίπτει στην προστασία της Πρώτης Τροπολογίας του Συντάγματος των ΗΠΑ, επιτρέποντας στους δημιουργούς να εκφράζονται ελεύθερα.

Από την άλλη, η ΤΝ έχει προκαλέσει πλημμυρίδα παραπληροφόρησης. Είναι πιο δύσκολο από ποτέ να ξεχωρίσει κανείς ποιες πληροφορίες προέρχονται από πραγματικούς ειδικούς και ποιες δημιουργήθηκαν από αλγόριθμο. Δυστυχώς, αυτό διαβρώνει την εμπιστοσύνη στα συστήματα.

Πώς οι αλγόριθμοι των κοινωνικών δικτύων ενισχύουν την παραπληροφόρηση της ΤΝ

Εντείνοντας τη σύγχυση, οι αλγόριθμοι των κοινωνικών δικτύων μπορούν να προωθούν τα deepfake, επειδή συχνά είναι πιο αμφιλεγόμενα και προκαλούν περισσότερες αλληλεπιδράσεις. Έτσι δημιουργείται ένας κύκλος στον οποίο τα ψεύδη προβάλλονται εντονότερα από τις πραγματικές πληροφορίες. Δυστυχώς, δεν υπάρχει υποχρεωτική σήμανση της παραπληροφόρησης που παράγεται με ΤΝ.

ΤΝ και Συμμετοχή των Πολιτών στα Δημοκρατικά Συστήματα

Η τεχνητή νοημοσύνη ανοίγει τον δρόμο για ευρύτερη συμμετοχή των πολιτών. Τα συστήματά της διευκολύνουν την κυβέρνηση και τους πολίτες να επικοινωνούν τις ιδέες τους και να παρακολουθούν τη δημόσια συναίνεση. Έχει επίσης αποδειχθεί χρήσιμη στη σύνοψη σύνθετων νομοθετημάτων και στην κοινοποίηση κρίσιμων δεδομένων για την ενημέρωση των πολιτών.

Κίνδυνοι Παρακολούθησης από ΤΝ και Δημοκρατικές Ανησυχίες για την Ιδιωτικότητα

Παράλληλα με την ενίσχυση της συμμετοχής, η ΤΝ δημιουργεί αρκετούς κινδύνους παρακολούθησης. Τα συστήματα αυτά μπορούν εύκολα να παρακολουθούν ψηφοφόρους. Υπάρχουν συστήματα ΤΝ που εξετάζουν ολόκληρο το ψηφιακό αποτύπωμά σας και εκτιμούν τις πολιτικές σας απόψεις βάσει της διαδικτυακής σας δραστηριότητας.

Επιπλέον, η τεχνολογία αυτή μπορεί να χρησιμοποιηθεί για την ταυτοποίηση ενός ατόμου βάσει του ψηφιακού αποτυπώματος ή των προτιμήσεών του. Τα εργαλεία αυτά δεν απαιτούν ένταλμα όπως παλαιότερες τεχνολογίες, γεγονός που αυξάνει τις δυνατότητες κατάχρησης.

Ο Ρόλος της ΤΝ στις Σύγχρονες Εκλογές και στην Ακεραιότητα των Εκλογών

Η τεχνητή νοημοσύνη προσφέρει αρκετά οφέλη στην εκλογική διαδικασία. Διευκολύνει, για παράδειγμα, την παρακολούθηση των αποτελεσμάτων. Τα συστήματα ΤΝ μπορούν επίσης να συμβάλλουν στον εντοπισμό περιστατικών εκφοβισμού ή απειλών κατά ψηφοφόρων.

ΤΝ Deepfakes και η Κρίση της Πολιτικής Εμπιστοσύνης

Από όλες τις μορφές παραπληροφόρησης μέσω ΤΝ που προκαλούν σήμερα αναστάτωση, τα σοβαρότερα προβλήματα συνδέονται με τα deepfake. Η τεχνολογία αυτή επιτρέπει την εύκολη δημιουργία πειστικών απομιμήσεων δημόσιων αξιωματούχων, επαγγελματιών ή οποιουδήποτε άλλου προσώπου, συμπεριλαμβανομένων πολιτικών υποψηφίων.

Πηγή – BBC

Τα πολιτικά deepfake εξακολουθούν να προβληματίζουν τους αξιωματούχους και να διαστρεβλώνουν την πληροφόρηση του κοινού. Το πρόβλημα είναι ότι αυτές οι απομιμήσεις έχουν γίνει σχεδόν αδύνατο να διακριθούν από το πραγματικό υλικό. Γι’ αυτό χρησιμοποιούνται από σχεδόν κάθε είδους ομάδα που επιδιώκει να προκαλέσει χάος ή να σπείρει δυσπιστία στο κοινό.

Το «μέρισμα του ψεύτη» και η διάβρωση της δημόσιας εμπιστοσύνης

Ο διαρκής καταιγισμός από deepfake της ΤΝ έχει και μια απροσδόκητη συνέπεια: το «μέρισμα του ψεύτη». Ο όρος περιγράφει περιπτώσεις όπου ένα περιστατικό τεκμηριώνεται από πραγματικά γεγονότα και αποδείξεις, αλλά ο κατηγορούμενος εξακολουθεί να το αρνείται, χαρακτηρίζοντας το υλικό πλαστό δημιούργημα της ΤΝ.

Αυτή η στρατηγική υπονομεύει την εμπιστοσύνη στα συστήματα και δημιουργεί συνθήκες στις οποίες ο μέσος άνθρωπος δεν μπορεί να λάβει ενημερωμένες αποφάσεις. Εξαλείφει επίσης τις πιθανότητες λογικού διαλόγου, καθώς η παραπληροφόρηση πολώνει όλες τις πλευρές.

Πραγματικά Παραδείγματα AI Deepfakes σε Εκλογές

Υπάρχουν αρκετά πρόσφατα παραδείγματα deepfake που προκάλεσαν αναστάτωση σε εκλογές. Ένα χαρακτηριστικό περιστατικό συνέβη στις 21 Ιανουαρίου 2024, όταν χρησιμοποιήθηκε πλαστή φωνή σε αυτοματοποιημένες τηλεφωνικές κλήσεις. Το σύστημα ΤΝ είχε ρυθμιστεί να καλεί εγγεγραμμένους ψηφοφόρους του Δημοκρατικού Κόμματος.

Όταν απαντούσαν, μια πλαστή φωνή του προέδρου Τζο Μπάιντεν τούς προέτρεπε να «κρατήσουν την ψήφο τους για τον Νοέμβριο». Σύμφωνα με τις αρχές, το μήνυμα διανεμήθηκε σε χιλιάδες ψηφοφόρους. Δεν υπάρχουν όμως επαρκή στοιχεία ότι προκάλεσε «πολλούς» να απέχουν, επομένως δεν πρέπει να αποδίδεται συγκεκριμένο εκλογικό αποτέλεσμα στην κλήση.

Όταν αποκαλύφθηκαν οι αυτοματοποιημένες κλήσεις, ξεκίνησε έρευνα. Ωστόσο, οι εκλογές είχαν ήδη ολοκληρωθεί και η ψηφοφορία δεν επαναλήφθηκε. Πρόκειται για ένα μόνο από τα πολλά παραδείγματα που αναδεικνύουν τους κινδύνους εκλογικής παρέμβασης μέσω deepfake.

Σκάνδαλο Deepfake στις Εκλογές της Σλοβακίας 2023

Ένα άλλο παράδειγμα παρέμβασης της ΤΝ σημειώθηκε στις εκλογές της Σλοβακίας το 2023. Τότε εμφανίστηκε πλαστό βίντεο που παρουσίαζε τον ηγέτη της Προοδευτικής Σλοβακίας, Μίχαλ Σίμετσκα, να συζητά τη νόθευση των εκλογών. Το βίντεο χαρακτηρίστηκε αργότερα ψεύτικο, αλλά μόνο αφού είχε συγκεντρώσει εκατομμύρια προβολές και κοινοποιήσεις στο TikTok, το Facebook και το Telegram.

Πώς να Ανιχνεύσετε AI Deepfakes το 2026

Ο εντοπισμός των deepfake δεν είναι εύκολος. Παλαιότερα, η τεχνολογία άφηνε πολλά σφάλματα, όπως αφύσικο ανοιγοκλείσιμο των ματιών, παράξενο φωτισμό ή ενδείξεις ασυγχρονίας των χειλιών. Έρευνες δείχνουν ότι οι άνθρωποι συχνά δυσκολεύονται να αναγνωρίσουν ποιοτικά deepfake, με επιδόσεις κοντά στην τυχαία επιλογή, ανάλογα με το πλαίσιο και το είδος του υλικού.

Ένας τρόπος να ελεγχθεί αν ένα βίντεο είναι deepfake είναι η αναζήτηση καρέ του μέσω Google για τον εντοπισμό του αρχικού υλικού. Μπορεί επίσης να εξεταστεί ο ήχος για αφύσικα στοιχεία. Σε ορισμένες περιπτώσεις, είναι αδύνατο να εντοπιστεί ένα υψηλής ποιότητας deepfake χωρίς τεχνικά εργαλεία.

Κορυφαία Εργαλεία Ανίχνευσης AI Deepfakes και οι Περιορισμοί τους

Τα εργαλεία ανίχνευσης με ΤΝ μπορούν να βοηθήσουν στον έλεγχο της αυθεντικότητας, αλλά κανένα δεν αποτελεί οριστική απόδειξη. Παραδείγματα είναι το Deepware Scanner, το Reality Defender και το Video Authenticator της Microsoft. Τα αποτελέσματα πρέπει να συνδυάζονται με έλεγχο πηγής και συμφραζομένων.

Τα εργαλεία αυτά διαθέτουν ιδιόκτητους αλγορίθμους που εντοπίζουν ασυνέπειες στα εικονοστοιχεία ή μοτίβα χαρακτηριστικά των καρέ που παράγονται με ΤΝ. Μπορούν επίσης να διασταυρώνουν τα ευρήματα με τοπικά δεδομένα, αποκαλύπτοντας ενδεχόμενη παρέμβαση της ΤΝ.

Ακόμη και τα καλύτερα εργαλεία ανίχνευσης ΤΝ κάνουν λάθη. Αναφορές για επίδοση 98% από εργαλεία όπως το BioID αφορούν συγκεκριμένα σύνολα δοκιμών και δεν μεταφέρονται αυτόματα σε κάθε είδος deepfake ή πραγματικό περιβάλλον. Τα ψευδώς θετικά και αρνητικά αποτελέσματα παραμένουν ουσιαστικός περιορισμός.

Η παιδεία στα μέσα ενημέρωσης ως άμυνα απέναντι στη χειραγώγηση μέσω ΤΝ

Ίσως ο καλύτερος τρόπος αντιμετώπισης των deepfake είναι η ενίσχυση της παιδείας του κοινού στα μέσα ενημέρωσης. Χρειάζεται ιδίως υποχρεωτική σήμανση που να διευκολύνει τη διάκριση ενός deepfake από ένα αυθεντικό βίντεο.

Γιατί η Αυτορρύθμιση των Μεγάλων Τεχνολογικών Εταιρειών Απέτυχε στη Διακυβέρνηση της ΤΝ

Η ιστορία έχει δείξει ότι οι τεχνολογικές εταιρείες δεν μπορούν να αυτορρυθμιστούν. Εστιάζουν στο κέρδος και στην καινοτομία, επιδιώξεις που μπορεί να αποβούν εις βάρος της ιδιωτικότητας και της αλήθειας. Έτσι, δεν διαφαίνεται τρόπος με τον οποίο μια τεχνολογική εταιρεία θα μπορούσε να εμποδίσει αποτελεσματικά τα deepfake να φτάνουν στο κοινό της.

Προσπάθειες Κυβερνητικής Ρύθμισης της ΤΝ το 2026

Καθώς οι τεχνολογικές εταιρείες αδυνατούν να προσφέρουν την απαιτούμενη προστασία απέναντι σε αυτά τα προβλήματα, οι κυβερνήσεις έχουν αρχίσει να αναλαμβάνουν δράση. Ούτε αυτή η κατάσταση είναι ιδανική, καθώς οι κυβερνήσεις δεν κατανοούν την τεχνολογία σε βαθμό που να μπορούν να θεσπίσουν δικλίδες ασφαλείας χωρίς να καταπνίγουν την καινοτομία.

Εταιρείες ΤΝ εναντίον κυβερνήσεων: η σύγκρουση πολιτικής του 2026

Το χάσμα μεταξύ κυβερνήσεων και παρόχων ΤΝ έχει αρχίσει να διευρύνεται τους τελευταίους μήνες. Ενώ οι νομοθέτες επιδιώκουν να προστατεύσουν το κοινό από τα deepfake και την παραπληροφόρηση, ο στρατός συνεχίζει να πιέζει για πλήρη ενσωμάτωση των εργαλείων ΤΝ στο οπλοστάσιό του.

Η επιθυμία να χρησιμοποιηθεί αυτή η τεχνολογία στην αλυσίδα εντοπισμού και προσβολής στόχων έχει οδηγήσει σε αρκετές δημόσιες αντιπαραθέσεις μεταξύ εταιρειών και της αμερικανικής κυβέρνησης. Ακολουθούν ορισμένα από τα πιο πρόσφατα περιστατικά, που αναδεικνύουν τους κινδύνους και τη δυνητικά σκοτεινή πλευρά του πολέμου με ΤΝ.

Anthropic εναντίον του Υπουργείου Άμυνας των ΗΠΑ

Η Anthropic βρίσκεται σε δημόσια αντιπαράθεση με το Υπουργείο Άμυνας των ΗΠΑ σχετικά με τη χρήση του μοντέλου ΤΝ Claude. Η διαφωνία αφορά την παροχή απεριόριστης πρόσβασης στην ΤΝ, η οποία θα μπορούσε να οδηγήσει στη χρήση του συστήματος για μαζική παρακολούθηση στο εσωτερικό της χώρας.

Η Anthropic, που ιδρύθηκε το 2021, έχει επίσης αρνηθεί την πλήρη πρόσβαση λόγω ανησυχιών για την αξιοπιστία των συστημάτων στόχευσης με ΤΝ. Και τις δύο αυτές κόκκινες γραμμές έθεσε ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, τονίζοντας την αναξιοπιστία ως βασικό προβληματισμό.

Προτεινόμενα Όρια της Anthropic για Στρατιωτική Χρήση της ΤΝ

Από την πλευρά του, το Πεντάγωνο υποστηρίζει ότι η σύμβαση των 200 εκατ. δολαρίων θα έπρεπε να περιλαμβάνει πρόσβαση χωρίς περιορισμούς. Η Anthropic έκανε ορισμένες παραχωρήσεις στη συζήτηση, επιτρέποντας μεταξύ άλλων τη χρήση των συστημάτων ΤΝ σε πυραυλικές και αμυντικές εφαρμογές. Δήλωσε μάλιστα ότι θα δεχόταν επιχειρήσεις της NSA, εφόσον απέκλειαν τη μαζική παρακολούθηση Αμερικανών πολιτών.

Γιατί το Πεντάγωνο Απέρριψε τις Περιοριστικές Προτάσεις της Anthropic

Αυτό, όμως, δεν αρκούσε στους αξιωματούχους του Πενταγώνου. Λίγο μετά την απόρριψη της απαίτησης από την Anthropic, η κυβέρνηση Τραμπ απαγόρευσε τη χρήση των προϊόντων της από ομοσπονδιακούς οργανισμούς. Συγκεκριμένα, ο πρόεδρος τα χαρακτήρισε «κίνδυνο για την εθνική ασφάλεια». Τα δημοσιεύματα για τη διαμάχη ανέφεραν επίσης τον Νόμο περί Αμυντικής Παραγωγής ως πιθανό μέσο πίεσης, αν και η ακριβής νομική αιτιολόγηση χρειάζεται προσεκτική περιγραφή, εκτός αν παρατίθεται απευθείας από την απόφαση.

Η κίνηση αυτή σημαίνει ότι η Anthropic δεν θα μπορεί να εξασφαλίζει νέες στρατιωτικές ή κυβερνητικές συμβάσεις, φέρνοντάς την σε επισφαλή θέση όπου καλείται να επιλέξει ανάμεσα στις βασικές αρχές της και στο κέρδος.

Πώς η OpenAI και η xAI Αντέδρασαν στην Αλλαγή του Πενταγώνου

Η ανταγωνίστρια OpenAI έσπευσε να καλύψει το κενό που άφησε η Anthropic, υποσχόμενη πλήρη συμμόρφωση με το Πεντάγωνο. Υπέγραψε έτσι απόρρητη συμφωνία με την κυβέρνηση, η οποία περιλαμβάνει απεριόριστη νόμιμη χρήση του συστήματος ΤΝ της.

Τρέχουσες Στρατιωτικές Εφαρμογές της Τεχνητής Νοημοσύνης

Υπάρχουν ήδη πολλά παραδείγματα συστημάτων ΤΝ που συμβάλλουν στην αύξηση της ταχύτητας και της κλίμακας των πολεμικών επιχειρήσεων. Τα συστήματα αυτά έχουν βελτιστοποιηθεί ώστε να συνεργάζονται με τον αυξανόμενο αριθμό αυτόνομων συστημάτων, όπως η τεχνολογία σμηνών μη επανδρωμένων αεροσκαφών.

Η τεχνητή νοημοσύνη θεωρείται τεχνολογία που αλλάζει τους κανόνες, επειδή συνδυάζει δεδομένα από τεράστιο πλήθος αισθητήρων για ταχύτερη στόχευση και άλλες λειτουργίες. Είναι επίσης κρίσιμη για τη στρατιωτική εφοδιαστική και την οικονομική διαχείριση, όπου μπορεί να βοηθά ώστε η προληπτική συντήρηση και άλλες βασικές εργασίες να εκτελούνται εγκαίρως.

Χρήση ΤΝ Στόχευσης από το Ισραήλ στη Γάζα

Η χρήση συστημάτων στόχευσης με ΤΝ αναδείχθηκε στην εκστρατεία του Ισραήλ στη Γάζα. Οι επιχειρήσεις αυτές χρησιμοποίησαν εργαλεία όπως το Lavender, για να διασταυρώνουν τις κινήσεις ενός ατόμου με ενδείξεις πιθανής ένοπλης δράσης.

Το εργαλείο αυτό επέτρεπε στον ισραηλινό στρατό να παρακολουθεί και να στοχοποιεί χαμηλόβαθμα μέλη της Χαμάς προτού τα βομβαρδίσει στα σπίτια τους. Σύμφωνα με αναφορές Ισραηλινών στρατιωτικών, το σύστημα έχει ποσοστό σφάλματος 10%. Ωστόσο, το ποσοστό αυτό αμφισβητείται έντονα.

Πώς λειτουργεί το σύστημα στόχευσης «Gospel»

Ένα άλλο ισραηλινό εργαλείο ΤΝ, το Gospel, έχει σχεδιαστεί να προτείνει 100 στόχους ημερησίως. Διασταυρώνει κινήσεις και άλλα δεδομένα για να εντοπίζει κτίρια που ενδέχεται να στεγάζουν εχθρικούς μαχητές. Συχνά χρησιμοποιείται μαζί με το πρόγραμμα ΤΝ «Where’s Daddy», που επιτρέπει την αυτόνομη παρακολούθηση επισημασμένων προσώπων.

ΤΝ στην Επιβολή του Νόμου: Ανίχνευση Απειλών και Κίνδυνοι Ιδιωτικότητας

Η χρήση συστημάτων ΤΝ στην επιβολή του νόμου αποτελεί αντικείμενο έντονης διαμάχης. Σύμφωνα με δημοσιεύματα, συστήματα του ChatGPT είχαν επισημάνει παραβιάσεις πολιτικής σε λογαριασμό που συνδέθηκε αργότερα με τη Jesse Van Rootselaar, ύποπτη για τη μαζική ένοπλη επίθεση στο Tumbler Ridge του Καναδά. Η διατύπωση πρέπει να διατηρεί τη διάκριση μεταξύ αναφοράς, υποψίας και δικαστικά αποδεδειγμένης ενοχής.

Συγκεκριμένα, το σύστημα ΤΝ είχε εντοπίσει παραβιάσεις πολιτικής οκτώ μήνες νωρίτερα, όταν ο λογαριασμός υπέβαλλε επανειλημμένα ερωτήματα σχετικά με ένοπλη βία. Το περιεχόμενο διαβιβάστηκε σε αρκετούς ανθρώπινους αξιολογητές, με αποτέλεσμα τον αποκλεισμό του λογαριασμού και την επισήμανση του χρήστη.

Γιατί τα Συστήματα Σήμανσης ΤΝ Συχνά Αποτυγχάνουν να Ενεργοποιήσουν Παρέμβαση

Παρά τα προειδοποιητικά σημάδια, η εταιρεία δήλωσε ότι ο λογαριασμός δεν ξεπέρασε το όριο που θεωρούσε ενεργή απειλή και οι αρχές δεν ειδοποιήθηκαν. Δεν μπορεί να αποδειχθεί εκ των υστέρων ότι μια ειδοποίηση θα απέτρεπε την επίθεση ή θα έσωζε συγκεκριμένες ζωές· θα μπορούσε όμως να είχε οδηγήσει σε πρόσθετη αξιολόγηση.

Εσωτερικά αρχεία της εταιρείας δείχνουν ότι συζητήθηκε η ενημέρωση των αρχών μετά τον αποκλεισμό του λογαριασμού. Αργότερα αποκαλύφθηκε ότι το άτομο που διέπραξε την επίθεση άνοιξε άλλον λογαριασμό, παρακάμπτοντας τον αποκλεισμό πριν από τις επιθέσεις.

Κυβερνητικοί αξιωματούχοι υποστηρίζουν ότι η OpenAI είχε ευθύνη να ενημερώσει τις αρχές για την ύποπτη συνομιλία και ότι αυτό θα μπορούσε να είχε βοηθήσει στη διάσωση ζωών. Η εταιρεία, από την πλευρά της, δήλωσε ότι θα βελτιώσει την κοινοποίηση δεδομένων και τον χρόνο απόκρισής της, μειώνοντας τα όρια ενεργοποίησης παρεμβάσεων.

Η επιστολή δεοντολογίας της ΤΝ «Δεν θα διχαστούμε»

Η «Επιστολή “Δεν θα διχαστούμε”» απευθύνει ανοικτό κάλεσμα στους εργαζομένους της ΤΝ να αντιταχθούν δημόσια στα πλήρως αυτόνομα όπλα και στη μαζική παρακολούθηση και να απαιτήσουν δεσμεύσεις ασφαλείας που μπορούν να επιβληθούν σε όλο τον κλάδο. Προτρέπει τους δημιουργούς ΤΝ να μη στηρίζουν με κανέναν τρόπο πλήρως αυτόνομα όπλα ή επιχειρήσεις μαζικής παρακολούθησης.

Καθορίζει επίσης κοινές κόκκινες γραμμές ασφαλείας για την αποτροπή ενός σεναρίου ανεξέλεγκτης ΤΝ. Σε αυτές περιλαμβάνεται η συμμετοχή ανθρώπου για εποπτεία και έγκριση κάθε θανατηφόρας ενέργειας. Υποστηρίζει ακόμη τη διαφάνεια ως μέσο αποτροπής καταχρήσεων.

Βασικός στόχος της επιστολής είναι η διαμόρφωση δεοντολογικών προτύπων που θα μπορούν να ακολουθούν όλες οι εταιρείες ΤΝ, ώστε η τεχνολογία να μη μετατρέψει τη ζωή των ανθρώπων σε εφιάλτη. Έρχεται σε κρίσιμη καμπή της υιοθέτησης της ΤΝ, καθώς οι στρατοί εξαρτώνται πλέον από αυτή για τη στόχευση και τη συλλογή πληροφοριών.

Οι θέσεις των μεγάλων εταιρειών ΤΝ για την κυβερνητική και στρατιωτική χρήση

Εξετάζοντας αυτά τα δύο πολύ διαφορετικά σενάρια, διαπιστώνουμε ότι οι εταιρείες ΤΝ συνεχίζουν να συνδέουν τις δραστηριότητές τους με κυβερνητικές υπηρεσίες. Αυτή η σύγκλιση απαιτεί λεπτή ισορροπία ανάμεσα στις δυνατότητες, τις δικλίδες ασφαλείας και τη διαφάνεια για την αποφυγή καταχρήσεων. Ακολουθούν οι σημερινές θέσεις των εταιρειών για τις κυβερνητικές επιχειρήσεις.

Σύρετε για κύλιση →

Anthropic

Η Anthropic έχει παραμείνει πιστή στις βασικές αρχές της, επιδιώκοντας αυστηρούς περιορισμούς στην αυτόνομη στόχευση και στη μαζική παρακολούθηση. Ωστόσο, φαίνεται να πληρώνει ακριβά αυτή την ηθική στάση, καθώς ομοσπονδιακές υπηρεσίες προχώρησαν σε περιορισμό ή σταδιακή κατάργηση της χρήσης των μοντέλων της σε ορισμένα περιβάλλοντα.

OpenAI

Η OpenAI υποστηρίζει την ενσωμάτωση της ΤΝ στις κυβερνητικές λειτουργίες. Η εταιρεία έσπευσε να ενισχύσει τη θέση της όταν η Anthropic έχασε τη σύμβασή της με το Υπουργείο Άμυνας επειδή παρέμεινε πιστή στις βασικές αρχές της. Η OpenAI συμφώνησε να διαθέσει μοντέλα σε αμυντικά περιβάλλοντα στο πλαίσιο της «νόμιμης χρήσης». Δηλώνει ότι απαγορεύει τη μαζική παρακολούθηση στο εσωτερικό της χώρας και απαιτεί ανθρώπινη ευθύνη για τη χρήση βίας.

xAI

Η xAI του Ίλον Μασκ έχει υποστηρίξει έντονα την ενσωμάτωση της ΤΝ στο στρατιωτικό δόγμα. Σύμφωνα με δημοσιεύματα, έχει εκφράσει προθυμία να στηρίξει απόρρητες κυβερνητικές εφαρμογές υπό όρους «νόμιμης χρήσης», αν και οι επιχειρησιακές λεπτομέρειες παραμένουν περιορισμένες.

Google

Στην Google (GOOGL ) έχει διεξαχθεί έντονος εσωτερικός διάλογος για τη χρήση των συστημάτων της στον πόλεμο. Περισσότεροι από 300 βασικοί εργαζόμενοί της υπέγραψαν ανοικτή επιστολή που καλούσε τους παρόχους ΤΝ να απορρίψουν συμβάσεις χωρίς περιορισμούς με το Πεντάγωνο. Ωστόσο, η Google διαθέτει συμβάσεις CDAO άνω των 200 εκατ. δολαρίων, γεγονός που δημιουργεί ισχυρές πιέσεις για υποχώρηση.

Τελευταίες ειδήσεις και πορεία της Google (GOOGL)

Το Μέλλον της Διακυβέρνησης της ΤΝ και της Δημοκρατικής Σταθερότητας

Εξετάζοντας την ενσωμάτωση της ΤΝ σε όλα, από τη διακυβέρνηση μέχρι τις στρατιωτικές επιχειρήσεις, γίνεται εύκολα αντιληπτή η ανάγκη για δικλίδες ασφαλείας. Τα συστήματα αυτά έχουν αποκτήσει τεράστια τεχνική και κοινωνική ισχύ. Ας ελπίσουμε ότι οι εταιρείες ΤΝ θα αναγνωρίσουν τη σημασία των διαφορών τους και θα τηρήσουν δεοντολογικά πρότυπα προτού να είναι πολύ αργά. Προς το παρόν, φαίνεται ότι το κέρδος θα επικρατήσει σε αυτή την αναμέτρηση.

Μάθετε για άλλες εξελίξεις στην ΤΝ εδώ.