Διασφάλιση της Αυθεντικότητας με την Ανατολή της Τεχνητής Νοημοσύνης (AI)

Η υιοθέτηση της τεχνητής νοημοσύνης σε όλους τους τομείς της ζωής βρίσκεται σε άνοδο. Εκτιμήσεις υποδεικνύουν ότι η αγορά είναι έτοιμη να αυξηθεί τριπλά σε διάστημα επτά ετών. 

Από μέγεθος σχεδόν 242 δισεκατομμυρίων δολαρίων ΗΠΑ, αναμένεται να αυξηθεί σε σχεδόν 740 δισεκατομμύρια δολάρια ΗΠΑ μέχρι το 2030. Διάφοροι κλάδοι έχουν αρχίσει να ενσωματώνουν την τεχνητή νοημοσύνη στις λειτουργίες τους. Οι κλάδοι που την έχουν αξιοποιήσει περισσότερο μέχρι τώρα είναι η υγειονομική περίθαλψη, χρηματοοικονομική, η βιομηχανία, οι επιχειρηματικές & νομικές υπηρεσίες κ.λπ. 

Σε μικρότερο βαθμό, η τεχνητή νοημοσύνη έχει αρχίσει να αλλάζει τα λειτουργικά παραδείγματα σε κλάδους όπως τα μέσα ενημέρωσης, η ψυχαγωγία, η ασφάλεια, το λιανικό εμπόριο, η ενέργεια κ.λπ. 

Με την αυξημένη υιοθέτηση της τεχνητής νοημοσύνης, η πρόκληση της διασφάλισης της αυθεντικότητας έχει εμφανιστεί ως σημαντικό ζήτημα που απαιτεί άμεση αντιμετώπιση. Ξεκινάμε τη σημερινή συζήτηση εξετάζοντας ποιες είναι αυτές οι προκλήσεις.

Κάντε κλικ εδώ για να μάθετε όλα σχετικά με την επένδυση στην τεχνητή νοημοσύνη. 

Προκλήσεις Αυθεντικότητας στην Υιοθέτηση της Τεχνητής Νοημοσύνης

Αυτό που αποτελεί δύναμη της τεχνητής νοημοσύνης έχει αναδειχθεί ως αδυναμία της. Οι αλγόριθμοι AI είναι ικανοί να δημιουργούν ρεαλιστικές εικόνες, βίντεο, άρθρα και οποιαδήποτε άλλη μορφή πολυμέσων, τα οποία μπορεί να είναι εξαιρετικά δύσκολο για έναν μέσο θεατή να διακρίνει από το πρωτότυπο. 

Στο μέσο μάτι, μπορεί να φαίνεται ως αυθεντική πληροφορία από αξιόπιστη πηγή, ενώ στην πραγματικότητα μπορεί να είναι εντελώς αντίθετη: ψεύτικο περιεχόμενο που δημιουργείται για κακόβουλη προπαγάνδα. Πολλά γεγονότα έχουν συμβεί πρόσφατα που αποκαλύπτουν αυτή τη σκοτεινή πλευρά της αυξανόμενης υιοθέτησης της AI. 

Ψεύτικη Εικόνα Έκρηξης στο Πεντάγωνο Δημιουργημένη από AI

Τον Μάιο του 2023, δημοσιεύτησαν ειδήσεις για μια έκρηξη κοντά στο Πεντάγωνο των ΗΠΑ. Η εικόνα έδειχνε πολύ καπνό να βγαίνει από τον κήπο κοντά στο κτίριο του Πενταγώνου. Η εικόνα μοιράστηκε ένας επαληθευμένος λογαριασμός στο Twitter, το Bloomberg Feed, ο οποίος είχε μπλε σημάδι ελέγχου. Σύντομα, πολλοί επαληθευμένοι λογαριασμοί με μπλε σημάδια μοιράστηκαν επίσης την εικόνα. Ωστόσο, ήταν μια εικόνα που δημιουργήθηκε από AI και εξαπάτησε πολλούς. Η πρόσφατη πολιτική της X να προσφέρει τα μπλε σημάδια ελέγχου με μηνιαία χρέωση 8 δολαρίων ΗΠΑ επιδείνωσε περαιτέρω το πρόβλημα. 

Δεδομένου ότι οποιοσδήποτε μπορούσε να έχει επαληθευμένο λογαριασμό και οι επαληθευμένοι λογαριασμοί λαμβάνουν μεγαλύτερη προβολή, τα νέα διαδόθηκαν γρήγορα, προκαλώντας ανησυχίες για μιμητές δημόσιων προσώπων, κυβερνητικών αξιωματούχων και ειδησεογραφικών ιστοτόπων, δημιουργώντας χάος και κρίση αυθεντικότητας στον ψηφιακό χώρο.

Αν και η εικόνα δύσκολα θα μπορούσε να αναγνωριστεί ως δημιουργημένη από AI από έναν μέσο χρήστη του κοινωνικού δικτύου X, ορισμένοι ερευνητές AI μπόρεσαν να εντοπίσουν τα ελαττώματα ή τις ανωμαλίες. 

According to Nick Waters, έναν τέτοιο ερευνητή AI:

“Η ‘ασυνήθιστη’ συγχώνευση του φράχτη του κτιρίου με τα εμπόδια του πλήθους έδειχνε ότι η εικόνα θα μπορούσε να έχει δημιουργηθεί ή να έχει υποστεί τεχνητή επεξεργασία.”

Ωστόσο, η παραποίηση πέτυχε τον σκοπό της, ακόμη και αν για μια σύντομη στιγμή, δημιουργώντας χάος και σύγχυση στα κοινωνικά δίκτυα και πέραν αυτών. 

Χιλιάδες Ψεύτικες Εικόνες στο Adobe Stock

According to a report μια αναφορά που δημοσιεύτηκε στην Washington Post, οι εικόνες stock που δημιουργούνται από AI είναι εκτεταμένες. Μια αναζήτηση στο Adobe Stock με τον όρο ‘Ukraine War’ απέδωσε πάνω από 15.000 ψεύτικες εικόνες της σύγκρουσης. Η αναφορά σημείωσε επίσης έντονη παρουσία εκατοντάδων AI εικόνων ανθρώπων σε διαδηλώσεις Black Lives Matter που δεν συνέβησαν. 

Δεκάδες AI-δημιουργημένες εικόνες ήταν επίσης διαθέσιμες για τις πυρκαγιές στο Maui. Πολλές από αυτές τις εικόνες έμοιαζαν τόσο στενά με πραγματικές φωτογραφίες που λήφθηκαν από φωτογραφιστές, ώστε οι ψεύτικες ήταν δύσκολο να διαχωριστούν από τις πραγματικές. 

Η Περίπτωση Φαίνονται Πραγματικά Κλιπ Ειδήσεων

According to another report published by Forbes που δημοσιεύτηκε από το Forbes, σχετικά με ψεύτικα που δημιουργούνται από AI, ο αστέρας του TikTok και του YouTube, Krishna Sahay, είναι ένας από πολλούς χρήστες κοινωνικών μέσων που χρησιμοποιούν γενετική AI για να δημιουργούν φαινομενικά πραγματικά κλιπ ειδήσεων κορυφαίων παρουσιαστών από μεγάλους κύριους ειδησεογραφικούς οργανισμούς των οποίων η εργασία έχει μεγάλη αξιοπιστία. 

Από το CBS έως το CNN και το BBC, πολλοί παρουσιαστές αυτών των ειδησεογραφικών οργανισμών περιλαμβάνονται σε αυτή τη λίστα. Αυτά τα βίντεο είναι επίσης γνωστά ως deep fakes, όπου ισχυροί γενετικοί αλγόριθμοι AI βοηθούν στη δημιουργία οπτικοακουστικού περιεχομένου που μοιάζει και ακούγεται όπως οι ίδιοι οι παρουσιαστές.

Σύμφωνα με την αναφορά, ο Krishna Sahay μόνος του έχει κοινό εκατομμυρίων. Τα βίντεο του Sahay περιλαμβάνουν προβληματικά σχόλια σχετικά με AI-μεταχειρισμένους ψεύτικους παρουσιαστές σε ευαίσθητα ζητήματα, όπως σχολικές βολές, τρομοκρατικές επιθέσεις, εγκληματικές επιθέσεις κ.ά.

Σύμφωνα με τον Hany Farid, ειδικό σε deep fake και καθηγητή στο UC Berkeley, αυτά τα βίντεο εκμεταλλεύονται τη δημοτικότητα και την αξιοπιστία των γνωστών παρουσιαστών ειδήσεων ως ένα «επιπλέον μέσο για τη διάδοση παραπληροφόρησης».

Σύμφωνα με τον καθηγητή Farid: «Σε πολλές περιπτώσεις, οι παρουσιαστές είναι γνωστοί στο κοινό και εμπιστεύονται, και ακόμη και αν δεν είναι, η γενική μορφή των ειδήσεων είναι οικεία και επομένως πιο αξιόπιστη». Πιστεύει ότι η διακοπή αυτής της απειλής θα απαιτήσει από εμάς «να γίνουμε πιο σοβαροί στην προστασία των δικαιωμάτων των ανθρώπων των οποίων η εικόνα και η φωνή εκμεταλλεύονται».

Deep Fakes από τον Πόλεμο στη Γάζα

Το Διαδίκτυο επίσης είδε μια σημαντική εισβολή deep fake βίντεο που σχετίζονται με τον πόλεμο στη Γάζα. Σε απάντηση σε αυτήν την πρόκληση, ο Jean-Claude Goldenstein, Διευθύνων Σύμβουλος της CREOpoint, μια τεχνολογική εταιρεία που εξειδικεύεται στην AI, έχει διαδραματίσει καθοριστικό ρόλο στην αξιολόγηση της εγκυρότητας τέτοιου περιεχομένου. Αναγνωρίζοντας τη σοβαρότητα της κατάστασης, η εταιρεία ανέπτυξε μια βάση δεδομένων με τα πιο ιριδίζοντα deep fakes που εμφανίστηκαν από τη Γάζα, σημειώνοντας ένα κρίσιμο βήμα στην αντιμετώπιση αυτής της ψηφιακής απειλής.

According to Goldenstein:

“Εικόνες, βίντεο και ήχος: με τη γενετική AI, θα είναι μια κλιμάκωση που δεν έχετε ξαναδεί.”

Αυτά τα βίντεο συχνά επαναχρησιμοποιούν περιεχόμενο από παλαιότερες συγκρούσεις. Προσπαθούν να δημιουργήσουν μια ισχυρή συναισθηματική αντίδραση ενισχύοντας την ένταση της καταστροφής. 

Εκτός από την πλήρη γνώση της γενετικής AI, αυτές οι ομάδες δημιουργίας deep fake περιλαμβάνουν άτομα που γνωρίζουν την ανθρώπινη ψυχολογία και πώς να στοχεύσουν τις πιο βαθιές παρορμήσεις και ανησυχίες των ανθρώπων.

Στα χέρια προπαγανδιστών, θεωρητικών συνωμοσίας, τρομοκρατών ή οργανώσεων απατεώνων, τα εργαλεία AI που δημιουργούν ψεύτικο περιεχόμενο έχουν εξελιχθεί σε ένα από τα πιο θανατηφόρα όπλα. Η ανάγκη να τα ελέγχουμε αυξάνεται με κάθε πέρασμα της ημέρας.

Ένας από τους πιο αποτελεσματικούς τρόπους για να αντιμετωπιστεί αυτή η αυξανόμενη απειλή είναι η διασφάλιση της αυθεντικότητας της πηγής. Οι έρευνες και οι προσπάθειες δημιουργίας λύσεων για τη διασφάλιση της αυθεντικότητας βρίσκονται σε πλήρη εξέλιξη. Ακολουθούν μερικά παραδείγματα από την πραγματική ζωή. 

Πώς διασφαλίζετε την αυθεντικότητα του περιεχομένου στην Εποχή της Τεχνητής Νοημοσύνης;

Τεχνολογία Επαλήθευσης Εντός Κάμερας της Sony

Η Sony Electronics ετοιμάζεται να παρουσιάσει μια καινοτόμο λύση. Έχει ολοκληρώσει τον δεύτερο γύρο δοκιμών της τεχνολογίας αυθεντικότητας εντός κάμερας σε συνεργασία με το Associated Press. 

Ο σκοπός αυτής της τεχνολογίας είναι να εξοπλίσει τις ληφθείσες εικόνες με ένα πιστοποιητικό γέννησης που θα πιστοποιεί την προέλευση του περιεχομένου. Πιο συγκεκριμένα, θα είναι μια ψηφιακή υπογραφή που παράγεται εντός της κάμερας τη στιγμή της λήψης της εικόνας στο υλικό τσιπ.

Σύμφωνα με τον Neal Manowitz, Πρόεδρο και COO της Sony Electronics, η «τεχνολογία αυθεντικότητας εντός κάμερας έχει δείξει πολύτιμα αποτελέσματα», και η εταιρεία «θα συνεχίσει να προωθεί την ανάπτυξή της προς μια ευρύτερη κυκλοφορία».

Η κοινή πεδία δοκιμή της Sony Electronics και του AP ολοκληρώθηκε τον Οκτώβριο του τρέχοντος έτους. Ο σκοπός αυτού του γύρου δοκιμών ήταν η αξιολόγηση της αποτελεσματικότητας της επαλήθευσης λήψης και της σχετικής ροής εργασίας.

Ο τρίτος συνεργάτης σε αυτό το έργο ήταν η CameraBits, γνωστή για τη δημιουργία του εργαλείου ροής εργασίας PhotoMechanic, που αποτελεί πρότυπο στη βιομηχανία.

Ο ρόλος που έπαιξε η CameraBits σε αυτή τη συνεργασία περιελάμβανε την παροχή της τεχνολογίας για τη διατήρηση της ψηφιακής υπογραφής της κάμερας μέσω της διαδικασίας επεξεργασίας μεταδεδομένων.

Σύμφωνα με τον David Ake, Διευθυντή Φωτογραφίας του Associated Press, «Οι ψεύτικες και παραποιημένες εικόνες αποτελούν σημαντικό πρόβλημα για τα ειδησεογραφικά οργανισμούς. Δεν συμβάλλουν μόνο στην παραπληροφόρηση, αλλά τελικά διαβρώνουν την εμπιστοσύνη του κοινού σε πραγματικές, ακριβείς εικόνες».

Η τεχνολογία υπογραφής και επαλήθευσης εντός κάμερας θα κυκλοφορήσει ως ενημέρωση λογισμικού σε πολλά μοντέλα την άνοιξη του 2024.

Η Sony Group Corporation (SONY ) έχει κεφαλαιοποίηση αγοράς 106,35 δισεκατομμυρίων δολαρίων, λόγο P/E 19,49, και το 2022 παρουσίασε έσοδα 82,64 δισεκατομμυρίων δολαρίων.

Τεχνολογία για την Καταπολέμηση των Deep Fake Χειρισμών Φωνής

Οι τεχνολογίες βασισμένες στην AI προκάλεσαν εξελίξεις στη ρεαλιστική σύνθεση φωνής. Στην αρχική της μορφή, η τεχνολογία μπορεί να φέρει πολλά οφέλη. Μπορεί να βοηθήσει στην ανάπτυξη εξατομικευμένων βοηθών φωνής και άλλων εργαλείων επικοινωνίας που ενισχύουν την προσβασιμότητα. Ωστόσο, στην άλλη πλευρά, πολλοί τη χρησιμοποιούν για τη δημιουργία φωνών για βίντεο deep fake.

Για να ανταποκριθεί σε αυτήν την απειλή, η Ning Zhang, βοηθός καθηγήτριας πληροφορικής και μηχανικής στη Σχολή Μηχανικής McKelvey του Washington University, ανάπτυξε ένα εργαλείο με όνομα AntiFake. Δεν είναι ένα εργαλείο μετριασμού που βοηθά στην ανίχνευση μετά την επίθεση. Αντίθετα, είναι ένα προληπτικό εργαλείο που στοχεύει στην εξάλειψη του προβλήματος από την αρχή.

According to Prof. Zhang:

“Το AntiFake διασφαλίζει ότι όταν δημοσιεύουμε δεδομένα φωνής, είναι δύσκολο για τους εγκληματίες να χρησιμοποιήσουν αυτές τις πληροφορίες για να συνθέσουν τις φωνές μας και να μας μιμηθούν.”

Σε μια ενδιαφέρουσα κίνηση για την καταπολέμηση των εξελιγμένων κυβερνοεγκληματιών, η καθηγήτρια Zhang αποφάσισε να τους επιστρέψει τα κέρδη τους σε κέρματα. Σύμφωνα με αυτήν:

“Το εργαλείο χρησιμοποιεί μια τεχνική αντιπάλου AI που αρχικά ήταν μέρος του εργαλείου των κυβερνοεγκληματιών, αλλά τώρα το χρησιμοποιούμε για να τους αντιμετωπίσουμε.”

Η βασική αρχή λειτουργίας του AntiFake είναι η ελαφριά παραμόρφωση του καταγεγραμμένου ηχητικού σήματος. Η φύση της παραμόρφωσης είναι τόσο ακριβώς ρυθμισμένη ώστε, ενώ ακούγεται σωστή στα ανθρώπινα αυτιά, να μεταδίδεται ως κάτι εντελώς διαφορετικό στην AI.

Σύμφωνα με δημόσια διαθέσιμα δεδομένα, το AntiFake έχει επιδείξει ποσοστό προστασίας άνω του 95%. Έχει επίσης αποδείξει την αποτελεσματικότητά του στην προσβασιμότητα σε διάφορους πληθυσμούς.

Χρήση της Blockchain για τη Διασφάλιση της Αυθεντικότητας

OARO Media solutions εκμεταλλεύονται τις ιδιότητες αμεταβλητότητας της blockchain για να καταπολεμήσουν την απειλή των deep fake. Βοηθούν στη δημιουργία ενός αμετάβλητου ίχνους δεδομένων για επιχειρήσεις, κυβερνητικές αρχές και μεμονωμένους χρήστες ώστε να επαληθεύουν οποιαδήποτε φωτογραφία ή βίντεο.

Ο τρόπος λειτουργίας του Oaro Media στο κινητό τηλέφωνο του χρήστη είναι απλός αλλά εξαιρετικά αποτελεσματικός. Ο χρήστης ξεκινά με την πρόσβαση στην κάμερα του κινητού μέσω ενός συνδέσμου SMS web ή της εφαρμογής ενός ασφαλιστικού. Στη συνέχεια, εκδίδεται ένα πιστοποιητικό στο οπτικό περιεχόμενο, το οποίο περιλαμβάνει ένα αμετάβλητο αρχείο ταυτότητας χρήστη, περιεχομένου, χρονικής σήμανσης και συντεταγμένων GPS. Αυτή η διαδικασία βοηθά τον ασφαλιστικό κλάδο να επαληθεύει τις αξιώσεις και να διακρίνει τα AI-δημιουργημένα ψεύτικα από τα πραγματικά.

Διακοπή της Χρήσης Deepfakes ως Μέρος Πληροφοριακού Πολέμου

Sentinel’s anti-deepfake λύσεις και υπηρεσίες βοηθούν τις δημοκρατικές κυβερνήσεις, τις αμυντικές υπηρεσίες και τις επιχειρήσεις να προστατεύουν τους πόρους τους από τις επιπτώσεις του κακόβουλα δημιουργημένου περιεχομένου AI. Έχει συνεργαστεί με την Ευρωπαϊκή Ένωση και το Υπουργείο Οικονομικών Υποθέσεων και Επικοινωνιών της Δημοκρατίας της Εσθονίας. Ωστόσο, είναι μια λύση μετά την επίθεση που βοηθά στον εντοπισμό deep fakes μόλις κυκλοφορήσουν.

Ο τρόπος λειτουργίας του είναι μια απλή ροή τεσσάρων βημάτων. Στο πρώτο βήμα, ο χρήστης ανεβάζει το ψηφιακό μέσο μέσω της ιστοσελίδας ή του API της Sentinel. Το σύστημα Sentinel αναλύει αυτόματα το μέσο για να εντοπίσει παραποίηση AI. Στη συνέχεια προσφέρει μια απόφαση εάν το μέσο είναι deep fake ή όχι. Και τέλος, για να ενημερώσει τους χρήστες για τη διαδικασία, εμφανίζει μια οπτικοποίηση της παραποίησης.

Διασφάλιση της Αυθεντικότητας εν μέσω AI: Σενάριο Ανθίζουσας Καινοτομίας για το Μέλλον

Το AI-δημιουργημένο μη αυθεντικό περιεχόμενο είναι ένα ισχυρό εργαλείο για την παραμόρφωση της πραγματικότητας και τη διάδοση βίαιης προπαγάνδας. Έτσι το περιεχόμενο, ακόμη και όταν δημιουργείται για φαινομενικά αθώους λόγους όπως ένα αστείο ή likes στα κοινωνικά δίκτυα, μπορεί να προκαλέσει βία σε μεγάλη κλίμακα.

Η επίπτωσή του επεκτείνεται στην αύξηση της δυσπιστίας σε διάφορους τομείς, από τις διπλωματικές σχέσεις μεταξύ κρατών μέχρι τις αλληλεπιδράσεις μεταξύ επιχειρήσεων υπηρεσιών και των χρηστών τους και ακόμη και τις προσωπικές σχέσεις. Συνεπώς, είναι ένα θετικό σημάδι ότι ερευνητές τεχνολογίας και επιστήμονες παγκοσμίως έχουν αναγνωρίσει τους κινδύνους του ανεξέλεγκτου ψεύτικου περιεχομένου. Έχουμε ήδη επισημάνει πολλές πρωτοβουλίες που αντιμετωπίζουν αυτό το ζήτημα.

Υπάρχουν πολλά περισσότερα. Sensity, για παράδειγμα, αναπτύσσει μια πλατφόρμα οπτικής νοημοσύνης απειλών. Το API της είναι ήδη ικανό να ανιχνεύει τις πιο πρόσφατες τεχνικές παραποίησης και σύνθεσης βάσει AI. Μια άλλη startup, Quantum Integrity, έχει δημιουργήσει SaaS AI λύσεις που μπορούν να ανιχνεύσουν παραποίηση εικόνας και βίντεο.

Οι κυβερνοεγκληματίες θα συνεχίσουν σίγουρα να δημιουργούν νέες τεχνικές για να μας εξαπατήσουν. Αλλά πολλές επιχειρήσεις θα είναι σε θέση να τις προλαμβάνουν και να τις αποτρέπουν. Με την καινοτομία να συνεχίζεται με σταθερό ρυθμό, ο αγώνας δεν είναι πλέον ένας Δαβίδ εναντίον του Γολιάθ.

Κάντε κλικ εδώ για να μάθετε όλα σχετικά με την επένδυση σε πέντε συναρπαστικές τεχνολογίες.