Καλωσήρθατε στην εποχή των deepfakes

Παραπληροφόρηση και πολιτική
ANNECORDON via Getty Images

«Ο μεγάλος συντελεστής της εξέλιξης των λαών δεν υπήρξε ποτέ η αλήθεια, αλλά η πλάνη»

Γκυστάβ Λε Μπον

Στο τεύχος Ιανουαρίου/Φεβρουαρίου 2019 το αμερικάνικο περιοδικό Foreign Affairs φιλοξένησε άρθρο με τίτλο: «Deepfakes and the New Disinformation War» και υπότιτλο «The Coming Age of Post-Truth Geopolitics». Το άρθρο υπογράφουν οι δικηγόροι Robert Chesney και Danielle Citron, ειδικοί σε θέματα ασφάλειας και κυβερνοεγκλήματος. Σκοπός τους είναι να αφυπνίσουν ειδικούς αλλά και κοινό για την επερχόμενη απειλή των deepfakes, μια νέα μάστιγα του διαδικτύου και των social media που έρχεται να προστεθεί στην εποχή της μετά – αλήθειας (post- truth) που βιώνουμε.

Ο ορισμός post-truth (μετά- αλήθεια) δεν είναι καινούργιος. Το 2016, λίγο μετά τις προεδρικές εκλογές και την είσοδο του Trump στο Λευκό Οίκο, το λεξικό της Οξφόρδης όρισε το νεολογισμό post -truth ως την λέξη της χρονιάς. Ως post -truth (μετά-αλήθεια) ορίζεται η διαμόρφωση της κοινής γνώμης, όχι με βάση τα αντικειμενικά γεγονότα και τις εξακριβωμένες ειδήσεις, αλλά με αφηγήματα που γίνονται αποδεκτά από το συναίσθημα και την επιθυμία του κόσμου. Με άλλα λόγια, η μετά-αλήθεια αποδέχεται ως «αλήθεια» κάθε υπόθεση που μοιάζει με πραγματική ή που «θα θέλαμε να ήταν πραγματική» αρκεί να ικανοποιεί το θυμικό του λαού.

«Κάποτε είχαμε αλήθειες και ψέματα» γράφει στο βιβλίο του «The Post-Truth Era» ο καθηγητής Ralph Keyes. «Τώρα έχουμε αλήθειες, ψέματα, σχεδόν αλήθειες, βελτιωμένες αλήθειες, περίπου ψέματα και πολλές ανακρίβειες. Στην εποχή της μετά-αλήθειας είναι θολά τα όρια μεταξύ αλήθειας και ψέματος, τίμιου και ανέντιμου, πραγματικού και φανταστικού. Η εξαπάτηση των άλλων γίνεται πρόκληση, παιχνίδι και τελικά συνήθεια…». Το βιβλίο εκδόθηκε το μακρινό 2004, όταν τα social media βρισκόταν ακόμη στην δημιουργία τους. Υπήρξε όμως προφητικό για ό,τι θα επακολουθούσε.

Το διαδίκτυο και η δυνατότητα να μπορούν οι άνθρωποι σε όποιο μέρος του πλανήτη και αν βρίσκονται καθώς και η εκρηκτική άνοδος των μέσων κοινωνικής δικτύωσης (social media) που αντικατέστησαν τους παραδοσιακούς τρόπους ενημέρωσης, πληροφόρησης, αλλά και επικοινωνίας, αποτέλεσαν εύφορο έδαφος για την κυκλοφορία ψευδών ειδήσεων (fake news) με εκρηκτικές συνέπειες για την πολιτική.

Ας μην λησμονούμε πως πριν τα social media, οι πολιτικοί έδιναν μια ομιλία η οποία μεταδιδόταν από την τηλεόραση ή το ραδιόφωνο, προχωρούσαν σε συνέντευξη σε μια εφημερίδα ή περιοδικό και ο πολίτης στη συνέχεια είχε το χρόνο να αναλύσεις τις πολιτικές/κομματικές τοποθετήσεις είτε συζητώντας με άλλα άτομα (στην Ελλάδα αυτό συνέβαινε παραδοσιακά στα καφενεία) είτε εξάγοντας τα απαραίτητα συμπεράσματα μόνος του με σκέψη. Υπήρχε δηλαδή ο απαραίτητος χρόνος προκειμένου να επέλθει η ζύμωση/σκέψη/επεξεργασία όσων άκουσε ή διάβασε. Πλέον ο χρόνος δεν υπάρχει. Από την στιγμή που το διαδίκτυο λειτουργεί 24/7, ο πολίτης βομβαρδίζεται με ειδήσεις, εικόνες και βίντεο και καλείται να αντιδράσει/επεξεργαστεί όσα λαμβάνει αστραπιαία. Όμως η ζύμωση/επεξεργασία είναι άκρως πιο δύσκολη, καθώς τα fake news αποτελούν μια ανοιχτή διαδικτυακή μάστιγα.

Η χαραυγή των deepfakes

Αν μια εικόνα κοστίζει όσο χίλιες λέξεις και προκαλεί και τις ανάλογες αντιδράσεις, φανταστείτε πόσο κοστίζει ένα βίντεο. Οι ηχογραφήσεις και οι βιντεοσκοπήσεις επιτρέπουν στους ανθρώπους να γίνουν μάρτυρες ενός γεγονότος. Στη σημερινή εποχή όπου τα έξυπνα τηλέφωνα κυριαρχούν, οι χρήστες του διαδικτύου έχουν την τάση εκτός από φωτογραφίες να ανεβάζουν και βίντεο στους προσωπικούς τους λογαριασμούς και να ενημερώνονται μέσα από διάφορα βίντεο που κυκλοφορούν. Τι ακριβώς συμβαίνει όμως όταν το βίντεο είναι ψεύτικο.

Καλωσήρθατε στην εποχή των deepfakes όπου όλα είναι εφικτά. Ο όρος είναι σύνθετος και προέρχεται από το deep (βαθύς) και το fake (ψεύτικος). Χρησιμοποιείται για να περιγράψει ένα ψεύτικο βίντεο που δείχνει ένα άτομο ή άτομα που εκτελούν μια ενέργεια σε ένα γεγονός που δεν συνέβη ποτέ στην πραγματικότητα. Τα άτομα είναι υπαρκτά. Το περιβάλλον είναι υπαρκτό αλλά οι ενέργειες που παρουσιάζει το βίντεο όχι. Ξεκίνησε ως όρος που χαρακτήριζε πορνογραφικό υλικό. Ήταν το 2017 όταν ένας χρήστης του reddit με το ψευδώνυμο Deepfakes δημοσίευσε πορνογραφικό υλικό σε βίντεο με διάσημες οι οποίες παρουσιάζονταν σε ιδιωτικές ερωτικές σκηνές με διάφορους παρτενέρ. Daisy Ridley, Gal Gadot, Emma Watson, Katy Perry, Taylor Swift και Scarlett Johansson. Οι σκηνές δεν ήταν πραγματικές, αφού δημιουργήθηκαν μέσω υπολογιστή. Στην αρχή το υλικό θεωρήθηκε αυθεντικό και χρειάστηκε να περάσει κάποιο διάστημα ώστε όλοι να συνειδητοποιήσουν πως πρόκειται για αποτέλεσμα υπολογιστή.

Για τους κινδύνους των deepfakes είχε προειδοποιήσει και ο βραβευμένος με Όσκαρ κινηματογραφιστής Jordan Peele όταν έφτιαξε ένα βίντεο του πρώην προέδρου Barack Obama να μιλάει για τον Τrump. Στο τέλος όμως έδειξε πως ήταν ο ίδιος που ουσιαστικά μιλούσε απλά χρησιμοποίησε την εικόνα και την φωνή του πρώην πλανητάρχη. Εξήγησε πως όλο αυτό το δημιούργημα ήταν αποτέλεσμα μιας τεχνολογίας αλγοριθμικής εκμάθησης μηχανών που επιτρέπει σε οποιονδήποτε να δημιουργήσει μια πολύ πειστική προσομοίωση ενός ανθρώπινου υποκειμένου, δεδομένου ότι διαθέτει αρκετά φωτογραφικά στοιχεία για να εκπαιδεύσει το μηχάνημα σχετικά με το πως πρέπει να φαίνεται η εικόνα.

Δεδομένης της τεράστιας κάλυψης των μέσων ενημέρωσης γύρω από τον Obama, ήταν αρκετά εύκολο για τον Peele να προχωρήσει στην δημιουργία του βίντεο. Εύλογα θα αναρωτηθείτε γιατί ο Jordan Peele να μπει στην διαδικασία να προχωρήσει σ΄αυτή την κίνηση καθώς η πολιτική δεν είχε άμεση σχέση με την συγκεκριμένη τεχνολογία που έμοιαζε να αφορά μόνο τα sites προώθησης πορνογραφικού υλικού.

Δυστυχώς, ο Peele είχε δίκιο καθώς πριν από μερικές εβδομάδες είχαμε το πρώτο πολιτικό κρούσμα. Τον Ιανουάριο του 2019, ο τηλεοπτικός σταθμός Q13 που εδρεύει στην περιοχή του Σιάτλ και είναι θυγατρικός του Fox, πρόβαλλε ένα deep fake video του Trump κατά τη διάρκεια ομιλίας του στο Οβάλ Γραφείο. To περιστατικό συνέβη την Τρίτη 9 Ιανουαρίου όταν ο Τrump ενώ βρισκόταν σε εξέλιξη το shut down στις ΗΠΑ θέλησε να μιλήσει στους Αμερικάνους για το Τείχος στο Μεξικό και την αναγκαιότητα κατασκευής του.

To βίντεο που έδειξε ο σταθμός παρουσίαζε τον Αμερικανό πρόεδρο ασυνήθιστα πορτοκαλί ενώ την ώρα που μιλούσε πλατάγισε την γλώσσα του και έγλειψε τα χείλη του. Το διαστρεβλωμένο βίντεο ανακαλύφθηκε τελικά την επόμενη ημέρα από έναν συντηρητικό ραδιοφωνικό σταθμό της πολιτείας. Όπως έγραψαν οι Times το συγκεκριμένο βίντεο ανήκει στην κατηγορία των deepfakes.

An AFP journalist views an example of a 'deepfake' video manipulated using artificial intelligence, by Carnegie Mellon University researchers, from his desk in Washington, DC January 25, 2019. - Some deepfakes may be harmless but others may be used for nefarious purposes. 'Deepfake' videos that manipulate reality are becoming more sophisticated and realistic as a result of advances in artificial intelligence, creating a potential for new kinds of misinformation with devastating consequences.
An AFP journalist views an example of a 'deepfake' video manipulated using artificial intelligence, by Carnegie Mellon University researchers, from his desk in Washington, DC January 25, 2019. - Some deepfakes may be harmless but others may be used for nefarious purposes. 'Deepfake' videos that manipulate reality are becoming more sophisticated and realistic as a result of advances in artificial intelligence, creating a potential for new kinds of misinformation with devastating consequences.
ALEXANDRA ROBINSON via Getty Images

Οι ειδικοί προβληματίστηκαν καθώς από τον Ιανουάριο του 2018 λειτουργεί μια εφαρμογή που ονομάζεται FakeApp επιτρέπει στους χρήστες να δημιουργούν και να μοιράζονται εύκολα βίντεο με πρόσωπα που ανταλλάσσονται. Η εφαρμογή χρησιμοποιεί ένα τεχνητό νευρωνικό δίκτυο και τη δύναμη του επεξεργαστή γραφικών και τρία έως τέσσερα gigabytes χώρου αποθήκευσης για τη δημιουργία του ψεύτικου βίντεο. Για λεπτομερείς πληροφορίες, το πρόγραμμα χρειάζεται μεγάλο οπτικό υλικό από το άτομο που πρόκειται να εισαχθεί για να μάθει ποιες πτυχές εικόνας πρέπει να ανταλλάσσονται χρησιμοποιώντας ειδικό αλγόριθμο.

Φανταστείτε ένα βίντεο που απεικονίζει τον ισραηλινό πρωθυπουργό σε ιδιωτική συνομιλία με έναν συνάδελφό του, όπου θα αποκαλύπτεται ένα σχέδιο για τη διεξαγωγή σειράς πολιτικών δολοφονιών στην Τεχεράνη. Ή ένα ηχητικό κλιπ Ιρανών αξιωματούχων που σχεδιάζουν μια συγκεκαλυμμένη επιχείρηση για να σκοτώσουν τους ηγέτες των Σουνιτών σε μια συγκεκριμένη επαρχία του Ιράκ. Ή ένα βίντεο που να δείχνει έναν Αμερικανό στρατηγό στο Αφγανιστάν να καίει ένα Κοράνι. Σε έναν κόσμο που έχει ήδη η βία είναι καθημερινό φαινόμενο, τέτοιες καταγραφές θα αποτελούσαν ισχυρό κίνητρο για υποκίνηση.

Τώρα φανταστείτε ότι αυτές οι τεχνολογίες θα μπορούσαν να χρησιμοποιηθούν ως εργαλεία από οποιονδήποτε κακόβουλο με φορητό υπολογιστή και πρόσβαση στο Διαδίκτυο – και ότι τα βίντεο ή τα ηχητικά που προκύπτουν είναι τόσο πειστικά ώστε είναι αδύνατο να ξεχωρίσετε ποιο είναι το πραγματικό και ποιο αποτέλεσμα μοντάζ.

Αν μάλιστα αναλογιστούμε και ό,τι γράφει και στο βιβλίο του «Ψυχολογία των Όχλων» ο Γάλλος κοινωνιολόγος, ανθρωπολόγος, εθνολόγος και ψυχολόγος Γκυστάβ Λε Μπον, οι συνέπειες θα είναι απογοητευτικές για το μέλλον της αλήθειας και της πληροφορίας.

«Οι όχλοι ποτέ δεν δίψασαν για αλήθειες. Αποστρέφονται τα ολοφάνερα πράγματα που τους δυσαρεστούν και προτιμούν να θεοποιούν την πλάνη, αν η πλάνη τους γοητεύει. Εκείνος που ξέρει να τους προκαλεί ψευδαισθήσεις, εύκολα γίνεται ο αφέντης τους, κι εκείνος που προσπαθεί να τους απαλλάξει από τις ψευδαισθήσεις είναι πάντοτε το θύμα τους».

Πρώτη δημοσίευση στο Geopolitics and Daily News

Δημοφιλή