The Blog

CyberWinter is Coming!

Σήμερα, αντιμετωπίζουμε ένα πολύ σοβαρό κίνδυνο που αναδύεται από την εξέγερση των Μηχανών. Ανάμεσα στο σήμερα και στο 2022, σύμφωνα με διαφορετικές αλλά συγκλίνουσες εκτιμήσεις, ένας υπερυπολογιστής κάπου σε κάποιο πολιτικό εργαστήριο θα φτάσει τη θεωρητική υπολογιστική ισχύ του ανθρώπινου εγκεφάλου. Ορισμένοι μάλιστα την τοποθετούν περίπου στις 10^16 πράξεις κινητής υποδιαστολής ανά δευτερόλεπτο. Εάν έχουν έτσι τα πράγματα, τότε ξεπεράσαμε ήδη αυτό το όριο πέρυσι.
Αυτή η δημοσίευση αναρτήθηκε στην κλειστή πλέον Πλατφόρμα Αρθρογράφου Huffpost. Οι συνεργάτες αρθρογράφοι έχουν τον έλεγχο της δουλειάς τους και αναρτούσαν δημοσιεύσεις ελεύθερα στον ιστότοπό μας. Εάν θεωρείτε πως πρέπει να επισημάνετε αυτήν την καταχώριση ως καταχρηστική, στείλτε μας ένα e-mail.
tedxathens

Η τηλεοπτική σειρά Game of Thrones του του σταθμού HBO ξεκινά το πρώτο λεπτό του πρώτου επεισοδίου της με μια τρομακτική απειλή, αυτή των "White Walkers", των φαντασμάτων από τα βάθη του Βορρά που ζουν πέρα από ζωή όπως την γνωρίζουμε. Μετά όμως, δεν ξαναβλέπουμε αυτόν τον μυθικών διαστάσεων κίνδυνο. Ωστόσο, παραμένει στο παρασκήνιο κάθε φορά που κάποιος λέει τη φράση «Winter is Coming!». Παρατηρούμε διάφορους κινδύνους και ξεχνάμε αυτή την αρχική προειδοποίηση που χάνεται μέσα στους άλλους μύθους και τις ασήμαντες συγκρούσεις...Και, ξαφνικά, μάς χτυπά πέντε χρόνια αργότερα - στο 8ο επεισόδιο του 5ου κύκλου - και τότε καταλαβαίνουμε ότι αυτός ο πολύ ιδιόμορφος «Χειμώνας» είναι πραγματικά ό,τι χειρότερο θα μπορούσε να συμβεί στη γη.

Σήμερα, αντιμετωπίζουμε ένα πολύ σοβαρό κίνδυνο που αναδύεται από την εξέγερση των Μηχανών. Ανάμεσα στο σήμερα και στο 2022, σύμφωνα με διαφορετικές αλλά συγκλίνουσες εκτιμήσεις, ένας υπερυπολογιστής κάπου σε κάποιο πολιτικό εργαστήριο θα φτάσει τη θεωρητική υπολογιστική ισχύ του ανθρώπινου εγκεφάλου. Ορισμένοι μάλιστα την τοποθετούν περίπου στις 10^16 πράξεις κινητής υποδιαστολής ανά δευτερόλεπτο. Εάν έχουν έτσι τα πράγματα, τότε ξεπεράσαμε ήδη αυτό το όριο πέρυσι. Το πιο σημαντικό είναι ότι συνήθως χρειάζονται λιγότερα από 20 χρόνια μέχρι να καταφέρει η υπολογιστική ισχύς ενός κορυφαίου εργαστηρίου να ενσωματωθεί στους υπολογιστές που βρίσκονται στο κανονικό εμπόριο. Φανταστείτε το είδος της ισχύος που θα έχουμε όλοι στα χέρια μας σε 20 χρόνια από τώρα. Επιπλέον, ορισμένοι ερευνητές της Πολεμικής Αεροπορίας των ΗΠΑ εκτιμούν ότι μέχρι το 2035 οι συσκευές που θα είναι συνδεδεμένες στο Διαδίκτυο θα φτάσουν περίπου τα 2 τρισεκατομμύρια. Εάν μόνο το 5% από αυτές κινούνται αυτόνομα, τότε θα υπάρχουν περισσότερα ρομπότ από ανθρώπους σε 20 χρόνια από τώρα. Με βάση την παρατήρηση του σημερινού πληθυσμού των ρομπότ και της δυναμικής του, υπάρχουν και άλλοι ερευνητές που καταλήγουν στο ίδιο συμπέρασμα.

Προσέξτε όμως και τους εσφαλμένους μύθους. Πολύ έξυπνοι άνθρωποι όπως ο Έλον Μασκ ή ο Στίβεν Χώκινγκ μάς έχουν προειδοποιήσει για την απειλή της Τεχνητής Νοημοσύνης. Ορισμένες από τις προειδοποιήσεις τους ήταν λανθασμένες ή ανακριβείς. Οι μηχανές δεν θα καταλάβουν την εξουσία μόλις γίνουν αρκετά έξυπνες για να ξεφορτωθούν το ανθρώπινο είδος. Η γνώση και το συναίσθημα είναι δύο ξεχωριστές λειτουργίες του εγκεφάλου. Το συναισθηματικό μας σύστημα είναι κοινό σε μεγάλο βαθμό με όλα τα υπόλοιπα θηλαστικά, όπως απέδειξε ο νευροεπιστήμονας Jan Panksepp. Το συναισθηματικό σύστημα και οι αντιδράσεις που ενεργοποιεί αναπτύχθηκαν για έναν συγκεκριμένο λόγο: την αναπαραγωγή και την επιβίωση. Οι μηχανές όμως είναι διαφορετικές. Δεν θα παλέψουν για να κατακτήσουν το κορίτσι της διπλανής πόρτας - δεν ανταγωνίζονται για την αναπαραγωγή. Δεν παλεύουν καν για την επιβίωσή τους. Από προγραμματισμού τους, μπορούν να ενεργοποιούνται και να απενεργοποιούνται ξανά και ξανά. Μπορούν να περνούν από τη ζωή στο θάνατο και ξανά στη ζωή ανάλογα με τις επιθυμίες του χρήστη.

Το πραγματικό πρόβλημα δεν έγκειται στη μηχανή, αλλά πιο συγκεκριμένα στο λογισμικό: την ψηφιακή γλώσσα που χρησιμοποιούν ο ανθρώπινος χρήστης και η μηχανή για να επικοινωνήσουν μεταξύ τους. Αυτό επίσης είναι που αποκαλείται «κυβερνοχώρος», εξού και ο όρος «κυβερνοαπειλή». Μέχρι στιγμής, δεν υπάρχει καμία μέθοδος έκδοσης λογισμικού χωρίς κανένα σφάλμα. Ακόμη κι αν υπήρχε, επειδή αυτό το νέο λογισμικό θα διασυνδεόταν με όλα τα άλλα επίπεδα λογισμικού στον Κυβερνοχώρο και πάλι ενδεχομένως θα ήταν εκτεθειμένο σε κίνδυνο από τα γεμάτα ευπάθειες λογισμικά με τα οποία αλληλεπιδρά.

Όταν αυτές οι ευπάθειες χρησιμοποιούνται από κακόβουλους ανθρώπινους χρήστες, δημιουργούνται κάθε είδους καταστροφικοί κίνδυνοι. Με το Διαδίκτυο των Πραγμάτων και τη μαζική ρομποτοποίηση να πλησιάζουν, σύντομα θα ζούμε σε έναν κόσμο που θα μπορεί να προγραμματιστεί πλήρως. Όμως, σε έναν προγραμματιζόμενο κόσμο είναι εύκολο να αναπρογραμματίσεις ένα εργαλείο και να το μετατρέψεις σε όπλο. Έτσι, ξαφνικά μπορεί να χάσεις τον έλεγχο του αυτοκινήτου σου - αυτό αποδείχθηκε το 2015 από ερευνητές που κατάφεραν να αποκτήσουν τον έλεγχο ενός Jeep Cherokee εξ αποστάσεως. Αυτό εξηγεί γιατί το κυβερνοέγκλημα μπορεί να επεκταθεί γρήγορα και να φτάσει 2-3 φορές τον όγκο χρημάτων που βγάζουν οι αγορές παράνομης διακίνησης ναρκωτικών. Εξάλλου, κάποιοι θα μπορούσαν με τον ίδιο τρόπο να αποκτήσουν τον έλεγχο χιλιάδων αυτοκινήτων και να τα τρακάρουν την ίδια κιόλας ημέρα. Αυτό θα μπορούσε να τροφοδοτήσει με ιδέες τους τρομοκράτες.

Σε ένα τέτοιο κόσμο, παραμονεύουν πάρα πολλοί σοβαροί κίνδυνοι. Θα μπορούσαμε να έχουμε την εμφάνιση «κυβερνοεγκληματοκρατών» όπως είχαμε τα «ναρκοκράτη» - κράτη που έχουν διαφθαρεί μέχρι τον πυρήνα τους από τα χρήματα που προέρχονται από το κυβερνοέγκλημα. Θα μπορούσαν να γίνουν ασφαλή καταφύγια για κακόβουλους χάκερ, μισθοφόρους που εργάζονται για άλλα κράτη-παρίες ή για αυτοκρατορίες κυβερνοεγκλημάτων. Εάν όμως δεν μπορούμε να ελέγξουμε τον προγραμματιζόμενο κόσμο μας, τότε η παγκόσμια οικονομία θα καταρρεύσει - μια απειλή που αναφέρθηκε από τον James Clapper, Director of National Intelligence, στις ακροάσεις του Κογκρέσου το 2015. Τότε, οι τρομοκράτες θα μπορούσαν να δημιουργήσουν κύματα μαζικής τρομοκρατίας.

Ακόμη χειρότερα, τα προγραμματιζόμενα στρατιωτικά συστήματα θα μπορούσαν να δεχθούν επίθεση από χάκερ. Αυτό έχει ήδη συμβεί στο παρελθόν. Αυτός ο κίνδυνος είναι ο λόγος που τα σιλό των πυρηνικών πυραύλων των ΗΠΑ χρησιμοποιούν ακόμη εξοπλισμό υπολογιστών της δεκαετίας του 1980 - για να αποφύγουν τις ευπάθειες που θα συνόδευαν τη μεγάλη αναβάθμιση των υπολογιστικών συστημάτων. Εάν ολόκληρες κατηγορίες συμβατικών όπλων εκτίθενται στον κίνδυνο επίθεσης από χάκερ, τα σώματα των ενόπλων δυνάμεων θα αρχίσουν να ανησυχούν πολύ. Σε αυτό προστίθεται και ο ίδιος ο κίνδυνος που προέρχεται, όσον αφορά τη διεθνή σταθερότητα, από τα κυβερνο-όπλα. Δεν υπάρχει πιο ξεκάθαρο δόγμα χρήσης σήμερα από αυτό που είχαν οι δυνάμεις των πυρηνικών όπλων κατά τον Ψυχρό Πόλεμο. Ωστόσο, το σαμποτάζ στο εργοστάσιο εμπλουτισμού ουρανίου Natanz στο Ιράν την περίοδο 2007-2010 από ένα κυβερνο-όπλο απέδειξε τις στρατηγικές τους δυνατότητες. Αυτό έρχεται να προστεθεί σε έναν κίνδυνο κλιμάκωσης, που ήδη εξελίσσεται σε αργή κίνηση.

Και όλα αυτά δημιουργούν ένα πολύ επικίνδυνο μείγμα που θα φτάσει στο ζενίθ του καθώς θα πλησιάζουμε σε έναν πλήρως προγραμματιζόμενο κόσμο ως τα μέσα του αιώνα που διανύουμε-μόλις σε 30-35 χρόνια από τώρα. Θα εξελιχθεί πολύ νωρίτερα απ' ότι οι κίνδυνοι που αντιμετωπίζει η γη από την υπερθέρμανση του πλανήτη. Και το αστείο είναι ότι πολύ λίγοι άνθρωποι μιλούν για αυτό.

Αλήθεια, προσέξτε, CyberWinter is coming!

*O Guy Goldstein θα είναι ομιλητής στο 7ο κατά σειρά TEDxAthens που επιστρέφει στις 6 Φεβρουαρίου 2016. Για πρώτη φορά στο κέντρο της Αθήνας, στο Θέατρο Παλλάς και το CityLink, έρχεται με πολλές δυνατές αφηγήσεις, εκπληκτικές ιστορίες και καινούργιες ιδέες, που αναμένεται να χαρίσουν σε όλους όσους παρευρεθούν μια αξέχαστη εμπειρία. Η HuffPost Greece είναι χορηγός επικοινωνίας της εκδήλωσης. Παρακολουθήστε το event μέσω του TEDxAthens Simulcast στα Εκπαιδευτήρια Κωστέα-Γείτονα. Το εκπαιδευτικό simulcast event θα είναι δωρεάν, θα ακολουθεί πιστά το πρόγραμμα του TEDxAthens στις 6 Φεβρουαρίου ενώ οι παρευρισκόμενοι θα έχουν την ευκαιρία να παρακολουθήσουν σε απευθείας μετάδοση όλες τις ομιλίες μέσω livestream.

**Το κείμενο μεταφράστηκε από τα αγγλικά στα ελληνικά από την Maria Leridi (Official Translator).