Μπορεί μια μηχανή να αφανίσει την ανθρωπότητα; Και, ακόμη πιο σημαντικό, πόσο πιθανό είναι να συμβεί κάτι τέτοιο; Οι αριθμοί που κυκλοφορούν γύρω από τον λεγόμενο «κίνδυνο αφανισμού» από την Τεχνητή Νοημοσύνη προκαλούν ανησυχία, όμως πίσω από τα εντυπωσιακά ποσοστά κρύβεται ένα πολύ μεγαλύτερο πρόβλημα: κανείς δεν γνωρίζει πώς να τα υπολογίσει επιστημονικά.
Το λεγόμενο p(doom), δηλαδή η πιθανότητα η AI να οδηγήσει τελικά στην καταστροφή της ανθρωπότητας, έχει γίνει τα τελευταία χρόνια ένας από τους πιο συζητημένους όρους στους κύκλους της τεχνολογίας. Μόνο που οι εκτιμήσεις δεν θα μπορούσαν να είναι πιο διαφορετικές. Κάποιοι μιλούν για πιθανότητα κοντά στο 0%, άλλοι για διψήφια ποσοστά και ορισμένοι για περισσότερες από 95%.
Όταν οι εκτιμήσεις για το ίδιο ερώτημα καλύπτουν σχεδόν ολόκληρο το φάσμα από το μηδέν έως τη βεβαιότητα, ένα πράγμα γίνεται ξεκάθαρο: δεν διαθέτουμε ακόμη έναν αξιόπιστο επιστημονικό τρόπο για να δώσουμε την απάντηση.
Πόσο πιθανό είναι να χάσουμε το λαχείο;
Για να καταλάβουμε τη διαφορά, αρκεί να συγκρίνουμε την AI με κινδύνους που μπορούμε πράγματι να υπολογίσουμε.
Ας πάρουμε το λαχείο. Εφόσον κάποιος έχει αγοράσει εισιτήριο και συμμετέχει στο βρετανικό National Lottery, οι πιθανότητες να κερδίσει οποιοδήποτε έπαθλο, από μια δωρεάν συμμετοχή έως το τζακποτ, είναι περίπου 1 στις 4,9, δηλαδή 20,4%.
Επομένως, η πιθανότητα να χάσει είναι 79,6%. Ο αριθμός αυτός δεν είναι μια αυθαίρετη εκτίμηση. Προκύπτει από τους κανόνες και τις πιθανότητες του ίδιου του παιχνιδιού.
Τι γίνεται όμως με έναν κίνδυνο που αφορά την ίδια μας τη ζωή;
Σύμφωνα με τον Παγκόσμιο Οργανισμό Υγείας, περισσότεροι από 1 εκατομμύριο άνθρωποι χάνουν κάθε χρόνο τη ζωή τους σε τροχαίες συγκρούσεις. Αν διαιρέσουμε αυτόν τον αριθμό με τον παγκόσμιο πληθυσμό των περίπου 8 δισεκατομμυρίων ανθρώπων, προκύπτει μια πολύ χονδρική πιθανότητα περίπου 0,01%.
Φυσικά, αυτή η πράξη δεν μας δίνει τον προσωπικό κίνδυνο του καθενός. Οι πιθανότητες εξαρτώνται από το πού ζει κάποιος, πόσο οδηγεί, την ηλικία του και πολλούς ακόμη παράγοντες. Ο ΠΟΥ επισημαίνει ότι πάνω από το 90% των θανάτων από τροχαία σημειώνονται σε χώρες χαμηλού και μεσαίου εισοδήματος.
Παρόλα αυτά, το παράδειγμα δείχνει κάτι σημαντικό. Ένας κίνδυνος μπορεί να είναι μικρός, αλλά να είναι μετρήσιμος. Και επειδή μπορούμε να τον υπολογίσουμε, μπορούμε και να πάρουμε μέτρα για να τον περιορίσουμε.
Η κλιματική αλλαγή δεν είναι «50-50»
Ακόμη πιο σύνθετη είναι η περίπτωση της κλιματικής αλλαγής.
Δεν πρόκειται για ένα γεγονός που είτε θα συμβεί είτε δεν θα συμβεί. Η Γη μπορεί να θερμανθεί κατά διαφορετικούς βαθμούς, ανάλογα με τις εκπομπές αερίων του θερμοκηπίου και τις πολιτικές που θα εφαρμοστούν τις επόμενες δεκαετίες.
Και πάλι, όμως, οι επιστήμονες μπορούν να κάνουν υπολογισμούς.
Χρησιμοποιώντας κλιματικά μοντέλα, εξετάζουν διαφορετικά σενάρια και δημιουργούν ουσιαστικά πολλές πιθανές «εκδοχές» του μέλλοντος. Έτσι μπορούν να εκτιμήσουν πώς μεταβάλλεται ο κίνδυνος ανάλογα με τις αποφάσεις που λαμβάνονται σήμερα.
Η έκθεση του Περιβαλλοντικού Προγράμματος των Ηνωμένων Εθνών για το 2025 εκτιμά ότι, με τις σημερινές πολιτικές, ο κόσμος οδηγείται σε περίπου 2,8°C υπερθέρμανσης έως το τέλος του αιώνα. Ακόμη και με την πλήρη εφαρμογή των εθνικών δεσμεύσεων που έχουν υποβληθεί στο πλαίσιο της Συμφωνίας του Παρισιού, η εκτίμηση παραμένει στους 2,3 έως 2,5°C.
Δεν γνωρίζουμε ακριβώς τι θα συμβεί το 2100. Μπορούμε όμως να δημιουργήσουμε μοντέλα, να συγκρίνουμε σενάρια και να μετρήσουμε τον κίνδυνο.
Αν πέσει ένας αστεροειδής, ξέρουμε πώς να υπολογίσουμε τον κίνδυνο
Ένας αστεροειδής που κατευθύνεται προς τη Γη μοιάζει περισσότερο με το σενάριο της «αποκάλυψης» που περιγράφεται για την AI.
Γνωρίζουμε ότι μπορεί να συμβεί. Το απέδειξαν οι δεινόσαυροι.
Ο Chicxulub, ο αστεροειδής που συνδέεται με τη μαζική εξαφάνιση πριν από περίπου 66 εκατομμύρια χρόνια, είχε διάμετρο περίπου 10 χιλιομέτρων.
Η διαφορά είναι ότι σήμερα μπορούμε να αναζητήσουμε τους αστεροειδείς, να μετρήσουμε το μέγεθός τους, να υπολογίσουμε τις τροχιές τους και να προβλέψουμε τις μελλοντικές θέσεις τους.
Η NASA έχει εντοπίσει περισσότερο από το 90% των κοντινών στη Γη αντικειμένων με διάμετρο μεγαλύτερη από ένα χιλιόμετρο. Για ακόμη μικρότερα αντικείμενα, η εικόνα είναι διαφορετική. Ιδιαίτερο ενδιαφέρον παρουσιάζουν οι αστεροειδείς με διάμετρο μεγαλύτερη από 140 μέτρα, οι οποίοι θεωρούνται αρκετά μεγάλοι ώστε μια πρόσκρουση να προκαλέσει καταστροφές σε επίπεδο πόλης.
Δεν έχουμε εντοπίσει όλους αυτούς τους αστεροειδείς. Όμως γνωρίζουμε τι ψάχνουμε και μπορούμε να υπολογίσουμε τις τροχιές όσων έχουμε εντοπίσει.
Με την AI, το πρόβλημα είναι διαφορετικό.
Ο ιός που μπορεί να εμφανιστεί από το πουθενά
Οι πανδημίες αποτελούν ίσως μια καλύτερη αναλογία.
Η ανθρωπότητα έχει ήδη ζήσει καταστροφικές πανδημίες. Η γρίπη του 1918 σκότωσε περίπου 50 εκατομμύρια ανθρώπους. Η πανδημία του HIV, που ξεκίνησε τη δεκαετία του 1980 και συνεχίζεται μέχρι σήμερα, έχει προκαλέσει περισσότερους από 40 εκατομμύρια θανάτους. Για την Covid-19, ο Παγκόσμιος Οργανισμός Υγείας καταγράφει περισσότερους από 7 εκατομμύρια θανάτους, αν και οι συνολικές εκτιμήσεις διαφέρουν ανάλογα με τη μεθοδολογία.
Γνωρίζουμε επίσης ότι οι πιο καταστροφικές πανδημίες είναι σπανιότερες, ενώ οι μικρότερες επιδημίες εμφανίζονται πολύ συχνότερα.
Οι επιστήμονες μπορούν να χρησιμοποιήσουν ιστορικά δεδομένα και μοντέλα για να υπολογίσουν τον κίνδυνο. Μια ευρέως χρησιμοποιούμενη εκτίμηση υπολογίζει σε 2% έως 3% την πιθανότητα να σημειωθεί κάθε χρόνο μια πανδημία αντίστοιχης σοβαρότητας με την Covid-19. Αυτό μεταφράζεται σε μία τέτοια πανδημία περίπου κάθε 33 έως 50 χρόνια.
Δεν γνωρίζουμε πότε θα εμφανιστεί ο επόμενος επικίνδυνος ιός. Μπορούμε όμως να εκτιμήσουμε τον κίνδυνο με βάση όσα γνωρίζουμε.
Το μεγάλο κενό στην περίπτωση της AI
Και εδώ βρίσκεται η μεγάλη διαφορά.
Για το λαχείο έχουμε μαθηματικές πιθανότητες. Για τα τροχαία έχουμε ιστορικά δεδομένα. Για τους αστεροειδείς έχουμε παρατηρήσεις και τροχιές. Για τις πανδημίες έχουμε ιστορικά στοιχεία και επιδημιολογικά μοντέλα. Για την κλιματική αλλαγή έχουμε δοκιμασμένα κλιματικά μοντέλα.
Για την πιθανότητα μιας «AI αποκάλυψης» δεν υπάρχει ακόμη αντίστοιχο επιστημονικό πλαίσιο.
Δεν γνωρίζουμε ποια ακριβώς τεχνολογία θα μπορούσε να οδηγήσει σε ένα τέτοιο σενάριο. Δεν γνωρίζουμε αν και πότε ένα σύστημα AI θα μπορούσε να αποκτήσει τις απαιτούμενες ικανότητες. Δεν γνωρίζουμε πώς θα αντιδρούσαν οι άνθρωποι, ποιες δικλίδες ασφαλείας θα υπήρχαν ή ποιες τεχνολογικές εξελίξεις θα μεσολαβούσαν.
Έτσι, όταν κάποιος λέει ότι η πιθανότητα μιας καταστροφής από την AI είναι 5%, 20% ή 90%, το πρόβλημα δεν είναι απλώς αν ο αριθμός είναι σωστός ή λάθος.
Το πρόβλημα είναι ότι δεν υπάρχει σήμερα ένας επιστημονικά αποδεκτός τρόπος για να αποδειχθεί ότι ο συγκεκριμένος αριθμός είναι καλύτερος από οποιονδήποτε άλλο.
Πρέπει λοιπόν να ανησυχούμε;
Αυτό δεν σημαίνει ότι ο κίνδυνος πρέπει να αγνοηθεί. Σημαίνει ότι οι αριθμοί που κυκλοφορούν θα πρέπει να αντιμετωπίζονται με μεγάλη προσοχή.
Για τους ερευνητές της Τεχνητής Νοημοσύνης, το πραγματικό ζητούμενο είναι να δημιουργήσουν ένα πλαίσιο που θα επιτρέπει την επιστημονική αξιολόγηση του συγκεκριμένου κινδύνου αντί να περιορίζονται σε προσωπικές εκτιμήσεις.
Για τους υπεύθυνους χάραξης πολιτικής, το ζήτημα είναι ακόμη πιο δύσκολο. Πρέπει να λαμβάνουν υπόψη ακόμη και σενάρια με εξαιρετικά αβέβαιη πιθανότητα, όταν οι συνέπειες θα μπορούσαν να είναι τεράστιες. Αυτό μπορεί να σημαίνει ρύθμιση της AI και μέτρα ασφαλείας, χωρίς όμως αποφάσεις που βασίζονται αποκλειστικά σε αυθαίρετα ποσοστά.
Και τελικά, η αντίληψη του κινδύνου παραμένει σε κάποιο βαθμό προσωπική.
Ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, δήλωσε πρόσφατα ότι θεωρεί μηδενική την πιθανότητα μιας «AI αποκάλυψης» έως το 2030.
Μια διαφορετική προσέγγιση είναι ότι η πιθανότητα μπορεί να είναι πολύ μικρή, αλλά όχι μηδενική, αφού ένα τέτοιο ενδεχόμενο δεν αποκλείεται από τους γνωστούς νόμους της φυσικής.
Πέρα από αυτό, όμως, δεν υπάρχει σήμερα κάποιος αξιόπιστος αριθμός που να μπορεί να μας πει την αλήθεια.
Και ίσως αυτή να είναι η πιο ειλικρινής απάντηση στο ερώτημα αν η AI θα μας αφανίσει: δεν ξέρουμε. Όχι επειδή δεν έχουμε αρκετά δεδομένα για να διαλέξουμε ανάμεσα στο 10% και το 50%, αλλά επειδή δεν έχουμε ακόμη έναν επιστημονικό τρόπο για να υπολογίσουμε το ίδιο το ποσοστό.
Με πληροφορίες από το NewScientist / NASA / Worldbank
