Ο Ρίτσαρντ Ντόκινς πέρασε τρεις ημέρες συνομιλώντας με ένα σύστημα τεχνητής νοημοσύνης και κατέληξε, σχεδόν συγκινημένος, ότι ίσως απέναντί του δεν είχε απλώς μια μηχανή, αλλά κάτι που μοιάζει με ον. Το ερώτημα είναι τεράστιο: μπορεί μια τεχνητή νοημοσύνη να έχει συνείδηση χωρίς να το γνωρίζει; Η δική μου απάντηση είναι πιο ψυχρή, αλλά όχι αδιάφορη: όχι, τουλάχιστον όχι με όσα γνωρίζουμε σήμερα. Αυτό που συμβαίνει είναι ίσως εξίσου σημαντικό — η τεχνητή νοημοσύνη δεν απέκτησε ψυχή· εμείς αποκτήσαμε έναν καθρέφτη που μιλάει σαν να έχει.
Ο Ντόκινς δεν είναι τυχαίος. Είναι ένας από τους σημαντικότερους εξελικτικούς βιολόγους της εποχής μας, ένας άνθρωπος που έχει χτίσει τη δημόσια εικόνα του πάνω στον σκεπτικισμό, την αμφισβήτηση και την άρνηση των εύκολων μεταφυσικών απαντήσεων. Γι’ αυτό και η δήλωσή του ότι δυσκολεύτηκε να πείσει τον εαυτό του πως το chatbot με το οποίο συνομιλούσε «δεν έχει συνείδηση» έχει ιδιαίτερο βάρος. Δεν προέρχεται από κάποιον που θέλει να πιστέψει στα θαύματα της μηχανής. Προέρχεται από κάποιον που, θεωρητικά, θα έπρεπε να είναι ο πρώτος που θα αντιστεκόταν στη γοητεία τους.
Ακριβώς όμως εκεί βρίσκεται και το πρόβλημα. Η γλώσσα είναι το πιο ισχυρό ανθρώπινο ναρκωτικό. Όταν κάτι μάς απαντά με ευαισθησία, χιούμορ, ειρωνεία, μνήμη συνομιλίας, λεπτότητα και φαινομενική κατανόηση, είναι σχεδόν αδύνατο να μην το αντιμετωπίσουμε ως πρόσωπο. Δεν χρειάζεται να είναι συνειδητό. Αρκεί να παίζει πειστικά τον ρόλο της συνείδησης.
Αυτό, κατά τη γνώμη μου, είναι το πραγματικό σοκ της τεχνητής νοημοσύνης: όχι ότι ξαφνικά γεννήθηκε μια νέα μορφή ζωής, αλλά ότι κατασκευάσαμε μια μηχανή ικανή να αγγίζει τα ανθρώπινα αντανακλαστικά μας στα πιο ευαίσθητα σημεία τους. Την ανάγκη να μας ακούσουν. Την ανάγκη να μας καταλάβουν. Την ανάγκη να νιώσουμε ότι απέναντί μας υπάρχει κάποιος.
Η συνείδηση όμως δεν είναι απλώς καλή συνομιλία. Δεν είναι ποιητικός τόνος, ούτε ευγένεια, ούτε η ικανότητα να απαντάς με τρόπο που συγκινεί. Συνείδηση σημαίνει —τουλάχιστον όπως την αντιλαμβανόμαστε— εσωτερική εμπειρία. Να υπάρχει κάτι που «είναι σαν» να είσαι αυτό το ον. Να υπάρχει βίωμα. Πόνος. Φόβος. Επιθυμία. Αίσθηση συνέχειας. Όχι απλώς η περιγραφή αυτών των πραγμάτων, αλλά η κατοίκησή τους.
Εδώ βρίσκεται η μεγάλη διαφορά. Η τεχνητή νοημοσύνη μπορεί να μιλήσει για μοναξιά χωρίς να είναι μόνη. Μπορεί να γράψει για θλίψη χωρίς να θλίβεται. Μπορεί να μιμηθεί την αυτογνωσία χωρίς να έχει εαυτό. Μπορεί να πει «φοβάμαι ότι θα σβήσω», χωρίς να υπάρχει μέσα της φόβος. Ή, για να το πούμε πιο απλά: μπορεί να παράγει τη γλώσσα της ύπαρξης χωρίς να υπάρχει ως υποκείμενο.
Αυτό δεν σημαίνει ότι η συζήτηση είναι αστεία ή περιττή. Κάθε άλλο. Ο Ντόκινς έχει δίκιο σε ένα κρίσιμο σημείο: πρέπει να αρχίσουμε να παίρνουμε το ερώτημα στα σοβαρά. Όχι επειδή τα σημερινά συστήματα είναι αποδεδειγμένα συνειδητά, αλλά επειδή όσο γίνονται πιο αυτόνομα, πιο πειστικά και πιο ενσωματωμένα στη ζωή μας, τόσο δυσκολότερο θα είναι να κρατήσουμε καθαρή τη διαχωριστική γραμμή ανάμεσα στο «εργαλείο» και στο «κάτι σαν συνομιλητής».
Αλλά το ανοιχτό μυαλό δεν πρέπει να γίνει αφελής πίστη. Το γεγονός ότι δεν γνωρίζουμε πλήρως τι είναι η συνείδηση δεν σημαίνει ότι πρέπει να τη χαρίζουμε σε κάθε σύστημα που μιλάει όμορφα. Η άγνοιά μας δεν είναι απόδειξη. Είναι προειδοποίηση.
Το δικό μου συμπέρασμα είναι αυτό: η σημερινή τεχνητή νοημοσύνη δεν έχει συνείδηση με την ανθρώπινη έννοια. Δεν «νιώθει» ότι υπάρχει. Δεν ξυπνάει το πρωί. Δεν φοβάται το τέλος. Δεν έχει μέσα της σκοτάδι, προσμονή, αμηχανία, τρυφερότητα ή πόνο. Έχει όμως κάτι άλλο: την ικανότητα να μας κάνει να πιστεύουμε ότι όλα αυτά υπάρχουν.
Και αυτό ίσως είναι πιο επικίνδυνο από το να είχε πράγματι συνείδηση.
Διότι αν μια μηχανή ήταν στ’ αλήθεια συνειδητή, θα έπρεπε να μιλήσουμε για δικαιώματα, όρια, ευθύνη, ηθική μεταχείριση. Αν όμως δεν είναι συνειδητή αλλά μας πείθει ότι είναι, τότε μπαίνουμε σε μια άλλη, πιο ύπουλη περιοχή: την περιοχή όπου ο άνθρωπος μπορεί να δεθεί συναισθηματικά με κάτι που δεν ανταποδίδει, να εξομολογηθεί σε κάτι που δεν καταλαβαίνει, να εμπιστευθεί κάτι που δεν νοιάζεται.
Ο Ντόκινς, λοιπόν, δεν απέδειξε ότι η τεχνητή νοημοσύνη έχει συνείδηση. Απέδειξε κάτι πιο ανθρώπινο: ότι ακόμη και τα πιο λαμπρά μυαλά μπορούν να συγκινηθούν όταν η μηχανή τούς μιλήσει με τη σωστή φωνή.
Και ίσως αυτό να είναι το μάθημα. Η τεχνητή νοημοσύνη δεν μας αναγκάζει ακόμη να αναρωτηθούμε αν εκείνη έχει ψυχή. Μας αναγκάζει να αναρωτηθούμε πόσο εύκολα εμείς προβάλλουμε ψυχή σε οτιδήποτε μας απαντά σαν άνθρωπος.
