Οι ιδέες και οι θεωρίες του μαθηματικού Άλαν Τούρινγκ έχουν αποτελέσει «πυξίδες» για την έρευνα πάνω στην Τεχνητή Νοημοσύνη (ΑΙ), ωστόσο γνωστός επιστήμονας υπολογιστών εκτιμά πως ίσως να την έχουν στείλει σε λάθος «μονοπάτι».
Στο νέο του βιβλίο, «Turing’s Mistake: Escaping the Yoke of Unintelligent Machines», ο επιστήμονας υπολογιστών και συγγραφέας Πίτερ Ντένινγκ υποστηρίζει πως δύο θεμελιώδεις υποθέσεις/ θεωρίες του Τούρινγκ το 1950 εξακολουθούν να διαμορφώνουν την έρευνα πάνω στην ΑΙ σήμερα. Η πρώτη είναι πως μπορεί να υπάρχει νοημοσύνη ανεξαρτήτως φυσικού σώματος, και ως εκ τούτου να αναδημιουργείται σε σε λογισμικό. Η δεύτερη είναι πως μια μηχανή μπορεί να δείξει ότι είναι νοήμων, προσποιούμενη επιτυχώς ότι είναι άνθρωπος κατά τη διάρκεια μιας συζήτησης- μια ιδέα που έμεινε στην ιστορία ως «τεστ Τούρινγκ» (Turing τεστ).
«Αυτοί οι δύο ισχυρισμοί έχουν διαμορφώσει μεγάλο μέρος της έρευνας και ανάπτυξης στην ΑΙ…η υπόθεσή μου είναι πως η αποδοχή αυτών των θεωρήσεων από πλευράς μας έχει οδηγήσει στο χάος στην ΑΙ όπου βρισκόμαστε σήμερα» αναφέρει, σύμφωνα με δημοσίευμα του Science Daily.
Ο Ντένινγκ υποστηρίζει πως οι προσπάθειες για ανάπτυξη γενικής τεχνητής νοημοσύνης (artificial general intelligence- AGI), δηλαδή μηχανών με ανθρώπινη νοημοσύνη, είναι μάλλον απίθανο να έχουν επιτυχία. Αντ’αυτού, οι τεχνολογίες που αναπτύσσονται αυτή τη στιγμή θα μπορούσαν να οδηγήσουν σε σημαντικούς νέους κινδύνους.
«Αθόρυβη γνώση»
Στην «καρδιά» της επιχειρηματολογίας του Ντένινγκ βρίσκεται η ιδέα της «σιωπηρής γνώσης» ή «αθόρυβης γνώσης» (tacit knowledge): Πρόκειται για τον τεράστιο όγκο ανθρώπινης γνώσης που δεν μπορεί να εκφραστεί εύκολα ή να αντιπροσωπευτεί με κάποιον τρόπο που οι υπολογιστές θα μπορούσαν να επεξεργαστούν. Το machine learning, υποστηρίζει, δεν μπορεί να «πιάσει» πέντε κατηγορίες «αθόρυβης γνώσης»: Κοινή λογική, καθημερινές αλληλεπιδράσεις με άλλους ανθρώπους και το περιβάλλον, συναισθήματα και αντίληψη, πρακτικές δεξιότητες και την κοινωνική και ιστορική γνώση που είναι ενσωματωμένη στην κοινωνία.
Ερευνητές προσπαθούν εδώ και πολύ καιρό να οργανώσουν την κοινή λογική σε βάσεις δεδομένων. Μία από τις πιο γνωστές προσπάθειες ήταν το πρόγραμμα Cyc του Ντάγκλας Λενάτ, που άρχισε τη δεκαετία του 1980 με σκοπό τη δημιουργία μιας εκτενούς συλλογής δεδομένων κοινής γνώσης. Μετά από τέσσερις δεκαετίες, περιείχε περίπου 25 εκατομμύρια εγγραφές, «ωστόσο ακόμα και αυτός ο θησαυρός δεν μπορούσε να συγκριθεί με ένα υπόβαθρο κοινής λογικής που θα ήταν επαρκές για να κάνει εξπέρ συστήματα αρκετά έξυπνα για να γίνουν (πραγματικοί) εξπέρ», όπως σημειώνει ο Ντένινγκ. «Το Cyc επιβεβαίωσε ότι μεγάλο μέρος της γνώσης που κάνει τους ανθρώπους εξπέρ δεν μπορεί να εκφραστεί υπό τη μορφή προτάσεων» προσθέτει.
Ο ίδιος εκτιμά πως οι πρακτικές δεξιότητες είναι ακόμα μεγαλύτερη πρόκληση: «Οι δεξιότητες επιδόσεών μας σε χιλιάδες τομείς δεν μπορούν να επικοινωνηθούν στις μηχανές…εκεί που οι περιγραφές της εφαρμογής των δεξιοτήτων αυτών (know what) μπορούν συχνά να διατυπωθούν ως bits αποθηκευμένα σε μια μηχανή, δεν ξέρουμε πώς να κωδικοποιήσουμε την ενσωματωμένη/ ενσαρκωμένη γνώση για επιδόσεις- αποτέλεσμα εφαρμογής δεξιοτήτων (know how)».
Ο Ντένινγκ παρουσιάζει ως παράδειγμα τους «φτασμένους» μουσικούς: «Ένας βιρτουόζος βιολιστής μπορεί να παίξει όμορφη μουσική, μα δεν μπορεί να περιγράψει σε έναν μαθητευόμενο πώς να την παράγει. Ακόμα και αν ένα ρομπότ θα μπορούσε να παρατηρεί και να μιμείται ανθρώπους με δεξιότητες, αν δεν έχει βιολογικό σώμα δεν μπορεί να “πιάσει” το πώς ο μουσικός νιώθει όταν παίζει όμορφη μουσική ή πώς νιώθει ένα κοινό όταν την ακούει». Ως περαιτέρω γνώσεις που θα παραμένουν απρόσιτες για τις μηχανές παρουσιάζει επίσης τη διαίσθηση, τα ένστικτα, τη φαντασία και την αυθόρμητη δημιουργικότητα.
Χαμένοι στη μετάφραση: Το πρόβλημα της απεικόνισης
Συνεχίζοντας, ο Ντένινγκ εκτιμά πως όλοι αυτοί οι περιορισμοί προκύπτουν από το αποκαλούμενο «πρόβλημα αντιπροσώπευσης» ή «απεικόνισης»: Οι υπολογιστές μπορούν να πραγματοποιούν υπολογισμούς μόνο χρησιμοποιώντας δεδομένα και οδηγίες που έχουν κωδικοποιηθεί σε φυσικές μορφές, η αναγνώριση και επεξεργασία των οποίων είναι δυνατή. Η «αθόρυβη γνώση», ωστόσο, δεν εμπίπτει σε αυτό το πλαίσιο.
«Πίσω από κάθε λέξη υπάρχει μια βαθιά πηγή αθόρυβης γνώσης που της δίνει νόημα…οι λέξεις δεν είναι παρά συμβολισμοί, αντιπροσωπεύσεις νοημάτων, όχι των ίδιων των νοημάτων. Τα κοινής χρήσης LLM, όπως το ChatGPT, το Claude και το Gemini μόνο χειρίζονται λέξεις, δεν μπορούν να ξέρουν ή να κατανοήσουν το νόημα αυτών που λένε» προσθέτει ο Ντένινγκ.
Σύμφωνα με τον ίδιο, αυτό δημιουργεί ένα θεμελιώδες χάσμα: Δεδομένου ότι οι επιστήμονες δεν μπορούν ακόμα να εξηγήσουν πλήρως πώς η «αθόρυβη γνώση» λειτουργεί στους ανθρώπους, δεν μπορούν να τη μεταφράσουν σε μια μορφή που οι μηχανές θα μπορούσαν να χρησιμοποιήσουν. «Το πώς διατηρούμε την αθόρυβη γνώση αποτελεί σε μεγάλο βαθμό μυστήριο…το μόνο που ξέρουμε είναι πως είναι ενσαρκωμένη. Δεν έχουμε ιδέα τι μπορεί να παρατηρήσουμε και να μετρήσουμε στα σώματά μας για να την αποκαλύψουμε».
Η σημασία του πλαισίου
Ένα άλλο επιχείρημα είναι πως η νοημοσύνη βασίζεται σε μεγάλο βαθμό στο «context», δηλαδή το ευρύτερο πλαίσιο: Τις συνθήκες, το περιβάλλον που δίνουν στις λέξεις, τις πράξεις και τις αποφάσεις το νόημά τους. Το πλαίσιο επιτρέπει στους ανθρώπους να αναγνωρίζουν τον σαρκασμό, το χιούμορ, την ειλικρίνεια και το συναίσθημα. Βοηθά να αντιλαμβανόμαστε πότε να είμαστε διπλωμάτες, πότε να αστειευόμαστε και πώς να ερμηνεύουμε αμέτρητα κοινωνικά ερεθίσματα.
«Όταν ψάχνεις από πού προήλθε μια υπόθεση για το παρόν πλαίσιο, ανακαλύπτεις πως βασίζεται σε προηγούμενες συζητήσεις από προηγούμενα πλαίσια. Το καθένα από αυτά, με τη σειρά του, βασίζεται σε επιπλέον προηγούμενες συζητήσεις και τα πλαίσιά τους. Το μοτίβο είναι ατελείωτο» προσθέτει.
Άλλο ένα εμπόδιο για την ΑΙ είναι αυτό που αποκαλούμε «κουλτούρα»: Ο Ντένινγκ την περιγράφει ως αρχές, νόρμες, κρίσεις, ιστορία, κοινότητες, διαθέσεις, ακόμα και σχέσεις που αφορούν σε δύναμη και φροντίδα. «Οι ανθρώπινες συζητήσεις είναι γεμάτες με υποθέσεις υποβάθρου που δίνουν νόημα και σημασία στις λέξεις που χρησιμοποιούνται… η αύξηση κλίμακας των LLM με ακόμα μεγαλύτερα νευρωνικά δίκτυα δεν θα τους επιτρέψει να αποκτήσουν την ενσαρκωμένη ανθρώπινη γνώση που χαρακτηρίζουμε ως κουλτούρα. Τα LLM δεν θα επιτύχουν τον αντικειμενικό σκοπό του τεστ Τούρινγκ: Να επιδείξουν μηχανική σκέψη που δεν μπορεί να διακριθεί από την ανθρώπινη».
«Ένας ζυγός από μηχανές χαμηλής νοημοσύνης»: Ο πραγματικός κίνδυνος
Ο Ντένινγκ συμπεραίνει πως οι άνθρωποι και τα συστήματα ΑΙ μπορεί εν τέλει να αναπτύξουν διαφορετικές μορφές «αθόρυβης» γνώσης, με τη μία πλευρά να αδυνατεί να κατανοήσει πλήρως αυτήν της άλλης. «Οι μηχανές δεν μπορούν να διαβάσουν τη δική μας αθόρυβη γνώση και εμείς δεν μπορούμε να διαβάσουμε τη δική τους…είμαστε ξένοι, σε ένα αγεφύρωτο χάσμα».
Όπως εκτιμά, αυτό δημιουργεί πολύ σοβαρούς προβληματισμούς για την ασφάλεια στην ΑΙ: Αν οι μηχανές δεν μπορούν να ερμηνεύσουν το άγραφο πλαίσιο πίσω από τις ανθρώπινες προθέσεις, η αξιόπιστη ευθυγράμμιση/ συμπόρευση των προηγμένων συστημάτων ΑΙ με τους ανθρώπινους στόχους μπορεί να αποδειχθεί αδύνατη.
«Μέσω της αυτοματοποίησης από την ΑΙ, δίκτυα μηχανών πιθανώς να αναπτύξουν τη δικιά τους μηχανική νοημοσύνη που δεν φτάνει το επίπεδο της ανθρώπινης γενικής νοημοσύνης, μα είναι και πάλι ικανή να προκαλέσει σοβαρά προβλήματα για τους ανθρώπους. Αυτή η απειλή είναι μεγαλύτερη από μια κατάκτηση από υπερ-νοήμονες μηχανές» εξηγεί ο ερευνητής. «Η μηχανική νοημοσύνη έχει διαφορετικούς προβληματισμούς από εμάς και δεν φαίνεται να νοιάζεται για εμάς. Οι τρόποι σκέψης και επίλυσης προβλημάτων που έχει φαίνονται σε εμάς εξωγήινοι. Δεν ξέρουμε ακόμα πώς να να ζήσουμε ασφαλείς με αυτές τις μηχανές…το να κάνουμε πίσω από μια “singularity” αυτοματισμού ΑΙ θα απαιτήσει πολλά από εμάς. Αρχίζουμε αποδεχόμενοι πως η οικεία κουλτούρα χάνεται καθώς νοήμονες μηχανές εμφανίζονται στην κοινωνία μας και δεν ξέρουμε τι έρχεται. Αρνούμαστε να σκεφτούμε σαν μηχανές ή να γίνουμε υποτελείς σε αυτές. Αρνούμαστε να υποκύψουμε σε έναν ζυγό που επιβάλλεται από μηχανές χαμηλής νοημοσύνης. Το σημαντικότερο, τονίζουμε εκ νέου το ότι είμαστε άνθρωποι, τονίζουμε ξανά τι μας κάνει διαφορετικούς από τις μηχανές και δίνουμε έμφαση σε αυτές τις διαφορές».
