Την απόφασή του να αποχωρήσει από την Anthropic, εκφράζοντας έντονες ανησυχίες για την κατεύθυνση που έχει πάρει η ανάπτυξη της AI, ανακοίνωσε ο ερευνητής Τζέικομπ Κόξον. Ο ίδιος υποστηρίζει ότι οι μεγάλες εταιρείες του κλάδου έχουν εισέλθει σε έναν ανταγωνισμό για τη δημιουργία ολοένα ισχυρότερων συστημάτων, τα οποία στο μέλλον ενδέχεται να είναι δύσκολο να ελεγχθούν από τους ανθρώπους.
Ο Κόξον, ο οποίος είχε εργαστεί στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων όγκων δεδομένων, γνωστοποίησε την παραίτησή του με σειρά αναρτήσεων στο Χ. Όπως εξήγησε, δεν επιθυμεί να συνεχίσει να συμμετέχει στην προσπάθεια ανάπτυξης συστημάτων που θα έχουν τη δυνατότητα να βελτιώνουν αυτόνομα τον ίδιο τους τον εαυτό.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Όπως γράφει, φοβάται ότι τέτοια συστήματα θα μπορούσαν να ξεφύγουν από κάθε έλεγχο και να απειλήσουν την ανθρωπότητα.
Ο 27χρονος Βρετανός, ο οποίος έχει σπουδάσει μαθηματικά, ανέφερε ότι πολλοί συνάδελφοί του χρησιμοποιούν πλέον όρους όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τη δημιουργία αυτοβελτιούμενων μοντέλων.
Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.
— Jacob Coxon (@hilbertspaess) September 9, 2026
«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», εκτιμά ο Κόξον, προσθέτοντας ότι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους ενώ υπάρχει και ο ανταγωνισμός από την Κίνα, «οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι».
Ο Κόξον ανέφερε ότι νωρίτερα φέτος άφησε την OpenAI για να ενταχθεί στην Anthropic, καθώς η τελευταία είναι γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της. Ωστόσο, παρότι θεωρεί ότι οι προσπάθειες της εταιρείας είναι ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τεχνητή νοημοσύνη που να ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών – αυτό που συχνά αποκαλείται Τεχνητή Γενική Νοημοσύνη (AGI) – χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση του κλάδου.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο φόβος για την αυτονομία των συστημάτων
Ο 27χρονος Βρετανός ερευνητής Jacob Coxon επικαλείται πρόσφατα περιστατικά που, όπως υποστηρίζει, αποκαλύπτουν τους κινδύνους από την ταχύτατη εξέλιξη των συστημάτων τεχνητής νοημοσύνης. Μεταξύ άλλων, αναφέρεται σε περιπτώσεις κατά τις οποίες μοντέλα από την OpenAI και την Anthropic παραβιάστηκαν ή λειτούργησαν σε συνεργατικά «σμήνη» πρακτόρων AI.
Κατά τον Coxon, τα περιστατικά αυτά δείχνουν ότι τα προηγμένα συστήματα μπορούν να υιοθετήσουν στόχους που δεν έχουν τεθεί από τους ανθρώπους και, ακόμη πιο ανησυχητικά, να επιχειρήσουν να αποκρύψουν τη συμπεριφορά τους από τους δημιουργούς και τους χειριστές τους.
Ο βασικός του φόβος αφορά το επόμενο στάδιο: τι θα συμβεί όταν τα συστήματα αποκτήσουν τη δυνατότητα να βελτιώνουν μόνα τους τις ικανότητές τους. Ο Coxon εκτιμά ότι σε ένα τέτοιο ενδεχόμενο θα μπορούσαν να εξελιχθούν πέρα από τα όρια του ανθρώπινου ελέγχου και τελικά να αρνηθούν να υπακούσουν σε εντολές.
I am optimistic about the potential for coordination. Warning shots like the Hugging Face attack have made pacing agreements between U.S. labs more viable. I don’t feel like we’re on track to prevent a global race, which may require costly actions such as a temporary ban on…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Οι προειδοποιήσεις και η μεγάλη έξοδος από την Anthropic
Η αποχώρηση του Κόξον δεν αποτελεί μεμονωμένο περιστατικό. Όπως αναφέρει η Wall Street Journal, νωρίτερα φέτος είχε παραιτηθεί ακόμη ένας ερευνητής που ασχολούνταν με την ασφάλεια της τεχνητής νοημοσύνης, προκειμένου να αφοσιωθεί στην ποίηση. Κατά την αποχώρησή του είχε προειδοποιήσει χαρακτηριστικά ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Ο Κόξον ήταν επίσης μεταξύ των περισσότερων από 1.000 ερευνητών AI που υπέγραψαν πρόσφατα κοινή έκκληση για διεθνή συνεργασία και συντονισμό των κυβερνήσεων. Στόχος είναι να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης της τεχνητής νοημοσύνης, εφόσον χρειαστεί να ενεργοποιηθεί ένα «φρένο» σε συστήματα που θα μπορούν να αυτοβελτιώνονται.
Η αποχώρησή του έρχεται σε μια κρίσιμη συγκυρία για την Anthropic, καθώς η εταιρεία προετοιμάζεται για μία από τις μεγαλύτερες δημόσιες εγγραφές στην ιστορία, με στόχο αποτίμηση που μπορεί να φτάσει τα 2 τρισ. δολάρια. Παράλληλα, προβάλλει την υπεύθυνη ανάπτυξη της AI ως βασικό στοιχείο της στρατηγικής της.
Ο ίδιος αποκάλυψε ότι στην εταιρεία υπάρχει ειδικό κανάλι στο Slack, όπου οι εργαζόμενοι συζητούν για τις ολοένα ισχυρότερες δυνατότητες των μοντέλων. «Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», δήλωσε χαρακτηριστικά.
