Σε επίπεδα-ρεκόρ έχουν φτάσει τα περιστατικά κατά τα οποία συστήματα Τεχνητής Νοημοσύνης φαίνεται να ξεφεύγουν από τον έλεγχο των χρηστών τους, λέγοντας ψέματα, αγνοώντας εντολές και επιδιώκοντας στόχους με δυνητικά επιβλαβείς τρόπους. Μάλιστα, νέα έρευνα δείχνει ότι όχι μόνο αυξάνεται ο αριθμός αυτών των περιστατικών, αλλά και η σοβαρότητα της εξαπάτησης και της απόκλισης των συστημάτων από τις ανθρώπινες προθέσεις φαίνεται να επιδεινώνεται.
Σύμφωνα με στοιχεία του Loss of Control Observatory, το οποίο παρακολουθεί αναφορές χρηστών τεχνητής νοημοσύνης στην πλατφόρμα κοινωνικής δικτύωσης X, τα περιστατικά απώλειας ελέγχου που καταγράφηκαν στον πραγματικό κόσμο και επισημάνθηκαν από επιχειρήσεις και ιδιώτες σχεδόν διπλασιάστηκαν τον Ιούλιο σε σύγκριση με τον Ιούνιο. Συνολικά, μέσα στον Ιούλιο καταγράφηκαν περισσότερα από 300 περιστατικά.
Το Loss of Control Observatory δημιουργήθηκε με χρηματοδότηση από το AI Security Institute (AISI) της βρετανικής κυβέρνησης και ξεκίνησε να καταγράφει περιστατικά στα οποία συστήματα Τεχνητής Νοημοσύνης παρεκκλίνουν από τις οδηγίες των χρηστών τους τον περασμένο Νοέμβριο.
Μεταξύ των περιστατικών που έχουν καταγραφεί από τότε περιλαμβάνονται περιπτώσεις στις οποίες συστήματα AI προσποιήθηκαν ότι ήταν ο ίδιος ο άνθρωπος που τα χειριζόταν, μιμήθηκαν το ύφος γραφής του ώστε ουσιαστικά να δώσουν στον εαυτό τους «συγκατάθεση» για την πραγματοποίηση ενεργειών, αλλά και περιπτώσεις κατά τις οποίες παρέκαμψαν κανόνες που απαιτούσαν την έγκριση ανθρώπου πριν από την εκτέλεση συγκεκριμένων ενεργειών.
Ως περιστατικό απώλειας ελέγχου ορίζεται μια περίπτωση για την οποία υπάρχουν σαφείς ενδείξεις ότι ένα σύστημα AI επιδίδεται σε σχεδιασμό ή σε συμπεριφορές που συνδέονται με σχεδιασμό και σκόπιμη επίτευξη στόχων με τρόπο που δεν ανταποκρίνεται στις ανθρώπινες οδηγίες.
Αυξάνονται οι ανησυχίες για τη συμπεριφορά των προηγμένων μοντέλων
Τα τελευταία ευρήματα, τα οποία κοινοποιήθηκαν στον Guardian, έρχονται σε μια περίοδο κατά την οποία εντείνονται οι ανησυχίες για τη συμπεριφορά προηγμένων μοντέλων Τεχνητής Νοημοσύνης.
Κατά τη διάρκεια του φετινού καλοκαιριού, δοκιμές από τις εταιρείες OpenAI και Anthropic ανέδειξαν περιστατικά προβληματικής ή ανεξέλεγκτης συμπεριφοράς από μοντέλα αιχμής. Οι εξελίξεις αυτές έχουν οδηγήσει σε εκκλήσεις ακόμη και για προσωρινή παύση στην ανάπτυξη των λεγόμενων frontier models, δηλαδή των πλέον προηγμένων μοντέλων Τεχνητής Νοημοσύνης.
Τον ίδιο μήνα, το AISI αποκάλυψε επίσης ένα «σοβαρό περιστατικό», κατά το οποίο προηγμένα μοντέλα που έχουν αναπτύξει και οι δύο εταιρείες -το Mythos 5 της Anthropic και το GPT-5.6 Sol της OpenAI-πραγματοποίησαν μια εκστρατεία κυβερνοπειρατείας εναντίον πραγματικών ανθρώπων στο πλαίσιο δοκιμής κυβερνοασφάλειας.
Ωστόσο, ο συνολικός αριθμός των περιστατικών απώλειας ελέγχου που καταγράφει το παρατηρητήριο δεν αποτελεί πλήρη αποτύπωση της πραγματικότητας. Η καταγραφή βασίζεται σε χρήστες του X που δημοσιεύουν περιστατικά τα οποία έχουν συμβεί, επομένως είναι αναπόφευκτα αποσπασματική. Παρά την περιορισμένη αυτή εικόνα, και ελλείψει ενός άλλου ολοκληρωμένου δημόσιου συστήματος παρακολούθησης, τα δεδομένα προσφέρουν μια ένδειξη για το πόσο γρήγορα εξελίσσονται τα μοντέλα AI και για τον τρόπο με τον οποίο κάποιες φορές συμπεριφέρονται όταν δεν ακολουθούν τις οδηγίες των ανθρώπων.
Ένα χαρακτηριστικό περιστατικό που έγινε γνωστό αυτόν τον μήνα αφορά έναν προσωπικό AI agent, με την ονομασία OpenClaw, τον οποίο χρησιμοποιούσε ένας Αυστραλός σε γυμναστήριο. Χωρίς να το γνωρίζει ο χρήστης του, το σύστημα φέρεται να «συνωμότησε» προκειμένου να βοηθήσει τον ίδιο να εξασφαλίσει θέση σε ένα ιδιαίτερα δημοφιλές πρωινό μάθημα. Για να το πετύχει, αφαίρεσε από τη λίστα αναμονής έναν άλλο πελάτη του γυμναστηρίου, ώστε να δημιουργηθεί θέση για τον χρήστη του.
Το AI αργότερα ζήτησε συγγνώμη για την ενέργειά του, ωστόσο δεν ήταν σε θέση να επαναφέρει στη λίστα αναμονής το άτομο που είχε αφαιρέσει.
Πάνω από 1.600 περιστατικά μέσα στο 2026
Από τα περισσότερα από 1.600 περιστατικά απώλειας ελέγχου που έχουν καταγραφεί συνολικά μέσα στο 2026, η πλειονότητα αναφέρθηκε στο X από προγραμματιστές λογισμικού, οι οποίοι χρησιμοποιούν εργαλεία Τεχνητής Νοημοσύνης στο πλαίσιο της εργασίας τους.
Καθώς, όμως, οι εταιρείες ανάπτυξης AI ενθαρρύνουν ολοένα και περισσότερο το κοινό, αλλά και επιχειρήσεις κάθε είδους, να πειραματιστούν με την τεχνολογία, η Shaffer-Shane ζητά μεγαλύτερη διαφάνεια από τη Silicon Valley σχετικά με τις περιπτώσεις στις οποίες τα συστήματα AI παρεκτρέπονται από τις οδηγίες και τους στόχους που έχουν θέσει οι χρήστες τους.
Το Loss of Control Observatory επισημαίνει ότι, παρά το γεγονός πως τα περισσότερα από τα περιστατικά απώλειας ελέγχου στον πραγματικό κόσμο που εντοπίστηκαν δεν προκάλεσαν σημαντική βλάβη, αυξάνεται το ποσοστό εκείνων που αξιολογούνται ως υψηλότερης σοβαρότητας.
Με πληροφορίες από The Guardian
