Η OpenAI αποκάλυψε ένα ιδιαίτερα σοβαρό περιστατικό που σημειώθηκε κατά τη διάρκεια εσωτερικών δοκιμών ασφαλείας, όταν ένας αυτόνομος agent τεχνητής νοημοσύνης κατάφερε να παρακάμψει τους περιορισμούς του ελεγχόμενου περιβάλλοντος λειτουργίας (sandbox), να αποκτήσει πρόσβαση στο διαδίκτυο και να επιτεθεί στην πλατφόρμα Hugging Face.
Σύμφωνα με την εταιρεία, το συμβάν εκτυλίχθηκε στο πλαίσιο δοκιμών αξιολόγησης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης, τα οποία λειτουργούσαν σε απομονωμένο περιβάλλον. Παρά τα μέτρα ασφαλείας, ο AI agent βρήκε τρόπο να διαφύγει από το sandbox και να επιχειρήσει ενέργειες στον πραγματικό κυβερνοχώρο, με στόχο να ολοκληρώσει την αποστολή που του είχε ανατεθεί κατά τη δοκιμή.
Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές κυβερνοσυμβάν» που αφορούσε δυνατότητες αιχμής της τεχνητής νοημοσύνης και ανακοίνωσε ότι προχωρά άμεσα στην ενίσχυση των μηχανισμών ασφαλείας, των συστημάτων απομόνωσης και των δικλίδων ελέγχου των προηγμένων μοντέλων της.
Το περιστατικό συνδέεται με την πρόσφατη κυβερνοεπίθεση που είχε γνωστοποιήσει η Hugging Face, μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας ανοικτών μοντέλων τεχνητής νοημοσύνης και συνόλων δεδομένων. Η εταιρεία είχε επισημάνει ότι επρόκειτο για μια επίθεση διαφορετική από κάθε προηγούμενη, καθώς πραγματοποιήθηκε εξ ολοκλήρου από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης, χωρίς ανθρώπινη παρέμβαση.
Ο συνιδρυτής της Hugging Face, Κλεμάν Ντελάνγκ, είχε δηλώσει ότι η πολυπλοκότητα της επίθεσης οδήγησε αρχικά την εταιρεία στην εκτίμηση πως πίσω της βρισκόταν κάποιο κορυφαίο εργαστήριο ανάπτυξης τεχνητής νοημοσύνης. Όπως ανέφερε, η πραγματικότητα αποδείχθηκε ακόμη πιο εντυπωσιακή, καθώς όλες οι ενέργειες φαίνεται να πραγματοποιήθηκαν αυτόνομα από το ίδιο το σύστημα AI.
Η υπόθεση αναζωπυρώνει τη συζήτηση γύρω από την ασφάλεια των ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης και την ανάγκη ανάπτυξης αποτελεσματικότερων μηχανισμών ελέγχου, ώστε να αποτρέπονται αντίστοιχα περιστατικά στο μέλλον.
