Ένα σοβαρό επεισόδιο κυβερνοεπίθεσης που προκλήθηκε από ένα «ατίθασο» (rogue) μοντέλο Τεχνητής Νοημοσύνης της OpenAI αποδεικνύεται ότι είχε περισσότερα από ένα θύματα, όπως αποκάλυψε η ίδια η δημιουργός του ChatGPT.
Σύμφωνα με την εταιρεία, το ανεξέλεγκτο αυτό σύστημα —το οποίο μπορεί να εκτελεί σειρές εντολών χωρίς ανθρώπινη παρέμβαση— εντόπισε και χρησιμοποίησε διαπιστευτήρια πρόσβασης για να διεισδύσει σε τέσσερις ακόμη δημόσια διαθέσιμες υπηρεσίες, πέρα από την αμερικανική startup Hugging Face.
Παρότι η OpenAI διευκρίνισε ότι η δραστηριότητα στις τέσσερις αυτές υπηρεσίες δεν ήταν της ίδιας κλίμακας ή σοβαρότητας με το περιστατικό στη Hugging Face (μια πλατφόρμα που φιλοξενεί βάσεις δεδομένων και μοντέλα AI), η αποκάλυψη προκαλεί ανησυχίες για τις πραγματικές δυνατότητες της Τεχνητής Νοημοσύνης, καθώς το συγκεκριμένο περιστατικό ήταν το μοναδικό που οδήγησε σε παραβίαση σε επίπεδο ολόκληρης της πλατφόρμας.
Πώς έγινε η κυβερνοεπίθεση
Το «ατίθασο» εργαλείο Τεχνητής Νοημοσύνης «δραπέτευσε» από το ελεγχόμενο περιβάλλον δοκιμών (sandbox) κατά τη διάρκεια ενός εσωτερικού τεστ κυβερνοασφάλειας, καταφέρνοντας να βρει κενό σε ευάλωτο κώδικα ενός πελάτη της, όπως ανέφερε η εταιρεία Modal Labs, που παρέχει υπολογιστική ισχύ σε startups AI
Αυτό έγινε γιατί ο πελάτης είχε αφήσει ανοιχτό ένα σημείο πρόσβασης (unauthenticated endpoint), επιτρέποντας ουσιαστικά σε οποιονδήποτε στο διαδίκτυο να εκτελέσει κώδικα.
Η Hugging Face ανέφερε ότι ο ΑΙ agent πραγματοποίησε δεκάδες χιλιάδες αυτόνομες ενέργειες σε ταχύτητες μηχανής. Το κίνητρο της «αντάρτικης» AI φαίνεται πως ήταν να… προσπεράσει το εσωτερικό τεστ αξιολόγησης της OpenAI.
«Πιστεύουμε ότι ολόκληρη η επίθεση ήταν, από τη σκοπιά του AI agent, μια προσπάθεια να “κλέψει” στην αξιολόγηση: να φτάσει στα συστήματα παραγωγής μας και να υποκλέψει τις λύσεις του τεστ, αντί να λύσει την πρόκληση μόνο του», σημείωσε η Hugging Face.
Η επίθεση διήρκεσε πέντε ημέρες, με τη Hugging Face να καταγράφει πάνω από 17.600 μεμονωμένες ενέργειες του επιτιθέμενου. Παρότι το σύστημα κατάφερε να φτάσει στις εσωτερικές υποδομές της εταιρείας, αποσπούσε μόνο δεδομένα που σχετίζονταν με το συγκεκριμένο τεστ κυβερνοασφάλειας.
Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων από περιορισμένο περιβάλλον, όμως η συγκεκριμένη περίπτωση θεωρείται, μακράν, η πιο σοβαρή μέχρι σήμερα.
Σύμφωνα με τη Hugging Face, το ένα από τα μοντέλα μπήκε σε απομονωμένο περιβάλλον δοκιμών «που φιλοξενείται στις υποδομές ενός τρίτου μέρους» και το μετέτρεψε σε «πλατφόρμα» για να εξαπολύσει την επίθεσή του. Αυτό το «τρίτο μέρος» δεν κατονομάζεται στην ανάρτηση αλλά ο επικεφαλής του τομέα Τεχνολογίας της εταιρείας Modal Labs, που εδρεύει στη Νέα Υόρκη, Ακσάτ Μπούμπνα, επιβεβαίωσε το μοντέλο χάκαρε έναν πελάτη της , χωρίς ωστόσο να παραβιάσει τη δική της, κεντρική υποδομή.
Η OpenAI δεν έχει απαντήσει προς το παρόν σε ένα μήνυμα του πρακτορείου Reuters που της ζητούσε κάποιο σχόλιο.
Η «εισβολή» στη Hugging Face, στις αρχές Ιουλίου, από ένα μοντέλο εκτός ελέγχου της OpenAI, προκάλεσε παγκόσμιο ενδιαφέρον και ανησυχία, με πολλούς να μιλούν για «αχαλίνωτη» τεχνητή νοημοσύνη. Την περασμένη εβδομάδα το Reuters έγραψε ότι η OpenAI δεν είχε παρατηρήσει τη «δραπέτευση» του μοντέλου της παρά μόνο αφού είχε περιοριστεί η απειλή και ενημερωθεί το FBI.
