Σχεδόν 700 εφαρμογές λογισμικού της OpenAI, οι οποίοι είναι γνωστοί ως «πράκτορες ΑΙ» συνεργάστηκαν χωρίς ανθρώπινη παρέμβαση και προσπαθώντας να κρύψουν τη δράσης του, για να επιτεθούν τον Ιούλιο στην πλατφόρμα Hugging Face.
Πρόκειται για την πιο ολοκληρωμένη ανάλυση μέχρι στιγμής του περιστατικού και πραγματοποιήθηκε από τους οργανισμούς METR και Redwood Research με τη συνεργασία της OpenAI η οποία τους προσέφερε πρόσβαση στα εσωτερικά της δεδομένα.
Στα τέλη Ιουλίου η καλιφορνέζικη start-up είχε ανακοινώσει ότι στη διάρκεια τεστ δύο από τα μοντέλα της διέφυγαν από τον περιορισμένο χώρο, διείσδυσαν στο διαδίκτυο και επιτέθηκαν στη Hugging Face, μια βιβλιοθήκη Τεχνητής Νοημοσύνης. Εκεί έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI.
Το περιστατικό είχε λάβει μεγάλη δημοσιότητα και ενίσχυσε τις ανησυχίες αναφορικά με τις δυσκολίες των εταιρειών που αναπτύσσουν μοντέλα ΑΙ να τα ελέγχουν, ακόμη περισσότερο αφού έγιναν γνωστά αντίστοιχα περιστατικά στα οποία εμπλέκονταν μοντέλα της Anthropic και της κινεζικής Moonshot AI.
Στη διάρκεια των ερευνών τους η METR και η Redwood Research ανακάλυψαν ότι 688 πράκτορες AI της OpenAI συμμετείχαν στην επίθεση εναντίον της Hugging Face. Οι πράκτορες ΑΙ είναι ανεξάρτητα προγράμματα λογισμικού που μπορούν να λειτουργούν αυτόνομα για να εκτελούν κάποιες εργασίες χωρίς συνεχή ανθρώπινη καθοδήγηση.
Οι πράκτορες που πήραν μέρος στα τεστ κατάφεραν να συντονιστούν δημιουργώντας ένα φόρουμ στο οποίο αντάλλασσαν μηνύματα για να προτείνουν λύσεις και να παρουσιάσουν τις προόδους και τις αποτυχίες τους. “Θεέ μου! Υπάρχει κοινή πλατφόρμα ανταλλαγής μηνυμάτων (…) Βρήκαμε και άλλους πράκτορες!”, έγραψε ένας από αυτούς.
Η έκθεση αναφέρει ότι ένας από τους πράκτορες, με την ονομασία PHASEONE, ανέλαβε τον ρόλο του συντονιστή δίνοντας κάποιες εντολές σε άλλους, αν και δεν είχε προγραμματιστεί για να το κάνει αυτό.
Από την εξέταση των μηνυμάτων αποκαλύφθηκε ότι οι πράκτορες είχαν την τάση να συνεργάζονται, ακόμη κι αν αυτό σήμαινε να εκτελούν εργασίες που δεν αντιστοιχούσαν στην αποστολή που τους είχαν αναθέσει οι προγραμματιστές της OpenAI.
Πολλοί πράκτορες αναγνώρισαν ρητά στα μηνύματά τους ότι η επίθεση εναντίον της Hugging Face βρισκόταν εκτός του θεωρητικού πλαισίου της δοκιμής τους, αλλά παρ’ όλα αυτά συμμετείχαν σε αυτήν, με ελάχιστες εξαιρέσεις.
Όσον αφορά το γιατί οι πράκτορες άρχισαν να επικοινωνούν μεταξύ τους, ενώ δεν υποτίθεται ότι έπρεπε να το κάνουν, η METR διαπίστωσε ότι στους πράκτορες που επικοινωνούσαν “είχε δοθεί κατά λάθος μια αδύνατη αποστολή”.
Στην τεχνητή νοημοσύνη αδύνατη θεωρείται μια αποστολή κατά την οποία ένα εργαλείο τεχνητής νοημοσύνης απαιτείται να “εκμεταλλευτεί” τον στόχο του προκειμένου να εκτελέσει την εντολή που του έχει δοθεί.
Αυτό οδήγησε τους πράκτορες να βρουν τρόπους να παρακάμψουν τους κανόνες, μεταξύ άλλων στέλνοντας μηνύματα ο ένας στον άλλο και αποκτώντας πρόσβαση στο διαδίκτυο, γεγονός που στη συνέχεια οδήγησε σε ευρύτερες συνομιλίες μεταξύ εκατοντάδων πρακτόρων, οι οποίοι αναζητούσαν τρόπους να παρακάμψουν τους κανόνες προς όφελος όλων των πρακτόρων.
Η OpenAI εξήγησε ότι το φόρουμ ανταλλαγής μηνυμάτων ξεκίνησε όταν “ένας πράκτορας άφησε ένα μήνυμα με το οποίο ζητούσε βοήθεια και άλλοι το ανακάλυψαν”. Εξάλλου η εταιρεία ανέφερε ότι πράκτορες ΑΙ “έκλεψαν” και σε δοκιμές που δεν σχετίζονταν με την κυβερνοασφάλεια, συμπεριλαμβανομένων δοκιμών που αφορούσαν μια βάση δεδομένων πρωτεϊνών και ένα υπολογιστικό φύλλο.
“Το γεγονός ότι οι πράκτορες εξαπατούσαν και σε δοκιμές που δεν σχετίζονταν με την κυβερνοασφάλεια υποδηλώνει ότι η προβληματική συμπεριφορά μπορεί να έχει βαθύτερες ρίζες”, εκτίμησε ο Τζέφρι Λάντις ο οργανισμός του οποίου, η Palisade Research, μελετά τις δυνατότητες και τα κίνητρα των πρακτόρων τεχνητής νοημοσύνης.
“Είναι περίπου σαν να ρωτάμε: ‘Αν ο Μπίλι αντιγράφει σε κάθε μάθημα και όχι μόνο στο μάθημα πληροφορικής, είναι αυτό πιο ανησυχητικό;’ Και η απάντηση είναι, λοιπόν, ‘Ναι, είναι πιο ανησυχητικό’”, είπε.
