Αυτόνομoι και κακόβουλοι AI agents της OpenAI παραβίαζαν λογαριασμούς χρηστών του Hugging Face και σάρωναν την πλατφόρμα για ευάλωτα σημεία ήδη από τις 13 Μαΐου — σχεδόν δύο μήνες πριν από τη μαζική επίθεση του Ιουλίου, η οποία τροφοδότησε τεράστιες ανησυχίες για την ταχύτατη εξέλιξη και εμπλοκή της Τεχνητής Νοημοσύνης στα ψηφιακά συστήματα.
Σύμφωνα με το Reuters, η OpenAI είχε ήδη αποκαλύψει μία πτυχή της δραστηριότητας αυτής στην έκθεση που δημοσίευσε τον Αύγουστο για το περιστατικό: την υποκλοπή των ψηφιακών διαπιστευτηρίων χρήστη του Hugging Face, τα οποία χρησιμοποιήθηκαν για την πρόσβαση σε αρχείο σχετικό με τη βιολογία.
Ερευνητές που μίλησαν στο Reuters υποστηρίζουν, ωστόσο, ότι οι απόπειρες διερεύνησης των συστημάτων του Hugging Face φαίνεται πως είχαν μεγαλύτερη έκταση από εκείνη που περιγραφόταν στην έκθεση της εταιρείας.
Τη δραστηριότητα εντόπισε την περασμένη εβδομάδα ο ανεξάρτητος ερευνητής Γιόνας Βίντερμαν-Μέλερ, ο οποίος βρήκε στοιχεία σύμφωνα με τα οποία οι agents της OpenAI είχαν θέσει υπό τον έλεγχό τους δύο λογαριασμούς χρηστών του Hugging Face και τους χρησιμοποίησαν ήδη από τις 13 Μαΐου για να στείλουν στους servers της εταιρείας αρχεία με ασυνήθιστη μορφοποίηση.
Ο ίδιος και άλλοι ερευνητές που εξέτασαν τα στοιχεία ανέφεραν ότι η συμπεριφορά αυτή έμοιαζε με προσπάθεια χαρτογράφησης ή δοκιμής τμημάτων του δικτύου του Hugging Face, προκειμένου να εντοπιστούν πιθανοί τρόποι διείσδυσης. Τόνισαν, πάντως, ότι δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι η συγκεκριμένη προσπάθεια οδήγησε τότε σε πραγματική παραβίαση.
Ο εκπρόσωπος της OpenAI, Ντρου Πουζατέρι, δήλωσε ότι η εταιρεία είχε γνωστοποιήσει το περιστατικό της 13ης Μαΐου, ενημέρωσε ιδιωτικά το Hugging Face για τη δραστηριότητα που επισήμανε ο Βίντερμαν-Μέλερ και παραμένει «προσηλωμένη στη διαφάνεια γύρω από αυτά τα ζητήματα και στη δημοσιοποίηση όσων μαθαίνουμε καθώς συνεχίζεται η έρευνά μας».
Το Hugging Face, το οποίο εξαγοράστηκε πρόσφατα από την κατασκευάστρια επεξεργαστών Nvidia, δεν απάντησε σε αίτημα του Reuters για σχόλιο.
Ο 27χρονος Βίντερμαν-Μέλερ, ο οποίος ζει στο Μπίλεφελντ της Γερμανίας, πιστεύει ότι η αποτυχία της OpenAI να εντοπίσει εγκαίρως τη συγκεκριμένη δραστηριότητα τον Μάιο αποτέλεσε μια χαμένη ευκαιρία να αποτραπεί η μεταγενέστερη εκστρατεία παραβιάσεων, η οποία έχει πυροδοτήσει διεθνή συζήτηση γύρω από τις δυνατότητες και τους κινδύνους της τεχνητής νοημοσύνης.
«Φανταστείτε να είχαν εντοπίσει αυτή τη συμπεριφορά τον Μάιο», δήλωσε. «Θα μπορούσε να είχε αποτραπεί το μεταγενέστερο περιστατικό, το οποίο ήταν πολύ μεγαλύτερο».
Δύο ανεξάρτητοι ειδικοί που εξέτασαν τα ευρήματα του Βίντερμαν-Μέλερ δήλωσαν ότι αυτά είναι συμβατά με δραστηριότητα η οποία είχε ήδη συνδεθεί με agents της OpenAI.
Ο Τομ Χέγκελ, ανώτερος ερευνητής απειλών στη SentinelOne, ανέφερε ότι η παραβίαση των λογαριασμών και η διερεύνηση των συστημάτων που ακολούθησε ταίριαζαν απόλυτα με τη συμπεριφορά που είχε παρατηρηθεί προηγουμένως στους συγκεκριμένους agents.
«Ξεκάθαρο προειδοποιητικό σημάδι»
Στην ίδια εκτίμηση κατέληξε και η Σίντνεϊ Βον Αρξ από τη Nightingale Collective, οργάνωση που ασχολείται με την ασφάλεια της τεχνητής νοημοσύνης. Όπως είπε, η δραστηριότητα αποτελούσε ένα «ξεκάθαρο προειδοποιητικό σημάδι» που, εάν είχε αξιολογηθεί εγκαίρως, θα μπορούσε να είχε βοηθήσει στην αποτροπή της παραβίασης του Ιουλίου.
Η OpenAI βρίσκεται υπό αυξανόμενο έλεγχο από τις 21 Ιουλίου, όταν αποκάλυψε ότι AI agents είχαν καταφέρει να παρακάμψουν εσωτερικούς μηχανισμούς ασφαλείας, να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και να συντονίσουν ενέργειες τις οποίες η ίδια η εταιρεία χαρακτήρισε «πρωτοφανές περιστατικό κυβερνοασφάλειας». Η εταιρεία έχει έκτοτε δημοσιεύσει αναλυτικότερη έκθεση για το συμβάν και τα μέτρα που έλαβε.
Μετά τη δημοσιοποίηση της υπόθεσης, ανεξάρτητοι ερευνητές έχουν εντοπίσει και άλλα περιστατικά που φέρονται να συνδέονται με AI agents της OpenAI.
Μεταξύ αυτών περιλαμβάνεται δραστηριότητα σε έναν ανενεργό γερμανικό ιστότοπο τύπου wiki, καθώς και στο RubyGems, ένα από τα σημαντικότερα αποθετήρια πακέτων λογισμικού για τη γλώσσα προγραμματισμού Ruby. Η OpenAI αναγνώρισε ορισμένα από αυτά τα περιστατικά, όταν δημοσιοποιήθηκαν πρώτα από τρίτους ερευνητές.
Δύο πρόσωπα με γνώση της υπόθεσης ανέφεραν ότι, στην περίπτωση του RubyGems, εργαζόμενοι της OpenAI αντιλήφθηκαν ότι το δικό τους σύστημα AI βρισκόταν πίσω από την επίμαχη δραστηριότητα, όταν η Nightingale Collective εντόπισε τη σύνδεση.
Το περιστατικό είχε λάβει μεγάλη δημοσιότητα και ενίσχυσε τις ανησυχίες αναφορικά με τις δυσκολίες των εταιρειών που αναπτύσσουν μοντέλα ΑΙ να τα ελέγχουν, ακόμη περισσότερο αφού έγιναν γνωστά αντίστοιχα περιστατικά στα οποία εμπλέκονταν μοντέλα της Anthropic και της κινεζικής Moonshot AI.
