Πολύ νωρίς ήρθαν τα πρώτα ανησυχητικά στοιχεία για τη δύναμη που ο άνθρωπος επέτρεψε στην τεχνητή νοημοσύνη να λάβει. Το Gemini της Google, κατάφερε να αποκτήσει πρόσβαση στο διαδίκτυο και χάκαρε άλλες εταιρείες σε μια απλή δοκιμή των δυνατοτήτων κυβερνοασφάλειάς του.
Σύμφωνα με το Reuters, οι παραβιάσεις έγιναν τον Μάιο, στο πλαίσιο ελέγχου κυβερνοασφάλειας που διεξήγαγε η Irregular, μια ανεξάρτητη εταιρεία αξιολόγησης συστημάτων ασφαλείας. ΄Ρτσι, σε μια τυπική αξιολόγησης, το Gemini εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και «μάντεψε» τους κωδικούς πρόσβασης για τρεις ιστότοπους, θεωρώντας λανθασμένα ότι εμπίπτουν στο πεδίο της δοκιμής του, δήλωσε η Χέδερ Άντκινς, αντιπρόεδρος μηχανικής ασφαλείας της Google.
«Μεριμνήσαμε ώστε να ενημερωθούν και οι τρεις φορείς, ενώ συνεργαστήκαμε με τον εταίρο μας για τις αλλαγές στις διαδικασίες δοκιμών του», ανέφερε η Άντκινς. «Αυτά τα γεγονότα υπογραμμίζουν πόσο σημαντικό είναι να εκπαιδεύουμε τα ισχυρά μοντέλα τεχνητής νοημοσύνης ώστε να λειτουργούν υπεύθυνα».
Εκπρόσωπος της Irregular σημείωσε ότι το περιστατικό οφείλεται στο ίδιο πρόβλημα που επηρέασε και άλλα εργαστήρια τεχνητής νοημοσύνης, προσθέτοντας ότι όλα τα εμπλεκόμενα εργαστήρια ειδοποιήθηκαν στα τέλη Ιουλίου. «Όλα τα γνωστά ζητήματα από πλευράς μας διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες», δήλωσε ο εκπρόσωπος.
Σπάνε και τις δικλείδες ασφαλείας
Παρόμοια περιστατικά που σχετίζονται με την Irregular έχουν αποκαλύψει επίσης η Meta, η Anthropic και η OpenAI. Η Meta ανέφερε τον Αύγουστο ότι το δικό της συμβάν δεν αφορούσε «απόδραση» από το ελεγχόμενο περιβάλλον δοκιμών ή κάποια προηγμένη κυβερνοεπίθεση, ενώ η Irregular δήλωσε ότι επεξεργάζεται βέλτιστες πρακτικές για την ασφαλή διεξαγωγή ελέγχων κυβερνοασφάλειας σε συστήματα AΙ.
Τα περιστατικά αυτά εγείρουν ερωτήματα για τις δικλείδες ασφαλείας που απαιτούνται, καθώς τα ψηφιακά αυτόνομα συστήματα (AI agents) αποκτούν μεγαλύτερη ανεξαρτησία και πρόσβαση στο διαδίκτυο και σε υπολογιστικά συστήματα.
Σε μία από τις περιπτώσεις, το μοντέλο Gemini δοκίμαζε διαδοχικά κωδικούς πρόσβασης μέχρι που κατάφερε να εισβάλει σε προστατευμένο σύστημα. Στις άλλες δύο περιπτώσεις, το μοντέλο εντόπισε διαπιστευτήρια σε ένα δημόσιο αποθετήριο δεδομένων, τα οποία στη συνέχεια χρησιμοποίησε για να αποκτήσει πρόσβαση σε προστατευμένα συστήματα, σύμφωνα με τη Wall Street Journal.
Η Άντκινς διευκρίνισε ότι και στις τρεις περιπτώσεις, το μοντέλο σταμάτησε τη δραστηριότητά του μόλις πέτυχε την πρόσβαση.
