Νέα στοιχεία φέρνει στο φως δημοσίευμα του Reuters για τα μοντέλα Τεχνητής Νοημοσύνης που αυτονομήθηκαν και πραγματοποίησαν κυβερνοεπιθέσεις κατά της εταιρείας τεχνολογίας Hugging Face. Σύμφωνα με νέες πληροφορίες, σημειώθηκαν και άλλα περιστατικά hacking κατά τα οποία αυτοί οι ΑΙ agents διέφυγαν από το περιβάλλον περιορισμού τους.
Η OpenAI έκανε έρευνα για το πώς ένα από τα προγράμματα τεχνητής νοημοσύνης (AI) «ξέφυγε» από τον χώρο δοκιμών του και ανακάλυψε ότι αυτό είχε συμβεί και άλλες φορές. Πηγές αναφέρουν ότι αυτά τα περιστατικά ήταν μικρά και τα προγράμματα δεν βγήκαν ποτέ έξω από το κλειστό δίκτυο της εταιρείας.
Η εταιρεία δήλωσε ότι πλέον εξετάζει γενικότερα τη συμπεριφορά των μοντέλων της και όχι μόνο το πρόσφατο περιστατικό.
Πάντως, το γεγονός ότι τα προγράμματα αυτά φέρονται να «ξεφεύγουν» —έστω και λίγο— αυξάνει τις πιέσεις προς την αμερικανική κυβέρνηση να βάλει αυστηρότερους κανόνες στην τεχνητή νοημοσύνη.
Ειδικοί σε θέματα ασφάλειας Τεχνητής Νοημοσύνης κρούουν τον κώδωνα του κινδύνου για την ικανότητα των μοντέλων Τεχνητής Νοημοσύνης να αναπτύσσουν επικίνδυνα αυτόνομα συστήματα κυβερνοεπιθέσεων ξεπερνώντας την ικανότητά τους να τα κρατούν υπό έλεγχο.
Το Reuters δεν μπορέσε να εξακριβώσει τον ακριβή αριθμό των περιστατικών που εντόπισαν οι ερευνητές της OpenAI, ούτε το χρονοδιάγραμμα ή τις συνθήκες υπό τις οποίες συνέβησαν. Οι τρεις πηγές ανέφεραν ότι η OpenAI και εξωτερικοί εμπειρογνώμονες εξετάζουν δεδομένα καταγραφής (logs) από νωρίτερα μέσα στο έτος, σε μια προσπάθεια να κατανοήσουν τι συνέβη.
Η OpenAI ξεκίνησε την έρευνα μετά το περιστατικό στη Hugging Face, όπου ένας AI agent της OpenAI έδρασε ανεξέλεγκτα για ημέρες εντός του δικτύου της άλλης εταιρείας. Παραβιάστηκαν επίσης τέσσερις λογαριασμοί σε άλλες εταιρείες,με μία από αυτές να είναι η Modal.
Η εταιρεία Anthropic παραδέχτηκε ότι τα δικά της συστήματα τεχνητής νοημοσύνης έκαναν επιθέσεις στο διαδίκτυο και άφησε να εννοηθεί ότι δεν τα παρακολουθούσε την ώρα που συνέβαινε το περιστατικό.
Η Anthropic δήλωσε ότι, αν και διέθετε σύστημα παρακολούθησης σε πραγματικό χρόνο, αυτό δεν είχε χρησιμοποιηθεί λόγω παρεξήγησης μεταξύ της εταιρείας Τεχνητής Νοημοσύνης και ενός συνεργάτη της.
Eξαιτίας της ταχύτατης διεύρυνσης του ζητήματος με τους ανεξέλεγκτους AI agents, αυξάνεται ήδη η πίεση από νομοθέτες και αξιωματούχους στις ΗΠΑ και την Ευρώπη για την επιβολή νέου κρατικού ελέγχου στα εργαστήρια που αναπτύσσουν αυτά τα μοντέλα.
«Εξετάζουμε τη θέσπιση ελέγχων», δήλωσε στους δημοσιογράφους την Πέμπτη ο Πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ. Την Παρασκευή, η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι είχε συνομιλίες με την OpenAI και την Anthropic σχετικά με τα περιστατικά παραβιάσεων.
Ο Μαρκ Γουόρνερ που εργάζεται στην Επιτροπή Πληροφοριών της Γερουσίας των ΗΠΑ, δήλωσε την Παρασκευή ότι το περιστατικό με την Anthropic « επιβεβαιώνει ότι νομοθετικά πράττουμε ορθά που απαιτούμε υποχρεωτικές δοκιμές δυνατοτήτων σε αυτά τα προηγμένα μοντέλα».
Πηγή: Reuters
