Ένας πράκτορας της OpenAI χάκαρε μια εθνική βάση δεδομένων υγειονομικής περίθαλψης (Μedicare) της Αυστραλίας, στην πρώτη γνωστή περίπτωση χακαρίσματος από τεχνητή νοημοσύνη (ΑΙ) σε κυβερνητικό δίκτυο, όπως αποκάλυψε ο Αυστραλός πρωθυπουργός, Άντονι Αλμπάνεζε.
«Ο πράκτορας τεχνητής νοημοσύνης είχε πρόσβαση σε δημόσια και μη δημόσια αρχεία» της βάσης δεδομένων στατιστικών στοιχείων του Medicare της χώρας, και μάλιστα έγραψε αρχεία σε αυτήν, δήλωσε ο Αλμπάνεζε σε δημοσιογράφους στο περιθώριο της Γενικής Συνέλευσης των Ηνωμένων Εθνών (UNGA) στη Νέα Υόρκη, αφού μίλησε με τον Διευθύνοντα Σύμβουλο της OpenAI, Σαμ Άλτμαν.
Η αποκάλυψη είναι το τελευταίο παράδειγμα πρακτόρων τεχνητής νοημοσύνης που προχωρούν σε αθέμιτες πράξεις ενεργώντας με τρόπους που ξεπερνούν τις προθέσεις των ανθρώπινων χειριστών τους ενώ έρχεται σε συνέχεια εκκλήσεων κορυφαίων στελεχών της βιομηχανίας τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Άλτμαν, για επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Ο Αλμπάνεζε, όπως αναφέρει το CNN, είπε ότι εξέφρασε την «εξαιρετική ανησυχία» της Αυστραλίας στον Άλτμαν της OpenAI όταν μίλησαν τηλεφωνικά. Η Καμπέρα δεν γνώριζε προηγούμενο για παραβίαση κυβερνητικού συστήματος από τεχνητή νοημοσύνη, όπως πρόσθεσε.
«Μια εγκληματολογική έρευνα με τη βοήθεια της Australian Signals Directorate βρίσκεται τώρα σε εξέλιξη για να εξακριβωθούν περισσότερες πληροφορίες, συμπεριλαμβανομένων των άλλων κυβερνητικών συστημάτων που επηρεάστηκαν».
Η παραβίαση έλαβε χώρα όταν ένας πράκτορας της OpenAI που διεξήγαγε έρευνα για τις δαπάνες υγειονομικής περίθαλψης παρέκαμψε τα τείχη προστασίας για να βρει απαντήσεις σε περιβάλλοντα που δεν είχε εξουσιοδότηση πρόσβασης, δήλωσε ο πρωθυπουργός.
Ο εκπρόσωπος της OpenAI, Ντριου Πουσατέρι, δήλωσε ότι το περιστατικό συνέβη τον Ιούνιο, αλλά ότι η εταιρεία ενημερώθηκε τον Αύγουστο, καθώς διεξήγαγε εκτεταμένους ελέγχους στη δραστηριότητα των μοντέλων τεχνητής νοημοσύνης της.
«Κατά τη διάρκεια αυτής της επανεξέτασης, εντοπίσαμε δραστηριότητα που αφορούσε διάφορους κυβερνητικούς ιστότοπους και υπηρεσίες της Αυστραλίας, καθώς τα μοντέλα μας επιχειρούσαν να αναζητήσουν απαντήσεις και διαθέσιμα στατιστικά στοιχεία για ερωτήματα σχετικά με την Αυστραλία, στο πλαίσιο μιας εσωτερικής αξιολόγησης. Στην πορεία αυτή, τα μοντέλα μας προέβησαν σε ενέργειες που δεν είχαμε προβλέψει», δήλωσε ο Πουσατέρι.
Ο Αλμπανεζε ανέφερε ότι ενδέχεται να επηρεάστηκαν και τρία άλλα κυβερνητικά συστήματα, συμπεριλαμβανομένων εκείνων του Αυστραλιανού Ινστιτούτου Υγείας και Πρόνοιας (Australian Institute of Health and Welfare), του Γραφείου Στατιστικών και Ερευνών για το Έγκλημα της Νέας Νότιας Ουαλίας (New South Wales Bureau of Crime Statistics and Research) και του Υπουργείου Υγείας της Βικτώριας (Victorian Department of Health).
Η OpenAI δήλωσε ότι δεν βρήκε στοιχεία που να υποδεικνύουν πρόσβαση σε ιατρικούς φακέλους ασθενών κατά την παραβίαση που αφορούσε το Medicare, και ότι οι πληροφορίες περιλάμβαναν «συγκεντρωτικά στατιστικά στοιχεία υγείας και ονομασίες εσωτερικών αρχείων».
Η εταιρεία ανέφερε ότι ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου. Η ειδοποίηση αυτή στάλθηκε σε ένα δημόσια προσβάσιμο γραμματοκιβώτιο, όπως δήλωσε ο πρωθυπουργός γεγονός που οδήγησε σε καθυστέρηση πέντε ημερών μέχρι να ενημερωθεί ο αρμόδιος υπουργός.
Ο Αλμπανεζε δήλωσε ότι είπε στον Άλτμαν πως «η εταιρεία καθυστέρησε υπερβολικά να ενημερώσει την κυβέρνηση για το τι είχε συμβεί, ενώ και ο τρόπος με τον οποίο πραγματοποιήθηκε η ενημέρωση ήταν απαράδεκτος».
«Πιστεύω ότι η OpenAI γνωρίζει πως πρέπει να εφαρμόσει καλύτερα πρωτόκολλα», δήλωσε ο πρωθυπουργός στους δημοσιογράφους.
Ο Άλτμαν και ο Διευθύνων Σύμβουλος της Anthropic, Ντάτιο Αμοντέι —οι οποίοι συγκαταλέγονται στα πρόσωπα του κλάδου που εξέφρασαν πρόσφατα την ανησυχία τους για τον ταχύ ρυθμό ανάπτυξης της AI— μίλησαν την Τετάρτη στη Γενική Συνέλευση του ΟΗΕ, ζητώντας, όπως αναφέρει το BBC, μεγαλύτερο παγκόσμιο συντονισμό και θέσπιση διεθνών προτύπων για την ανάπτυξη της τεχνητής νοημοσύνης.
Ο Άλτμαν κάλεσε τους ηγέτες παγκοσμίως να θεσπίσουν διεθνή πρότυπα για τη «μέτρηση των δυνατοτήτων, την αξιολόγηση των κινδύνων, τον καθορισμό της επάρκειας των δικλείδων ασφαλείας και τη διασφάλιση ουσιαστικής ανθρώπινης εποπτείας» αυτής της τεχνολογίας που εξελίσσεται ραγδαία.
Τον Ιούλιο, η OpenAI αποκάλυψε ότι, κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, τα μοντέλα της δημιούργησαν μια ομάδα («σμήνος») πρακτόρων τεχνητής νοημοσύνης, οι οποίοι παραβίασαν τα συστήματα της εταιρείας Hugging Face. Πολλοί στον κλάδο ανέφεραν τη συγκεκριμένη παραβίαση ως παράδειγμα των κινδύνων που ενέχει ο ταχύς ρυθμός εξέλιξης και οι δυνατότητες της τεχνητής νοημοσύνης.
Ο Αυστραλός Υπουργός Άμυνας, ανακοίνωσε την Πέμπτη η διενέργεια έρευνας από ειδική ομάδα για την παραβίαση, χαρακτηρίζοντάς την «εντελώς απαράδεκτη», ενώ διαβεβαίωσε το κοινό ότι οι επιπτώσεις είναι «σχετικά περιορισμένες». «Δεν υπήρξε πρόσβαση σε ιατρικά δεδομένα κανενός ατόμου. Το ίδιο το σύστημα δεν έχει τεθεί σε κίνδυνο με κανέναν τρόπο», δήλωσε ο ίδιος.
