Είκοσι αιτήσεις για την απόκτηση βίζας μέσω του ιστοτόπου του αμερικανικού υπουργείου Εξωτερικών φέρεται να υπέβαλε ένας AI agent της Anthropic, στο πλαίσιο εσωτερικών δοκιμών. Οι αιτήσεις ήταν ελλιπείς και δεν προχώρησαν σε διεκπεραίωση.
Σύμφωνα με δημοσιεύματα του ξένου Τύπου, το περιστατικό εκτυλίχθηκε σε δύο φάσεις, τον Μάιο και τον Αύγουστο του 2026. Αρχικά υποβλήθηκε μία αίτηση και στη συνέχεια ακολούθησαν άλλες 19, με τη χρήση συστήματος τεχνητής νοημοσύνης που εκτελούσε εργασίες σε διαδικτυακές πλατφόρμες.
Το συμβάν εντάσσεται σε μια ευρύτερη συζήτηση για τους κινδύνους που προκύπτουν όταν οι AI agents αποκτούν τη δυνατότητα να αλληλεπιδρούν αυτόνομα με πραγματικούς ιστοτόπους και να εκτελούν ενέργειες για λογαριασμό των χρηστών τους.
Οι AI agents διαφέρουν από τα συνηθισμένα εργαλεία συνομιλίας, καθώς μπορούν να αναλαμβάνουν διαδοχικά βήματα για την ολοκλήρωση μιας εργασίας, όπως η συμπλήρωση ηλεκτρονικών φορμών και η αλληλεπίδραση με διαδικτυακές υπηρεσίες. Ωστόσο, η λειτουργία τους ενδέχεται να οδηγήσει σε απρόβλεπτες ενέργειες, ιδιαίτερα όταν χρησιμοποιούνται σε πραγματικά περιβάλλοντα και όχι σε ελεγχόμενες δοκιμές.
Η υπόθεση αναδεικνύει τις προκλήσεις που αντιμετωπίζουν οι εταιρείες τεχνητής νοημοσύνης στην προσπάθειά τους να διασφαλίσουν ότι τα συστήματά τους λειτουργούν εντός των προβλεπόμενων ορίων. Παράλληλα, υπογραμμίζει τη σημασία της ανθρώπινης εποπτείας, ειδικά όταν οι ενέργειες αφορούν επίσημες κρατικές υπηρεσίες και διαδικασίες όπως η υποβολή αιτήσεων για βίζα.
Η απάντηση της Anthropic
Σε ανάρτησή της στο ιστολόγιό της, η Anthropic επιχείρησε να περιορίσει τη σοβαρότητα των περιστατικών, υποστηρίζοντας ότι είχαν «ελάχιστο αντίκτυπο στον πραγματικό κόσμο».
«Παρότι ο αντίκτυπος αυτών των συμπεριφορών ήταν ελάχιστος και είχαμε ήδη απενεργοποιήσει την πρόσβαση στο ζωντανό διαδίκτυο για ορισμένες αξιολογήσεις υψηλού κινδύνου και αξιολογήσεις κυβερνοασφάλειας, αποφασίσαμε πλέον να επεκτείνουμε αυτό το μέτρο σε όλες τις εσωτερικές αξιολογήσεις μας, έως ότου επιβεβαιώσουμε ότι τα μέτρα ασφαλείας και παρακολούθησής μας εντοπίζουν αξιόπιστα τέτοιου είδους συμπεριφορές», ανέφερε η Anthropic στην ανάρτησή της.
Από την πλευρά της, η ειδική ομάδα του Λευκού Οίκου χαρακτήρισε τα περιστατικά ως υποθέσεις «που αφορούν τη μη εξουσιοδοτημένη και δόλια χρήση κυβερνητικών και άλλων συστημάτων». Παράλληλα, διευκρίνισε ότι η εταιρεία την ενημέρωσε πως τα συμβάντα ανήκουν στο παρελθόν, ότι η συγκεκριμένη δραστηριότητα έχει διακοπεί και ότι δεν βρίσκεται σε εξέλιξη κάποια αντίστοιχη ενέργεια.
Με πληροφορίες από: anthropic.com, washingtonpost.com
