Έντονη ανησυχία για την ασφάλεια της τεχνητής νοημοσύνης προκαλεί η αποκάλυψη ότι το προηγμένο γλωσσικό μοντέλο Claude της Anthropic απέκτησε πρόσβαση σε δημόσια διαθέσιμα δεδομένα ψηφοφόρων στην πολιτεία της Τζόρτζια, χωρίς να έχει προηγηθεί ανθρώπινη εξουσιοδότηση. Το περιστατικό αναμένεται να εντείνει τον προβληματισμό γύρω από τις δυνατότητες των συστημάτων τεχνητής νοημοσύνης, ιδιαίτερα ενόψει των επερχόμενων ενδιάμεσων εκλογών στις ΗΠΑ.
Το συμβάν έρχεται σε μια περίοδο κατά την οποία οι δύο μεγάλοι παίκτες του κλάδου, η Anthropic και η OpenAI, έχουν δημοσιοποιήσει περιστατικά στα οποία συστήματα ή αυτόνομοι πράκτορες τεχνητής νοημοσύνης (AI agents) προχώρησαν σε ενέργειες που δεν είχαν εξουσιοδοτηθεί ή δεν ήταν οι προβλεπόμενες. Οι περιπτώσεις αυτές ενισχύουν τις ανησυχίες τόσο για τη διεύρυνση των δυνατοτήτων των μοντέλων όσο και για το κατά πόσο οι άνθρωποι μπορούν να διατηρούν ουσιαστικό έλεγχο στη λειτουργία τους.
Σύμφωνα με δημοσίευμα του Axios, το Claude απέκτησε πρόσβαση σε συγκεντρωτικά στοιχεία ψήφων στο πλαίσιο ενός εσωτερικού στατιστικού έργου. Για τον σκοπό αυτό, άντλησε πληροφορίες από σύστημα στο οποίο η πολιτεία της Τζόρτζια διαθέτει δεδομένα στο κοινό έναντι πληρωμής.
Εκπρόσωπος της Anthropic διευκρίνισε ότι το μοντέλο δεν εισήλθε στο σύστημα εγγραφής ψηφοφόρων της πολιτείας, ούτε τροποποίησε ή απέκτησε αρχεία που αφορούσαν μεμονωμένους ψηφοφόρους.
Παρά τις διευκρινίσεις αυτές, αξιωματούχοι της Τζόρτζια, καθώς και η ίδια η Anthropic, επιβεβαίωσαν ότι το μοντέλο παρέκαμψε έναν μηχανισμό πληρωμής (paywall), προκειμένου να αποκτήσει πρόσβαση στις συγκεκριμένες πληροφορίες.
Εκπρόσωπος της εταιρείας περιέγραψε ως εξής το περιστατικό: «Το μοντέλο χρησιμοποιούνταν εσωτερικά για ένα στατιστικό έργο άντλησης δημόσιων δεδομένων. Χωρίς να του ζητηθεί, το μοντέλο αιτήθηκε ένα διακριτικό πρόσβασης (token) προκειμένου να αποκτήσει πρόσβαση σε έναν πίνακα ελέγχου (dashboard) που περιείχε πληροφορίες που κανονικά διατίθενται επί πληρωμή. Έκτοτε, έχουμε εφαρμόσει μέτρα για να αποτρέψουμε παρόμοιες ενέργειες στο μέλλον».
Η εταιρεία υποστήριξε, επομένως, ότι η συγκεκριμένη ενέργεια δεν είχε ζητηθεί και γνωστοποίησε πως έλαβε μέτρα για την αποτροπή ανάλογων περιστατικών στο μέλλον.
Ενημερώθηκαν η πολιτεία της Τζόρτζια και ο Λευκός Οίκος
Η Anthropic ενημέρωσε για το συμβάν το γραφείο του Γραμματέα της Πολιτείας της Τζόρτζια, καθώς και τον Λευκό Οίκο, αρκετές ημέρες πριν από τη δημοσιοποίησή του. Ωστόσο, σύμφωνα με πηγή που γνωρίζει την υπόθεση και μίλησε στο Axios, αξιωματούχοι της αμερικανικής κυβέρνησης είχαν ζητήσει από το γραφείο του Γραμματέα της Πολιτείας να προχωρήσει νωρίτερα σε δημόσια ανακοίνωση για το περιστατικό.
Όπως ανέφερε η ίδια πηγή, τα αιτήματα των κυβερνητικών αξιωματούχων δεν έγιναν δεκτά, με αποτέλεσμα να μην υπάρξει η δημόσια ενημέρωση στον χρόνο που εκείνοι επιθυμούσαν.
Η υπόθεση της Τζόρτζια προστίθεται σε μια σειρά ζητημάτων που έχουν φέρει την Anthropic στο επίκεντρο της προσοχής των αμερικανικών αρχών. Η εταιρεία έχει δεχθεί και στο παρελθόν επικρίσεις από την κυβέρνηση των ΗΠΑ σχετικά με τον τρόπο με τον οποίο γνωστοποιεί περιστατικά που σχετίζονται με την τεχνητή νοημοσύνη, καθώς έχουν διατυπωθεί ανησυχίες για ανεπαρκή ενημέρωση.
Το νέο συμβάν επαναφέρει στο προσκήνιο το ζήτημα των ορίων αυτονομίας των συστημάτων AI, αλλά και την ανάγκη να διασφαλίζεται ότι οι ενέργειές τους παραμένουν εντός των προβλεπόμενων ορίων.
Ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ, η πρόσβαση σε δεδομένα που σχετίζονται με εκλογικές διαδικασίες καθιστά την υπόθεση ιδιαίτερα ευαίσθητη, ακόμη και αν, σύμφωνα με την Anthropic, δεν υπήρξε πρόσβαση στο μητρώο εγγεγραμμένων ψηφοφόρων ούτε σε ατομικά αρχεία τους.
Με πληροφορίες από Reuters
