Η αμερικανική κυβέρνηση κάνει ένα από τα πιο αποφασιστικά βήματα μέχρι σήμερα για τη ρύθμιση της τεχνητής νοημοσύνης, καθώς στο Κογκρέσο κατατέθηκε διακομματικό νομοσχέδιο που προβλέπει τη δημιουργία ενός υποχρεωτικού «διακόπτη ασφαλείας» (kill switch) για τα πλέον ισχυρά συστήματα AI. Η πρόταση έρχεται λίγες ημέρες μετά το περιστατικό που αποκάλυψε η OpenAI, σύμφωνα με το οποίο ένας αυτόνομος AI agent κατάφερε να ξεφύγει από το ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face, πυροδοτώντας έντονες ανησυχίες για τον έλεγχο των προηγμένων μοντέλων.
Το νομοσχέδιο, με την ονομασία AI Kill Switch Act, κατατέθηκε από τον Δημοκρατικό βουλευτή Τεντ Λιου και τον Ρεπουμπλικανό Νέιθανιελ Μόραν. Στόχος του είναι να εξασφαλίσει ότι οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα μπορούν ανά πάσα στιγμή να επιβραδύνουν, να περιορίζουν ή ακόμη και να διακόπτουν πλήρως τη λειτουργία των πιο προηγμένων μοντέλων τους όταν αυτά παρουσιάζουν επικίνδυνη ή ανεξέλεγκτη συμπεριφορά.
Ιδιαίτερη σημασία έχει ότι το σχέδιο νόμου δίνει στο Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ (DHS), σε συνεργασία με το Υπουργείο Εμπορίου και τη Διεύθυνση Εθνικών Πληροφοριών, την εξουσία να διατάζει την άμεση επιβράδυνση ή απενεργοποίηση ενός συστήματος τεχνητής νοημοσύνης όταν διαπιστώνεται «απώλεια ελέγχου» ή σοβαρός κίνδυνος για ανθρώπινες ζωές, κρίσιμες υποδομές ή την οικονομία.
Το νομοσχέδιο προβλέπει ακόμη ότι οι εταιρείες θα υποχρεούνται να ενσωματώνουν τεχνικούς μηχανισμούς ασφαλείας που θα επιτρέπουν την άμεση διακοπή λειτουργίας των μοντέλων, να αναφέρουν χωρίς καθυστέρηση κάθε σοβαρό περιστατικό ασφαλείας στις αρμόδιες αρχές και να διατηρούν αρχεία ώστε να μπορεί να διερευνάται κάθε συμβάν. Για όσους δεν συμμορφώνονται με εντολή έκτακτης διακοπής προβλέπονται πρόστιμα που μπορούν να φτάσουν έως και τα 20 εκατομμύρια δολάρια για κάθε ημέρα παράβασης.
Η πρόταση αφορά κυρίως τις μεγαλύτερες εταιρείες του κλάδου, όπως η OpenAI, η Anthropic, η Google και η Microsoft, δηλαδή οργανισμούς που αναπτύσσουν μοντέλα αιχμής με τεράστιες υπολογιστικές απαιτήσεις και σημαντικά έσοδα από εφαρμογές τεχνητής νοημοσύνης.
Ο Τεντ Λιου υποστήριξε ότι η τεχνητή νοημοσύνη δεν περιορίζεται πλέον στην παραγωγή απαντήσεων, αλλά εξελίσσεται σε τεχνολογία που μπορεί να πραγματοποιεί αυτόνομες ενέργειες, όπως οικονομικές συναλλαγές, διαχείριση κρίσιμων συστημάτων και επιχειρήσεις κυβερνοασφάλειας. Για τον λόγο αυτό, όπως τόνισε, είναι απαραίτητο να υπάρχει ένας σαφής μηχανισμός που θα επιτρέπει στον άνθρωπο να διατηρεί τον τελικό έλεγχο.
Η κατάθεση του AI Kill Switch Act εντάσσεται σε μια ευρύτερη προσπάθεια του αμερικανικού Κογκρέσου να δημιουργήσει ένα πιο αυστηρό πλαίσιο εποπτείας για την τεχνητή νοημοσύνη. Το προηγούμενο διάστημα είχαν ήδη κατατεθεί προτάσεις που υποχρεώνουν τις εταιρείες να αναφέρουν κρίσιμα περιστατικά ασφαλείας, ωστόσο το νέο νομοσχέδιο θεωρείται το πιο φιλόδοξο μέχρι σήμερα, καθώς εισάγει για πρώτη φορά τη δυνατότητα κρατικής παρέμβασης με υποχρεωτική διακοπή λειτουργίας προηγμένων συστημάτων AI σε περιπτώσεις έκτακτης ανάγκης.
Με πληροφορίες από Reuters / House.gov
