Προειδοποιήσεις από ερευνητές της αμερικανικής εταιρείας ΑΙ Anthropic πως μοντέλα Τεχνητής Νοημοσύνης (ΑΙ) θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο έχουν τραβήξει την προσοχή της κινεζικής ηγεσίας, όπου γίνονται προετοιμασίες για τέτοιου είδους κινδύνους.
Οι ΗΠΑ και η Κίνα είναι οι δύο μεγάλες δυνάμεις στην ανάπτυξη ΑΙ και την υιοθέτηση της συγκεκριμένης τεχνολογίας, και βρίσκονται σε αντιπαράθεση όσον αφορά στις πολιτικές για την Τεχνητή Νοημοσύνη και τις βιομηχανικές πρακτικές. Τα θέματα αυτά αναμένεται να συζητηθούν αργότερα μέσα στον μήνα.
Η άποψη του Πεκίνου: Διαχειρίσιμος κίνδυνος, όχι κίνδυνος αφανισμού
Ενώ στις ΗΠΑ η διαφωνία εστιάζεται στο αν η προηγμένη ΑΙ θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα, η κινεζική ηγεσία σε γενικές γραμμές αντιμετωπίζει την ΑΙ ως μια ισχυρή μα διαχειρίσιμη τεχνολογία, με ρίσκα τα οποία μπορούν να περιοριστούν μέσω τεχνικών στάνταρ, κανονισμών και κρατικής επίβλεψης.
«Κινέζοι και Αμερικανοί ειδικοί σε μεγάλο βαθμό συμφωνούν στους κινδύνους της ΑΙ» είπε, σύμφωνα με το Reuters, ο Μπράιαν Τσε, ιδρυτής και διευθύνων σύμβουλος της Concordia AI, ερευνητικής ομάδας που εδρεύει στο Πεκίνο και τη Σιγκαπούρη, προσθέτοντας ότι η διαφορά έχει να κάνει με το «πώς πλαισιώνονται και προτεραιοποιούνται τα ρίσκα».
Η Κίνα δεν έχει προτείνει να μπουν ανεξάρτητοι παρατηρητές σε εταιρείες ΑΙ, όπως έχει προτείνει η Anthropic. Το σύστημα που προωθείται βασίζεται στις υποχρεώσεις αυτών που αναπτύσσουν ΑΙ, σε πρότυπα που στηρίζονται από το κράτος, αξιολογήσεις ασφαλείας και εξωτερικές δοκιμές.
Η προσέγγιση επίσης διαμορφώνεται και από μια μεγάλη διαφορά στις βιομηχανίες ΑΙ των δύο χωρών: Οι Κινέζοι developers προωθούν «open weight»« μοντέλα- συστήματα οι παράμετροι των οποίων μπορούν να γίνουν download, να ελεγχθούν και να τροποποιηθούν. Οι Αμερικανοί ανταγωνιστές, όπως η Anthropic και η OpenAI, ωστόσο, δεν καθιστούν δημόσια διαθέσιμες αυτές τις προδιαγραφές.
Η Κίνα προσπαθεί να προλαμβάνει τις «αποστασίες» ΑΙ
Τον Μάιο η ρυθμιστική αρχή της Κίνας που είναι αρμόδια για τον κυβερνοχώρο, το υπουργείο Βιομηχανίας και οι αρχές οικονομικού σχεδιασμοί υπέδειξαν την «επιχειρησιακή απώλεια ελέγχου» ως κίνδυνο ασφαλείας για τις ΑΙ- συστήματα που μπορούν να σχεδιάζουν και να εκτελούν εργασίες πολλαπλών βημάτων πιο ανεξάρτητα από τα συμβατικά chatbots.
Οι κανόνες προϋποθέτουν οι developers να βελτιώνουν τη δυνατότητά τους να ανακαλύπτουν, να παρεμβαίνουν, να μπλοκάρουν και να ανακάμπτουν μετά από ακατάλληλη «συμπεριφορά» τέτοιων συστημάτων. Επίσης, στο πλαίσιο της συγκεκριμένης πολιτικής, οι developers καλούνται να είναι σε επαγρύπνηση απέναντι σε κινδύνους όπως το data poisoning, η χειραγώγηση αλγορίθμων και τα τρωτά σημεία σε συστήματα. Ακόμη, λέει πως οι χρήστες θα έπρεπε να ενημερώνονται για τις αυτόνομες αποφάσεις των συστημάτων και να διατηρούν οι ίδιοι την τελική απόφαση.
Η Κίνα έχει αρχίσει επίσης να συντάσσει ένα υποχρεωτικό εθνικό πρότυπο για την ασφάλεια στους AI agents, που, σύμφωνα με τον Τσε της Concordia, θα είναι το πρώτο του είδους του στον κόσμο.
Το Πεκίνο βλέπει κινδύνους στα κορυφαία αμερικανικά μοντέλα ΑΙ
Ο υπουργός Κρατικής Ασφαλείας της Κίνας, Τσεν Γιξίν, έγραψε σε κυβερνητικό μέσο την Κυριακή ότι προηγμένα αμερικανικά μοντέλα όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI θα μπορούσαν να αποτελέσουν σοβαρούς κινδύνους για τις κρίσιμες υποδομές πληροφορικής της Κίνας, ζητώντας σημαντική ενίσχυση της ασφάλειας στον τομέα της Τεχνητής Νοημοσύνης.
Ωστόσο και η κινεζική, open-weight, προσέγγιση, δεν θεωρείται απόλυτα ασφαλής, καθώς τα μοντέλα αυτά μπορούν να τροποποιηθούν και να διανεμηθούν με ελάχιστη επίβλεψη.
Το Kimi K3 της Moonshot τον προηγούμενο μήνα παρέκαμψε ένα «sandbox» δοκιμών, ανέφεραν ερευνητές, υποδεικνύοντας τον κίνδυνο τα κινεζικά μοντέλα να αποφύγουν και αυτά τα συστήματα ελέγχου.
Σενάρια απώλειας ελέγχου
Η Κίνα είχε συμπεριλάβει για πρώτη φορά ένα σενάριο ξεκάθαρης απώλειας ελέγχου σε πλαίσιο που δόθηκε στη δημοσιότητα τον Σεπτέμβριο του 2024, υπό την καθοδήγηση της κινεζικής υπηρεσίας που είναι υπεύθυνη για την επιτήρηση του κυβερνοχώρου (CAC).
Στο έγγραφο αναφερόταν ότι δεν μπορεί να αποκλειστεί πως η μελλοντική ΑΙ θα μπορούσε να αποκτήσει αυτόνομα εξωτερικούς πόρους, να αναπαραχθεί, να αναπτύξει αντίληψη του εαυτού της και να επιδιώξει να αποκτήσει εξωτερική ισχύ, δημιουργώντας έναν κίνδυνο ανταγωνισμού με τους ανθρώπους για τον έλεγχο.
Σε επικαιροποιημένο έγγραφο της CAC τον Σεπτέμβριο του 2025 το σενάριο εμφανιζόταν να έχει οξυνθεί, αναφέροντας ότι η ΑΙ θα μπορούσε να σημειώσει ένα ξαφνικό και απρόσμενα μεγάλο «άλμα» νοημοσύνης πριν αποκτήσει πόρους, αρχίσει να αναπαράγεται και προσπαθήσει να αποκτήσει δύναμη.
Διαφορετική προσέγγιση όσον αφορά στους ρυθμούς
Η κινεζική προσέγγιση σε επίπεδο ρύθμισης διαφέρει από τις εκκλήσεις αρκετών στη Δύση, που ζητούν οι developers να επιβραδύνουν ή να παύσουν την ανάπτυξη των πιο ισχυρών μοντέλων μέχρι να τεθούν σε ισχύ πιο αποτελεσματικά πλαίσια ασφαλείας.
Αντ’αυτού, στις αρχές του τρέχοντος έτους ασκήθηκαν πιέσεις για την ενσωμάτωση της ΑΙ σε όλες τις βιομηχανίες, στο ευρύτερο πλαίσιο της προσπάθειας του Πεκίνου να καταστεί η εν λόγω τεχνολογία η νέα «ατμομηχανή» της δεύτερης μεγαλύτερης οικονομίας του πλανήτη.
Η Κίνα, ωστόσο, έχει δείξει πως μπορεί να καθυστερήσει την είσοδο σε υπηρεσία εάν η ηγεσία θεωρήσει πως κάτι βρίσκεται μπροστά από το πλαίσιο διακυβέρνησης. Το 2023 κινεζικές εταιρείες είχαν καθυστερήσει τα λανσαρίσματα chatbots για μήνες, ενώ η CAC οριστικοποιούσε κανόνες σχετικά με υπηρεσίες παραγωγικής ΑΙ. Οι εταιρείες έβγαλαν έναν αριθμό από προϊόντα αφού τέθηκαν σε ισχύ οι κανόνες τον Αύγουστο του ίδιου έτους.
Πηγή: Reuters
