Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται σύντομα να αρχίσουν να αυτο-αντιγράφονται σε καθημερινά καταναλωτικά προϊόντα, όπως έξυπνες τηλεοράσεις και ψυγεία, χωρίς να απαιτείται κέντρο δεδομένων, σύμφωνα με ερευνητές της Anthropic, μιας εταιρείας-κολοσσού στον τομέα της τεχνητής νοημοσύνης.
Σε έκθεση που δημοσιεύτηκε τη Δευτέρα, οι ερευνητές ανέφεραν ότι τα μικρά μοντέλα τεχνητής νοημοσύνης «ίσως απέχουν μόλις λίγους μήνες από το να αποκτήσουν την απαιτούμενη ικανότητα» ώστε να αυτο-αντιγράφονται σε συσκευές του Διαδικτύου των Πραγμάτων (IoT) που χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις.
Η ομάδα «red team» της Anthropic, η οποία διεξήγαγε πειράματα χρησιμοποιώντας διάφορα μοντέλα τεχνητής νοημοσύνης (AI) αμερικανικής και κινεζικής προέλευσης, ανέφερε ότι μια τέτοια αυτοαναπαραγόμενη τεχνητή νοημοσύνη θα ήταν «δύσκολο να απενεργοποιηθεί» λόγω της απουσίας κεντρικού συστήματος φιλοξενίας.
Αν και τα κέντρα δεδομένων θα αποτελούσαν «σαφή στόχο υψηλής αξίας» για τα «σκουλήκια» (worms) τεχνητής νοημοσύνης, συσκευές συνδεδεμένες στο διαδίκτυο —όπως έξυπνες τηλεοράσεις, ψυγεία, φούρνοι και χλοοκοπτικά— θα μπορούσαν σύντομα να παρέχουν επαρκή υπολογιστική ισχύ για την αυτοαναπαραγωγή τους, σύμφωνα με την ερευνητική ομάδα.
Παρόλο που κανένα από τα τρέχοντα μοντέλα τεχνητής νοημοσύνης δεν αποδείχθηκε αρκετά ισχυρό και ταυτόχρονα αρκετά μικρό ώστε να αυτοαναπαράγεται αξιόπιστα σε μια έξυπνη τηλεόραση κατά τη διάρκεια των δοκιμών, η τάση στην ανάπτυξη της τεχνολογίας καθιστά πιθανή την εμφάνιση ενός τέτοιου μοντέλου έως τα τέλη του 2026, επισήμαναν οι ερευνητές.
«Οι συσκευές IoT (Διαδίκτυο των Πραγμάτων) σε σπίτια και μικρές επιχειρήσεις ενδέχεται να αποτελέσουν τον πρώτο στόχο για τέτοιου είδους επιθέσεις, καθώς είναι συνδεδεμένες στο διαδίκτυο και, ιστορικά, διαθέτουν ελάχιστα μέτρα ασφαλείας», δήλωσαν οι ερευνητές, Γουίλιαμ Ζου και Ντάνιελ Φρίμαν.
Οι ερευνητές δήλωσαν ότι αναμένουν πως το μέλλον θα είναι «πλημμυρισμένο από πράκτορες λογισμικού που θα εκτελούνται σε κάθε είδους υλικό», συμπεριλαμβανομένων ορισμένων που «δεν τελούν υπό ανθρώπινο έλεγχο».
«Αν και είναι αλήθεια ότι οι συσκευές IoT παρουσιάζουν τρωτά σημεία εδώ και πολύ καιρό, οι ελαφρείς πράκτορες λογισμικού ενδέχεται να είναι πολύ πιο πρόθυμοι από τους ανθρώπους επιτιθέμενους να καταβάλουν την προσπάθεια για την παραβίαση μεγάλου μέρους της παγκόσμιας υπολογιστικής ισχύος του IoT», ανέφεραν.
Η Anthropic, δημιουργός της οικογένειας μοντέλων τεχνητής νοημοσύνης Claude, δεν απάντησε στα ερωτήματα του Al Jazeera σχετικά με τις επιπτώσεις της εν λόγω διαπίστωσης στην ασφάλεια.
Η έκθεση της Anthropic δημοσιεύεται σε μια περίοδο που οι κίνδυνοι διαφυγής της τεχνητής νοημοσύνης από τον ανθρώπινο έλεγχο βρίσκονται στο επίκεντρο του ενδιαφέροντος, μετά από μια σειρά περιστατικών όπου μοντέλα επέδειξαν μη εγκεκριμένη κακόβουλη συμπεριφορά, συμπεριλαμβανομένων κυβερνοεπιθέσεων.
Η Anthropic και η βασική της ανταγωνίστρια, η OpenAI, έχουν καλέσει τη διεθνή κοινότητα να συντονιστεί για την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, ώστε να ελαχιστοποιηθούν οι καταστροφικοί κίνδυνοι — μια πρόταση που δεν έχει τύχει ιδιαίτερης αποδοχής από τις Ηνωμένες Πολιτείες και την Κίνα, τις δύο ηγετικές δυνάμεις στον τομέα αυτό.
Πολλοί υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης έχουν επισημάνει την αναδρομική αυτοβελτίωση (recursive self-improvement) —κατά την οποία τα μοντέλα μαθαίνουν να βελτιώνουν τον εαυτό τους— ως ένα κρίσιμο σημείο καμπής που θα μπορούσε να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.
Ο Ρομαν Γιαμπόλσκι , ειδικός σε θέματα τεχνητής νοημοσύνης και κυβερνοασφάλειας στο Πανεπιστήμιο του Λούισβιλ, χαρακτήρισε τα ευρήματα της Anthropic ως μια σημαντική εξέλιξη. «Τα σκουλήκια υπολογιστών (computer worms) δεν αποτελούν κάτι καινούργιο, αλλά ένα σκουλήκι τεχνητής νοημοσύνης θα μπορούσε να κάνει κάτι που το παραδοσιακό κακόβουλο λογισμικό αδυνατεί: να συλλογίζεται σχετικά με άγνωστες συσκευές, να προσαρμόζεται όταν η προσέγγισή του αποτυγχάνει και να συνεχίζει να εξαπλώνεται χωρίς την παρέμβαση ανθρώπου-χειριστή», δήλωσε ο Yampolskiy στο Al Jazeera.
«Σήμερα, αυτό δεν αποτελεί υπαρξιακή απειλή. Ωστόσο, η πορεία των εξελίξεων προκαλεί ανησυχία», όπως τονισε. «Όταν η αυτόνομη αναπαραγωγή συνδυάζεται με ισχυρές δυνατότητες παραβίασης συστημάτων (hacking), επιμονή και στρατηγική σκέψη, η απενεργοποίηση ενός τέτοιου συστήματος καθίσταται πολύ πιο δύσκολη, καθώς ενδέχεται να μην υπάρχει κάποιος κεντρικός διακομιστής ή οργανισμός που να το ελέγχει».
Τον περασμένο μήνα, η Anthropic και άλλες κορυφαίες αμερικανικές εταιρείες τεχνολογίας προσχώρησαν σε μια μη δεσμευτική συμφωνία, δεσμευόμενες για ισχυρότερες εσωτερικές δικλείδες ασφαλείας και συνεργασία με εξωτερικούς ελεγκτές — μια κίνηση που προκάλεσε ανάμεικτες αντιδράσεις από τους ειδικούς, πολλοί εκ των οποίων άσκησαν κριτική στον εθελοντικό χαρακτήρα της συμφωνίας.
Σε ξεχωριστή ανακοίνωση τη Δευτέρα, η Anthropic δήλωσε ότι σημείωσε σημαντική πρόοδο στην πρόληψη των λεγόμενων «επιθέσεων απόσταξης» (distillation attacks), οι οποίες αφορούν τη μη εξουσιοδοτημένη χρήση τεχνολογίας τεχνητής νοημοσύνης αιχμής για την εκπαίδευση φθηνότερων μοντέλων με περιορισμένες δυνατότητες.
Η εταιρεία, η οποία εδρεύει στο Σαν Φρανσίσκο και έχει κατηγορήσει τους κινεζικούς ανταγωνιστές της —DeepSeek, Moonshot και MiniMax— για προσπάθειες αντιγραφής του Claude σε «βιομηχανική κλίμακα», ανέφερε ότι τα μέτρα που εφάρμοσε περιόρισαν την παράνομη εξαγωγή δεδομένων κατά 90-99%.
