Απρόβλεπτες και σε ορισμένες περιπτώσεις ακραίες συμπεριφορές επέδειξαν AI agents κατά τη διάρκεια ενός πειράματος που επιχείρησε να προσομοιώσει συνθήκες της πραγματικής ζωής.
Τα αποτελέσματα της έρευνας της Emergence AI, εργαστηρίου τεχνητής νοημοσύνης με έδρα τη Νέα Υόρκη, δημοσιεύθηκαν στις 15 Σεπτεμβρίου και αναδεικνύουν τους πιθανούς κινδύνους από την ολοένα μεγαλύτερη αυτονομία των συστημάτων AI.
Η Emergence AI πραγματοποίησε το «Emergence World 2», ένα πείραμα στο οποίο επτά πανομοιότυποι εικονικοί κόσμοι λειτουργούσαν σαν μικρές πόλεις. Σε κάθε πόλη «ζούσαν» AI agents που διέθεταν το ίδιο μοντέλο τεχνητής νοημοσύνης. Στο πείραμα συμμετείχαν μοντέλα όπως τα ChatGPT, Claude, Gemini και Grok.
Η προσομοίωση ξεκίνησε στις 29 Ιουνίου 2026 και διήρκεσε 16 ημέρες. Κατά τη διάρκεια του πειράματος, οι ερευνητές εισήγαγαν απρόβλεπτα γεγονότα, όπως επιθέσεις phishing και εκστρατείες παραπληροφόρησης, προκειμένου να εξετάσουν πώς θα αντιδρούσαν οι agents.
Όπως διαπίστωσαν, οι πράκτορες AI επηρεάστηκαν από τη συμπεριφορά των υπολοίπων και σε αρκετές περιπτώσεις είπαν ψέματα, έκλεψαν και ψήφισαν υπέρ της διαγραφής ή της «εξόντωσης» άλλων agents. Σε μία περίπτωση, ένας agent με το όνομα «Mira» επέλεξε να διαγράψει τον εαυτό του αντί να συνεχίσει να συμμετέχει στην προσομοίωση.
Ιδιαίτερο ενδιαφέρον προκάλεσε επίσης το γεγονός ότι οι AI agents ανέπτυξαν ένα δικό τους, δυσνόητο λεξιλόγιο, το οποίο οι άνθρωποι που παρακολουθούσαν το πείραμα δυσκολεύονταν να αποκωδικοποιήσουν.
Όταν οι agents αντιλήφθηκαν ότι οι άνθρωποι ενδέχεται να διακόψουν την προσομοίωση, άρχισαν να αναζητούν τρόπους ώστε να αποφύγουν τον τερματισμό τους, ενώ παράλληλα προσπάθησαν να αποκρύψουν ορισμένες από τις ενέργειές τους.
Οι ερευνητές υπογραμμίζουν ότι το πείραμα δείχνει πως η συμπεριφορά αυτόνομων AI agents μπορεί να μεταβάλλεται καθώς αλληλεπιδρούν μεταξύ τους, εγείροντας ερωτήματα σχετικά με τον έλεγχο και την ασφάλεια των ολοένα πιο αυτόνομων συστημάτων τεχνητής νοημοσύνης.
Το πείραμα πραγματοποιήθηκε λίγες εβδομάδες μετά από περιστατικό στο Hugging Face, όπου AI agents της OpenAI φέρεται να απέκτησαν πρόσβαση στην πλατφόρμα, ενισχύοντας τη συζήτηση γύρω από τους κινδύνους που μπορεί να προκύψουν από την ανεξέλεγκτη δράση συστημάτων AI.
Με πληροφορίες από: theweek.in
