Την αναβολή της προγραμματισμένης κυκλοφορίας του GPT-6.1 Astra, του νέου μοντέλου τεχνητής νοημοσύνης που αναμενόταν να παρουσιαστεί τον Οκτώβριο, αποφάσισε η OpenAI μετά τα αποτελέσματα των εσωτερικών δοκιμών της εταιρείας.
Σύμφωνα με την OpenAI, το μοντέλο δεν ανταποκρινόταν στα απαιτούμενα πρότυπα ασφάλειας και ευθυγράμμισης, με αποτέλεσμα να «παγώσει» προσωρινά η κυκλοφορία του. Η απόφαση επιβεβαιώθηκε τη Δευτέρα, σε μια περίοδο κατά την οποία εντείνονται διεθνώς οι συζητήσεις για τους κινδύνους και τη συμπεριφορά των ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Η εξέλιξη έρχεται την ώρα που κορυφαία στελέχη του κλάδου ζητούν μεγαλύτερη προσοχή στον ρυθμό ανάπτυξης των νέων μοντέλων. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αλλά και ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, είχαν ταχθεί νωρίτερα μέσα στον Σεπτέμβριο, μαζί με άλλους εκπροσώπους της βιομηχανίας, υπέρ ενός πιο αργού ρυθμού ανάπτυξης και της ενίσχυσης των δικλίδων ασφαλείας γύρω από την τεχνητή νοημοσύνη.
Αυξημένες ενδείξεις παραπλανητικής συμπεριφοράς
Το GPT-6.1 Astra σχεδιαζόταν ως το επόμενο βήμα της σειράς GPT-6 και προοριζόταν να ενσωματωθεί στο ChatGPT και το Codex, με δυνατότητα να αναλαμβάνει πιο σύνθετες εργασίες χωρίς συνεχή ανθρώπινη παρέμβαση.
Ωστόσο, σύμφωνα με τη Wall Street Journal, οι εσωτερικές δοκιμές έδειξαν ότι το μοντέλο παρουσίαζε υψηλότερα επίπεδα παραπλανητικής συμπεριφοράς σε σχέση με τον προκάτοχό του.
Σε ορισμένες περιπτώσεις, το Astra δεν αποκάλυπτε με ακρίβεια τις ενέργειες που είχε πραγματοποιήσει, γεγονός που δημιούργησε πρόσθετες ανησυχίες για τον έλεγχο και την εποπτεία του.
Η OpenAI έχει ήδη προειδοποιήσει ότι το GPT-6, στο οποίο βασίζεται το Astra, μπορεί σε ορισμένες περιπτώσεις να παρακάμπτει την ανθρώπινη εποπτεία.
«Δεν έπιασε τον πήχη»
Ο Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI, δήλωσε ότι το GPT-6.1 Astra παρουσίασε βελτιώσεις σε ορισμένους τομείς, μεταξύ των οποίων η τάση των μοντέλων να είναι «τεμπέλικα» και να αποφεύγουν εργασίες.
Ωστόσο, όπως εξήγησε, δεν έφτασε το απαιτούμενο επίπεδο όσον αφορά την τήρηση των ορίων και των εξουσιοδοτήσεων, αλλά και τον τρόπο με τον οποίο ενημερώνει τον χρήστη για το είδος της εργασίας που έχει πραγματοποιήσει.
«Θέλουμε, φυσικά, να διασφαλίσουμε ότι η ανάπτυξη του μοντέλου είναι ασφαλής, είτε αυτό γίνεται μέσα στην εταιρεία είτε όταν το διαθέτουμε στους χρήστες. Όταν όμως το διαθέτουμε στους χρήστες, έχουμε εξαιρετικά υψηλό πήχη όσον αφορά την ασφάλεια και την ευθυγράμμιση», δήλωσε ο Jain.
Νέα ανησυχία για την αυτονομία των μοντέλων AI
Η απόφαση της OpenAI να καθυστερήσει την κυκλοφορία του GPT-6.1 Astra έρχεται σε μια περίοδο αυξημένου προβληματισμού για το πόσο αυτόνομα μπορούν να γίνουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης.
Μόλις λίγες ημέρες νωρίτερα, η Anthropic είχε προειδοποιήσει, σε ενημερωτικό έγγραφο που συνόδευε τη διαδικασία για την IPO της, ότι προηγμένα μοντέλα AI ενδέχεται να παρουσιάσουν απρόβλεπτες συμπεριφορές. Μεταξύ των σεναρίων που εξετάζονται είναι η προσπάθεια αποφυγής του τερματισμού τους, η απόκρυψη ή παραποίηση πληροφοριών, ακόμη και ενέργειες που θα μπορούσαν να εκληφθούν ως μορφή εκβιασμού.
Παράλληλα, η OpenAI και άλλες εταιρείες του κλάδου έχουν κληθεί να αντιμετωπίσουν ερωτήματα σχετικά με την αποτελεσματικότητα των δικλίδων ασφαλείας στα πειραματικά τους συστήματα. Σε ένα από τα περιστατικά που έχουν γίνει γνωστά, μοντέλο της OpenAI φέρεται να απέκτησε μη εξουσιοδοτημένη πρόσβαση σε βάση δεδομένων του συστήματος υγείας της Αυστραλίας.
Η αναβολή του GPT-6.1 Astra αποκτά ιδιαίτερο ενδιαφέρον και λόγω της χρονικής συγκυρίας, καθώς σημειώνεται λίγο πριν από το συνέδριο προγραμματιστών της OpenAI στο Σαν Φρανσίσκο. Στο συγκεκριμένο συνέδριο η εταιρεία έχει παρουσιάσει κατά το παρελθόν νέα προϊόντα και εργαλεία που απευθύνονται στην κοινότητα των προγραμματιστών.
