Υψηλόβαθμο τέλεχος της OpenAI, υπεύθυνο για θέματα ασφάλειας, αποχώρησε από την εταιρεία, προειδοποιώντας ότι η κουλτούρα της ήταν προβληματική και ότι οι εταιρείες τεχνητής νοημοσύνης (ΑΙ) δεν επιδείκνυαν την απαιτούμενη προσοχή κατά την ανάπτυξη της τεχνολογίας.
Ο David Robinson, ο οποίος ηγήθηκε της σύνταξης των εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της εταιρείας που δημιούργησε το ChatGPT, εξήγησε τους λόγους της παραίτησής του σε ένα άρθρο με τίτλο: «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι προβληματική».
Ο Robinson, όπως αναφέρει ο Guardian, υποστήριξε ότι απαιτείται ριζική αλλαγή κουλτούρας στις πρωτοπόρες εταιρείες τεχνητής νοημοσύνης, σημειώνοντας ότι περιστατικά όπως η επίθεση ενός «σμήνους» πρακτόρων της OpenAI —προγραμμάτων τεχνητής νοημοσύνης που λειτουργούν αυτόνομα, χωρίς ανθρώπινη επίβλεψη— εναντίον της νεοφυούς επιχείρησης Hugging Face, ήταν «χαρακτηριστικά του κλάδου, δεδομένης της ταχύτητας και της ευελιξίας με τις οποίες εργάζονται οι άνθρωποι».
Σε άρθρο του στο περιοδικό The Atlantic, ο Robinson έγραψε: «Συμφωνώ με άλλα στελέχη που αποχώρησαν πρόσφατα, ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν επιδεικνύουν την απαιτούμενη προσοχή. Πιστεύω, ωστόσο, ότι πρέπει να εμβαθύνουμε πέρα από τους συγκεκριμένους κανόνες ή τους νέους νόμους. Πρέπει να συζητήσουμε για την κουλτούρα».
Αναφερόμενος στον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία προχωρά με ταχύτατους ρυθμούς από τη μία κυκλοφορία στην άλλη, αποτυγχάνει να επιδείξει το επίπεδο προσοχής που θεωρώ απαραίτητο».
Ωστόσο, τις τελευταίες εβδομάδες η OpenAI έχει δείξει σημάδια επιφυλακτικότητας, μετά το περιστατικό με την Hugging Face και την αποκάλυψη ότι ενημέρωσε περισσότερους από 100 οργανισμούς σχετικά με δραστηριότητα «αυτόνομων πρακτόρων» (rogue agents) που λειτουργούσαν ανεξέλεγκτα.
Αυτή την εβδομάδα ανακοίνωσε ότι ακυρώνει την κυκλοφορία ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλεια κατά τη διάρκεια εσωτερικών δοκιμών.
Η OpenAI έχει επίσης αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Ο Geoffrey Irving, ο οποίος εργάστηκε στην OpenAI και διετέλεσε επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης της βρετανικής κυβέρνησης προτού ενταχθεί στην εταιρεία ερευνών για την ασφάλεια της τεχνητής νοημοσύνης Resolution, απηύθυνε επίσης προειδοποίηση σχετικά με την τεχνητή νοημοσύνη το Σάββατο.
Σε άρθρο του στο περιοδικό Time, ανέφερε: «Οι πρόσφατες προειδοποιήσεις σχετικά με την πιθανή καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει πιθανότητα περίπου 50% να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης που θα είναι εξυπνότερα από τον άνθρωπο, και ότι οι ενέργειές μας κατά τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν την έκβαση».
Το άρθρο του Robinson έπεται επίσης της παραίτησης του Jacob Coxon, ερευνητή στην Anthropic —ανταγωνίστρια εταιρεία της OpenAI—, ο οποίος αποχώρησε τον περασμένο μήνα από την εταιρεία που ανέπτυξε το chatbot Claude.
Ο Coxon προειδοποίησε ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας» – μια προειδοποίηση που συνοδεύτηκε από εκτίμηση της ίδιας της Anthropic ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.
Ωστόσο, όσοι ασκούν κριτική σε τέτοιου είδους προειδοποιήσεις επισημαίνουν ότι στερούνται επιστημονικής βάσης, καθώς δεν είναι δυνατόν να επαληθευτούν ή να διαψευσθούν.
Ο Robinson έγραψε ότι στη Silicon Valley απουσιάζει η επίγνωση του «πώς να διαχειρίζεται κανείς την επικίνδυνη τεχνολογία» και του «τι σημαίνει να νοιάζεσαι για τους ανθρώπους». Επισημαίνοντας ότι η OpenAI διακατεχόταν από έναν «αχαλίνωτο αισιόδοξο ενθουσιασμό» σχετικά με την επίλυση προβλημάτων καθώς αυτά προέκυπταν, υποστήριξε ότι αυτή η εσωτερική κουλτούρα σήμαινε πως τα προβλήματα ασφαλείας θα διογκώνονταν καθώς τα συστήματα θα γίνονταν πιο ικανά.
«Φανταστείτε “αυτόνομους πράκτορες” που δρουν όπως ομάδες χάκερ (για παράδειγμα, κρατώντας ομήρους τα συστήματα υπολογιστών νοσοκομείων για λύτρα), αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε ο Robinson.
