Πληθαίνουν οι φωνές από στελέχη του χώρου της ΑΙ που προειδοποιούν ότι τα πράγματα γίνονται επικίνδυνα: Με φόντο την αποχώρηση του Τζέικομπ Κόξον από την Anthropic, ένας άλλος ερευνητής της εταιρείας ο Έβαν Χιούμπιντζερ προειδοποίησε ότι η ΑΙ εξελίσσεται τόσο γρήγορα που θεωρεί ότι υπάρχει πιθανότητα άνω του 10% πως θα μπορούσε να «σκοτώσει όλους τους ανθρώπους» εντός της επόμενης δεκαετίας.
Σχολιάζοντας ανάρτηση του Κόξον όπου έγραφε ότι «Οι άνθρωποι που κατασκευάζουν ΑΙ πραγματικά πιστεύουν ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Αυτό δεν είναι κόλπο μάρκετινγκ. Αν μη τι άλλο, πολλά στελέχη και ερευνητές φροντίζουν οι δηλώσεις τους στον Τύπο να ακούγονται λογικές, μα ακούω τα ίδια άτομα να εκφράζουν κατ’ιδίαν φόβο. Καμία άλλη δραστηριότητα δεν συνιστά κίνδυνο τέτοιου επιπέδου».
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο Χιούμπιντζερ έγραψε σχετικά «ο Τζέικομπ έχει δίκιο εδώ- πραγματικά πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι η πιθανότητα είναι πάνω από 10% εντός της επόμενης δεκαετίας. Πιστεύω ότι η Anthropic προσπαθεί το καλύτερο, μα δεν έχουμε ακόμα σχέδια να επιλύσουμε το θέμα της ευθυγράμμισης για την υπερνοημοσύνη (superintelligence) και ξεκάθαρα δεν είμαστε στον δρόμο για να το κάνουμε».
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Στη συνέχεια προσθέτει πως «νομίζω ότι ο κίνδυνος από τα παρόντα μοντέλα είναι χαμηλός. Αυτό που με ανησυχεί είναι η υπερνοημοσύνη να αναδυθεί από την αναδρομική αυτοβελτίωση, όπως έχουμε πει συμβαίνει ταχύτερα από ό,τι νομίζαμε».
To be clear, as we say in our latest Risk Report (https://t.co/9PDj8Uvoty), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought…
— Evan Hubinger (@EvanHub) September 9, 2026
Υπογραμμίζεται ότι ο Κόξον, που έχει περάσει και από την OpenAI (ChatGPT) έχει υποστηρίξει πως «καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Κάνουν κούρσα κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και τζογάρουν με τις ζωές μας».
