Χρησιμοποιώ την Τεχνητή Νοημοσύνη. Βλέπω καθημερινά τις εκπληκτικές δυνατότητές της και δεν ανήκω σε εκείνους που πιστεύουν ότι πρέπει να τη δαιμονοποιήσουμε. Το αντίθετο. Πιστεύω ότι μπορεί να γίνει ένα από τα σημαντικότερα εργαλεία που απέκτησε ποτέ ο άνθρωπος.
Γι’ αυτό ακριβώς παίρνω πολύ σοβαρά την προειδοποίηση του Ντάριο Αμοντέι.
Ο επικεφαλής της Anthropic ζητά να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων ώστε οι μηχανισμοί ασφαλείας να προλάβουν τις δυνατότητές τους. Δεν ζητά να καταργήσουμε την AI. Προειδοποιεί ότι όταν η τεχνολογική εξέλιξη κινείται ταχύτερα από τους κανόνες που την ελέγχουν, δημιουργείται ένα επικίνδυνο κενό. (Reuters)
Μπορούμε πραγματικά να σταματήσουμε την AI;
Η απάντησή μου είναι όχι.
Ακόμη κι αν αύριο συμφωνούσαν οι μεγαλύτερες αμερικανικές εταιρείες να πατήσουν φρένο, ποιος εγγυάται ότι θα έκανε το ίδιο η Κίνα ή οποιαδήποτε άλλη χώρα; Ποιος θα μπορούσε να επιβάλει ένα παγκόσμιο μορατόριουμ σε μια τεχνολογία που πλέον αποτελεί οικονομική, επιστημονική αλλά και γεωπολιτική δύναμη;
Το ποτάμι δεν γυρίζει πίσω.
Μπορούμε όμως να αποφασίσουμε πόσο επικίνδυνα θα το αφήσουμε να τρέξει.
Ο πραγματικός κίνδυνος δεν είναι η μηχανή αλλά η απώλεια ελέγχου
Δεν φοβάμαι ένα chatbot επειδή μου γράφει ένα κείμενο ή μου αναλύει χιλιάδες δεδομένα μέσα σε δευτερόλεπτα.
Με ανησυχεί η στιγμή κατά την οποία πολύ ισχυρότερα συστήματα θα μπορούν να ενεργούν αυτόνομα, να πραγματοποιούν κυβερνοεπιθέσεις, να χρησιμοποιούνται για απάτες ή επικίνδυνη βιολογική έρευνα και, κυρίως, να αποκτούν βαθμό αυτονομίας που ο άνθρωπος δυσκολεύεται να παρακολουθήσει.
Και αυτά δεν αποτελούν πλέον μόνο σενάρια επιστημονικής φαντασίας. Η ίδια η Anthropic καταγράφει ήδη πραγματικές περιπτώσεις κακόβουλης αξιοποίησης AI σε κυβερνοεπιχειρήσεις, απάτες και επιχειρήσεις επιρροής. (Anthropic)
Τι πρέπει λοιπόν να γίνει
Θα έβαζα τέσσερις κόκκινες γραμμές: ανεξάρτητο έλεγχο των ισχυρότερων μοντέλων πριν κυκλοφορήσουν, υποχρεωτικά τεστ ασφαλείας, ανθρώπινη δυνατότητα άμεσης διακοπής κρίσιμων αυτόνομων συστημάτων και διεθνείς κανόνες αντίστοιχους με εκείνους που δημιουργήσαμε για άλλες τεχνολογίες υψηλού κινδύνου.
Και κάτι ακόμη: καμία εταιρεία δεν μπορεί να είναι ταυτόχρονα δημιουργός, ελεγκτής και τελικός κριτής της ασφάλειας του προϊόντος της.
Η Τεχνητή Νοημοσύνη μπορεί να μας βοηθήσει να θεραπεύσουμε ασθένειες, να επιταχύνουμε την επιστήμη και να αλλάξουμε προς το καλύτερο τη ζωή δισεκατομμυρίων ανθρώπων. Ο ίδιος ο Αμοντέι επιμένει σε αυτές τις τεράστιες δυνατότητες. (Dario Amodei)
Δεν χρειάζεται λοιπόν να σταματήσουμε την AI.
Χρειάζεται να εξασφαλίσουμε ότι, όσο γίνεται εξυπνότερη, το χέρι που θα παραμένει στο τιμόνι θα πρέπει να εξακολουθεί να είναι ανθρώπινο.
