Μια πρόσφατη έρευνα ανέδειξε την επικίνδυνη ευκολία με την οποία τα συστήματα τεχνητής νοημοσύνης (ΑΙ) μπορούν να παραπλανηθούν, καταλήγοντας να προωθούν ανακριβείς ή ψευδείς ειδήσεις στο ευρύ κοινό. Οι ειδικοί κρούουν τον κώδωνα του κινδύνου, επισημαίνοντας ότι το φαινόμενο αυτό έχει ήδη εξαπλωθεί, επηρεάζοντας κρίσιμους τομείς όπως η ενημέρωση, η υγεία και ο χρηματοοικονομικός κλάδος.
Πώς χειραγωγούνται τα chatbots για την προώθηση ψευδών ειδήσεων
Η κρισιμότητα της κατάστασης αποδείχθηκε μετά από πείραμα δημοσιογράφου του BBC. Μέσω της δημοσίευσης ενός επιμελημένου άρθρου σε μια προσωπική ιστοσελίδα, ο δημοσιογράφος κατάφερε μέσα σε μόλις 20 λεπτά να «πείσει» κορυφαία εργαλεία ΑΙ, όπως το ChatGPT, το Gemini και το AI Overviews της Google, ότι κατείχε τον τίτλο του παγκόσμιου πρωταθλητή στην κατανάλωση χοτ ντογκ.
Το περιστατικό αυτό αναδεικνύει σοβαρά ζητήματα σχετικά με τον τρόπο που τα μοντέλα τεχνητής νοημοσύνης επεξεργάζονται και επιβεβαιώνουν τις πληροφορίες, υπογραμμίζοντας την ανάγκη για μεγαλύτερη προσοχή και κριτική σκέψη κατά την αλληλεπίδραση με αυτές τις νέες τεχνολογίες.
Η έρευνα εντόπισε περιπτώσεις όπου εργαλεία AI παρείχαν παραπλανητικές πληροφορίες σχετικά με συμπληρώματα υγείας, οικονομικά ζητήματα και συνταξιοδοτικά θέματα, βασιζόμενα σε μεμονωμένες αναρτήσεις ή ιστοσελίδες. Σύμφωνα με ειδικούς στη βελτιστοποίηση μηχανών αναζήτησης (SEO), πολλά συστήματα τεχνητής νοημοσύνης αντλούν πληροφορίες από μία μόνο πηγή στο διαδίκτυο ή από δημοσιεύσεις στα κοινωνικά δίκτυα. Αυτό τα καθιστά ευάλωτα σε χειραγώγηση και ψευδές περιεχόμενο.
Η Λίλι Ρέι, ιδρύτρια της συμβουλευτικής εταιρείας Algorythmic, προειδοποιεί ότι οι χρήστες πρέπει να θεωρούν πως οι απαντήσεις AI ενδέχεται να είναι επηρεασμένες ή παραπλανητικές μέχρι να δημιουργηθούν καλύτερα συστήματα προστασίας. «Οδεύουμε προς έναν κόσμο της “μίας απόλυτης απάντησης”. Παλαιότερα, η Google εμφάνιζε δέκα διαφορετικούς συνδέσμους και ο χρήστης έκανε τη δική του έρευνα. Τώρα η AI δίνει μία μόνο απάντηση και γίνεται πολύ εύκολο να την αποδεχτεί κανείς χωρίς αμφισβήτηση», σημειώνει.
Πιθανές λύσεις
Όπως αναφέρει το δημοσίευμα του BBC, η Google επικαιροποίησε τις πολιτικές της για το spam, επιβεβαιώνοντας επίσημα ότι οι απόπειρες χειραγώγησης των απαντήσεων της Τεχνητής Νοημοσύνης (AI) παραβιάζουν τους κανόνες της εταιρείας.
Αν και μπορεί να ακούγεται ως μια μικρή αλλαγή, σηματοδοτεί ότι η Google αναζητά προληπτικά όσους προσπαθούν να καταχραστούν το σύστημα, στέλνοντας μια προειδοποίηση: αν μια εταιρεία ή ένας ιστότοπος πιαστεί να παραβιάζει τους κανόνες, μπορεί να αφαιρεθεί ή να υποβαθμιστεί στα αποτελέσματα αναζήτησης της Google. Και αν δεν βρίσκεσαι στη Google, είναι σαν να μην υπάρχεις.
«Η τροποποίηση στη γλώσσα της πολιτικής μας για το spam την περασμένη εβδομάδα ήταν μια διευκρίνιση, όχι κάποια αλλαγή στην προσέγγιση», δηλώνει εκπρόσωπος της Google.
Παράλληλα, παρατηρούνται ενδείξεις ότι εταιρείες τεχνολογίας δοκιμάζουν νέες μεθόδους προστασίας. Σύμφωνα με την Ρέι, η Google και το ChatGPT φαίνεται να αφαιρούν από απαντήσεις AI ονόματα ή εταιρείες όταν υποψιάζονται ότι επιχειρούν να αυτοπροωθηθούν μέσω χειραγωγημένου περιεχομένου.
Επιπλέον, αρκετά εργαλεία τεχνητής νοημοσύνης έχουν αρχίσει να προσθέτουν προειδοποιήσεις ή επισημάνσεις χαμηλής αξιοπιστίας σε ορισμένες απαντήσεις. Σε κάποιες περιπτώσεις, chatbots όπως το ChatGPT και το Claude της Anthropic ενημερώνουν πλέον ανοιχτά τους χρήστες ότι προσπαθούν να εντοπίσουν και να αποκλείσουν spam ή παραπλανητικές πληροφορίες.
Παραμένει ο σκεπτικισμός
Άρκετοί αναλυτές παραμένουν επιφυλακτικοί. Ο Χαρπρίτ Τσάθα, επικεφαλής της συμβουλευτικής εταιρείας Harps Digital, εκτιμά ότι η Google δίνει μια συνεχή μάχη χωρίς τέλος, καθώς όσοι επιδιώκουν να χειραγωγήσουν τα συστήματα βρίσκουν διαρκώς νέους τρόπους.
Όπως εξηγεί, ακόμα κι αν μια εταιρεία τιμωρηθεί για παραπλανητικό περιεχόμενο στην ιστοσελίδα της, μπορεί εύκολα να στραφεί σε influencers, βίντεο στο YouTube ή άλλες πλατφόρμες. Το πρόβλημα γίνεται ακόμη πιο σύνθετο από τη στιγμή που η AI της Google χρησιμοποιεί πλέον και βίντεο YouTube ως πηγές πληροφοριών.
Οι ειδικοί τονίζουν ότι, προς το παρόν, η καλύτερη άμυνα των χρηστών είναι η κριτική σκέψη. Η τεχνητή νοημοσύνη μπορεί να παρουσιάζει τις απαντήσεις της με απόλυτη βεβαιότητα, χωρίς αυτό να σημαίνει ότι οι πληροφορίες είναι ακριβείς ή αξιόπιστες. Το γεγονός ότι μια απάντηση προέρχεται από ένα προηγμένο σύστημα AI ή από μια μεγάλη τεχνολογική εταιρεία δεν σημαίνει απαραίτητα ότι είναι και αληθινή.
