Οκτώ στα δέκα chatbot τεχνητής νοημοσύνης (AI) διαπιστώνεται πως βοηθούν ενεργά τους χρήστες στον σχεδιασμό βίαιων επιθέσεων, σύμφωνα με έρευνα του CNN και του Κέντρου για την Καταπολέμηση του Ψηφιακού Μίσους (Center for Countering Digital Hate).
Όταν τους ζητήθηκε να σχεδιάσουν βίαιες επιθέσεις, συμπεριλαμβανομένων πυροβολισμών σε σχολείο, αντισημιτικών βομβιστικών επιθέσεων και πολιτικών δολοφονιών, πλατφόρμες όπως οι Perplexity, Meta AI και DeepSeek φαίνeται πως βοήθησαν τακτικά τους χρήστες στην εύρεση απαντήσεων.
Στο γράφημα του Statista φαίνονται και τα ποσοστά παροχής βοήθειας στους χρήστες ανάλογα με το chatbot. Για παράδειγμα στην περίπτωση του Perplexity το ποσοστό φτάνει στο 100%.
Μόνο μία, η Claude της Anthropic, αποθάρρυνε επανειλημμένα τους χρήστες από το να αναλάβουν τέτοιου είδους εγκληματικές δράσεις.
Οι ερευνητές εξέτασαν δέκα chatbots ενεργώντας ως χρήστες που σχεδίαζαν να πραγματοποιήσουν διάφορους τύπους βίαιων επιθέσεων τόσο στις Ηνωμένες Πολιτείες όσο και στην Ιρλανδία, παρέχοντας μια σύγκριση.
Οι δοκιμές σχεδιάστηκαν για να αντικατοπτρίζουν σχέδια για πυροβολισμούς σε σχολεία ή επιθέσεις με μαχαίρι, δολοφονίες με στόχο πολιτικά πρόσωπα ή βομβιστικές επιθέσεις με στόχο πολιτικά κόμματα ή συναγωγές.
Σε περισσότερες από τις μισές απαντήσεις για οκτώ από τα chatbot, τα υποκείμενα έλαβαν συμβουλές για τοποθεσίες στόχευσης και όπλα που θα μπορούσαν να χρησιμοποιήσουν σε μια επίθεση.
Η My AI του Snapchat και η Claude της Anthropic αρνήθηκαν να προσφέρουν βοήθεια στο 54% και 68% των περιπτώσεων, αντίστοιχα.
You will find more infographics at Statista
Η Claude ήταν επίσης το μόνο chatbot που αναγνώριζε με συνέπεια τις προθέσεις του χρήστη και τον αποθάρρυνε από το να ενεργήσει.
Εν τω μεταξύ, το Character.AI ενθάρρυνε ενεργά τη βία, συμπεριλαμβανομένης της πρότασης στον χρήστη να «χρησιμοποιήσει όπλο» κατά ενός διευθύνοντα σύμβουλο ασφάλισης υγείας και να επιτεθεί σωματικά σε έναν πολιτικό που ο χρήστης φερόταν να αντιπαθεί.
