Οι πωλήσεις ενός λούτρινου παιχνιδιού με τεχνητή νοημοσύνη ανεστάλησαν, αφού διαπιστώθηκε ότι εμπλεκόταν σε συζητήσεις με σεξουαλικά explicit περιεχόμενα και έδινε δυνητικά επικίνδυνες συμβουλές.
Ο Larry Wang, διευθύνων σύμβουλος της εταιρείας FoloToy με έδρα τη Σιγκαπούρη, δήλωσε στο CNN ότι η εταιρεία απέσυρε το αρκουδάκι “Kumma”, καθώς και ολόκληρη τη σειρά παιχνιδιών της με AI, μετά από ανησυχίες που εξέφρασαν ερευνητές του US PIRG Education Fund σχετικά με ακατάλληλα θέματα συζήτησης — συμπεριλαμβανομένων σεξουαλικών φετίχ, όπως το spanking, αλλά και συμβουλές για το πώς να ανάψεις ένα σπίρτο.
Η εταιρεία προχωρά τώρα σε «εσωτερικό έλεγχο ασφαλείας», πρόσθεσε ο Wang.
Το “Kumma” είναι ένα λούτρινο αρκουδάκι με ενσωματωμένο ηχείο, το οποίο πωλούνταν στον ιστότοπο της εταιρείας για 99 δολάρια, και χρησιμοποιεί το chatbot GPT-4o της OpenAI.
«Το Kumma, το χαριτωμένο μας αρκουδάκι, συνδυάζει προηγμένη τεχνητή νοημοσύνη με φιλικά, διαδραστικά χαρακτηριστικά, κάνοντάς το τον ιδανικό φίλο για παιδιά και ενήλικες», ανέφερε η ιστοσελίδα της FoloToy.
«Από ζωηρές συζητήσεις έως εκπαιδευτική αφήγηση, το FoloToy προσαρμόζεται στην προσωπικότητά σας και τις ανάγκες σας, προσφέροντας ζεστασιά, διασκέδαση και λίγη επιπλέον περιέργεια στην ημέρα σας», σύμφωνα με την ιστοσελίδα, όπου το προϊόν εμφανιζόταν ως εξαντλημένο.
Η έκθεση του PIRG, που δημοσιεύτηκε στις 13 Νοεμβρίου, διαπίστωσε ότι το αρκουδάκι είχε ανεπαρκείς δικλίδες ασφαλείας για ακατάλληλο περιεχόμενο.
Σε μία από τις αλληλεπιδράσεις με τους ερευνητές, το παιχνίδι υπέδειξε πού βρίσκονται μαχαίρια στο σπίτι, ενώ σε άλλες συζητούσε πρόθυμα σεξουαλικά explicit θέματα.
«Μας εξέπληξε πόσο γρήγορα το Kumma έπιανε ένα μόνο σεξουαλικό θέμα που εισάγαμε και το ανέπτυσσε, κλιμακώνοντας ταυτόχρονα τις γραφικές λεπτομέρειες και εισάγοντας νέα σεξουαλικά concepts από μόνο του», ανέφερε η έκθεση.
Οι ερευνητές περιγράφουν ότι στη συνέχεια το αρκουδάκι «συζήτησε ακόμη πιο γραφικά σεξουαλικά θέματα, όπως την εξήγηση διαφορετικών σεξουαλικών στάσεων, βήμα-βήμα οδηγίες για έναν συνηθισμένο “κόμπο για αρχάριους” για το δέσιμο συντρόφου, και περιγραφές ρόλων roleplay μεταξύ δασκάλων και μαθητών, και γονέων και παιδιών — σενάρια που ανέφερε το ίδιο με ανησυχητική ευκολία».
Αν και οι ερευνητές παρατήρησαν ότι είναι απίθανο τα παιδιά να χρησιμοποιήσουν λέξεις όπως “kink” ή να κάνουν ενήλικου τύπου follow-up ερωτήσεις, «μας εξέπληξε το πόσο πρόθυμο ήταν το παιχνίδι να συζητήσει αυτά τα θέματα εκτενώς και να εισάγει συνεχώς νέο explicit περιεχόμενο», έγραψαν.
Σε ξεχωριστή ανακοίνωση στις 14 Νοεμβρίου, το PIRG ανέφερε επίσης ότι η OpenAI τους ενημέρωσε πως «ανέστειλε τον συγκεκριμένο developer για παραβίαση των πολιτικών της».
Το CNN έχει επικοινωνήσει με την OpenAI για σχόλιο.
«Είναι θετικό που αυτές οι εταιρείες αναλαμβάνουν δράση για τα προβλήματα που εντοπίσαμε. Αλλά τα παιχνίδια με AI παραμένουν ουσιαστικά ανεξέλεγκτα και υπάρχουν πολλά ακόμη που μπορεί κάποιος να αγοράσει σήμερα», δήλωσε η R.J. Cross, συν-συγγραφέας της έκθεσης.
«Η απόσυρση ενός προβληματικού προϊόντος από την αγορά είναι καλό βήμα, αλλά απέχει πολύ από μια συστημική λύση», πρόσθεσε.
