Επιζήσασα παιδικής σεξουαλικής κακοποίησης κατέθεσε αγωγή κατά της εταιρείας Τεχνητής Νοημοσύνης του Έλον Μασκ, ισχυριζόμενη ότι το ΑΙ chatbot χρησιμοποίησε φωτογραφίες από την κακοποιήσή της για να δημιουργήσει παράνομο πορνογραφικό φωτογραφικό υλικό που απεικόνιζε την ίδια.
Αγωγή κατά του Grok
«Χρησιμοποιώντας πραγματικές εικόνες της ενάγουσας και των μελών της ομάδας, το Grok δημιούργησε παιδική πορνογραφία που απεικονίζει την ενάγουσα και τα μέλη της ομάδας», αναφέρεται χαρακτηριστικά στο δικόγραφο. Σύμφωνα με τον Guardian, η ίδια επιθυμεί να διατηρήσει την ανωνυμία της και εμφανίζεται στη δικαστική υπόθεση με το όνομα Jane Doe.
Οι δικηγόροι κατηγορούν την xAI τόσο για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) της εντολέως τους όσο και για την εισαγωγή εικόνων σεξουαλικής κακοποίησης παιδιών που την απεικονίζουν στα σύνολα δεδομένων της εταιρείας, αφού νέες εικόνες δημοσιεύθηκαν δημόσια.
Κατά τους ισχυρισμούς που περιλαμβάνονται στην αγωγή, η εταιρεία δεν ακολούθησε τις καθιερωμένες πρακτικές ασφαλείας για την αποτροπή της χρήσης και εξάπλωσης τέτοιου υλικού. Ως αποτέλεσμα, φέρεται να δημιουργήθηκε νέο CSAM μέσω τεχνητής νοημοσύνης, το οποίο στη συνέχεια εμφανίστηκε και διαδόθηκε στο X.
Παρόλο που ο Μασκ αρνήθηκε τον Ιανουάριο ότι γνώριζε πως το Grok είχε παράγει ποτέ «γυμνές εικόνες ανηλίκων», η εταιρεία του μήνυσε στα τέλη Αυγούστου δύο δικούς της χρήστες, οι οποίοι αντιμετωπίζουν ποινικές διώξεις επειδή φέρονται να έκαναν ακριβώς αυτό. Η xAI ζητά από τους δύο άνδρες να καλύψουν τα έξοδα των αγωγών που έχουν καταθέσει τα θύματά τους κατά της εταιρείας.
Το χρονικό της υπόθεσης
Η συγκεκριμένη υπόθεση διαφέρει από αρκετές άλλες αγωγές που σχετίζονται με σεξουαλική κακοποίηση παιδιών κατά της xAI, καθώς κατηγορεί την τεχνητή νοημοσύνη της εταιρείας ότι χρησιμοποίησε προϋπάρχον CSAM για την παραγωγή και διανομή νέων εικόνων. Προηγούμενες προσφυγές, όπως μια υπόθεση που αφορούσε μια ομάδα εφήβων από το Τενεσί, κατηγορούν το Grok ότι πήρε μη προκλητικές φωτογραφίες ανηλίκων και τις χρησιμοποίησε για τη δημιουργία υλικού σεξουαλικής κακοποίησης, τις περισσότερες φορές αφαιρώντας τα ρούχα τους.
Η διαφοροποίηση σχετικά με τη χρήση προϋπάρχοντος CSAM είναι σημαντική, διότι οι αρχές επιβολής του νόμου και οι οργανώσεις προστασίας παιδιών συχνά δίνουν σε αυτά τα παράνομα υλικά ένα είδος ψηφιακού αποτυπώματος – γνωστό ως hash – το οποίο τους επιτρέπει να εντοπίζουν εικόνες και βίντεο όταν εμφανίζονται στο διαδίκτυο. Στη συγκεκριμένη υπόθεση, οι δικηγόροι της ενάγουσας δήλωσαν ότι το Καναδικό Κέντρο Προστασίας Παιδιών (Canadian Centre for Child Protection) χρησιμοποίησε τα ψηφιακά αποτυπώματα των εικόνων για να εντοπίσει στο X υλικό CSAM δημιουργημένο από AI που απεικόνιζε την εντολέα τους.
Η ενάγουσα στην υπόθεση ήταν σε προσχολική ηλικία όταν βιάστηκε κατ’ επανάληψη και εξαναγκάστηκε να παράγει υλικό CSAM από έναν ενήλικα άνδρα, σύμφωνα με την προσφυγή. Αυτή η σειρά υλικού κυκλοφορεί στο διαδίκτυο για περίπου 20 χρόνια, δήλωσαν οι δικηγόροι της, και είναι εξαιρετικά γνωστή τόσο στις αρχές όσο και στις ομάδες προστασίας παιδιών.
«Η διαφορά εδώ, σε σύγκριση με πολλές ποινικές υποθέσεις που θα δείτε με υλικό δημιουργημένο από AI, είναι ότι δεν μπορείτε να αποδείξετε ότι το παιδί στο υλικό είναι πραγματικό», δήλωσε η Μάργκαρετ Μέιμπι, δικηγόρος της ενάγουσας. «Αλλά εδώ, επειδή μπορείτε να το συσχετίσετε με τη συγκεκριμένη σειρά, γνωρίζουμε ότι πρόκειται για ένα ταυτοποιήσιμο θύμα που βρίσκεται εν ζωή και ήταν ένα πραγματικό παιδί στη φωτογραφία».
Ούτε η xAI ούτε η SpaceX, η οποία εξαγόρασε την εταιρεία τον Φεβρουάριο, ανταποκρίθηκαν σε αιτήματα για σχολιασμό σχετικά με την αγωγή.
Η xAI αντιμετωπίζει πολυπληθείς αγωγές που την κατηγορούν για τη δημιουργία και διανομή υλικού σεξουαλικής κακοποίησης παιδιών. Πολλές από τις προσφυγές προέρχονται από μια περίοδο στις αρχές του τρέχοντος έτους, όταν οι χαλαρές ασφαλιστικές δικλείδες του Grok επέτρεπαν στους χρήστες να το κατευθύνουν ώστε να αφαιρεί ρούχα από φωτογραφίες και να παράγει σεξουαλικές εικόνες κατά παραγγελία μέσω του X.
Ο Μασκ δήλωσε τον Ιανουάριο ότι η λειτουργία NSFW του Grok προοριζόταν να επιτρέπει το «γυμνό στο πάνω μέρος του σώματος φανταστικών ενηλίκων». Το bot παρήγαγε εκατομμύρια σεξουαλικές εικόνες μέσα σε διάστημα λίγων εβδομάδων, συμπεριλαμβανομένων χιλιάδων που απεικόνιζαν παιδιά, σύμφωνα με ερευνητές του Center for Countering Digital Hate.
Η αγωγή έχει κατατεθεί ως συλλογική και, παρότι επικεντρώνεται στην Jane Doe, αναφέρει ότι στην ομάδα των ανθρώπων που ενδέχεται να έχουν υποστεί αντίστοιχη βλάβη μπορεί να περιλαμβάνονται «τουλάχιστον χιλιάδες ανήλικοι».
Το ΑΙ μπορεί να επιτρέψει την αναπαραγωγή τέτοιων εικόνων
Οι δικηγόροι προειδοποιούν ότι η δυνατότητα δημιουργίας CSAM με τεχνητή νοημοσύνη δημιουργεί έναν νέο κίνδυνο για ανθρώπους που έχουν ήδη υπάρξει θύματα. Νέες εικόνες μπορούν να παράγονται διαρκώς, προκαλώντας εκ νέου τραυματισμό των επιζώντων.
«Το πρόβλημα εδώ είναι ότι, τουλάχιστον για την πελάτισσά μας, τα τελευταία 20 χρόνια ο αριθμός των εικόνων της ήταν πεπερασμένος», δήλωσε η Μέιμπι.
«Ο φόβος τώρα είναι ότι νέες εγκληματικές πράξεις, νέες προσβλητικές συμπεριφορές, νέες ιδέες για το τι μπορεί να της γίνει μπορούν πλέον να δημιουργηθούν με τη χρήση AI. Μπορούν να δημιουργήσουν νέα κακοποίηση».
Το Καναδικό Κέντρο Προστασίας Παιδιών αρνήθηκε να σχολιάσει την υπόθεση.
