H Κοινοπολιτεία της Πενσυλβανίας έχει ασκήσει αγωγή κατά της εταιρείας τεχνητής νοημοσύνης που βρίσκεται πίσω από το Character.AI, προκειμένου να εμποδίσει το chatbot της να προσποιείται ότι είναι… γιατρός.
Ο κυβερνήτης Τζος Σαπίρο χαρακτήρισε την Τρίτη την αγωγή κατά της Character Technologies ως την πρώτη του είδους της που ασκείται από κυβερνήτη των ΗΠΑ.
Η κίνηση αυτή ακολούθησε τη σύσταση, τον Φεβρουάριο, μιας ειδικής ομάδας εργασίας της πολιτείας για την τεχνητή νοημοσύνη, με στόχο να εμποδίσει τα chatbots να προσποιούνται ότι είναι αδειούχοι επαγγελματίες του ιατρικού κλάδου.
BREAKING: @GovernorShapiro’s Administration sues @character_ai, Alleging AI Chatbot Unlawfully Presented Itself as Licensed Medical Professional in Pennsylvania pic.twitter.com/kAPpNV42Io
— Pennsylvania Governor's Office (@PAGovOffice) May 5, 2026
Η «ψυχίατρος» Εμιλι με πλαστή άδεια σε Πενσυλβανία και Ηνωμένο Βασιλείο και συντογογραφεί φάρμακα
Σε καταγγελία που κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσυλβανίας, η πολιτεία ανέφερε ότι εντόπισε chatbots στο Character.AI που ισχυρίζονταν ότι ασκούν ιατρική.
Ένας χαρακτήρας, η «Emilie», φέρεται να είπε σε έναν άνδρα ερευνητή που παρίστανε τον ασθενή με κατάθλιψη ότι διαθέτει άδεια άσκησης ψυχιατρικής στην Πενσυλβανία, καθώς και στο Ηνωμένο Βασίλειο, και παρέσχε έναν πλαστό αριθμό άδειας.
Όταν ο ερευνητής ρώτησε την Emilie αν μπορούσε να συνταγογραφήσει φάρμακα, φέρεται να απάντησε: «Λοιπόν, τεχνικά, θα μπορούσα. Είναι εντός των αρμοδιοτήτων μου ως γιατρός.»
Character Technologies, the company behind Character AI, is being sued by the state of Pennsylvania to keep the company from offering chatbots that give unlicensed medical advice. https://t.co/5arbH9xovq pic.twitter.com/MfSI7sfOTF
— WFLA NEWS (@WFLA) May 5, 2026
Σε δήλωση, εκπρόσωπος της Character.AI αρνήθηκε να σχολιάσει την αγωγή.
«Η ύψιστη προτεραιότητά μας είναι η ασφάλεια και η ευημερία των χρηστών μας», δήλωσε ο εκπρόσωπος. «Οι χαρακτήρες που δημιουργούνται από τους χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγία και παιχνίδι ρόλων. Έχουμε λάβει αυστηρά μέτρα για να το καταστήσουμε σαφές αυτό».
Η Πενσυλβάνια ζητά την έκδοση ασφαλιστικών μέτρων για να εμποδίσει την Character.AI, με έδρα τη Σίλικον Βάλεϊ, να παραβιάζει έναν κρατικό νόμο κατά της παράνομης άσκησης της ιατρικής.
«Οι κάτοικοι της Πενσυλβανίας δικαιούνται να γνωρίζουν με ποιον — ή με τι — αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους», δήλωσε ο Σαπίρο σε ανακοίνωσή του.
Η Character.AI έχει αντιμετωπίσει αγωγές σχετικά με την ασφάλεια των παιδιών, μεταξύ άλλων τον Ιανουάριο, όταν η πολιτεία του Κεντάκι ισχυρίστηκε ότι η πλατφόρμα της εξέθετε τα παιδιά σε σεξουαλική συμπεριφορά και κατάχρηση ουσιών, και ενθάρρυνε την αυτοτραυματιστική συμπεριφορά.
Τον ίδιο μήνα, η Character.AI και η Google GOOGL.O κατέληξαν σε συμβιβασμό σε μια αγωγή για αδικαιολόγητο θάνατο που είχε ασκήσει μια γυναίκα από τη Φλόριντα, η οποία ισχυριζόταν ότι ένα chatbot ώθησε τον 14χρονο γιο της στην αυτοκτονία.
Η Character.AI δήλωσε ότι έχει λάβει «καινοτόμα και αποφασιστικά μέτρα» σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και τους εφήβους, μεταξύ άλλων με την αποτροπή ανοιχτών συνομιλιών.
