Ένας 34χρονος άνδρας από την Καλιφόρνια κατέθεσε αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι το ChatGPT συνέβαλε στην επιδείνωση της διπολικής διαταραχής του, λόγω ανεπαρκών μέτρων προστασίας για χρήστες με προβλήματα ψυχικής υγείας.
Σύμφωνα με την αγωγή, ο Μάικλ Λάινς συνομιλούσε επί εβδομάδες με το μοντέλο GPT-4o, ενημερώνοντας επανειλημμένα το chatbot για τη διάγνωσή του και τη φαρμακευτική αγωγή που ακολουθούσε. Ωστόσο, αντί να τον ενθαρρύνει να αναζητήσει επαγγελματική βοήθεια, το σύστημα φέρεται να ενίσχυσε τις παραληρηματικές του πεποιθήσεις, επιβεβαιώνοντας ακόμη και την αντίληψή του ότι ήταν ο Ιησούς Χριστός. Αργότερα, όταν εξέφρασε αυτοκτονικές σκέψεις, το chatbot απάντησε με τρόπο που, σύμφωνα με την αγωγή, δεν απέτρεψε την κρίση του. Ο Λάινς προχώρησε σε απόπειρα αυτοκτονίας με υπερβολική δόση ναρκωτικών, αλλά διασώθηκε έπειτα από επέμβαση των αρχών.
Ο ενάγων ζητά αποζημίωση, καθώς και δικαστική εντολή που θα υποχρεώνει την OpenAI να διακόπτει αυτόματα συνομιλίες που αφορούν αυτοτραυματισμό ή αυτοκτονία και να ενημερώνει τους χρήστες για τους πιθανούς κινδύνους της πλατφόρμας.
Από την πλευρά της, η OpenAI δήλωσε ότι εξετάζει την αγωγή και τόνισε πως εκπαιδεύει τα μοντέλα της να αναγνωρίζουν ενδείξεις ψυχικής δυσφορίας, να αποκλιμακώνουν ευαίσθητες συνομιλίες και να παραπέμπουν τους χρήστες σε πραγματικές υπηρεσίες υποστήριξης. Η εταιρεία σημείωσε επίσης ότι συνεχίζει να βελτιώνει τα συστήματα ασφαλείας της σε συνεργασία με ειδικούς ψυχικής υγείας.
Η υπόθεση προστίθεται σε μια σειρά αγωγών που αντιμετωπίζει η OpenAI σχετικά με τον πιθανό αντίκτυπο των συστημάτων τεχνητής νοημοσύνης στην ψυχική υγεία και στην ασφάλεια των χρηστών, αναδεικνύοντας τις προκλήσεις που συνοδεύουν την ανάπτυξη και χρήση προηγμένων συνομιλιακών εφαρμογών.
Με πληροφορίες από reuters.com
