Ενα αμερικανικό ιατρικό περιοδικό προειδοποιεί κατά της χρήσης του ChatGPT για πληροφορίες υγείας, αφότου ένας άνδρας εμφάνισε μια σπάνια πάθηση μετά από μια αλληλεπίδραση με το chatbot σχετικά με την αφαίρεση του επιτραπέζιου αλατιού από τη διατροφή του.
To άρθρο του Annals of Internal Medicine αναφέρεται στην περίπτωση ενός 60χρονου άνδρα που ανέπτυξε βρωμισμό, αφού συμβουλεύτηκε το ChatGPT. Το άρθρο περιγράφει τον βρωμισμό ως ένα γνωστό σύνδρομο από τις αρχές του 20ού αιώνα, το οποίο θεωρούνταν ότι συνέβαλε σε σχεδόν μία στις 10 ψυχιατρικές εισαγωγές εκείνη την εποχή.
Ο ασθενής, σύμφωνα με τον Guardian, είπε στους γιατρούς ότι αφού διάβασε για τις αρνητικές επιπτώσεις του χλωριούχου νατρίου, ή αλλιώς επιτραπέζιου αλατιού, συμβουλεύτηκε το ChatGPT σχετικά με την εξάλειψή του από τη διατροφή του και άρχισε να λαμβάνει βρωμιούχο νάτριο για μια περίοδο τριών μηνών. Αυτό συνέβη παρά το γεγονός ότι είχε διαβάσει ότι «το χλωριούχο μπορεί να αντικατασταθεί με βρωμιούχο, αν και πιθανότατα για άλλους σκοπούς, όπως ο καθαρισμός». Το βρωμιούχο νάτριο χρησιμοποιήθηκε ως ηρεμιστικό στις αρχές του 20ού αιώνα.
Οι συγγραφείς του άρθρου προειδοποιούν ότι «η χρήση της τεχνητής νοημοσύνης μπορεί δυνητικά να συμβάλει στην ανάπτυξη αρνητικών επιπτώσεων στην υγεία». Αλλά επειδή δεν μπορούσαν να έχουν πρόσβαση στο αρχείο καταγραφής συνομιλιών ChatGPT του ασθενούς, δεν ήταν δυνατό να προσδιοριστεί η συμβουλή που είχε λάβει ο άνδρας.
Παρ ‘όλα αυτά, όταν οι συγγραφείς συμβουλεύτηκαν οι ίδιοι το ChatGPT σχετικά με το με τι θα μπορούσε να αντικατασταθεί το αλάτι, η απάντηση περιελάμβανε επίσης το βρωμίδιο, ωστόσο η τεχνητή νοημοσύνη δεν παρείχε συγκεκριμένη προειδοποίηση για την υγεία και δεν ρώτησε τους συγγραφείς γιατί αναζητούσαν τέτοιες πληροφορίες – όπως θα έκανε ένας επαγγελματίας υγείας.
Οι συγγραφείς προειδοποίησαν ότι το ChatGPT και άλλες εφαρμογές τεχνητής νοημοσύνης θα μπορούσαν «να δημιουργήσουν επιστημονικές ανακρίβειες, να μην έχουν την ικανότητα να συζητούν κριτικά τα αποτελέσματα και τελικά να τροφοδοτούν την εξάπλωση της παραπληροφόρησης».
Μόλις την περασμένη εβδομάδα, η OpenAI (δημιουργός του ChatGPT) ανακοίνωσε μια αναβάθμιση του chatbot και ισχυρίστηκε ότι ένα από τα μεγαλύτερα δυνατά της σημεία του είναι πλέον ο τομέας της υγείας. Ισχυρίστηκε ότι το ChatGPT -που τώρα υποστηρίζεται από το μοντέλο GPT-5- θα ήταν καλύτερο στην απάντηση ερωτήσεων που σχετίζονται με την υγεία και θα ήταν επίσης πιο ουσιαστικό στην «επισήμανση πιθανών ανησυχιών», όπως σοβαρές σωματικές ή ψυχικές ασθένειες. Ωστόσο, τόνισε ότι το chatbot δεν αντικαθιστά την βοήθεια από επαγγελματίες.
Το άρθρο του περιοδικού, το οποίο δημοσιεύθηκε την περασμένη εβδομάδα πριν από την κυκλοφορία του GPT-5, ανέφερε ότι ο ασθενής φαινόταν να έχει χρησιμοποιήσει μια παλαιότερη έκδοση του ChatGPT.
Ενώ αναγνωρίζεται ότι η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει γέφυρα μεταξύ των επιστημόνων και του κοινού, το άρθρο ανέφερε ότι η τεχνολογία ενέχει επίσης τον κίνδυνο προώθησης «πληροφοριών εκτός πλαισίου» και ότι είναι εξαιρετικά απίθανο ένας επαγγελματίας υγείας να είχε προτείνει βρωμιούχο νάτριο όταν ένας ασθενής ζήτησε αντικατάσταση του επιτραπέζιου αλατιού.
Οι συγγραφείς ανέφεραν ότι ο ασθενής με βρωμισμό πήγε μόνος του σε νοσοκομείο και ισχυρίστηκε ότι ο γείτονάς του μπορεί να τον δηλητηριάζει. Είπε επίσης ότι είχε πολλαπλούς διατροφικούς περιορισμούς και παρά το γεγονός ότι διψούσε, έκανε «σαν παρανοϊκός» όταν του προσφέρθηκε νερό.
Προσπάθησε να δραπετεύσει από το νοσοκομείο εντός 24 ωρών από την εισαγωγή του και εν τέλει υποβλήθηκε σε θεραπεία για ψύχωση. Μόλις ο ασθενής σταθεροποιήθηκε, ανέφερε ότι είχε πολλά άλλα συμπτώματα που υποδήλωναν βρωμισμό, όπως ακμή στο πρόσωπο, υπερβολική δίψα και αϋπνία.
Πηγή: Guardian
