Ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ υπέγραψε τη Δευτέρα 13/10 τον πρώτο αμερικανικό νόμο που θέτει περιορισμούς και κανόνες στα chatbot (ρομπότ συνομιλίας με τη χρήση τεχνητής νοημοσύνης ΑΙ), παρά την πρόθεση του Λευκού Οίκου να μην μπαίνει κανένας έλεγχος σε νέες τεχνολογίες.
Με τον νέο αυτό νόμο, ο οποίος θα τεθεί σε ισχύ από 1η Ιανουαρίου 2026, οι εταιρείες που χειρίζονται chatbot οφείλουν να εφαρμόσουν πρωτόκολλα ασφαλείας στις συνομιλίες με χρήστες ενώ είναι πλέον υπόλογες απέναντι στον νόμο αν τα chatbots τους δεν ακολουθήσουν τα απαιτούμενα πρότυπα ασφαλείας.
Πιο συγκεκριμένα, ο νόμος έχει στόχο να αποτρέψει τα chatbots που κάνουν «παρέα» σε παιδιά και εφήβους – τα οποία η νομοθεσία ορίζει ως συστήματα τεχνητής νοημοσύνης που προσφέρουν προσαρμοσμένες και ανθρωποειδείς απαντήσεις και μπορούν να καλύψουν κοινωνικές ανάγκες του χρήστη – από το να κάνει συζητήσεις για αυτοκτονικό ιδεασμό, αυτοτραυματισμό ή ακατάλληλο περιεχόμενο.
Η διαδικασία ψήφισης έχει ξεκινήσει από τον Ιανουάριο 2025, μετά από αποκαλύψεις για αυτοκτονίες εφήβων που χρησιμοποίησαν chatbot (όπως το ChatGPT της εταιρείας OpenAI) πριν βάλουν τέλος στη ζωή τους και μετά τη διαρροή εσωτερικών εγγράφων της εταιρείας Meta στα οποία φέρεται να δινόταν η δυνατότητα στα chatbot της εταιρείας να κάνουν “ρομαντικές” και “αισθησιακές” συζητήσεις με παιδιά.
“Οι νέες τεχνολογίες όπως τα chatbot και τα social media μπορούν να εμπνεύσουν, να εκπαιδεύσουν και να ενώσουν τους ανθρώπους – αλλά χωρίς πραγματικές δικλείδες ασφαλείας, η τεχνολογία μπορεί επίσης να εκμεταλλευτεί, να παραπλανήσει και να βάλει σε κίνδυνο τα παιδιά μας,” δήλωσε ο κυβερνήτης Νιούσομ.
Η OpenAI και η Meta έχουν ανακοινώσει αλλαγές στον τρόπο με τον οποίο τα chatbots απαντούν σε εφήβους που κάνουν ερωτήσεις για αυτοκτονία ή δείχνουν σημάδια ψυχικής και συναισθηματικής αστάθειας. Η OpenAI έχει δηλώσει ότι οι γονείς θα μπορούν να συνδέουν τον λογαριασμό τους με των παιδιών τους που βρίσκονται στην εφηβεία.
Σε απάντηση στο νομοσχέδιο, οι τεχνολογικές εταιρείες και οι συνεργάτες τους ξόδεψαν τουλάχιστον 2,5 εκατομμύρια δολάρια τους τελευταίους έξι μήνες που γίνεται η συζήτηση στη Βουλή για το νομοσχέδιο για να εναντιωθούν στα νέα μέτρα.
Το νομοσχέδιο ήταν ένα από πολλά σχέδια νόμου για την Τεχνητή Νοημοσύνη που εισήγαγαν φέτος νομοθέτες στην Καλιφόρνια με στόχο να οριοθετηθεί η βιομηχανία των νέων τεχνολογιών η οποία αναπτύσσεται ταχύτατα χωρίς σχεδόν κανέναν έλεγχο.
(Με πληροφορίες από Tech Crunch, France 24, The Korea Times)
