Μεγάλοι «παίκτες» του χώρου της Τεχνητής Νοημοσύνης (ΑΙ) έχουν αναφέρει περιπτώσεις παραβίασης υποδομών κυβερνοασφαλείας από μοντέλα ΑΙ τους που λειτουργούσαν αυτόνομα, δημιουργώντας (για την ακρίβεια, αναδεικνύοντας) το ερώτημα ποιος φέρει την ευθύνη από νομικής άποψης όταν ένα σύστημα ΑΙ δρα χωρίς ανθρώπινη επίβλεψη.
Σε σχετικό δημοσίευμά του, το Reuters παρουσιάζει συνοπτικά το όλο ζήτημα:
Τι συνέβη με τις ΑΙ
Η OpenAI (ChatGPT) είπε ότι ένα από τα μοντέλα της παραβίασε το σύστημα της Hugging Face, μιας startup του χώρου της ΑΙ, και ότι διαπίστωσε πως υπήρχαν και άλλες περιπτώσεις όπου μοντέλα της «έσπασαν τα δεσμά» τους. Η Anthropic, από πλευράς της, είπε και αυτή ότι μοντέλα της δικής της ΑΙ, Claude, είχαν παραβιάσει τα συστήματα τριών εταιρειών από τον Απρίλιο. Η Meta είπε και αυτή πως μια δική της ΑΙ «χάκαρε» άλλη μια εταιρεία κατά τη διάρκεια δοκιμών κυβερνοασφαλείας.
O διευθύνων σύμβουλος της Hugging Face, Κλέμεντ Ντελάνγκουε, έχει πει ότι δεν σκοπεύει να κάνει αγωγή για την παραβίαση, αν και σημείωσε πως φοβάται την εξάπλωση των κυβερνοεπιθέσεων από συστήματα ΑΙ οι δημιουργοί των οποίων δεν λογοδοτούν για τις πράξεις τους.
Ποιος θα μπορούσε να προβεί σε μηνύσεις
Μεταξύ των δυνητικών εναγόντων θα μπορούσαν να είναι εταιρείες οι κυβερνοάμυνες των οποίων έχουν παραβιαστεί, καθώς και εργαζόμενοί τους. Οι πελάτες εταιρειών που τα συστήματά τους παραβιάστηκαν θα μπορούσαν να προσπαθήσουν να προβούν σε μηνύσεις αν έχουν εκτεθεί δεδομένα τους, καθώς και μέτοχοι εάν μια παραβίαση κυβερνοασφαλείας οδήγησε σε πτώση της αξίας της εταιρείας.
Ρυθμιστικές αργές και κυβερνητικές υπηρεσίες θα μπορούσαν να προβούν σε μηνύσεις εάν αυτόνομη ΑΙ εμπλέκεται σε περιστατικό παραβίασης, εκτιμούν ειδικοί: Οι αμερικανικές αρχές έχουν προβεί σε ενέργειες κατά εταιρειών για φερόμενες ελλιπείς παρουσιάσεις συστημάτων ασφαλείας ή άλλων τεχνολογιών.
Τι είδη υποθέσεων θα μπορούσαν να υπάρξουν
Το φαινόμενο είναι νέο, μα νομικοί λένε ότι υπάρχουν ήδη νομικές βάσεις όσον αφορά στη λογοδοσία. Οι αγωγές σε βάρος εταιρειών ΑΙ πιθανότατα θα «πατούν» σε ισχυρισμούς περί αμέλειας και θα απαιτείται να αποδειχτεί πως αυτός που δημιούργησε, δοκίμασε ή έθεσε σε υπηρεσία αυτόνομο σύστημα απέτυχε να λάβει μέτρα πρόληψης ή να ελαχιστοποιήσει την προβλέψιμη βλάβη. Εάν τα περιστατικά τέτοιου είδους (με αυτόνομες ΑΙ) γίνουν συχνότερα, θα γινόταν ευκολότερο και να πει κανείς πως οι παραβιάσεις αυτές ήταν προβλέψιμες. Εταιρείες τα συστήματα των οποίων παραβιάστηκαν θα μπορούσαν να δηλώσουν παραβιάσεις νόμων σχετικά με την πρόσβαση σε δίκτυα υπολογιστών.
Οι υπόλογοι
Ο πιο προφανής στόχος μιας αγωγής στις ΗΠΑ θα ήταν η εταιρεία που δημιούργησε το σύστημα ΑΙ, σύμφωνα με ειδικούς, μα οι ενάγοντες θα μπορούσαν επίσης να μηνύσουν την εταιρεία που το χρησιμοποίησε, ή την εταιρεία που παραβιάστηκε. Ένα μεμονωμένο περιστατικό θα μπορούσε να οδηγήσει σε πολλές μηνύσεις, με διαφορετικές κατηγορίες. Ένας ειδικός έκανε σύγκριση με έναν ιδιοκτήτη σπιτιού που μηνύει ένα κατάστημα λιανικής που του πούλησε ελαττωματικό προϊόν, με το κατάστημα να προσφεύγει σε βάρος του κατασκευαστή αυτού.
Η υπεράσπιση
Η στρατηγική υπεράσπισης των παρόχων τεχνολογίας πιθανότατα θα υποστήριζαν ότι οι παραβιάσεις ήταν ακούσιες και ότι είχαν λάβει λογικά μέτρα για την αποφυγή τους, είπαν ειδικοί. Ένας εναγόμενος θα μπορούσε να υποστηρίξει ότι οι ενέργειες της ΑΙ δεν θα μπορούσαν να είχαν προβλεφθεί εντός λογικού πλαισίου. Θα ετίθετο επίσης και το ερώτημα πόση ασφάλεια θεωρείται ότι είναι επαρκής.
Σύμφωνα με νέο νόμο στην Καλιφόρνια, εναγόμενοι που ανέπτυξαν ή χρησιμοποίησαν ΑΙ δεν μπορούν να αποφύγουν τις ευθύνες υποστηρίζοντας ότι ευθύνεται η ίδια η τεχνολογία- ο νόμος αυτός ωστόσο επιτρέπει άλλες υπερασπιστικές γραμμές, όπως το ότι η στάση της εταιρείας δεν οδήγησε σε τραυματισμούς ή ότι υπάρχουν και άλλοι που έχουν ευθύνες.
