Μοιάζει με ένα μάλλον εκκεντρικό χαβανέζικο πουκάμισο. Πολύχρωμο, γεμάτο περίεργα σχήματα και σίγουρα όχι διακριτικό.
Κι όμως, το «Digital Camouflage» του Βερολινέζου καλλιτέχνη και σχεδιαστή Simon Weckert δημιουργήθηκε ακριβώς για το αντίθετο: όχι για να κρύψει τον άνθρωπο από τα ανθρώπινα μάτια, αλλά για να τον κάνει δυσκολότερα «ορατό» στα μάτια της τεχνητής νοημοσύνης.
Και εδώ χρειάζεται η πρώτη σημαντική διευκρίνιση: η τεχνολογία είναι πραγματική, αλλά το πουκάμισο δεν αποτελεί έναν μαγικό μανδύα αορατότητας απέναντι σε όλες τις κάμερες AI.
Τι λέει η πρωτογενής πηγή
Στην επίσημη παρουσίαση του έργου του, ο ίδιος ο Weckert περιγράφει το Digital Camouflage ως ένδυμα που σχεδιάστηκε για να «ξεγελά» συστήματα computer vision τα οποία χρησιμοποιούνται για την ανίχνευση ανθρώπων.
Το σχέδιο βασίζεται στις λεγόμενες adversarial attacks, δηλαδή στις «ανταγωνιστικές επιθέσεις» εναντίον συστημάτων τεχνητής νοημοσύνης.
Η λογική είναι συναρπαστική: ένα σύστημα AI δεν «βλέπει» έναν άνθρωπο όπως τον βλέπουμε εμείς. Αναζητεί μέσα στην εικόνα χαρακτηριστικά και στατιστικά μοτίβα που έχει μάθει κατά την εκπαίδευσή του ότι αντιστοιχούν στην κατηγορία «person».
Το παράξενο σχέδιο του υφάσματος έχει δημιουργηθεί ώστε να διαταράσσει αυτά τα χαρακτηριστικά και να οδηγεί τον αλγόριθμο σε λάθος συμπέρασμα.
Έτσι, ενώ εμείς βλέπουμε ολοκάθαρα έναν άνθρωπο που φορά ένα πολύχρωμο πουκάμισο, το λογισμικό μπορεί να αποτύχει να τοποθετήσει γύρω του το γνωστό πλαίσιο με την ένδειξη «person».
Πράγματι εξαφανίζεται από την κάμερα;
Όχι ακριβώς.
Η κάμερα εξακολουθεί να καταγράφει κανονικά τον άνθρωπο. Το πρόβλημα δημιουργείται στο λογισμικό που αναλύει την εικόνα.
Στην επίσημη επίδειξη του Digital Camouflage χρησιμοποιείται ένα γενικό, open-source σύστημα ανίχνευσης αντικειμένων της οικογένειας YOLO (You Only Look Once).
Στο demo, το σύστημα αναγνωρίζει άλλους περαστικούς ως «person», ενώ δυσκολεύεται να αναγνωρίσει εκείνον που φορά το ειδικό πουκάμισο.
Αυτό όμως δεν σημαίνει ότι το ίδιο ένδυμα θα ξεγελάσει οποιαδήποτε κάμερα ασφαλείας, οποιαδήποτε έκδοση AI ή ένα αστυνομικό σύστημα παρακολούθησης.
Μάλιστα ο ίδιος ο δημιουργός του το παραδέχεται. Στην επίσημη ιστοσελίδα του σημειώνει ότι κανείς εκτός των αρμόδιων φορέων δεν μπορεί να επαληθεύσει εάν ένα συγκεκριμένο κρατικό σύστημα θα αντιδρούσε με τον ίδιο τρόπο και τονίζει ότι το Digital Camouflage «δεν είναι υπόσχεση ανωνυμίας».
Η επιστήμη πίσω από το παράξενο πουκάμισο
Το εντυπωσιακότερο είναι ότι η ιδέα δεν αποτελεί απλώς ένα καλλιτεχνικό τέχνασμα.
Υπάρχει σοβαρή επιστημονική έρευνα πίσω από αυτού του είδους τα ρούχα.
Ήδη από το 2020 ερευνητές από πανεπιστήμια και ερευνητικά κέντρα, μεταξύ των οποίων το Northeastern University, το MIT και η IBM, παρουσίασαν στο μεγάλο επιστημονικό συνέδριο ECCV την εργασία «Adversarial T–shirt! Evading Person Detectors in A Physical World».
Οι ερευνητές δημιούργησαν ειδικό T-shirt που επιχειρούσε να ξεγελά συστήματα ανίχνευσης ανθρώπων ακόμη και όταν ο άνθρωπος περπατούσε και το ύφασμα τσαλακωνόταν.
Τα αποτελέσματα είχαν ενδιαφέρον: απέναντι στο YOLOv2 ανέφεραν 74% επιτυχία επίθεσης στο ψηφιακό περιβάλλον και 57% στον πραγματικό, φυσικό κόσμο.
Άρα ούτε τότε η επιτυχία ήταν 100%.
Και αυτό είναι ίσως το σημαντικότερο στοιχείο για να καταλάβουμε τι πραγματικά συμβαίνει.
Δεν ξεγελιούνται όλα τα συστήματα
Ένα σχέδιο που λειτουργεί εναντίον ενός συγκεκριμένου μοντέλου AI μπορεί να μην έχει το ίδιο αποτέλεσμα σε ένα διαφορετικό.
Η απόσταση από την κάμερα, η γωνία λήψης, ο φωτισμός, η κίνηση του ανθρώπου, οι πτυχώσεις του υφάσματος, η ανάλυση της εικόνας αλλά και το ίδιο το λογισμικό αναγνώρισης μπορούν να αλλάξουν δραματικά το αποτέλεσμα.
Επιπλέον, άλλο πράγμα είναι η ανίχνευση ανθρώπου (person detection) και άλλο η αναγνώριση προσώπου (facial recognition).
Το συγκεκριμένο project στοχεύει πρωτίστως στο πρώτο: να δυσκολέψει δηλαδή τον αλγόριθμο να καταλάβει ότι μέσα στην εικόνα υπάρχει άνθρωπος.
Από το εργαστήριο στους δρόμους
Το Digital Camouflage αποκτά ιδιαίτερο ενδιαφέρον επειδή εμφανίζεται την ώρα που όλο και περισσότερες πόλεις χρησιμοποιούν κάμερες συνδεδεμένες με συστήματα τεχνητής νοημοσύνης.
Ο Weckert παρουσιάζει το έργο του και ως πολιτικό και καλλιτεχνικό σχόλιο για τη μαζική αυτοματοποιημένη επιτήρηση.
Το ερώτημα που θέτει ουσιαστικά είναι απλό:
Εάν παραδίδουμε σε έναν αλγόριθμο την ευθύνη να αποφασίζει ποιος βρίσκεται μπροστά στην κάμερα και τι ακριβώς κάνει, πόσο βέβαιοι είμαστε ότι ο αλγόριθμος βλέπει σωστά;
Ένα πολύχρωμο πουκάμισο αποδεικνύεται ένας εντυπωσιακός τρόπος για να μας θυμίσει ότι η τεχνητή νοημοσύνη μπορεί να βλέπει εκατομμύρια εικόνες – αλλά αυτό δεν σημαίνει ότι καταλαβαίνει τον κόσμο όπως τον καταλαβαίνει ο άνθρωπος.
Συμπέρασμα: Ναι, λειτουργεί – αλλά όχι όπως αφήνουν να εννοηθεί οι εντυπωσιακοί τίτλοι
Το «Digital Camouflage» δεν κάνει κάποιον αόρατο στις κάμερες.
Μπορεί όμως, υπό συγκεκριμένες συνθήκες, να κάνει ορισμένα συστήματα AI να αποτύχουν να αναγνωρίσουν ότι ο άνθρωπος που βλέπουν είναι… άνθρωπος.
Και αυτό δεν είναι επιστημονική φαντασία. Είναι μία ήδη καταγεγραμμένη αδυναμία των συστημάτων computer vision, η οποία μελετάται επιστημονικά εδώ και χρόνια.
Το πραγματικά ανησυχητικό επομένως δεν είναι ότι κατασκευάστηκε ένα «αόρατο πουκάμισο».
Είναι ότι ένα κομμάτι ύφασμα με το κατάλληλο σχέδιο μπορεί, έστω και υπό προϋποθέσεις, να κάνει μία τεχνητή νοημοσύνη να αμφιβάλλει για κάτι που για οποιονδήποτε άνθρωπο είναι αυτονόητο: ότι μπροστά της βρίσκεται ένας άνθρωπος.
