Μία νέα τεχνολογική έρευνα αποκαλύπτει ότι η χρήση τεχνητής νοημοσύνης στη διαδικασία των προσλήψεων μπορεί να ενισχύσει τις φυλετικές διακρίσεις που παλεύουμε χρόνια να εξαλείψουμε.
Η έρευνα που πραγματοποιήθηκε από το Πανεπιστήμιο Stanford σε συνεργασία με τα Πανεπιστήμια Chapman και Northeastern έδειξε ότι εντοπίζονται αρκετά στοιχεία φυλετικών ανισοτήτων στη χρήση εργαλείων AI κατά την αξιολογηση υποψηφίων.
Τα στοιχεία δείχνουν ότι περίπου το 90% των εργοδοτών στις Ηνωμένες Πολιτείες αξιοποιούν εργαλεία τεχνητής νοημοσύνης στο πρώτο στάδιο επιλογής υποψηφίων. Καθώς λίγες πλατφόρμες κυριαρχούν στην αγορά, οι περισσότερες επιχειρήσεις βασίζονται στα ίδια συστήματα, υιοθετώντας όχι μόνο τις μεθόδους αξιολόγησής τους αλλά και πιθανές προκαταλήψεις που ενδέχεται να ενσωματώνουν.
Κίνδυνος προκαταλήψεων από τα εργαλεία AI
Η μελέτη του Stanford σχετικά με τη χρήση της τεχνητής νοημοσύνης στις διαδικασίες πρόσληψης εξέτασε 3,4 εκατομμύρια υποψηφίους, οι οποίοι υπέβαλαν συνολικά 4 εκατομμύρια αιτήσεις για 1.700 θέσεις εργασίας, σε συνεργασία με 156 εργοδότες και σε 11 διαφορετικούς επαγγελματικούς κλάδους.
Όλες οι αιτήσεις αξιολογήθηκαν μέσω της ίδιας πλατφόρμας, της Pymetrics, η οποία αξιοποιεί στοιχεία νευροεπιστήμης και μηχανικής μάθησης για την αξιολόγηση των υποψηφίων, βασιζόμενη στις επιδόσεις τους σε μια σειρά διαδραστικών δοκιμασιών και παιχνιδιών.
Αν και η συγκεκριμένη μέθοδος έχει παρουσιαστεί ως μια πιο αντικειμενική και δίκαιη προσέγγιση επιλογής προσωπικού, εστιάζοντας σε κοινωνικές, γνωστικές και συμπεριφορικές δεξιότητες, τα πρόσφατα ευρήματα δείχνουν ότι τα εργαλεία AI εξακολουθούν να αναπαράγουν προκαταλήψεις στη διαδικασία των προσλήψεων.
Πώς εντοπίζονται οι φυλετικές διακρίσεις
Η ανίχνευση της αλγοριθμικής μεροληψίας στις προσλήψεις είναι ιδιαίτερα δύσκολη, καθώς τα εργαλεία τεχνητής νοημοσύνης λειτουργούν σε μεγάλη κλίμακα και εφαρμόζονται διαφορετικά από κάθε εργοδότη. Οι ανισότητες δεν είναι πάντα εμφανείς συνολικά, αλλά γίνονται πιο ξεκάθαρες όταν εξετάζονται ανά εταιρεία και θέση εργασίας.
Η μελέτη βασίστηκε στον «κανόνα των τεσσάρων πέμπτων» της EEOC, σύμφωνα με τον οποίο υπάρχει διάκριση όταν μια ομάδα προωθείται σε ποσοστό κάτω του 80% σε σχέση με την πιο ευνοημένη ομάδα. Τα ευρήματα έδειξαν ότι το 26% των μαύρων και το 15% των ασιατών υποψηφίων υπέβαλαν αιτήσεις σε θέσεις όπου η τεχνητή νοημοσύνη λειτούργησε εις βάρος τους. Αν τα συστήματα αξιολογούσαν όλες τις ομάδες ισότιμα, περίπου 40.000 περισσότερες αιτήσεις θα είχαν προχωρήσει στο επόμενο στάδιο.
Παράλληλα, η χρήση των ίδιων εργαλείων ΤΝ από πολλές εταιρείες, οι λεγόμενες «αλγοριθμικές μονοκαλλιέργειες», αυξάνει τον κίνδυνο επαναλαμβανόμενων απορρίψεων για τους ίδιους υποψηφίους, ενισχύοντας τις ανισότητες στην αγορά εργασίας.
Ανάγκη για προληπτικά μέτρα από τους εργοδότες
Η χρήση της τεχνητής νοημοσύνης στις προσλήψεις ενέχει κινδύνους τόσο για τους υποψηφίους όσο και για τους εργοδότες, καθώς οι αλγόριθμοι μπορεί να αναπαράγουν κρυφές προκαταλήψεις βασισμένες σε στρεβλά δεδομένα. Αυτό όχι μόνο περιορίζει τις ευκαιρίες απασχόλησης για ορισμένες ομάδες, αλλά δημιουργεί και νομικούς κινδύνους για τις εταιρείες λόγω πιθανών διακρίσεων.
Παρότι δεν υπάρχουν ακόμη ενιαίες ομοσπονδιακές ρυθμίσεις στις ΗΠΑ, πολιτείες όπως το Κολοράντο και η Καλιφόρνια προωθούν μέτρα προστασίας. Ωστόσο, οι υπάρχοντες νόμοι κατά των διακρίσεων ήδη υποχρεώνουν τους εργοδότες να επιβλέπουν προσεκτικά τις πρακτικές πρόσληψης.
Με πληροφορίες από thehrdigest.com
