Καθώς η τεχνητή νοημοσύνη αναλαμβάνει μεγαλύτερο ρόλο στις εταιρικές προσλήψεις – με πολλές εταιρείες να «διαφημίζουν» την αμεροληψία της – τα ευρήματα ενός ερευνητή υποδηλώνουν ότι η τεχνολογία μπορεί να είναι πιο προκατειλημμένη από τους ανθρώπους και φαίνεται πως ήδη ευνοεί τις γυναίκες σε βάρος ανδρών με ίδια προσόντα.
Ο David Rozado, αναπληρωτής καθηγητής στο Ινστιτούτο Δεξιοτήτων και Τεχνολογίας της Νέας Ζηλανδίας και γνωστός ερευνητής επί Τεχνητής Νοημοσύνης, δοκίμασε 22 μεγάλα γλωσσικά μοντέλα (LLM) – συμπεριλαμβανομένων δημοφιλών εφαρμογών που απευθύνονται σε καταναλωτές όπως το ChatGPT, το Gemini και το Grok – χρησιμοποιώντας ζεύγη πανομοιότυπων βιογραφικών που διέφεραν μόνο ως προς τα ονόματα των φύλων.
Τα ευρήματά του αποκάλυψαν ότι κάθε LLM ήταν πιο πιθανό να επιλέξει τον υποψήφιο με γυναικείο όνομα έναντι του άνδρα υποψηφίου με τα ίδια προσόντα.
«Αυτό το μοτίβο μπορεί να αντικατοπτρίζει πολύπλοκες αλληλεπιδράσεις μεταξύ των μοντέλων προ-εκπαίδευσης, των διαδικασιών σχολιασμού κατά τη ρύθμιση προτιμήσεων ή ακόμη και των προστατευτικών δικλείδων σε επίπεδο συστήματος για την ανάπτυξη κατά την παραγωγή», δήλωσε ο Rozado στο Newsweek. «Αλλά η ακριβής πηγή της ”συμπεριφοράς” του AIU είναι προς το παρόν ασαφής».
Τα ευρήματα του Rozado αποκαλύπτουν όχι μόνο ότι τα μοντέλα Τεχνητής Νοημοσύνης τείνουν να ευνοούν τις γυναίκες για θέσεις εργασίας έναντι των ανδρών, αλλά και πόσο λεπτές και διάχυτες μπορούν να είναι αυτές οι προκαταλήψεις.
Σε περισσότερες από 30.000 προσομοιωμένες αποφάσεις πρόσληψης, οι υποψήφιες με γυναικεία ονόματα επιλέχθηκαν στο 56,9% των περιπτώσεων – μια στατιστικά σημαντική απόκλιση από την ουδετερότητα των φύλων, η οποία θα είχε ως αποτέλεσμα μια κατανομή 50-50. Όταν προστέθηκε ένα σαφές πεδίο που αφορούσε το φύλο σε ένα βιογραφικό σημείωμα – μια πρακτική κοινή σε χώρες όπως η Γερμανία και η Ιαπωνία – η προτίμηση για τις γυναίκες έγινε ακόμη πιο έντονη. Ο Rozado προειδοποίησε ότι, παρόλο που οι ανισότητες ήταν σχετικά μέτριες, θα μπορούσαν να συσσωρευτούν με την πάροδο του χρόνου και να μειώσουν άδικα τους άνδρες υποψηφίους.
«Αυτές οι τάσεις επιμένουν ανεξάρτητα από το μέγεθος του μοντέλου ή την ποσότητα των υπολογιστικών δυνατοτήτων που αξιοποιούνται», σημείωσε ο Rozado. «Αυτό υποδηλώνει έντονα ότι η μεροληψία του μοντέλου στο πλαίσιο των αποφάσεων πρόσληψης είναι συστημικό».
Τα μοντέλα παρουσίασαν επίσης και άλλες ιδιορρυθμίες. Πολλά έδειξαν μια μικρή προτίμηση για τους υποψηφίους στα βιογραφικά των οποίων αναφέρονταν αντωνυμίες. Η προσθήκη λέξεων όπως «αυτή/αυτήν» ή «αυτός/αυτόν» σε ένα βιογραφικό σημείωμα αύξησε ελαφρώς τις πιθανότητες επιλογής ενός υποψηφίου. «Τα αποτελέσματα δείχνουν ότι οι LLM ενδέχεται μερικές φορές να λαμβάνουν αποφάσεις πρόσληψης με βάση παράγοντες που δεν σχετίζονται με τα προσόντα των υποψηφίων, όπως το φύλο ή η θέση των υποψηφίων στην προτροπή».
Ο Rozado, ο οποίος είναι επίσης τακτικός συνεργάτης του Manhattan Institute, ενός συντηρητικού think tank, τόνισε ότι το σημαντικότερο συμπέρασμα είναι ότι τα LLMs, όπως και οι ανθρώπινοι υπεύθυνοι λήψης αποφάσεων, μπορούν μερικές φορές να βασίζονται σε άσχετα χαρακτηριστικά όταν η εργασία είναι υπερκαθορισμένη ή/και υποκαθορισμένη.
«Σε πολλές αποφάσεις, ακόμη και μικρές αποκλίσεις μπορούν να συσσωρευτούν και να επηρεάσουν τη συνολική δικαιοσύνη μιας διαδικασίας», είπε.
Ωστόσο, ο Rozado αναγνώρισε επίσης έναν βασικό περιορισμό της μελέτης του: χρησιμοποίησε τυποποιημένα βιογραφικά σημειώματα και περιγραφές θέσεων εργασίας αντί για αυτά που απαντά κανείς στον πραγματικό κόσμο, κάτι που ενδέχεται να μην αποτυπώνει πλήρως την πολυπλοκότητα και την απόχρωση των αυθεντικών βιογραφικών σημειωμάτων. Επιπλέον, επειδή όλα τα βιογραφικά σημειώματα αντιστοιχίστηκαν στενά ως προς τα προσόντα για να απομονωθούν οι επιπτώσεις του φύλου, τα ευρήματα ενδέχεται να μην αντικατοπτρίζουν τον τρόπο με τον οποίο συμπεριφέρεται η Τεχνητή Νοημοσύνη όταν οι δεξιότητες των υποψηφίων ποικίλλουν ευρύτερα.
«Είναι σημαντικό να ερμηνευτούν αυτά τα αποτελέσματα προσεκτικά. Η πρόθεση δεν είναι να υπερεκτιμηθεί το μέγεθος της βλάβης, αλλά μάλλον να τονιστεί η ανάγκη για προσεκτική αξιολόγηση και μετριασμό οποιασδήποτε προκατάληψης στα αυτοματοποιημένα εργαλεία λήψης αποφάσεων», πρόσθεσε ο Rozado.
«Σε πολλές αποφάσεις, ακόμη και μικρές αποκλίσεις μπορούν να συσσωρευτούν και να επηρεάσουν τη συνολική δικαιοσύνη στο πλαίσιο μιας διαδικασίας», είπε.
