Όπως αναφέρει ο Guardian, η αύξηση των αγωγών για τη χρήση της Τεχνητής Νοημοσύνης στις αποφάσεις για την απασχόληση εγείρει ερωτήματα σχετικά με τον τρόπο με τον οποίο οι εταιρείες προσλαμβάνουν και απολύουν.
Τα τελευταία τέσσερα χρόνια, η Erin Kistler έχει υποβάλει αιτήσεις για χιλιάδες θέσεις εργασίας σε εταιρείες όπως το Paypal, η Microsoft και το Netflix, μόνο και μόνο για να διαπιστώσει ότι το βιογραφικό της εξαφανίζεται σε μια «μαύρη τρύπα». Ως υπεύθυνη προϊόντων με σχεδόν 20 χρόνια εμπειρίας, η Kistler πιστεύει ότι ήταν κατάλληλη για κάθε ρόλο, ωστόσο δεν έλαβε ποτέ ούτε μία συνέντευξη.
Τώρα, η Kistler μηνύει την Eightfold AI, την εταιρεία κατασκευής λογισμικού προσλήψεων στη Σίλικον Βάλεϊ που χρησιμοποιείται από εκατοντάδες εταιρείες, συμπεριλαμβανομένων εκείνων στις οποίες υπέβαλε αίτηση, σε μια ομαδική αγωγή.
Η υπόθεση, που κατατέθηκε τον Ιανουάριο σε δικαστήριο της Καλιφόρνια, είναι μία από τις πρώτες που υποστηρίζουν ότι ο αυτοματοποιημένος έλεγχος λειτουργεί ως μια μη δημοσιευμένη έκθεση καταναλωτή ή φάκελος υποψηφίου, κατατάσσοντας τους υποψηφίους με βάση την πιθανότητα επιτυχίας τους χωρίς να τους δίνει την ευκαιρία να δουν ή να αμφισβητήσουν τα αποτελέσματα, σύμφωνα με τη νομική ομάδα της Kistler.
Η αγωγή είναι μία από τις πολλές νέες νομικές μάχες σχετικά με τη χρήση της Τεχνητής Νοημοσύνης από τις εταιρείες σε αποφάσεις απασχόλησης. Οι εργαζόμενοι μηνύουν επίσης την Meta για ένα εσωτερικό σύστημα Τεχνητής Νοημοσύνης που φέρεται να τους στόχευε για απολύσεις επειδή έλαβαν γονική ή ιατρική άδεια. Και μια πρόσφατη αγωγή κατά της IBM ισχυρίζεται ότι τα εργαλεία Τεχνητής Νοημοσύνης έκαναν διακρίσεις εις βάρος των ηλικιωμένων εργαζομένων.
Γρηγορότερη πρόσληψη… μέσω AI
Οι εταιρείες στις ΗΠΑ στρέφονται ολοένα και περισσότερο στην Τεχνητή Νοημοσύνη για να λαμβάνουν ταχύτερες και πιο αποτελεσματικές αποφάσεις στον χώρο εργασίας, συχνά με το πρόσχημα της αντικειμενικότητας. Ωστόσο, οι ειδικοί που μελετούν αυτό το είδος λογισμικού λένε ότι μπορεί επίσης να εισαγάγει ή να επιδεινώσει την προκατάληψη που θα μπορούσε να ακολουθήσει τους υποψηφίους σε όλες τις εταιρείες. Οι νομοθέτες το λαμβάνουν υπόψη. Τα αποτελέσματα των νομικών μαχών θα μπορούσαν να διαμορφώσουν τις μελλοντικές πρακτικές απασχόλησης, τη διαφάνεια γύρω από αυτές και την εξουσία που έχουν οι υποψήφιοι στη διαδικασία.
«Στην πραγματικότητα δεν υπάρχει νόμος που να απαιτεί ειδοποίηση ή αποκάλυψη της χρήσης αυτών των συστημάτων πρόσληψης μέσω Τεχνητής Νοημοσύνης», δήλωσε η Ifeoma Ajunwa, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου Emory και ιδρυτική διευθύντρια του προγράμματος Τεχνητής Νοημοσύνης και μέλλοντος της εργασίας. «Επομένως, οι εταιρείες δεν ενημερώνουν απαραίτητα τους εργαζόμενους όταν αξιολογούνται με Τεχνητή Νοημοσύνη».
Τι λένε τα κομπιούτερς και οι αριθμοί
Πέρυσι, το 90% των εργοδοτών χρησιμοποίησε κάποια μορφή αυτοματοποίησης στη διαδικασία πρόσληψης, σύμφωνα με έκθεση του Παγκόσμιου Οικονομικού Φόρουμ. Αυτά τα εργαλεία κυμαίνονται από βασικό φιλτράρισμα – όπως ο αποκλεισμός υποψηφίων που δεν έχουν τετραετές πτυχίο ή άλλη προϋπόθεση – έως τη χρήση Τεχνητής Νοημοσύνης για τη διεξαγωγή αξιολογήσεων των δεξιοτήτων ενός υποψηφίου για εργασία ή ακόμα και για την πραγματοποίηση της αρχικής τηλεφωνικής συνέντευξης.
Στην περίπτωση της Eightfold, η εταιρεία αυτοαποκαλείται «η μεγαλύτερη, αυτοανανεούμενη πηγή δεδομένων ταλέντων στον κόσμο». Ενημερώνει συνεχώς μια εσωτερική βάση δεδομένων με πληροφορίες από τα βιογραφικά, τα προφίλ LinkedIn και τα προφίλ στα μέσα κοινωνικής δικτύωσης άνω του ενός δισεκατομμυρίου εργαζομένων που έχουν υποβάλει αίτηση για εργασία μέσω της πλατφόρμας της. Χρησιμοποιώντας αυτά τα δεδομένα, χρησιμοποιεί την Τεχνητή Νοημοσύνη για να βαθμολογήσει τους υποψηφίους σε μια κλίμακα από 0 έως 5, προβλέποντας πόσο καλά θα αποδώσουν σε μια δεδομένη θέση εργασίας. Τελικά, η βαθμολογία θα μπορούσε να δώσει προτεραιότητα σε ορισμένους υποψηφίους έναντι άλλων για συνεντεύξεις.
«Ένα μεγάλο μέρος του προβλήματος είναι ότι οι υποψήφιοι για εργασία δεν γνωρίζουν… τι λένε οι αναφορές», δήλωσε η Ρέιτσελ Ντέμπσεϊ, δικηγόρος που εκπροσωπεί τον Κίστλερ.
Ο Ντέμπσεϊ υποστηρίζει ότι οι υποψήφιοι για εργασία αξίζουν την ίδια διαφάνεια σχετικά με το τι εμπλέκεται στη διαδικασία πρόσληψης που ήδη λαμβάνουν οι Αμερικανοί στις πιστωτικές τους αναφορές. Με αυτές τις πληροφορίες, μπορούν είτε να αμφισβητήσουν τις ανακρίβειες, είτε να εργαστούν για να βελτιώσουν τους παράγοντες που επηρεάζουν την υποψηφιότητά τους. Αλλά χωρίς καμία γνώση, είναι αδύνατο να γνωρίζουμε εάν αυτοί οι αλγόριθμοι κάνουν διακρίσεις εις βάρος των υποψηφίων για εργασία με σαφείς τρόπους, δήλωσε ο Ντέμπσεϊ. «Η ιδέα του μαύρου κουτιού είναι πολύ τρομακτική», λέει.
Αρνούνται την αλγοριθμική «μαύρη λίστα»
Σε δήλωσή της προς τον Guardian, η Eightfold AI αρνήθηκε τους ισχυρισμούς. «Πιστεύουμε ότι οι ισχυρισμοί που διατυπώνονται είναι αβάσιμοι και σκοπεύουμε να υπερασπιστούμε τους εαυτούς μας σθεναρά», έγραψε σε email ένας εκπρόσωπος της Eightfold AI.
Σε απάντηση στην αγωγή που κατατέθηκε κατά της IBM, η εταιρεία αρνήθηκε ότι χρησιμοποίησε τεχνητή νοημοσύνη για τον αυτόματο αποκλεισμό υποψηφίων και σε ανακοίνωσή της ανέφερε ότι «δεν ανέχεται ούτε επιδοκιμάζει κανενός είδους διακρίσεις». Η Meta δεν απάντησε σε αίτημα για σχολιασμό της αγωγής της.
Αν και οι πάροχοι λογισμικού απασχόλησης ισχυρίζονται ότι απελευθερώνουν τους διαχειριστές προσλήψεων ώστε να αφιερώνουν περισσότερο χρόνο σε κατάλληλους υποψηφίους και να εξαλείφουν τις ανθρώπινες προσωπικές προκαταλήψεις, οι ειδικοί διαφωνούν. Λένε ότι η Τεχνητή Νοημοσύνη μπορεί να επιδεινώσει τις προκαταλήψεις, όπως η εύνοια εργαζομένων ορισμένων δημογραφικών ομάδων.
«Καθώς έχουμε κάνει περισσότερη έρευνα σχετικά με τα συστήματα πρόσληψης μέσω Τεχνητής Νοημοσύνης, βλέπουμε στην πραγματικότητα ότι τείνουν να αναπαράγουν πολλές από τις ίδιες προκαταλήψεις που έχουν οι ανθρώπινοι διευθυντές», δήλωσε η Ajunwa.
Όταν η AI έχει… προκαταλήψεις
Σχεδόν όλα τα συστήματα Τεχνητής Νοημοσύνης είναι εκπαιδευμένα να αναζητούν μοτίβα, τα οποία μπορούν να ενισχύσουν στερεότυπα ή κληρονομημένες προκαταλήψεις. Η Amazon, για παράδειγμα, κάποτε χρησιμοποίησε ένα εργαλείο Τεχνητής Νοημοσύνης που υποβάθμιζε τα βιογραφικά των γυναικών επειδή οι κορυφαίοι της εταιρείας ήταν άνδρες.
Η Amazon διέκοψε τη χρήση του αφού ανακάλυψε το πρόβλημα. Σε άλλες περιπτώσεις, τα συστήματα πρόσληψης AI μπορούν να εισαγάγουν τις δικές τους προκαταλήψεις. Σε έρευνα για το βιβλίο της, The Quantified Worker, η Ajunwa διαπίστωσε ότι η τεχνητή νοημοσύνη βαθμολογούσε κακώς τους υποψηφίους με νότια προφορά, καθώς δυσκολευόταν να τους καταλάβει κατά τη διάρκεια φωνητικών συνεντεύξεων.
Ενώ οι ανθρώπινοι υπεύθυνοι προσλήψεων μπορεί να είναι άδικοι – επιλέγοντας τον υποψήφιο που ανήκε στην ίδια αδελφότητα, για παράδειγμα – «το μέγεθος της προκατάληψης είναι ακόμη ισχυρότερο [με την Τεχνητή Νοημοσύνη]», λέει ο Xuechunzi Bai, επίκουρος καθηγητής στο Πανεπιστήμιο του Σικάγο, ο οποίος έχει ερευνήσει την «προκατάληψη στις προσλήψεις».
Ο Bai συνυπέγραψε μια πρόσφατη μελέτη όπου ζητήθηκε από μοντέλα Τεχνητής Νοημοσύνης να λάβουν αποφάσεις πρόσληψης σχετικά με φανταστικούς υποψηφίους που είχαν ανατεθεί σε επινοημένες δημογραφικές ομάδες που ονομάζονται «Tufa», Aima, Reku και Weki. Μετά από μερικούς γύρους αποφάσεων πρόσληψης, τα μοντέλα Τεχνητής Νοημοσύνης κατέληξαν σε συμπεράσματα για τους υποψηφίους που δεν είχαν καμία σχέση με τα προσόντα τους, ουσιαστικά στερεοτυποποιώντας τους. Εάν ένας «Tufa» ήταν καλός γιατρός, τότε οι υποψήφιοι «Tufa» ήταν πιο πιθανό να επιλεγούν ως γιατροί και οι υποψήφιοι «Weki» ήταν πιο πιθανό να προσληφθούν ως καθαριστές.
«Μείναμε έκπληκτοι με το αποτέλεσμα»
Η μελέτη διαπίστωσε μεγαλύτερη προκατάληψη στην Τεχνητή Νοημοσύνη από ό,τι στις αποφάσεις πρόσληψης ανθρώπων που εξέτασε πέρυσι. Διαπίστωσε επίσης ότι νεότερα και πιο προηγμένα μοντέλα παρήγαγαν αποφάσεις πρόσληψης με μεγαλύτερη προκατάληψη.
«Μείναμε αρκετά έκπληκτοι όταν είδαμε αυτό το αποτέλεσμα», είπε ο Bai. Τα μοντέλα τεχνητής νοημοσύνης είναι πολύ καλά στην επίλυση προβλημάτων όπου υπάρχει μία αντικειμενική λύση, όπως στα μαθηματικά ή στον προγραμματισμό. «Αλλά… χειροτερεύουν όσον αφορά την εξερεύνηση άλλων εναλλακτικών λύσεων», είπε ο Bai. «Στο πλαίσιο της πρόσληψης, η εξερεύνηση είναι αρκετά σημαντική, αλλά αυτά τα μοντέλα δεν είναι εκπαιδευμένα να το κάνουν».
Οι συνέπειες των προκαταλήψεων της Τεχνητής Νοημοσύνης για έναν υποψήφιο μπορούν να επεκταθούν πέρα από μία μόνο θέση εργασίας. Όταν ένας εργαζόμενος απορρίπτεται από ένα άτομο, μπορεί να προσπαθήσει ξανά σε μια διαφορετική εταιρεία με διαφορετικό υπεύθυνο προσλήψεων. Αλλά όταν ένας εργαζόμενος απορρίπτεται από ένα αλγοριθμικό σύστημα που χρησιμοποιείται σε όλες τις εταιρείες, το σύστημα «θυμάται την απόφαση που είχε ήδη ληφθεί και την επαναλαμβάνει για λόγους αποτελεσματικότητας», δήλωσε ο Ajunwa. «Στην πραγματικότητα, έχετε αλγοριθμικά αποκλειστεί».
Επειδή τόσες πολλές εταιρείες χρησιμοποιούν το λογισμικό προσλήψεων που βασίζεται στα ίδια θεμελιώδη μοντέλα τεχνητής νοημοσύνης, η ανησυχία είναι ότι μια αρνητική σημαία θα μπορούσε ενδεχομένως να δυσκολέψει πολύ περισσότερο έναν υποψήφιο να βρει δουλειά, δήλωσε η Katie Creel, συν-συγγραφέας μιας πρόσφατης μελέτης που εξετάζει τους κινδύνους της «αλγοριθμικής μονοκαλλιέργειας» στα συστήματα προσλήψεων. «Οι άνθρωποι θα αποκλειστούν από θέσεις εργασίας περισσότερο από ό,τι θα είχαν μείνει διαφορετικά», είπε. Η Eightfold AI δεν σχολίασε το θέμα.
Μπορεί η ΤΝ να ενσωματωθεί υπεύθυνα στις προσλήψεις;
Ενώ τα εργαλεία τεχνητής νοημοσύνης μπορεί να εξοικονομούν χρόνο ή να βοηθούν στη δοκιμή των δεξιοτήτων των υποψηφίων, οι υπεύθυνοι προσλήψεων δεν θα πρέπει να επιτρέπουν στην τεχνητή νοημοσύνη να λαμβάνει αποφάσεις, δήλωσε η Iman Abuzeid, Διευθύνουσα Σύμβουλος της Incredible Health, μιας πλατφόρμας προσλήψεων τεχνητής νοημοσύνης που χρησιμοποιείται από περισσότερους από 1.500 εργοδότες στον τομέα της υγειονομικής περίθαλψης. Η Incredible Health προσφέρει έναν εκπρόσωπο τεχνητής νοημοσύνης για τη διεξαγωγή τηλεφωνικών συνεντεύξεων, αλλά η τεχνητή νοημοσύνη δεν απορρίπτει αυτόματα, δεν βαθμολογεί, δεν κατατάσσει ή δεν αποφασίζει ποιος θα προχωρήσει, σύμφωνα με την Abuzeid.
«Πρόκειται για τη συλλογή πληροφοριών από τους υποψηφίους, ώστε ένας άνθρωπος να είναι καλύτερα εξοπλισμένος για να λάβει την απόφαση», είπε η Αμπουζέιντ.
Η Αμπουζέιντ είπε επίσης ότι περίπου το 10% των συνεντεύξεων τεχνητής νοημοσύνης του Incredible Health ελέγχονται για προκατάληψη από άνθρωπο, μια διαδικασία που καθίσταται νομική απαίτηση από έναν αυξανόμενο αριθμό πόλεων και πολιτειών.
Στις ΗΠΑ ξεκινούν ετήσιοι έλεγχοι μεροληψίας
Στη Νέα Υόρκη, ένας νόμος που τέθηκε σε ισχύ το 2023 απαιτεί από τους εργοδότες που χρησιμοποιούν αυτοματοποιημένα συστήματα στις προσλήψεις να διεξάγουν ετήσιους ελέγχους μεροληψίας και να ενημερώνουν τους υποψηφίους εκ των προτέρων σχετικά με τη χρήση της τεχνολογίας.
Ο νόμος, ωστόσο, ισχύει μόνο για λογισμικό που «υποβοηθά σημαντικά» ή αντικαθιστά τη λήψη αποφάσεων, δημιουργώντας ένα παραθυράκι για περιπτώσεις όπου οι άνθρωποι συμμετέχουν στη διαδικασία. Πρόσφατοι νόμοι από το Ιλινόις και το Κολοράντο απαγορεύουν επίσης τη χρήση εργαλείων τεχνητής νοημοσύνης από τους εργοδότες που οδηγούν σε παράνομες διακρίσεις.
Όλο και περισσότερο, οι κανονισμοί των πόλεων και των πολιτειών στοχεύουν στην ενημέρωση των υποψηφίων για εργασία ότι χρησιμοποιείται Τεχνητή Νοημοσύνη ως βασική απαίτηση. Αλλά ιδανικά, οι υποψήφιοι θα πρέπει να έχουν διαφάνεια σχετικά με το τι λένε οι αλγοριθμικοί τους φάκελοι για αυτούς, δήλωσε η Jenny Yang, συνεργάτης στην Outten & Golden, τη δικηγορική εταιρεία που εκπροσωπεί τους ενάγοντες στην αγωγή κατά της Eightfold AI.
«Αυτή η αρχική διαφάνεια είναι χρήσιμη για τον καλύτερο εντοπισμό των πιθανών προβλημάτων», δήλωσε ο Yang, αναφερόμενος σε ειδοποιήσεις ότι χρησιμοποιήθηκε Τεχνητή Νοημοσύνη. «Υπάρχει αυξανόμενη ανησυχία μεταξύ των εργαζομένων ότι ενδέχεται να τους στερηθεί η ευκαιρία για λόγους που κανείς δεν καταλαβαίνει».
