Η τεχνολογία χρησιμοποιείται ήδη από πολλές εταιρείες για να καταγράψουν τις αντιδράσεις των καταναλωτών στα προϊόντα τους. Από διαφημιστικές εταιρείες. Στην πρόληψη προσωπικού. Στα φύλαξη αεροδρομίων και συνόρων. Από υπηρεσίες ασφαλείας και αστυνόμευσης. Ακόμη και για εκπαιδευτικούς ή ιατρικούς λόγους.
«Κατά τη διάρκεια της πανδημίας, οι εταιρείες τεχνολογίας προώθησαν τα λογισμικά αναγνώρισης συναισθημάτων που διαθέτουν για την εξ αποστάσεως παρακολούθηση εργαζομένων, ακόμη και παιδιών», γράφει σε άρθρο της στο Nature η Κέιτ Κρόφορντ, κύρια αναλύτρια στη Microsoft και συγγραφέας του βιβλίου Atlas of AI (2021).
Μνημονεύει μάλιστα ως παράδειγμα το πρόγραμμα 4 Little Trees, που αναπτύχθηκε στο Χονγκ Κονγκ, για την αξιολόγηση των συναισθήματα μικρών μαθητών, κατά τη διάρκεια της τηλεκπαίδευσης, ένεκα καραντίνας.
Το πρόγραμμα «χαρτογραφεί τα χαρακτηριστικά του προσώπου για να καταχωρήσει κάθε μαθητή σε μια συναισθηματική κατηγορία, όπως ευτυχία, θλίψη, θυμό, αηδία, έκπληξη ή φόβο. Μετρά επίσης το “κίνητρο” και προβλέπει βαθμούς», αναφέρει η Κρόφορντ, η οποία -όπως και πολλοί άλλοι- ζητά να θεσπιστεί άμεσα ρυθμιστικό πλαίσιο για αυτή την ταχύτατα αναπτυσσόμενη αγορά, που μέχρι το 2024 αναμένεται να φτάσει σε αξία τα 56 δισεκατομμύρια δολάρια.
Διαφωνούν οι ειδικοί
O προβληματισμός στην επιστημονική κοινότητα για το εάν και κατά πόσο η τεχνητή νοημοσύνη (AI) μπορεί πράγματι να ανιχνεύσει και να ερμηνεύσει σωστά τα ανθρώπινα συναισθήματα, περισσεύει.
Μελέτη της Αμερικανικής Ένωσης Ψυχολογίας κατέληξε στο συμπέρασμα ότι δεν υπάρχουν αξιόπιστα στοιχεία για ακριβή πρόβλεψη της συναισθηματικής κατάστασης ενός ατόμου με αυτή τη μέθοδο.
Οι εκφράσεις των συναισθημάτων διαφέρουν άλλωστε, αναλόγως πολιτισμού και κοινωνίας.
«Οι εταιρείες τεχνολογίας μπορεί κάλλιστα να θέτουν ένα ερώτημα που είναι θεμελιωδώς λάθος», τονίζουν χαρακτηριστικά οι συντάκτες της μελέτης.
Επικίνδυνες παγίδες
Υπάρχουν πολλοί τρόποι που η τεχνολογία μπορεί να βλάψει τους ανθρώπους, παρατηρεί η Ντέμπορα Ράτζι, πτυχιούχος πληροφορικής και διακεκριμένη ακτιβίστρια κατά της φυλετικής προκατάληψης της AI.
«O ένας τρόπος είναι το σύστημα να μην λειτουργεί», λέει σε συνέντευξή της στο MIT Technology Review. «Εξαιτίας των υψηλών ποσοστών λάθους σε μη λευκούς, τους θέτει σε κίνδυνο. O δεύτερος τρόπος είναι όταν λειτουργεί ως τέλειο σύστημα αναγνώρισης, που μπορεί εύκολα να εργαλειοποιηθεί κατά ομάδων».
Ήδη, υπάρχει πληθώρα λαθών και παρερμηνειών από συστήματα ΑΙ στην ανάγνωση των εκφράσεων ατόμων της μαύρης φυλής. Τα έχουν καταγράψει έρευνες και αποτυπώσει με σαφήνεια το βραβευμένο ντοκιμαντέρ Coded Bias.
Nομικό πλαίσιο στην Ε.Ε
Μεταξύ αυτών, η Επιτροπή συγκαταλέγει την εκπαίδευση, την απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες (συμπεριλαμβανομένων χρηματοοικονομικών υπηρεσιών), τη διαχείριση της μετανάστευσης και την απονομή δικαιοσύνης.
Σε συνδυασμό, δε, με ένα σχέδιο συντονισμού των κρατών μελών, τον νέο νομικό πλαίσιο -αναφέρει η Ευρωπαϊκή Επιτροπή- θα εγγυάται την ασφάλεια των δεδομένων και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων, ενισχύοντας παράλληλα την αποδοχή της ΑΙ, τις επενδύσεις και την καινοτομία σε όλη την Ε.Ε.
Όπως πάντως επεσήμαναν επικριτές της πρότασης, το κείμενο είναι επικίνδυνα ασαφές, δημιουργώντας έτσι πιθανά «παράθυρα» στον νόμο.
«Είναι απαραίτητη μια πιο αυστηρή προσέγγιση, δεδομένου ότι η βιομετρική αναγνώριση από απόσταση, μια εφαρμογή στην οποία η ΑΙ μπορεί να φέρει πρωτοφανείς εξελίξεις, εγκυμονεί εξαιρετικά υψηλούς κινδύνους βαθιάς και αντιδημοκρατικής παρείσφρησης στην ιδιωτική ζωή των πολιτών», ανέφερε χαρακτηριστικά σε σε ανακοίνωσή του ο Ευρωπαϊκός Επόπτης Προστασίας Δεδομένων (EDPS), ψέγοντας την Ευρωπαϊκή Επιτροπή για υπερβολικά χαλαρή στάση.
