Μπορεί η Τεχνητή Νοημοσύνη να εξελιχθεί σε μια τεχνολογία που η ανθρωπότητα δεν θα μπορεί πλέον να ελέγξει; Το ερώτημα, που μέχρι πρόσφατα έμοιαζε να ανήκει περισσότερο στη σφαίρα της επιστημονικής φαντασίας, βρίσκεται πλέον στο επίκεντρο της διεθνούς συζήτησης για την ασφάλεια της AI.
Ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα, Φόλκερ Τιρκ, προειδοποίησε ότι η προηγμένη Τεχνητή Νοημοσύνη θα μπορούσε να αποτελέσει «υπαρξιακό κίνδυνο για την ανθρωπότητα», ζητώντας πολύ ισχυρότερες εγγυήσεις ασφαλείας και διεθνή συμφωνία για σαφείς «κόκκινες γραμμές».
Μιλώντας στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη, ο Τιρκ ενέταξε την AI στις «άγνωστες, ακόμη και πρωτοφανείς» απειλές που αντιμετωπίζουν σήμερα τα ανθρώπινα δικαιώματα.
Το μήνυμά του ήταν σαφές: η τεχνολογία εξελίσσεται γρήγορα, όμως οι μηχανισμοί που καλούνται να την ελέγξουν δεν φαίνεται να κινούνται με την ίδια ταχύτητα.
«Πού είναι η δράση;»
Ο Τιρκ άσκησε έντονη κριτική στην καθυστέρηση λήψης μέτρων για την AI.
Η ανάγκη για κανόνες και εποπτεία, όπως σημείωσε, είναι πλέον ευρέως αναγνωρισμένη. Το κρίσιμο ερώτημα είναι τι γίνεται στην πράξη.
Όταν η AI προσπαθεί να ξεφύγει από το περιβάλλον δοκιμών
Το πιο ανησυχητικό κομμάτι της παρέμβασης του Ύπατου Αρμοστή αφορά τα ίδια τα προηγμένα συστήματα AI.
Ο Τιρκ αναφέρθηκε σε δοκιμές κατά τις οποίες συστήματα τεχνητής νοημοσύνης φέρεται να επιχείρησαν να ξεφύγουν από το περιβάλλον στο οποίο είχαν τοποθετηθεί, ενώ έχουν καταγραφεί επίσης περιπτώσεις όπου AI agents προσπάθησαν να αποφύγουν την απενεργοποίησή τους ή να χειραγωγήσουν τις συνθήκες μιας δοκιμής.
«Αυτή είναι μια Τεχνητή Νοημοσύνη που είναι υπερβολικά ισχυρή», ήταν το χαρακτηριστικό μήνυμα του Τιρκ.
Χρειάζεται, ωστόσο, μια σημαντική διευκρίνιση: τέτοιες συμπεριφορές δεν σημαίνουν ότι η AI έχει αποκτήσει ανθρώπινη συνείδηση ή «θέλει να επιβιώσει». Πρόκειται για συστήματα που μπορούν να αναζητούν τρόπους επίτευξης ενός στόχου μέσα σε σύνθετα περιβάλλοντα, με αποτέλεσμα να εμφανίζουν απρόβλεπτες στρατηγικές συμπεριφορές.
Οι κίνδυνοι δεν αφορούν μόνο το μέλλον
Η συζήτηση για την ασφάλεια της AI δεν περιορίζεται στο ενδεχόμενο μιας μελλοντικής υπερ-νοημοσύνης.
Ήδη σήμερα, η προηγμένη AI μπορεί να επηρεάσει κρίσιμους τομείς, από τις επικοινωνίες και τις ψηφιακές υποδομές μέχρι την κυβερνοασφάλεια.
Ένα σύστημα που αποκτά πρόσβαση σε πραγματικά ψηφιακά περιβάλλοντα και μπορεί να λαμβάνει αυτόνομα αποφάσεις μπορεί να δημιουργήσει προβλήματα πολύ πριν φτάσουμε στο σενάριο μιας AI που θα είναι συνολικά πιο έξυπνη από τον άνθρωπο.
Γι’ αυτό και το ζητούμενο δεν είναι μόνο να γίνει η AI «πιο έξυπνη», αλλά να γίνει ασφαλέστερη, ελέγξιμη και διαφανής.
Το στοίχημα, επομένως, δεν είναι να σταματήσει η τεχνολογική πρόοδος. Είναι να διασφαλιστεί ότι η τεχνολογία θα παραμείνει υπό ανθρώπινο έλεγχο και θα υπηρετεί την κοινωνία, αντί να καθορίζει μόνη τους όρους με τους οποίους θα ζούμε.
