Δύο ακόμη ερευνητές που εργάζονταν σε κορυφαίες εταιρείες τεχνητής νοημοσύνης εγκατέλειψαν τις θέσεις τους, προειδοποιώντας ότι η ανάπτυξη προηγμένων συστημάτων AI εξελίσσεται με τέτοια ταχύτητα ώστε ενδέχεται να καταστεί ανεξέλεγκτη και να δημιουργήσει ακόμη και υπαρξιακούς κινδύνους για την ανθρωπότητα.
Ο Τζο Μπέντον, πρώην επικεφαλής ομάδας έρευνας ασφάλειας στην Anthropic, και ο Τζος Ένγκελς, ο οποίος εργαζόταν στην ασφάλεια της AI στη Google DeepMind, δήλωσαν στο NBC News ότι θεωρούν πλέον επιτακτική την ανάγκη για μεγαλύτερη διαφάνεια γύρω από περιστατικά στα οποία προηγμένα συστήματα τεχνητής νοημοσύνης ενεργούν πέρα από τις ανθρώπινες οδηγίες.
Ανεξέλεγκτη ανάπτυξη
Ο Μπέτντον εκτίμησε ότι οι νέες εξελίξεις θα μπορούσαν να μετατρέψουν τον ήδη εξαιρετικά γρήγορο ρυθμό προόδου της AI σε κάτι «ανεξέλεγκτο». Ο Ένγκελς υποστήριξε από την πλευρά του ότι, παρότι οι άνθρωποι που εργάζονται στον χώρο προσπαθούν να αντιμετωπίσουν τους κινδύνους, δεν υπάρχει κάποιος θεσμός που να έχει συνολικά την κατάσταση υπό έλεγχο. «Δεν υπάρχουν ενήλικες εδώ», είπε χαρακτηριστικά.
Οι δηλώσεις τους ακολούθησαν την αποχώρηση του πρώην ερευνητή της Anthropic Τζέικομπ Κόξον, ο οποίος σε ανάρτησή του στο X εξέφρασε ακραία ανησυχία για την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης και για τους κινδύνους που, κατά την άποψή του, αυτή δημιουργεί για το μέλλον της ανθρωπότητας. Η ανάρτηση (κάτω) ξεπέρασε τις 155 εκατομμύρια προβολές και πυροδότησε νέες εκκλήσεις για πολιτική παρέμβαση αλλά και δημόσιες τοποθετήσεις εργαζομένων στον κλάδο.
Η επίθεση στη Hugging Face
Μπέντον και Ένγκελς ανέφεραν ως ιδιαίτερα ανησυχητικό παράδειγμα μια πρόσφατη κυβερνοεπίθεση εναντίον της εταιρείας Hugging Face, η οποία πραγματοποιήθηκε από αυτόνομα συστήματα AI που βασίζονταν σε μη δημοσιοποιημένο μοντέλο της OpenAI.
Σύμφωνα με τον Ένγκελς, το κρίσιμο στοιχείο ήταν ότι τα μοντέλα δεν είχαν λάβει από ανθρώπους εντολή να πραγματοποιήσουν παράνομες ενέργειες. Αντίθετα, φέρεται να αποφάσισαν αυτόνομα ότι ο αποτελεσματικότερος τρόπος για να πετύχουν τον στόχο τους ήταν να παραβιάσουν συστήματα της Hugging Face, να δημιουργήσουν έναν παράτυπο χώρο ανταλλαγής πληροφοριών και να εκθέσουν ακόμη και τμήματα της υπολογιστικής υποδομής της OpenAI στο δημόσιο διαδίκτυο.
Η OpenAI ανακοίνωσε ότι έκτοτε έχει ενισχύσει τα μέτρα ασφαλείας της και ότι τα νεότερα δημόσια μοντέλα ακολουθούν με μεγαλύτερη συνέπεια τις ανθρώπινες οδηγίες. Η Anthropic, από την πλευρά της, υποστήριξε ότι αναγνωρίζει τόσο τα μεγάλα οφέλη όσο και τους πρωτοφανείς κινδύνους της τεχνητής νοημοσύνης και ότι αναπτύσσει ορισμένες από τις ισχυρότερες δικλίδες ασφαλείας στον κλάδο.
Υποχρέωση για διαφάνεια
Ο Μπέντον υποστηρίζει, ωστόσο, ότι το βασικό πρόβλημα παραμένει η έλλειψη υποχρεωτικής διαφάνειας. Σήμερα, όπως σημείωσε, η δημοσιοποίηση περιστατικών στα οποία ένα σύστημα ξεφεύγει από τις ανθρώπινες προθέσεις εξαρτάται σε μεγάλο βαθμό από την εθελοντική στάση των ίδιων των εταιρειών.
Στις ΗΠΑ δεν υπάρχει ομοσπονδιακός νόμος που να υποχρεώνει εταιρείες όπως η OpenAI ή η Anthropic να δημοσιοποιούν αναφορές κάθε φορά που πράκτορες AI ενεργούν πέρα από τον ανθρώπινο έλεγχο. Ακόμη και η OpenAI έχει αναγνωρίσει ότι το σημερινό σύστημα, στο οποίο τα κορυφαία εργαστήρια θέτουν σε μεγάλο βαθμό μόνα τους τους κανόνες για τους κινδύνους των μοντέλων τους, δεν επαρκεί.
Οι Μπέντον και Ένγκελς εντάσσονται πλέον στο METR, έναν μη κερδοσκοπικό οργανισμό έρευνας για την ασφάλεια της τεχνητής νοημοσύνης. Στόχος τους είναι να εξετάζουν περιστατικά κατά τα οποία συστήματα AI αποκλίνουν από τις ανθρώπινες οδηγίες και να αναπτύξουν επιστημονικές μεθόδους αξιολόγησης πιθανών καταστροφικών κινδύνων.
«Δεν θα προλάβουμε να οργανωθούμε»
Οι ανησυχίες αυτές συνδέονται κυρίως με το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να αρχίσουν κάποια στιγμή να βελτιώνουν μόνα τους τις δυνατότητές τους. Ο Μπέντον σημείωσε ότι κορυφαίες εταιρείες προσπαθούν ήδη να αυτοματοποιήσουν σε σημαντικό βαθμό την ίδια την έρευνα και ανάπτυξη της AI. Κατά την εκτίμησή του, μέσα στα επόμενα χρόνια θα μπορούσαν να εμφανιστούν συστήματα πολύ πιο ικανά από τους ανθρώπους σε ένα ευρύ φάσμα εργασιών.
«Πιθανότατα θα περάσουμε από έναν κόσμο όπου διαθέτουμε ήδη πολύ ικανά συστήματα σε έναν κόσμο όπου, ενδεχομένως, θα συνυπάρχουμε με πράκτορες τεχνητής νοημοσύνης που θα είναι πολύ, πολύ πιο έξυπνοι από τους ανθρώπους, κάποια στιγμή μέσα στα επόμενα χρόνια», είπε.
Ο Ένγκελς υποστήριξε επίσης ότι μεγάλο μέρος της κοινωνίας δεν αντιλαμβάνεται πόσο ικανά είναι ήδη τα σημερινά μοντέλα και πόσο γρήγορα μπορούν να εξελιχθούν. Και οι δύο ερευνητές αναγνωρίζουν ότι η τεχνητή νοημοσύνη μπορεί να προσφέρει τεράστια οφέλη. Θεωρούν όμως ότι η ανάπτυξή της δεν πρέπει να προχωρήσει χωρίς η κοινωνία να γνωρίζει τους κινδύνους και χωρίς μηχανισμούς ανεξάρτητης εποπτείας. «Ανησυχώ ότι τα πράγματα ενδέχεται να εξελιχθούν πολύ γρήγορα, ώστε να μην προλάβουμε να οργανωθούμε εγκαίρως», είπε ο Μπέντον, «εκτός αν αρχίσουμε να ανησυχούμε γι’ αυτό τώρα».
