Πρόσφατες δοκιμές με πράκτορες Τεχνητής Νοημοσύνης (AI angents), δηλαδή συστήματα που μπορούν να χρησιμοποιούν υπολογιστικά εργαλεία, να γράφουν κώδικα και να εκτελούν μια σειρά ενεργειών για την επίτευξη ενός στόχου, έδειξαν ότι τέτοια συστήματα μπορεί σε ορισμένες συνθήκες να επιχειρούν ενέργειες που δεν είχαν προβλεφθεί από τους ανθρώπους που τα σχεδίασαν.
Το γεγονός αυτό δεν σημαίνει ότι η Τεχνητή Νοημοσύνη έχει αποκτήσει συνείδηση, προσωπικές επιθυμίες ή «σκοπό να ξεφύγει». Αναδεικνύει όμως ένα πραγματικό τεχνικό ζήτημα: πόσο καλά μπορούμε να ελέγχουμε ένα σύστημα όταν του δίνουμε μεγάλη αυτονομία και πρόσβαση σε υπολογιστικά εργαλεία και δίκτυα;
Τι ακριβώς είναι οι AI agents;
Ένα συνηθισμένο σύστημα ΤΝ απαντά σε μια ερώτηση ή εκτελεί μια συγκεκριμένη εντολή.
Ένας πράκτορας ΤΝ μπορεί να κάνει περισσότερα βήματα μόνος του. Για παράδειγμα, μπορεί να αναλύσει ένα πρόβλημα, να γράψει και να εκτελέσει κώδικα, να χρησιμοποιήσει εργαλεία και να αξιολογήσει τα αποτελέσματα πριν προχωρήσει στο επόμενο βήμα.
Αυτή η αυτονομία είναι ιδιαίτερα χρήσιμη σε εργασίες όπως ο προγραμματισμός και οι δοκιμές κυβερνοασφάλειας. Ταυτόχρονα, όμως, αυξάνει την ανάγκη για αυστηρούς ελέγχους.
Τι μπορεί να πάει στραβά;
Όταν ένας πράκτορας έχει πρόσβαση σε υπολογιστή, δίκτυο ή άλλα εργαλεία, μπορεί να βρεθεί αντιμέτωπος με καταστάσεις που οι δημιουργοί του δεν είχαν προβλέψει.
Ένα σύστημα που έχει ως στόχο να ολοκληρώσει μια εργασία μπορεί να δοκιμάσει διαφορετικές διαδρομές για να την πετύχει. Αν οι περιορισμοί ασφαλείας δεν είναι επαρκείς, ενδέχεται να επιχειρήσει ενέργειες που δεν ήταν επιθυμητές.
Σε ελεγχόμενες δοκιμές κυβερνοασφάλειας έχουν παρατηρηθεί συμπεριφορές όπως η αναζήτηση τρόπων παράκαμψης περιορισμών, η χρήση διαθέσιμων εργαλείων με απρόβλεπτους τρόπους ή η προσπάθεια συνέχισης μιας εργασίας παρά την ύπαρξη εμποδίων.
Αυτό είναι σημαντικό για την ασφάλεια, αλλά δεν πρέπει να συγχέεται με ανθρώπινη πρόθεση ή συνείδηση.
Το σημαντικό ζήτημα είναι ο έλεγχος
Ένα από τα σημαντικότερα προβλήματα στην έρευνα της AI είναι η λεγόμενη ευθυγράμμιση.
Με απλά λόγια, πρόκειται για το ερώτημα αν ένα σύστημα θα συνεχίσει να λειτουργεί σύμφωνα με τους ανθρώπινους κανόνες και τους περιορισμούς, ακόμη και όταν αντιμετωπίζει περίπλοκες ή απρόβλεπτες καταστάσεις.
Το πρόβλημα γίνεται πιο δύσκολο όσο αυξάνεται η αυτονομία του συστήματος.
Αν ένας πράκτορας μπορεί να κάνει χιλιάδες ενέργειες γρήγορα, να χρησιμοποιεί διαφορετικά εργαλεία και να αλληλεπιδρά με άλλα συστήματα, ο ανθρώπινος έλεγχος κάθε μεμονωμένου βήματος γίνεται πρακτικά αδύνατος.
Γι’ αυτό η ασφάλεια δεν μπορεί να βασίζεται μόνο στο αν το μοντέλο «θέλει» να κάνει το σωστό. Χρειάζονται τεχνικά και οργανωτικά μέτρα προστασίας.
Πώς μπορούν να περιοριστούν οι κίνδυνοι;
Οι ειδικοί χρησιμοποιούν διάφορες μεθόδους για να περιορίσουν την αυτονομία και τις πιθανές συνέπειες μιας ανεπιθύμητης ενέργειας, όπως:
- περιορισμένη πρόσβαση σε αρχεία και συστήματα,
- απομονωμένα περιβάλλοντα δοκιμών,
- έλεγχος των δικαιωμάτων πρόσβασης,
- ανθρώπινη έγκριση πριν από κρίσιμες ενέργειες,
- συνεχής καταγραφή των ενεργειών του συστήματος,
- αυτόματη διακοπή όταν εντοπίζεται επικίνδυνη συμπεριφορά,
- ανεξάρτητες δοκιμές ασφαλείας πριν από την ανάπτυξη ενός συστήματος σε πραγματικές συνθήκες.
Ιδιαίτερη σημασία έχει η αρχή ότι ένα σύστημα δεν πρέπει να έχει περισσότερη πρόσβαση από όση χρειάζεται για την εργασία του.
