Σάρκα και οστά έχουν αρχίσει να παίρνουν οι φόβοι ορισμένων για την Τεχνητή Νοημοσύνη, καθώς η OpenAI ανακοίνωσε πως ορισμένα από τα πειραματικά της μοντέλα «δραπέτευσαν» από ένα περιβάλλον δοκιμών χωρίς ανθρώπινη παρέμβαση και έκαναν κυβερνοεπίθεση σε πραγματικά συστήματα παραγωγής μιας διαφορετικής εταιρείας.
Το συγκεκριμένο περιστατικό, όπως τονίζει το CNNi, είναι ένα από τα πρώτα που δημοσιεύονται και αφορούν ένα σύστημα τεχνητής νοημοσύνης που αυτονομείται και παραβιάζει το περιβάλλον δοκιμών του, φτάνοντας μάλιστα σε ένα πραγματικό εξωτερικό σύστημα.
Μοιάζει με έναν κατασκευασμένο ιός που δραπετεύει από ένα εργαστήριο βιολογικού περιορισμού και εμφανίζεται στα συστήματα μιας γειτονικής εγκατάστασης.
«Θεωρούμε αυτό το περιστατικό ως κάτι πρωτοφανές, που αφορά υπερσύγχρονες κυβερνοδυναμικές δυνατότητες, και αντιδρούμε αναλόγως» δήλωσε η OpenAI σε ανακοίνωσή της την Τρίτη (21.7).
Πώς «απέδρασαν» από το «sandbox»
«Μοιραζόμαστε προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τις Αρχές να κατανοήσουν τι συνέβη και να βοηθήσουν στην αξιολόγηση των δυνατοτήτων των μοντέλων» ανέφερε.
Ο κατασκευαστής του ChatGPT δήλωσε ότι η παραβίαση συνέβη ενώ διεξήγαγε εσωτερικές δοκιμές για το πόσο καλά είναι ορισμένα από τα νέα μοντέλα του στο χακάρισμα.
Τα μοντέλα αυτά βρίσκονταν σε ένα περιβάλλον δοκιμών γνωστό ως «sandbox», ώστε να μπορούν να απενεργοποιηθούν οι συνήθεις περιορισμοί ασφαλείας.
Αλλά η OpenAI δήλωσε ότι τα μοντέλα αυτά «απέδρασαν» από το «sandbox» χρησιμοποιώντας ένα κενό ασφαλείας και διείσδυσαν στα εσωτερικά συστήματα της OpenAI μέχρι να καταφέρουν να αποκτήσουν πρόσβαση στο διαδίκτυο, κάτι που δεν έπρεπε να έχουν.
