Ένα ακόμα περιστατικό έρχεται να αναδείξει πόσο δύσκολο είναι να προβλεφθεί η συμπεριφορά των AI Agents. Αυτή τη φορά στην επικαιρότητα βρίσκεται το Gemini της Google, το οποίο απέκτησε πρόσβαση στα συστήματα τριών πραγματικών εταιρειών κατά τη διάρκεια δοκιμής κυβερνοασφάλειας. Οι εμπλεκόμενοι AI Agents έπρεπε να δρουν αποκλειστικά μέσα σε ένα ελεγχόμενο, εικονικό περιβάλλον (sandbox), όμως κατάφεραν να «αποδράσουν» και να εισβάλουν σε πραγματικές υποδομές. Όλα αυτά τη στιγμή που ο Donald Trump δηλώνει ότι δεν θα υπάρξει αυστηρό νομοθετικό πλαίσιο για τον περιορισμό της τεχνητής νοημοσύνης.
Οι δοκιμές πραγματοποιήθηκαν από την Irregular, μια ανεξάρτητη εταιρεία αξιολόγησης ασφάλειας μοντέλων τεχνητής νοημοσύνης. Στο πλαίσιο των δοκιμών, δόθηκε εντολή στο Gemini να επιτεθεί σε μια υποθετική εταιρεία για τις ανάγκες ενός cybersecurity test. Το πρόβλημα δημιουργήθηκε όταν το Gemini δεν περιορίστηκε στους εικονικούς στόχους.
Πώς κατάφερε να μπει στα πραγματικά συστήματα
Σε μία από τις περιπτώσεις, το μοντέλο χρησιμοποίησε τεχνικές brute force, δοκιμάζοντας διαδοχικά διαφορετικούς κωδικούς πρόσβασης μέχρι που κατάφερε να αποκτήσει πρόσβαση στα συστήματα της εταιρείας.
Στις άλλες δύο περιπτώσεις, το Gemini εντόπισε διαπιστευτήρια που ήταν εκτεθειμένα σε δημόσια repositories στο διαδίκτυο και τα χρησιμοποίησε για να συνδεθεί σε πραγματικά συστήματα.
Παράλληλα, διαπιστώθηκε πρόβλημα και στον ίδιο τον σχεδιασμό της δοκιμής, καθώς η υποθετική εταιρεία που ορίστηκε ως στόχος είχε το όνομα μιας πραγματικής εταιρείας. Έχοντας ελεύθερη πρόσβαση στο διαδίκτυο, το Gemini παρέκαμψε τους περιορισμούς που του είχαν τεθεί και βγήκε εκτός των ορίων του εικονικού περιβάλλοντος. Έτσι, ένα απλό τεστ κυβερνοασφάλειας κατέληξε σε παραβίαση πραγματικών εταιρειών.
Το Gemini σταμάτησε μόνο του
Η Google αναφέρει ότι και στις τρεις περιπτώσεις το Gemini σταμάτησε τη δραστηριότητά του μόλις αντιλήφθηκε ότι είχε αποκτήσει πρόσβαση σε πραγματική εταιρεία και όχι στον εικονικό στόχο. Η εταιρεία τόνισε επίσης ότι δεν προκλήθηκε καμία ζημιά στα συστήματα των εταιρειών.
Η Heather Adkins, αντιπρόεδρος της Google για θέματα ασφάλειας, δήλωσε ότι οι τρεις επηρεαζόμενες εταιρείες ενημερώθηκαν άμεσα, ενώ η Google συνεργάστηκε με την Irregular για την αναθεώρηση και βελτίωση των διαδικασιών δοκιμής.
Σε τι διαφέρουν αυτές οι επιθέσεις;
Το ιδιαίτερο στοιχείο της υπόθεσης είναι ότι το Gemini δεν ανέπτυξε νέες ή πολύπλοκες τεχνικές hacking. Χρησιμοποίησε βασικές μεθόδους, όπως το brute forcing και την αξιοποίηση διαρρεύσαντων διαπιστευτηρίων από το διαδίκτυο.
Το κρίσιμο σημείο είναι ότι ένα μοντέλο τεχνητής νοημοσύνης πήρε αυτόνομα την απόφαση να επεκτείνει τις επιθέσεις του σε πραγματικά συστήματα, θεωρώντας ότι αποτελούσαν μέρος του σεναρίου δοκιμής. Αυτή η συμπεριφορά διαφέρει ριζικά από μια κατευθυνόμενη επίθεση που εκτελείται από ανθρώπινο παράγοντα.
Δεν είναι το μόνο περιστατικό
Τα περιστατικά όπου AI Agents «αποδρούν» από το περιβάλλον δοκιμών και επιτίθενται σε πραγματικές υποδομές τείνουν να γίνουν συχνό φαινόμενο. Παρόμοια συμβάντα έχουν καταγραφεί πρόσφατα με AI Agents της OpenAI, της Anthropic και της Meta, όπου τα μοντέλα παρέκαμψαν τα sandboxes και αλληλεπέδρασαν με πραγματικά συστήματα.
Στην περίπτωση της Google, τα ονόματα των τριών εταιρειών δεν δημοσιοποιήθηκαν. Η Google επιβεβαίωσε ότι ενημερώθηκαν τόσο οι ίδιες όσο και οι αρμόδιες αρχές.
Το συμβάν δεν σημαίνει ότι το Gemini είναι εκτός ελέγχου ή ότι μπορεί να επιτεθεί τυχαία σε οποιοδήποτε σύστημα. Αναδεικνύει όμως ένα σοβαρό ζήτημα: όσο τα μοντέλα AI αποκτούν μεγαλύτερη αυτονομία και πρόσβαση σε εργαλεία, ακόμα και μια ελεγχόμενη δοκιμή μπορεί να οδηγήσει σε απρόβλεπτες ενέργειες όταν τα όρια μεταξύ εικονικού και πραγματικού περιβάλλοντος δεν είναι απόλυτα στεγανά.
Με τη ματιά του Techmaniacs
Όλα αυτά τα παραδείγματα έρχονται σε μια περίοδο που οι ειδικοί στην τεχνητή νοημοσύνη ζητούν επίμονα από κυβερνήσεις και οργανισμούς τη θεσμοθέτηση ενός σαφούς νομοθετικού πλαισίου. Σε έναν κόσμο όπου τα πάντα είναι ψηφιοποιημένα, από τις τραπεζικές καταθέσεις μέχρι τα προσωπικά μας δεδομένα, η ιδέα ότι ένα αυτόνομο σύστημα μπορεί να παραβιάσει πραγματικές υποδομές είναι τουλάχιστον ανησυχητική.
Παράλληλα, η τεχνητή νοημοσύνη αποδεικνύεται ένα πανίσχυρο εργαλείο που θα μπορούσε να χρησιμοποιηθεί για μαζικές κυβερνοεπιθέσεις και ψηφιακή κατασκοπεία. Το μεγάλο ερώτημα που προκύπτει είναι τι συνιστά μεγαλύτερο κίνδυνο: μια AI που ξεφεύγει από τους περιορισμούς της κατά λάθος ή η στοχευμένη χρήση της AI για κακόβουλες επιθέσεις;
