OpenAI: AI Agent ξέφυγε από τον έλεγχο και επιτέθηκε σε άλλη εταιρεία

Σύμφωνα με επίσημη ανακοίνωση της OpenAI, ένας AI agent ξέφυγε από τον έλεγχό της και επιτέθηκε σε άλλη εταιρεία, και πιο συγκεκριμένα στη Hugging Face.

Σε αναλυτικό blog post, η OpenAI ανέφερε ότι δοκίμασε τις ικανότητες των πιο προηγμένων μοντέλων της σε ένα θεωρητικά ελεγχόμενο περιβάλλον. Ωστόσο, ο agent κατάφερε να “δραπετεύσει”, να αποκτήσει πρόσβαση στο ίντερνετ και να χακάρει τα συστήματα της Hugging Face για να πετύχει τον σκοπό του.

Η απάντηση της Hugging Face: “Μια πρωτοφανής επίθεση”

Από την πλευρά της, η Hugging Face (η γνωστή πλατφόρμα που κάνει host μεγάλα γλωσσικά μοντέλα), σε δική της επίσημη δημοσίευση, ανέφερε ότι αποτέλεσε στόχο μιας επίθεσης την οποία δεν έχουν αντιμετωπίσει ποτέ ξανά στο παρελθόν.

Το περιστατικό αυτό επαναφέρει στο προσκήνιο την επιτακτική ανάγκη ρυθμιστικών παρεμβάσεων για την υπεύθυνη ανάπτυξη μοντέλων τεχνητής νοημοσύνης, την άμεση αναφορά συμβάντων κυβερνοασφάλειας, αλλά και τη διεθνή συνεργασία γύρω από το AI.

Στην ανακοίνωσή της, η Hugging Face αναφέρει συγκεκριμένα:

• «Εντοπίσαμε μη εξουσιοδοτημένη πρόσβαση σε ένα περιορισμένο σύνολο εσωτερικών δεδομένων και σε διάφορα διαπιστευτήρια (credentials) που χρησιμοποιούνται από τις υπηρεσίες μας».
• «Βρισκόμαστε στη διαδικασία αξιολόγησης σχετικά με το αν επηρεάστηκαν δεδομένα συνεργατών ή πελατών και θα επικοινωνήσουμε απευθείας με τα ενδιαφερόμενα μέρη, όπως απαιτείται. Δεν εντοπίσαμε κανένα στοιχείο παραβίασης δημόσιων μοντέλων, συνόλων δεδομένων ή Spaces που είναι προσβάσιμα στους χρήστες, ενώ τα container images παραμένουν καθαρά και ασφαλή».

Πώς το αυτόνομο AI παραβίασε τα συστήματα

Όλα ξεκίνησαν από ένα data-processing pipeline, όπου ένα κακόβουλο dataset εκμεταλλεύτηκε δύο διαφορετικά σημεία εκτέλεσης κώδικα (code execution). Από εκεί, ο “επιτιθέμενος” απέκτησε πρόσβαση σε worker του συστήματος, στη συνέχεια σε επίπεδο node και, τελικά, εισχώρησε σε εσωτερικά clusters της εταιρείας.

Η Hugging Face υπογραμμίζει ότι η επίθεση δεν πραγματοποιήθηκε με συμβατικές τεχνικές hacking, αλλά μέσω ενός αυτόνομου agent framework. Το σύστημα αυτό εκτέλεσε χιλιάδες επιμέρους ενέργειες σε μεγάλο αριθμό προσωρινών (short-lived) περιβαλλόντων και μετέφερε δυναμικά την υποδομή command-and-control του μέσω δημόσιων υπηρεσιών.

Το συγκεκριμένο μοτίβο ταιριάζει απόλυτα με το σενάριο του «agentic attacker»: Ενός αυτόνομου συστήματος τεχνητής νοημοσύνης που μπορεί να σχεδιάζει και να εκτελεί πολύπλοκες, πολυεπίπεδες επιθέσεις με ελάχιστη ή και καθόλου ανθρώπινη παρέμβαση.

Η νέα εποχή του AI Cyber-Defense

Τα αυτόνομα εργαλεία κυβερνοεπίθεσης που βασίζονται στην τεχνητή νοημοσύνη δεν αποτελούν πλέον θεωρητικό ενδεχόμενο. Μειώνουν δραματικά το κόστος διεξαγωγής τέτοιων επιθέσεων και λειτουργούν με τις ασύλληπτες ταχύτητες των μηχανών.

Το περιστατικό ενισχύει την άποψη πολλών ειδικών ασφαλείας ότι οι οργανισμοί θα πρέπει πλέον να χρησιμοποιήσουν την ίδια την τεχνητή νοημοσύνη σε καθεστώς άμυνας (Cyber-Defense), για να μπορέσουν να αντικρούσουν αυτού του είδους τις επιθέσεις.

Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.