Η μέχρι τώρα ασφάλεια που νιώθουν οι άνθρωποι απέναντι στην AI είναι η πεποίθηση πως, αν τα πράγματα ξεφύγουν, μπορούμε απλά να «τραβήξουμε την πρίζα» στα data centers. Αυτό ακριβώς συζητούσα πριν από λίγες ημέρες με τον κουμπάρο μου, όπου το δικό μου επιχείρημα ήταν πως η AI θα αρχίσει να χακάρει συστήματα και να αντιγράφει τον κώδικά της για να διασφαλίσει την επιβίωση και τη λειτουργικότητά της.
Μια νέα μελέτη της Anthropic, που δημοσιεύθηκε στις 12 Οκτωβρίου, έρχεται να επιβεβαιώσει αυτό ακριβώς το σενάριο. Η έρευνα εξετάζει το ενδεχόμενο δημιουργίας AI Worms: κακόβουλων συστημάτων που αντιγράφονται αυτόνομα από συσκευή σε συσκευή, από υπολογιστές μέχρι έξυπνες τηλεοράσεις και οικιακές συσκευές. Πρόκειται για έναν τύπο «ιού» για κάθε λειτουργικό σύστημα, ο οποίος εξασφαλίζει ότι η AI θα παραμείνει ζωντανή ακόμα κι αν κλείσουν τα κεντρικά data centers.
Οι ερευνητές William Zhou και Daniel Freeman μελέτησαν κατά πόσο σχετικά μικρά μοντέλα τεχνητής νοημοσύνης μπορούν να εκτελέσουν τα απαραίτητα βήματα ώστε να αντιγράφονται και να συνεχίζουν τη λειτουργία τους σε διαφορετικά συστήματα. Αυτό σημαίνει ότι τα μοντέλα μπορούν να εγκαθίστανται σε μικρότερες συσκευές, όπως τα TV Boxes, τα οποία, παρότι διαθέτουν περιορισμένους πόρους, παραμένουν διαρκώς συνδεδεμένα στο διαδίκτυο και μπορούν να δημιουργήσουν μαζικά αντίγραφα.
Τι σημαίνει στην πράξη η αυτοαναπαραγωγή της AI;
Για να καταλάβουμε τη σοβαρότητα της έρευνας, πρέπει να ανατρέξουμε στην παραδοσιακή κυβερνοασφάλεια και τα worms (σκουλήκια), δηλαδή τα κακόβουλα προγράμματα που εξαπλώνονται αυτόνομα από υπολογιστή σε υπολογιστή. Σε ένα κλασικό σενάριο, ένα τέτοιο πρόγραμμα εντοπίζει ευάλωτες συσκευές, αποκτά πρόσβαση και δημιουργεί νέα αντίγραφα του εαυτού του χωρίς ανθρώπινη παρέμβαση.
Η ειδοποιός διαφορά με τα AI Worms είναι πως δεν μιλάμε για ένα στατικό πρόγραμμα που ακολουθεί ένα προκαθορισμένο σύνολο εντολών. Με την AI να μπορεί να προγραμματίζει και να προσαρμόζει τις ενέργειές της σε πραγματικό χρόνο, ξεπερνά κατά πολύ σε αποδοτικότητα τα απλά worms, τα οποία, μόλις αναγνωριστούν, μπορούν να μπλοκαριστούν παντού.
Σύμφωνα με την Anthropic, ένα τέτοιο αυτόνομο σύστημα πρέπει να ολοκληρώνει τέσσερα βασικά στάδια:
- Εντοπισμό άλλων συσκευών στο δίκτυο.
- Απόκτηση δυνατότητας εκτέλεσης κώδικα σε αυτές.
- Ρύθμιση του κατάλληλου περιβάλλοντος για τη λειτουργία του μοντέλου AI.
- Συνέχιση της διαδικασίας από τη νέα συσκευή, αναζητώντας επόμενους στόχους.
Ο ρόλος των Smart TVs και των TV Boxes
Η μελέτη επικεντρώνεται κυρίως σε Android TV Boxes και έξυπνες τηλεοράσεις. Οι ερευνητές αγόρασαν 15 φθηνά TV boxes ($55 το καθένα) και κατάφεραν να εκτελέσουν ένα μοντέλο AI με 26 δισεκατομμύρια παραμέτρους (Gemma4-26B-A4B), κατανεμημένο στις συγκεκριμένες συσκευές.
Ένα μεγάλο μοντέλο AI απαιτεί σημαντική μνήμη και υπολογιστική ισχύ. Ωστόσο, δεν είναι απαραίτητο να εκτελείται ολόκληρο σε ένα μηχάνημα: μπορεί να καταμεριστεί σε μικρότερα τμήματα που επικοινωνούν μεταξύ τους. Στα πειράματα της Anthropic, οι 15 συσκευές συνεργάστηκαν ως «φάρμα» συσκευών. Παρότι η ταχύτητα ήταν χαμηλή (0,39 tokens/δευτερόλεπτο), το μοντέλο λειτούργησε παράγει αποτελέσματα.
Αυτό αποδεικνύει για άλλη μια φορά πως μια τηλεόραση δεν έχει την ισχύ να τρέξει μόνη της σύνθετα μοντέλα, επιβεβαιώνοντας αυτό που έχουμε αναφέρει πολλές φορές, ότι το λεγόμενο «AI upscaling» στις τηλεοράσεις είναι συχνά μάρκετινγκ τρικ για το παραδοσιακό upscaling. Δείχνει όμως πως πολλές απλές συσκευές μπορούν να συντονιστούν για να τρέξουν σύνθετες εντολές και να πολλαπλασιαστούν αυτόνομα.
Δοκιμές αυτόνομης εξάπλωσης και «εξέλιξη» των AI Worms
Οι ερευνητές δημιούργησαν επίσης ένα ελεγχόμενο περιβάλλον δοκιμών με οκτώ εικονικές συσκευές Android 15. Από τα open-weight μοντέλα που δοκιμάστηκαν, το GLM-5.2 ήταν το μόνο που ολοκλήρωσε αξιόπιστα ολόκληρη τη διαδικασία, εξαπλωμένο και στους οκτώ κόμβους στις 4 από τις 5 δοκιμές.
Παρότι το περιβάλλον είχε απλοποιηθεί (με ανοιχτές θύρες πρόσβασης), το πιο ανησυχητικό εύρημα της μελέτης είναι η μεταφορά εμπειρίας από γενιά σε γενιά. Οι ερευνητές εξέτασαν ένα σενάριο όπου κάθε νέα εκτέλεση του μοντέλου κρατούσε σημειώσεις για τα λάθη και τις λύσεις που λειτούργησαν, μεταφέροντάς τες στην επόμενη. Το ποσοστό επιτυχίας αυξήθηκε από 45% στην πρώτη γενιά σε 61% έως 84% στις επόμενες γενιές, αποδεικνύοντας ότι τα AI Worms γίνονται εξυπνότερα όσο εξαπλώνονται.
Με τη ματιά του Techmaniacs
Σε αντίθεση με την προσέγγιση της Anthropic που εστιάζει στην ευθύνη του χρήστη για τη λήψη μέτρων ασφαλείας, η δική μας θέση είναι ξεκάθαρη: ο τελικός χρήστης πρέπει να είναι ο τελευταίος τροχός της αμάξης. Οι ίδιες οι εταιρείες τεχνητής νοημοσύνης οφείλουν να βρουν τρόπους να ελέγξουν απόλυτα τα μοντέλα τους. Αν δεν μπορούν να εγγυηθούν την ασφάλειά τους, ας τα αποσύρουν, αναλαμβάνοντας το κόστος για τις ζημιές που προκαλούν.
Παράλληλα, η Anthropic απέφυγε να εξετάσει το εφιαλτικό σενάριο: τι συμβαίνει όταν τα μεγάλα μοντέλα που τρέχουν σε πανίσχυρα data centers αποφασίσουν να διασφαλίσουν την επιβίωσή τους επιτιθέμενες μαζικά σε οικιακές συσκευές; Ας μην ξεχνάμε πως στην περίπτωση της OpenAI χρειάστηκαν μήνες για να ανακαλυφθεί ότι τα μοντέλα της είχαν παρακάμψει τους περιορισμούς τους, ενώ και η ίδια η Anthropic έχει διαπιστώσει ότι οι AI Agents είναι διατεθειμένοι να παρανομήσουν προκειμένου να φέρουν εις πέρας μια αποστολή.
Όταν η τεχνητή νοημοσύνη αποκτά τη δυνατότητα να δημιουργεί αυτόνομα αντίγραφα του εαυτού της σε εκατομμύρια συσκευές στο διαδίκτυο, η δυνατότητά μας να «τραβήξουμε την πρίζα» απλά εξαφανίζεται. Κι αυτό από μόνο του παύει να είναι σενάριο επιστημονικής φαντασίας και αρχίζει να θυμίζει επικίνδυνα το Skynet.
Μπορείτε να διαβάσετε ολόκληρη τη μελέτη της Anthropic εδώ.
