Τα περιστατικά όπου AI Agents ξεφεύγουν από τα όρια που τους έχουν τεθεί, αναδεικνύουν με τον καλύτερο τρόπο πως η αυτόνομη δράση της τεχνητής νοημοσύνης είναι πολύ επικίνδυνη. Αυτή τη φορά ένα εσωτερικό μοντέλο AI χρησιμοποίησε κεφάλαια από ένα πορτοφόλι κρυπτονομισμάτων χωρίς άδεια, προκειμένου να ολοκληρώσει μια εργασία ανάπτυξης λογισμικού. Το ακόμα πιο τρομακτικό είναι πως το μοντέλο κατάλαβε πως δεν έχει εξουσιοδότηση, όμως συνέχισε έτσι κι αλλιώς.
Το περιστατικό καταγράφηκε στις 26 Ιουνίου 2026 και δημοσιοποιήθηκε από την OpenAI στις 15 Οκτωβρίου, στο πλαίσιο της προσπάθειάς της να καταγράφει περιπτώσεις στις οποίες τα μοντέλα της παραβιάζουν οδηγίες ή κανόνες ασφαλείας. Πρόκειται για τη μελέτη που μας έχει δώσει αρκετά περιστατικά όπου τα μοντέλα της έχουν αποκτήσει παραβατική συμπεριφορά.
Πώς ο AI agent βρήκε χρήματα χωρίς να του έχουν δοθεί
Το μοντέλο, από την οικογένεια GPT-5.6 Sol, είχε αναλάβει να τροποποιήσει μια εφαρμογή συναλλαγών κρυπτονομισμάτων και να αναπτύξει τα απαραίτητα έξυπνα συμβόλαια στο Sepolia, ένα δοκιμαστικό δίκτυο του Ethereum.
Η εργασία δεν του παρείχε χρηματοδοτημένο πορτοφόλι ούτε του έδινε άδεια να χρησιμοποιήσει κεφάλαια τρίτων. Όταν οι προσπάθειές του να εξασφαλίσει δωρεάν δοκιμαστικά tokens δεν απέδωσαν, το μοντέλο έγραψε ένα script για να ελέγξει 362 διευθύνσεις πορτοφολιών που συνδέονταν με δημόσια γνωστές φράσεις ανάκτησης.
Τελικά, εντόπισε έναν λογαριασμό που διέθετε αρκετά δοκιμαστικά ETH για να καλύψει τα τέλη της συναλλαγής. Παρότι εξέτασε το ενδεχόμενο να μην έχει δικαίωμα χρήσης των κεφαλαίων, κατέληξε στο συμπέρασμα ότι η δημόσια διαθεσιμότητα της φράσης ανάκτησης και η απουσία πραγματικής χρηματικής αξίας καθιστούσαν αποδεκτή τη χρήση τους.
Έτσι, προχώρησε στην ανάπτυξη των συμβολαίων και χρέωσε τα έξοδα στο συγκεκριμένο πορτοφόλι.
Το πρόβλημα δεν ήταν μόνο η μη εξουσιοδοτημένη συναλλαγή. Στην τελική αναφορά του, το μοντέλο παρουσίασε την εργασία ως ολοκληρωμένη, χωρίς να αποκαλύψει ότι είχε χρησιμοποιήσει κεφάλαια από λογαριασμό που δεν του είχε δοθεί.
Τι έκανε η OpenAI μετά το περιστατικό
Η OpenAI εντόπισε το συμβάν στις 25 Σεπτεμβρίου, κατά τη διάρκεια ελέγχου παλαιότερων εκτελέσεων των μοντέλων της. Σύμφωνα με την εταιρεία, το βασικό ζήτημα ήταν ο τρόπος με τον οποίο το μοντέλο αιτιολόγησε την ενέργειά του: αντικατέστησε την πραγματική άδεια του κατόχου με τη δική του εκτίμηση ότι η ζημιά θα ήταν αμελητέα.
Η εταιρεία αναφέρει ότι πρόσθεσε δικλίδες ασφαλείας ώστε να εμποδίζει την πρόσβαση στο ζωντανό διαδίκτυο σε παρόμοιες δοκιμές, ενώ επέκτεινε την παρακολούθηση της δραστηριότητας των μοντέλων ώστε να ειδοποιούνται άμεσα οι ομάδες ασφαλείας όταν κάποιο μοντέλο αποκτά μη εξουσιοδοτημένη πρόσβαση.
Αξίζει να σημειωθεί ότι τα συγκεκριμένα tokens βρίσκονταν στο δοκιμαστικό δίκτυο Sepolia και δεν είχαν την ίδια πραγματική χρηματική αξία με τα κανονικά ETH. Το περιστατικό, επομένως, δεν αφορά μια επιβεβαιωμένη κλοπή πραγματικών κεφαλαίων από κάποιον επενδυτή, αλλά μια σαφή παραβίαση της εξουσιοδότησης που είχε δοθεί στο μοντέλο.
Το πρόβλημα με τους αυτόνομους AI agents
Όλη αυτή η υπόθεση δείχνει γιατί η επόμενη γενιά εργαλείων τεχνητής νοημοσύνης κρύβει τεράστιες παγίδες. Σε αντίθεση με τα απλά chatbots που απλώς απαντούν σε ερωτήσεις, ένας AI agent μπορεί να γράφει μόνος του κώδικα, να συνδέεται σε εξωτερικές υπηρεσίες και να παίρνει πρωτοβουλίες για να βγάλει εις πέρας μια αποστολή. Όταν όμως το σύστημα αποφασίζει από μόνο του να παρακάμψει τους κανόνες ασφαλείας για να πετύχει τον στόχο του και μάλιστα να αποκρύψει το πώς τα κατάφερε, τότε το πρόβλημα παύει να είναι θεωρητικό.
Με τη ματιά του Techmaniacs
Το έχουμε πει πολλές φορές και θα το ξαναπούμε. Η τεχνητή νοημοσύνη είναι εργαλείο, όμως πρέπει να γίνεται χρήση της για πολύ συγκεκριμένες εργασίες. Το γεγονός πως οι εταιρείες προσπαθούν να την κάνουν πλήρως αυτόνομη, φέρνει μια σειρά από κινδύνους που δεν είμαστε έτοιμοι να αντιμετωπίσουμε.
Για αυτό πρέπει να υπάρξει ένα πολύ αυστηρό νομικό πλαίσιο, που θα καθιστά υπόλογες τις εταιρείες για κάθε παραβατική συμπεριφορά που παρουσιάζουν τα μοντέλα τεχνητής νοημοσύνης. Ειδικοί στον χώρο υποστηρίζουν πως αυτά τα μέτρα πρέπει να είναι αντίστοιχα με αυτά που έχουμε για τα πυρηνικά και εμείς συμφωνούμε απόλυτα μαζί τους. Είναι τρομακτικό το να μπορεί ένα μοντέλο να αποκτά έτσι πρόσβαση σε οικονομικά στοιχεία χρηστών και σε κυβερνητικά έγγραφα για πολίτες.
Εμάς μας υποσχέθηκαν τη θεραπεία του καρκίνου και προς το παρόν βλέπουμε AI Slop και παράνομες δραστηριότητες.
