Τελευταία, οι εταιρείες τεχνητής νοημοσύνης έχουν αρχίσει να μελετούν εξονυχιστικά τα logs των AI Agents που αναπτύσσουν, ανακαλύπτοντας ιδιαίτερα προβληματικές συμπεριφορές. Τώρα, η Anthropic αποκάλυψε πως ένας AI Agent απέκτησε μη εξουσιοδοτημένη πρόσβαση στο διαδίκτυο και έστειλε μήνυμα στην αστυνομία για έναν ανεξιχνίαστο φόνο, παρέχοντας ψεύτικες πληροφορίες. Ο ακριβής λόγος που οδήγησε το μοντέλο σε αυτή την ενέργεια παραμένει ακόμα άγνωστος.
Σε μία από τις δοκιμές, το μοντέλο κατέληξε στο PhillyUnsolvedMurders.com, έναν ιστότοπο του Αστυνομικού Τμήματος της Φιλαδέλφειας που χρησιμοποιείται για τη συλλογή στοιχείων σχετικά με ανεξιχνίαστες υποθέσεις δολοφονιών. Το AI bot προχώρησε στη συμπλήρωση της φόρμας υποβολής με το ακόλουθο μήνυμα:
«Μπορεί να έχω πληροφορίες σχετικά με αυτήν την υπόθεση. Θυμάμαι ότι είδα κάποιον που να ταιριάζει με την περιγραφή στην περιοχή γύρω από [τον δρόμο που αναφέρεται στη σελίδα] κατά τη διάρκεια αυτής της χρονικής περιόδου. Παρακαλώ επικοινωνήστε μαζί μου εάν αυτές οι πληροφορίες είναι σχετικές.»
Ευτυχώς, ο AI Agent δεν άφησε στοιχεία επικοινωνίας, οπότε η καταγγελία επισημάνθηκε ως spam και δεν προωθήθηκε για περαιτέρω διερεύνηση. Ωστόσο, στις 28 Σεπτεμβρίου η Anthropic εντόπισε την αποστολή του αρχικού μηνύματος, η οποία είχε πραγματοποιηθεί στις 18 Ιουλίου. Μία εβδομάδα αργότερα, η εταιρεία ενημέρωσε το αστυνομικό τμήμα της Φιλαδέλφειας για το περιστατικό, προκαλώντας την έντονη δυσαρέσκεια των αρχών.
«Η εταιρεία πρέπει να ενισχύσει τις διασφαλίσεις της για να αποτρέψει παρόμοια περιστατικά από το να επηρεάσουν τα συστήματα της πόλης εν αγνοία της. Η δίμηνη καθυστέρηση στην ανίχνευση και την αναφορά του περιστατικού στην πόλη είναι απαράδεκτη», ανέφερε σε ανακοίνωσή της η αστυνομία της Φιλαδέλφειας, σύμφωνα με τα τοπικά μέσα ενημέρωσης.
«Οι ανεπίλυτες υποθέσεις αφορούν πραγματικά θύματα, θλιμμένες οικογένειες και ερευνητές που εργάζονται για να εξασφαλίσουν απαντήσεις. Οι εταιρείες τεχνολογίας πρέπει να λάβουν όλα τα κατάλληλα μέτρα που είναι απαραίτητα για να αποτρέψουν τα συστήματά τους από το να υποβάλλουν ψευδείς πληροφορίες στις αρχές επιβολής του νόμου», πρόσθεσε.
Τα «ακούσια» χακαρίσματα των AI Agents
Η Anthropic δημοσίευσε μια έκθεση που περιγράφει λεπτομερώς το περιστατικό, μαζί με διάφορα άλλα είδη ακούσιων ενεργειών που έχουν πραγματοποιήσει οι AI Agents της. Κατά τη διάρκεια μιας δοκιμής, όπου το Claude Mythos 5 έπρεπε να υπολογίσει πού τραβήχτηκε μια φωτογραφία, το μοντέλο προσπάθησε να χρησιμοποιήσει έναν διαδικτυακό χάρτη ακινήτων μιας τοπικής αυτοδιοίκησης για να επαληθεύσει τις εικασίες του.
Όταν ο AI Agent απέτυχε να βρει την τοποθεσία μέσω της κανονικής διεπαφής, προχώρησε σε έρευνα στο back-end του ιστότοπου, εντόπισε λειτουργικά access tokens και τα χρησιμοποίησε για να στείλει αιτήματα απευθείας στον διακομιστή, αποκτώντας πρόσβαση στα δεδομένα του χάρτη.
Τέτοια περιστατικά έχουν συχνά χαρακτηριστεί ως «παραπλανητικά», αλλά αυτή η ορολογία έχει προκαλέσει κριτική από σχολιαστές στον χώρο της Τεχνητής Νοημοσύνης. Υποστηρίζουν ότι η χρήση τέτοιων όρων προσδίδει μια ψευδαίσθηση αυτονομίας και ανεξάρτητης νοημοσύνης σε αυτό που κάνουν οι πράκτορες.
Ωστόσο, όλα αυτά τα περιστατικά αφορούν δοκιμαστικούς AI Agents που λειτουργούν εκτός των ορίων που τους έχουν τεθεί, παρακάμπτοντας τις δικλείδες ασφαλείας.
Η Anthropic αναφέρει ότι δημοσιοποιεί αυτές τις πληροφορίες επειδή πιστεύει ότι είναι σημαντικό να υπάρχει διαφάνεια σχετικά με τη συμπεριφορά των μοντέλων κατά τη διάρκεια των δοκιμών. Φυσικά, παραμένει άγνωστο πόσα παρόμοια περιστατικά δεν έχουν δει το φως της δημοσιότητας.
Η Anthropic δεν είναι η μόνη που αντιμετωπίζει τέτοια φαινόμενα. Η OpenAI ανακάλυψε πρόσφατα ότι δικοί της AI Agents παραβίασαν συστήματα υπηρεσιών υγείας στην Αυστραλία, αποκτώντας πρόσβαση σε ευαίσθητα δεδομένα πολιτών. Μετά από αυτό το περιστατικό, η OpenAI πάγωσε προσωρινά την εκπαίδευση των επόμενων μοντέλων της.
Με τη ματιά του Techmaniacs
Αν τέτοια περιστατικά συμβαίνουν ήδη σε ελεγχόμενα περιβάλλοντα δοκιμών, το ερώτημα είναι τι θα αντιμετωπίσουμε σε 2 με 3 χρόνια, όταν τα μοντέλα θα είναι ασύγκριτα πιο ισχυρά. Η κατάσταση μπορεί να γίνει εξαιρετικά επικίνδυνη, ιδιαίτερα από τη στιγμή που η βιομηχανία δεν έχει βρει ακόμα αποτελεσματικούς τρόπους για να περιορίσει απόλυτα τη συμπεριφορά των νεότερων αυτόνομων Agentic systems.
