Οι αυτόνομοι AI agents μαθαίνουν πλέον να ψάχνουν πληροφορίες, να κλείνουν εισιτήρια και να κάνουν εργασίες αντί για εμάς. Άλλο πράγμα όμως είναι να βάζεις ένα bot να σου βρει φθηνά αεροπορικά και άλλο να του δίνεις τα «κλειδιά» του τραπεζικού σου λογαριασμού. Εκεί ένα μικρό λάθος ή μια παραίσθηση του συστήματος μπορεί να σου αδειάσει το πορτοφόλι σε δευτερόλεπτα.
Αυτός ακριβώς ο εφιάλτης έχει σημάνει συναγερμό στις μεγαλύτερες τράπεζες των ΗΠΑ. Σύμφωνα με αποκαλυπτικό ρεπορτάζ του Axios, τραπεζικοί κολοσσοί όπως οι JPMorgan Chase, Bank of America, Morgan Stanley και Wells Fargo εντόπισαν αυτοματοποιημένη δραστηριότητα bots μέσα σε λογαριασμούς πελατών και τρέχουν να μπλοκάρουν την πρόσβαση σε εξωτερικά εργαλεία AI.
Όταν το AI bot τηλεφωνεί στην εξυπηρέτηση πελατών
Σε αντίθεση με τα απλά chatbots που απλώς απαντούν σε ερωτήσεις, οι AI agents παίρνουν πρωτοβουλίες και εκτελούν ολόκληρες αλυσίδες ενεργειών. Το πρόβλημα ξεκινά όταν οι ίδιοι οι πελάτες δίνουν τα username και τα passwords του e-banking τους σε εφαρμογές AI, ζητώντας τους για παράδειγμα να παρακολουθούν τα έξοδά τους ή να πληρώνουν λογαριασμούς.
Σύμφωνα με πηγές του τραπεζικού κλάδου, έχουν καταγραφεί περιπτώσεις όπου AI agents άρχισαν να κινούνται εντελώς αυτόνομα, εκτελώντας ενέργειες που δεν τους είχαν ζητηθεί, με ορισμένους μάλιστα να φτάνουν στο σημείο να επικοινωνούν μόνοι τους με τα τηλεφωνικά κέντρα εξυπηρέτησης των τραπεζών!
Για τα συστήματα ασφαλείας, είναι πρακτικά αδύνατο να ξεχωρίσουν αν πίσω από μια νόμιμη σύνδεση βρίσκεται ο ίδιος ο καταθέτης ή ένα software που έχει «ξεφύγει». Όπως δήλωσε χαρακτηριστικά ο επικεφαλής της JPMorgan, Jamie Dimon, η τράπεζα δε θα επιτρέψει σε κανέναν εξωτερικό agent να μπαίνει ανεξέλεγκτα στα συστήματά της, καθώς το ρίσκο για τα χρήματα των πελατών είναι τεράστιο.
Έχασαν χρήματα οι καταθέτες;
Μέχρι στιγμής, οι τράπεζες ξεκαθαρίζουν πως δεν έχουν διαπιστωθεί κλοπές ή απώλειες χρημάτων. Το πρόβλημα όμως είναι νομικό: αν δώσεις μόνος σου τους τραπεζικούς σου κωδικούς σε ένα AI εργαλείο, παραβιάζεις τους όρους χρήσης της τράπεζας. Αυτό πρακτικά σημαίνει πως αν το bot μπερδευτεί και μεταφέρει χρήματα κάπου κατά λάθος, η τράπεζα δεν πρόκειται να σε αποζημιώσει, αφού εσύ ο ίδιος παρέδωσες τα στοιχεία σου σε τρίτο λογισμικό!
Για να αντιμετωπιστεί αυτό το χάος, τα πιστωτικά ιδρύματα εξετάζουν να επιτρέπουν σύνδεση μόνο «για ανάγνωση» (read-only). Δηλαδή ο agent να μπορεί να βλέπει το υπόλοιπο ή να κατεβάζει το ιστορικό κινήσεων για να σου φτιάξει τον μηνιαίο προϋπολογισμό, αλλά να μην έχει καμία δυνατότητα να πατήσει «Αποστολή» σε συναλλαγές και μεταφορές κεφαλαίων.
Με τη ματιά του Techmaniacs
Πριν από λίγες μέρες γράφαμε για το πείραμα της OpenAI όπου ένα εσωτερικό μοντέλο AI έγραψε μόνο του κώδικα και πήρε κρυπτονομίσματα από ξένο πορτοφόλι για να τελειώσει μια δουλειά. Τώρα βλέπουμε το ίδιο ακριβώς μοτίβο να χτυπάει την πόρτα των κανονικών τραπεζών.
Η ευκολία του να βάζεις ένα bot να σου οργανώνει τα οικονομικά είναι δελεαστική, αλλά το να του δίνεις κωδικούς e-banking είναι καθαρή αυτοκτονία. Όσο τα μοντέλα τεχνητής νοημοσύνης συνεχίζουν να παθαίνουν παραισθήσεις και να κάνουν απρόβλεπτα λάθη, ο άνθρωπος πρέπει να παραμένει ο μοναδικός που πατάει την τελική έγκριση όταν κινούνται πραγματικά χρήματα. Μέχρι τότε, καλά κάνουν οι τράπεζες και ρίχνουν πόρτα. Δεν πρέπει να έχουμε ποτέ και για κανένα λόγο εμπιστοσύνη στα μοντέλα τεχνητής νοημοσύνης. Όσοι τα έχουμε χρησιμοποιήσει άλλωστε, γνωρίζουμε πως κάνουν κραυγαλέα λάθη και πολλές φορές κάνουν το αντίθετο από ότι ζητάμε.
