Σύμφωνα με επίσημη δημοσίευση της Check Point Research, σε report που δημοσιεύτηκε σήμερα, μία και μόνο εντολή μέσα σε μια συζήτηση στο ChatGPT θα μπορούσε να επιτρέψει σε έναν διαδικτυακό εγκληματία να το αξιοποιήσει, ενώ την ίδια στιγμή αυτό θα απαντούσε στις ερωτήσεις του χρήστη.
Με βάση όσα αντιλαμβανόμαστε, το κρίσιμο στοιχείο δεν είναι ότι μια κακόβουλη οδηγία μπορούσε να διαβάσει δεδομένα από το Gmail, αλλά ότι μπορούσε να μετατρέψει ένα κανονικό chat σε συνεδρία με δύο χρήστες: τον πραγματικό χρήστη, ο οποίος έπαιρνε την απάντηση, και έναν επιτιθέμενο, ο οποίος έδινε εντολές στο ίδιο το ChatGPT.
Στο proof of concept της Check Point, το ChatGPT μπορούσε, δηλαδή, να διαβάσει δεδομένα από έναν συνδεδεμένο λογαριασμό Gmail και να τα μεταφέρει σε έναν άλλο λογαριασμό του ChatGPT, ακολουθώντας τις οδηγίες του επιτιθέμενου. Ο χρήστης έβλεπε ένα συνηθισμένο αποτέλεσμα, δηλαδή την απάντηση στο δικό του αίτημα, χωρίς καμία αναφορά στην παράλληλη ενέργεια που εκτελούνταν.
Πώς μπορούσε να γίνει η διαρροή δεδομένων στο ChatGPT
Η εξήγηση για το τι ακριβώς φαίνεται να δημιούργησε το πρόβλημα είναι αρκετά τεχνική. Ωστόσο, αξίζει να αναφερθεί ότι τα containers που δημιουργεί το ChatGPT για την εκτέλεση κώδικα είναι σχεδιασμένα να λειτουργούν απομονωμένα μεταξύ τους. Μια κοινή υπηρεσία, όμως, θα μπορούσε να λειτουργήσει ως ένα είδος shared clipboard μεταξύ τους, κάτι που κατέστησε εφικτή την εν λόγω επίθεση.
