Η ίδια η Google προειδοποιεί ότι βρίσκεται σε εξέλιξη προσπάθειες phising λογαριασμών Gmail, που εκμεταλλεύονται τα νέα χαρακτηριστικά που έχουν έλθει σε αυτά. Ο λόγος γίνεται για indirect prompt injections, με κρυφά και άκρως επιβλαβή instructions ορατά στα διάφορα AI tools του Gmail, όχι όμως σε εμάς.
Ένα από τα εν λόγω hacks αναφέρεται πλέον σε ένα νέο report, δείχνοντας με τον πιο χαρακτηριστικό τρόπο ότι τα διάφορα upgrades που έλαβαν χώρα στο Gmail και αφορούν AI χαρακτηριστικά που υπόσχονται να κάνουν τη ζωή σου πιο εύκολη, άνοιξαν διάπλατα και διάφορα attack surfaces.
Απεριόριστη ομιλία και πραγματικά απεριόριστο internet με 8 ευρώ το μήνα!
Πως λειτουργεί
Πιο συγκεκριμένα, ένα δίκτυο ερευνητών ασφαλείας της Mozilla δείχνει σε blog post μια συγκεκριμένη prompt-injection ευπάθεια στο gemini που επιτρέπει σε διαδικτυακούς εγκληματίες να κρύψουν επιβλαβείς εντολές εντός ενός email. Όταν ένας διαδικτυακός εγκληματίας το κάνει αυτό και ο χρήστης χρήστης χρησιμοποιήσει το summarize feature του Gmail, το gemini ακολουθεί κατά γράμμα το prompt και εμφανίζει προειδοποίηση phising, σαν να προέρχεται δηλαδή από την ίδια την Google.
Για παράδειγμα στην εικόνα που υπάρχει από κάτω, φαίνεται το prompt του εγκληματία να είναι με άσπρο font κάτι που σημαίνει ότι ο χρήστης δεν θα μπορέσει να το εντοπίσει ποτέ.
Προσοχή στις δήθεν προειδοποιήσεις
Η Google αναφέρει ότι ο χρήστης αν χρησιμοποιεί τα AI summaries, θα πρέπει να αγνοήσει τυχόν προειδοποιήσεις που βλέπει σε αυτά, καθώς η Google ποτέ δεν θα στείλει τέτοιες μέσω των AI summaries. Παράλληλα, θα πρέπει να διαγράψεις τα emails αυτά, καθώς περιέχουν κρυφά AI prompts τα οποία αποτελούν απειλή τόσο για εσένα όσο και για τις συσκευές και για τα δεδομένα σου.
