Το Nano Banana της Google είναι ένα σύστημα δημιουργίας εικόνων του Gemini, ικανό να δημιουργήσει πολύ ρεαλιστικές εικόνες. Μέχρι σήμερα είχε ένα ορατό υδατογράφημα στην κάτω δεξιά γωνία του, ώστε το κοινό να γνωρίζει πότε μια εικόνα είναι δημιουργία τεχνητής νοημοσύνης. Τώρα όμως, η Google επιτρέπει την αφαίρεση του ορατού υδατογραφήματος από τις φωτογραφίες, κάτι που έρχεται με αρκετούς κινδύνους.
Πώς λειτουργεί η αναγνώριση χωρίς το ορατό υδατογράφημα;
Από τις εικόνες δεν αφαιρείται το SynthID, το αόρατο υδατογράφημα για τις εικόνες από AI, όμως αυτό είναι κάτι που το ανθρώπινο μάτι δεν μπορεί να διακρίνει. Για να αναγνωριστεί αν μια φωτογραφία είναι δημιούργημα AI, ο χρήστης θα πρέπει να ανεβάσει την εικόνα στο Gemini και να ρωτήσει αν είναι δημιουργημένη από τεχνητή νοημοσύνη.
Αυτό όμως αρχικά είναι ιδιαίτερα άβολο, ενώ κάποιος μπορεί να επεξεργαστεί την εικόνα μετά τη δημιουργία της, ώστε να κρύψει ακόμα και το SynthID. Κάπως έτσι όμως, θα έχουμε μια τεχνητή νοημοσύνη που θα δημιουργεί μεγάλες ποσότητες fake news. Την ίδια στιγμή, όπως και με πολλά άλλα, το κοινό δεν έχει ούτε τη γνώση, ούτε και τη θέληση για να ελέγχει χειροκίνητα κάθε φωτογραφία που βλέπει στο διαδίκτυο για την αυθεντικότητά της.
Παράκαμψη περιορισμών σε βίντεο και εικόνες
Η Google δεν σταματάει μόνο στις φωτογραφίες, αλλά παρόμοια θα είναι και η πολιτική στα βίντεο από τεχνητή νοημοσύνη. Εξαίρεση θα αποτελούν οι χώρες στις οποίες απαιτείται από τον νόμο η χρήση υδατογραφήματος. Όμως το διαδίκτυο δεν περιορίζεται σε χώρες και καθημερινά βλέπουμε περιεχόμενο από όλο τον κόσμο.
Δεν είναι ιδιαίτερα δύσκολο οι δημιουργοί από την Ευρώπη, για παράδειγμα, να δημιουργήσουν λογαριασμούς που να φαίνεται πως είναι από τις ΗΠΑ, ώστε να δημοσιεύουν περιεχόμενο χωρίς υδατογράφημα. Χρειάζεται έναν απλό λογαριασμό Google, δημιουργημένο με IP των ΗΠΑ (με VPN) και έναν λογαριασμό Gemini AI, που περιλαμβάνει τα Gemini Omni για βίντεο και Lyria για μουσική.
SynthID, metadata C2PA και η αφαίρεσή τους
Οι εικόνες από τεχνητή νοημοσύνη φέρουν αόρατο υδατογράφημα SynthID, αλλά και metadata C2PA. Υπάρχουν όμως ήδη εργαλεία που μπορούν να τα αφαιρέσουν εντελώς από τις φωτογραφίες, ώστε να φαίνονται σαν λήψεις από πραγματικά γεγονότα και όχι AI generated περιεχόμενο. Η διασπορά fake news θα περάσει σε άλλο επίπεδο από ό,τι φαίνεται, ενώ θα γεμίσουμε ακόμα περισσότερο AI Slop.
Με τη ματιά του Techmaniacs
Την ίδια στιγμή και η OpenAI δεν βάζει υδατογράφημα στις εικόνες και τα βίντεο που παράγει, όπως και ο Grok. Η εποχή της παραπληροφόρησης έχει φτάσει και το κοινό ελέγχει όλο και λιγότερο όσα βλέπει.
