Η Google προχώρησε στην άμεση αφαίρεση του “Nano Banana” από το Google Earth. Πρόκειται για το νέο εργαλείο τεχνητής νοημοσύνης (AI) που επέτρεπε στους χρήστες να τροποποιούν εικόνες τοποθεσιών εισάγοντας απλές εντολές κειμένου (prompts).
Παρά το γεγονός ότι η λειτουργία σχεδιάστηκε για να προσφέρει μια πιο διαδραστική και δημιουργική εμπειρία στους χάρτες, γρήγορα αποδείχθηκε ότι άνοιγε τον δρόμο για τη διασπορά ψευδών ειδήσεων (fake news) και παραπλανητικών εικόνων.
Ψεύτικες καταστροφές σε πραγματικές τοποθεσίες
Το κύριο πρόβλημα με το Nano Banana δεν ήταν η ίδια η επεξεργασία εικόνας μέσω AI, αλλά το γεγονός ότι οι παραγόμενες εικόνες προβάλλονταν πάνω σε πραγματικές τοποθεσίες του Google Earth.
Κατά τη δοκιμαστική περίοδο, χρήστες δημιούργησαν εξαιρετικά ρεαλιστικές εικόνες που απεικόνιζαν φυσικές καταστροφές, ζημιές σε μνημεία ή αλλοιώσεις σε γνωστά ορόσημα. Παρά την ύπαρξη ψηφιακών υδατογραφημάτων (watermarks) και σημάνσεων AI, το οπτικό αποτέλεσμα ήταν τόσο πειστικό που μπορούσε εύκολα να παραπλανήσει το ευρύ κοινό.
Ένα μάθημα για τη νέα εποχή της AI
Το περιστατικό με το Nano Banana λειτουργεί ως καμπανάκι κινδύνου για τη λεπτή γραμμή που χωρίζει την καινοτομία από την ασφάλεια. Η δυνατότητα παρέμβασης στην απεικόνιση της πραγματικότητας μέσα σε μια πλατφόρμα όπως το Google Earth συνεπάγεται τεράστια ευθύνη.
Η Google επέλεξε να πατήσει φρένο και να αναπτύξει επιπλέον ασφαλιστικές δικλίδες, προτιμώντας να καθυστερήσει τη λειτουργία παρά να καταστεί υπεύθυνη για ένα νέο κύμα παραπληροφόρησης στο διαδίκτυο.
Με τη ματιά του Techmaniacs
Είχαμε καλύψει την ανακοίνωση της χρήσης του Nano Banana στο Google Earth και τότε φαινόταν σαν μια εντυπωσιακή προσθήκη. Όμως, για άλλη μια φορά φαίνεται πως η προσθήκη λειτουργιών AI δημιουργεί περισσότερα προβλήματα από όσα λύνει.
Μπορεί οι μεγάλες δηλώσεις για την τεχνητή νοημοσύνη να ακούγονται εντυπωσιακές στο κοινό που δεν έχει μεγάλη εξειδίκευση και οικειότητα με την AI, όμως η ουσία είναι αυτό που επισημαίνουν όλοι όσοι ασχολούνται με την τεχνολογική ενημέρωση: Η τεχνητή νοημοσύνη δεν είναι έτοιμη για κυκλοφορία στο ανεκπαίδευτο κοινό. Αυτός είναι και ο βασικός λόγος που έχουμε γεμίσει άρθρα άνευ ουσίας, με διασπορά ψευδών και ανύπαρκτων ειδήσεων.
Το ίδιο ακριβώς συμβαίνει και με την περίπτωση του Google Earth. Το Nano Banana φαντάζεται την ιστορία με δικό του τρόπο, ιδιαίτερα σε περιπτώσεις που δεν υπάρχουν πολλά δεδομένα, και την παρουσιάζει με έναν εντελώς λανθασμένο τρόπο.
Αν θέλουμε αποτύπωση της πραγματικότητας, καλό είναι να μένουμε μακριά από τέτοια εργαλεία. Οι «ψευδαισθήσεις» (hallucinations) της AI είναι υπαρκτές και αποτελούν εστία παραπληροφόρησης, την ώρα που οι πραγματικές πηγές σωστής πληροφόρησης δυσκολεύονται να επιβιώσουν σε ένα διαδίκτυο που καταλαμβάνεται σταδιακά από παραγόμενο περιεχόμενο.
