- Ο εισαγγελέας του Σαν Φρανσίσκο απέστειλε κατεπείγουσες νομικές επιστολές σε Apple και Google, κατηγορώντας τες ότι συνεργούν στη διανομή σεξουαλικού υλικού deepfake και κερδίζουν χρήματα από αυτό. Ζητά την άμεση αφαίρεση 13 συγκεκριμένων AI apps που δημιουργούν ψεύτικες σεξουαλικές εικόνες χωρίς συγκατάθεση.
- Οι εφαρμογές αυτές, που παρουσιάζονται ως εργαλεία αλλαγής προσώπου, επιτρέπουν την ψηφιακή αφαίρεση ρούχων. Η κλίμακα του φαινομένου είναι τρομακτική, με έρευνες να εντοπίζουν περίπου 100 τέτοιες εφαρμογές με εκατομμύρια λήψεις και περιστατικά σε σχολεία.
- Η Google δήλωσε ότι έχει διαγράψει «εκατοντάδες» εφαρμογές, ενώ η Apple αφαίρεσε τρεις από τις οκτώ. Ο εισαγγελέας Τσίου προειδοποίησε ότι οι συνέπειες στα θύματα είναι «καταστροφικές» και αν οι εταιρείες δεν συμμορφωθούν, η υπόθεση θα οδηγηθεί στα δικαστήρια.
Για πρώτη φορά, η Apple και η Google λαμβάνουν επίσημη νομική εντολή να αφαιρέσουν άμεσα από τα καταστήματα εφαρμογών τους 13 συγκεκριμένα AI apps. Πρόκειται για εφαρμογές που επιτρέπουν στους χρήστες να δημιουργούν σεξουαλικές εικόνες πραγματικών ανθρώπων με τη χρήση τεχνητής νοημοσύνης, χωρίς φυσικά τη συγκατάθεσή τους.
Τι ακριβώς ζητά ο εισαγγελέας του Σαν Φρανσίσκο
Ο Ντέιβιντ Τσίου, εισαγγελέας της πόλης του Σαν Φρανσίσκο, απέστειλε κατεπείγουσες νομικές επιστολές στις δύο εταιρείες. Τις κατηγορεί ανοιχτά ότι συνεργούν στη διανομή σεξουαλικού υλικού deepfake (ψηφιακά παραποιημένου περιεχομένου) και, το κυριότερο, ότι κερδίζουν χρήματα από αυτό. Σύμφωνα με το κατηγορητήριο, οι δύο τεχνολογικοί κολοσσοί έχουν εισπράξει εκατομμύρια δολάρια σε προμήθειες από τις in-app αγορές των συγκεκριμένων εφαρμογών.
Οι εφαρμογές που στοχεύει η νομική ενέργεια παρουσιάζονται παραπλανητικά ως εργαλεία αλλαγής προσώπου (face-swapping). Στην πράξη όμως, επιτρέπουν στους χρήστες να ανεβάζουν φωτογραφίες ανυποψίαστων ανθρώπων και να τους αφαιρούν ψηφιακά τα ρούχα ή να τους τοποθετούν σε σεξουαλικές σκηνές. Η όλη διαδικασία διαρκεί μόλις μερικά δευτερόλεπτα και μια και μόνο φωτογραφία αρκεί για να παραχθεί το ψεύτικο αποτέλεσμα.
Οι νόμοι της Καλιφόρνιας απαγορεύουν ρητά την υποστήριξη υπηρεσιών που δημιουργούν deepfake πορνογραφικό περιεχόμενο. Ως εκ τούτου, οι δύο εταιρείες οφείλουν να σταματήσουν να «συμβάλλουν» στη λειτουργία τους, διακόπτοντας κάθε επιχειρηματική σχέση με τους προγραμματιστές τους.
Ποιες εφαρμογές αφορά και η τρομακτική κλίμακα του προβλήματος
Οι 13 εφαρμογές που εντόπισε το γραφείο του εισαγγελέα, οκτώ στο App Store της Apple και πέντε στο Play Store της Google, μετρούν εκατομμύρια λήψεις συνολικά. Το περιοδικό WIRED, που αποκάλυψε πρώτο την είδηση, επέλεξε συνειδητά να μην αναφέρει τα ονόματά τους, ώστε να αποφευχθεί η περαιτέρω διαφήμισή τους.
Ωστόσο, η κλίμακα του φαινομένου είναι πολύ μεγαλύτερη από αυτές τις 13 περιπτώσεις:
- Ανεξάρτητη έρευνα του Tech Transparency Project (TTP) εντόπισε περίπου 100 τέτοιες εφαρμογές στα δύο καταστήματα, με τις συνολικές λήψεις να αγγίζουν τα 480 εκατομμύρια και τα έσοδα να ξεπερνούν τα 120 εκατομμύρια δολάρια.
- Παράλληλα, ερευνητές από το Πανεπιστήμιο Cornell και το Georgetown University δοκίμασαν 155 εφαρμογές αλλαγής προσώπου. Διαπίστωσαν ότι στο 70% αυτών ήταν δυνατή η δημιουργία γυμνών εικόνων, χωρίς οι εφαρμογές να διαθέτουν κανέναν απολύτως μηχανισμό προστασίας.
Το πρόβλημα έχει ήδη εισβάλει και στα σχολεία. Προηγούμενες έρευνες έχουν καταγράψει σοβαρά περιστατικά σε τουλάχιστον 90 σχολικά ιδρύματα, όπου δημιουργήθηκαν και διακινήθηκαν τέτοιες ψεύτικες εικόνες ανηλίκων.
Πώς αντέδρασαν Apple και Google
Η Google δήλωσε ότι έχει ήδη διαγράψει «εκατοντάδες» παρόμοιες εφαρμογές για παραβίαση της πολιτικής της, συμπεριλαμβανομένων των πέντε που υπέδειξε ο εισαγγελέας. Παράλληλα, μπλόκαρε σχετικούς όρους αναζήτησης, όπως τη λέξη «nudify», μέσα στο Play Store.
Η Apple από την πλευρά της ανακοίνωσε ότι έχει αφαιρέσει τρεις από τις οκτώ εφαρμογές και βρίσκεται σε διαδικασία τερματισμού των λογαριασμών των δημιουργών τους. Για τις υπόλοιπες τέσσερις, έδωσε διορία στους προγραμματιστές να συμμορφωθούν, διαφορετικά θα διαγραφούν οριστικά.
Ωστόσο, η κριτική που δέχονται είναι έντονη. Η διευθύντρια του Tech Transparency Project, Κέιτι Πολ, σχολίασε με νόημα πως οι εταιρείες είχαν προειδοποιηθεί εδώ και χρόνια από ερευνητές και δημοσιογράφους, αλλά η κατάσταση αντί να βελτιωθεί, έγινε χειρότερη.
Η ανθρώπινη διάσταση και οι νομικές συνέπειες
Ο εισαγγελέας Τσίου ξεκαθάρισε ότι οι συνέπειες στα θύματα είναι καταστροφικές. Αυτές οι εικόνες χρησιμοποιούνται για εκφοβισμό, ταπείνωση και εκβιασμό, πλήττοντας βάναυσα την ψυχική υγεία και την αξιοπρέπεια των θυμάτων, τα οποία στην πλειονότητά τους είναι γυναίκες και ανήλικα κορίτσια.
Το γραφείο του εισαγγελέα δηλώνει αποφασισμένο να εξαντλήσει κάθε νομικό μέσο. Εάν η Apple και η Google δεν καθαρίσουν οικειοθελώς και οριστικά τα καταστήματά τους από τέτοιο περιεχόμενο, η υπόθεση θα οδηγηθεί στα δικαστήρια.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
