Η Apple αποφάσισε επιτέλους να αυστηροποιήσει τους κανόνες του App Store για τις εφαρμογές τεχνητής νοημοσύνης που δημιουργούν γυμνές φωτογραφίες πραγματικών ανθρώπων χωρίς τη συγκατάθεσή τους. Με τις αλλαγές που ανακοίνωσε η εταιρεία στις 16 Οκτωβρίου, οι developers υποχρεώνονται να βάλουν φίλτρα που μπλοκάρουν τέτοιο περιεχόμενο, αλλιώς οι εφαρμογές τους θα διαγράφονται από το κατάστημα.
Όλο αυτό έρχεται μετά το χάος που προκάλεσαν εργαλεία AI όπως το Grok της xAI, με χρήστες να φτιάχνουν σεξουαλικά deepfakes ανυποψίαστων ανθρώπων, ανάμεσά τους ακόμα και ανηλίκων.
Πλέον, οι νέοι όροι του App Store ξεκαθαρίζουν πως όποια εφαρμογή επιτρέπει τη δημιουργία ή τον διαμοιρασμό τέτοιων εικόνων πρέπει να έχει ουσιαστικές δικλίδες ασφαλείας. Αυτό αφορά άμεσα τα λεγόμενα «nudify apps», δηλαδή τις εφαρμογές που παίρνουν μια κανονική φωτογραφία ενός ανθρώπου και με τη βοήθεια της AI τον εμφανίζουν γυμνό.
Τέλος στα «κόλπα» των developers
Το μεγαλύτερο πρόβλημα μέχρι σήμερα ήταν ο τρόπος που αυτές οι εφαρμογές περνούσαν τον έλεγχο της Apple. Αρκετοί επιτήδειοι developers ανέβαζαν μια εφαρμογή στο App Store παρουσιάζοντάς την σαν ένα απλό πρόγραμμα επεξεργασίας φωτογραφιών. Μόλις η Apple έδινε την έγκριση, ενεργοποιούσαν από απόσταση τις κρυφές λειτουργίες για τη δημιουργία γυμνών φωτογραφιών.
Με τους νέους κανόνες, αν κάποιος κάνει κάτι τέτοιο, δε θα βλέπει απλά την εφαρμογή του να κατεβαίνει, αλλά θα τρώει οριστικό ban και ο ίδιος ο λογαριασμός του από το Apple Developer Program. Παράλληλα, η Apple δήλωσε πως εφαρμογές που σχετίζονται με εκμετάλλευση ανηλίκων ή εμπορία ανθρώπων θα κόβονται ακόμα και από τα εναλλακτικά καταστήματα εφαρμογών στην Ευρώπη.
Τον περασμένο Ιούλιο, ο εισαγγελέας του Σαν Φρανσίσκο είχε αναγκαστεί να στείλει επίσημο αίτημα σε Apple και Google για να κατεβάσουν 13 τέτοιες εφαρμογές που έκαναν θραύση στα καταστήματά τους. Τότε η Apple απλά διέγραψε τις συγκεκριμένες 13, χωρίς όμως να αλλάξει ουσιαστικά τους κανόνες της.
Με τη ματιά του Techmaniacs
Είναι τουλάχιστον ειρωνικό μια εταιρεία που μας κουνάει το δάχτυλο εδώ και χρόνια για το πόσο ασφαλές και ελεγμένο είναι το App Store (χρησιμοποιώντας αυτό ως δικαιολογία για να μη θέλει τα τρίτα καταστήματα εφαρμογών), να αφήνει τέτοιες εφαρμογές να περνάνε κάτω από τη μύτη της.
Χρειάστηκε να επέμβουν εισαγγελείς και να ξεφύγει τελείως η κατάσταση με τα deepfakes για να θυμηθεί η Apple να βάλει έναν ρητό κανόνα που θα έπρεπε να υπάρχει από την πρώτη μέρα που εμφανίστηκε η Generative AI. Το να γράφεις βέβαια έναν κανόνα στα χαρτιά είναι εύκολο, το θέμα είναι να ελέγχεις κιόλας τι ανεβαίνει στο κατάστημά σου πριν καταστραφούν ζωές ανθρώπων.
