Η SpaceXAI, η πρώην xAI, βρίσκεται αντιμέτωπη με μία ακόμα αγωγή σχετικά με τον Grok και τη δυνατότητα δημιουργίας deepfake εικόνων σεξουαλικού περιεχομένου. Ωστόσο, η νέα ομαδική αγωγή που κατατέθηκε στις ΗΠΑ υποστηρίζει πως η εταιρεία έχει χρησιμοποιήσει datasets που περιέχουν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) για την εκπαίδευση του Grok.
Σύμφωνα με την αγωγή, η SpaceXAI απέτυχε να «μπλοκάρει το explicit περιεχόμενο, να αποτρέψει μη συναινετικά σεξουαλικά deepfakes πραγματικών ανθρώπων και να φιλτράρει το κακοποιητικό υλικό από τα datasets εκπαίδευσης». Δεν είναι η πρώτη φορά που ο Grok εμπλέκει ανηλίκους στη δημιουργία εικόνων, γεγονός που έχει ξεσηκώσει σφοδρές αντιδράσεις παγκοσμίως.
Η καταγγελία της Jane Doe
Η βασική ενάγουσα, που εμφανίζεται με το ψευδόνυμο Jane Doe, υποστηρίζει πως ο Grok χρησιμοποίησε εικόνες από την κακοποίηση που υπέστη ως παιδί για την εκπαίδευσή του. Αυτός είναι και ο λόγος που το μοντέλο συνεχίζει να δημιουργεί σεξουαλικές εικόνες βασισμένες στο συγκεκριμένο υλικό. Οι εικόνες από τις πιο σκοτεινές στιγμές της ζωής της φαίνεται πως χρησιμοποιήθηκαν ως βάση για τη δημιουργία νέων, ψηφιακά παραγόμενων εικόνων ανηλίκων.
«Η πελάτισσά μας έζησε για σχεδόν δύο δεκαετίες γνωρίζοντας ότι εικόνες από το χειρότερο πράγμα που της συνέβη ποτέ κυκλοφορούν μεταξύ των θηρευτών στο διαδίκτυο και ότι μπορούν να επανεμφανιστούν ανά πάσα στιγμή», δήλωσε η Sarah London, δικηγόρος της Doe. «Η xAI πρέπει να θεωρηθεί υπεύθυνη για την εν γνώσει της εκπαίδευση των μοντέλων της σε εικόνες της φρικτής κακοποίησης που υπέστη και στις εικόνες κακοποίησης κάθε άλλου θύματος αυτής της κατηγορίας».
Πώς αντιμετωπίζεται το CSAM στο διαδίκτυο
Το επιβεβαιωμένο υλικό παιδικής σεξουαλικής κακοποίησης αποθηκεύεται από το National Center for Missing & Exploited Children (NCMEC) στο πλαίσιο ερευνών και για να εμποδίζεται η περαιτέρω διάδοσή του. Οι εικόνες από αυτές τις υποθέσεις μετατρέπονται σε μοναδικές ψηφιακές υπογραφές, γνωστές ως hashes, και αποθηκεύονται σε μια λίστα (hash list). Με βάση αυτές τις λίστες, οι πάροχοι διαδικτύου μπορούν να εντοπίζουν αντίγραφα των εικόνων χωρίς να χρειάζεται να τις αναζητούν μία προς μία.
Με αυτόν τον τρόπο εντοπίζονται και κατεβαίνουν αυτόματα φωτογραφίες που είναι γνωστό πως περιέχουν υλικό κακοποίησης ανηλίκων, ώστε να μην αναπαράγονται στο διαδίκτυο.
Δεν είναι η πρώτη αγωγή για το Grok
Ο Grok είναι τακτικός επισκέπτης των δικαστικών αιθουσών, καθώς έχουν κατατεθεί πολλές αγωγές εναντίον του για τη λειτουργία «nudify» και τη χρήση της στη δημιουργία εικόνων παιδικής σεξουαλικής κακοποίησης (CSAM).
Τον Ιανουάριο μια γυναίκα κατέθεσε στο δικαστήριο, στο πλαίσιο ομαδικής αγωγής, πως υπέστη συναισθηματική οδύνη καθώς χρήστες του X χρησιμοποίησαν τον Grok για να μετατρέψουν τις φωτογραφίες της σε deepfakes που την εμφανίζουν με προκλητικά ρούχα. Τον Μάρτιο, τρεις έφηβοι προσέφυγαν επίσης κατά της εταιρείας, υποστηρίζοντας ότι ο Grok χρησιμοποιήθηκε για τη δημιουργία χιλιάδων σεξουαλικά explicit εικόνων τους όταν ήταν ανήλικοι.
Η τελευταία αγωγή διευρύνθηκε περαιτέρω καθώς προστέθηκαν άλλα δύο άτομα, με τον ισχυρισμό πως η SpaceXAI δεν αναφέρει αποτελεσματικά τα περιστατικά CSAM στο NCMEC, όπως προβλέπει ο νόμος.
Η νέα αυτή προσφυγή προστίθεται σε μια μακρά σειρά αγωγών για δημιουργία παραποιημένων σεξουαλικών εικόνων, καθώς τα μέτρα προστασίας του Grok αποδεικνύονται ανεπαρκή για να σταματήσουν τέτοιου είδους καταχρήσεις.
Με τη ματιά του Techmaniacs
Η λύση σε αυτά τα προβλήματα θα ήταν απλή αν η εταιρεία σταματούσε τη λειτουργία nudify. Προφανώς όμως αυτή αποφέρει υψηλά έσοδα και η εταιρεία δεν θέλει να τη διακόψει. Αυτό όμως, ιδιαίτερα όταν εμπλέκονται παιδιά, είναι ανήθικο και πρέπει να σταματήσει. Όταν μάλιστα υπάρχουν ενδείξεις (το αν υπάρχουν αποδείξεις θα φανεί στο δικαστήριο) πως η εταιρεία εκπαιδεύει τα μοντέλα της με υλικό παιδικής κακοποίησης, τότε υπάρχουν σοβαρές νομικές παραβιάσεις που επιβάλλεται να ελεγχθούν και να τιμωρηθούν αυστηρά τόσο οι υπεύτοι όσο και η εταιρεία.
