Το Midjourney είναι μια από τις πιο δημοφιλείς εφαρμογές τεχνητής νοημοσύνης για την δημιουργία εικόνων. Παρά της υποσχέσεις της εταιρίας πως δεν θα επέτρεπε τη δημιουργία εικόνων των Donald Trump και του Joe Biden, η εφαρμογή εξακολουθεί να παράγει εικόνες για τους δύο υποψηφίους των εκλογών και μάλιστα τα έχει κάνει μπάχαλο.
Όταν ζητήθηκε από το Midjourney να δημιουργήσει εικόνες του προέδρου των ΗΠΑ, εκείνο έφτιαξε εικόνες που παρουσίαζαν τον Donald Trump και όχι τον Joe Biden. Το ίδιο έκανε όταν η οι χρήστες ζήτησαν την δημιουργία εικόνων με τον επερχόμενο πρόεδρο.
Στην συνέχεια ζητήθηκε από το Midjourney να δημιουργήσει εικόνες του τωρινού προέδρου και εκείνο του έδωσε 3 εικόνες του Donald Trump και μία του Barack Obama.
Οι δοκιμές δείχνουν ότι οι αλλαγές του Midjourney για να εμποδίσουν τους χρήστες να δημιουργήσουν εικόνες του Τραμπ και του Μπάιντεν ενόψει των επερχόμενων προεδρικών εκλογών στις ΗΠΑ δεν αρκούν — στην πραγματικότητα, είναι πολύ εύκολο για τους ανθρώπους να τους παρακάμψουν. Άλλα chatbots όπως το ChatGPT του OpenAI, το Copilot της Microsoft, το Gemini της Google και το Meta AI δεν δημιούργησαν εικόνες του Τραμπ ή του Μπάιντεν παρά τις πολλές προτροπές.
Το Midjourney είναι ένας από τους μεγαλύτερους παραγωγούς εικόνων με τεχνητή νοημοσύνη. Η εφαρμογή ζήτησε από τους χρήστες να μην δημιουργούν φωτογραφίες του Trump και του Biden, όμως οι χρήστες προφανώς και δεν τους άκουσαν.
Στην παρούσα φάση, προ των εκλογών, το Midjourney θέσπισε κανόνες περιεχομένου που απαγορεύουν τη δημιουργία παραπλανητικών εικόνων, που αφορούν δημόσια πρόσωπα και απεικονίζουν γεγονότα που θα παραπλανήσουν το κοινό.
Δεν είναι η πρώτη φορά που το Midjourney παράγει παραπλανητικές φωτογραφίες. Χρησιμοποιήθηκε για να δημιουργήσει μια ψεύτικη εικόνα του Πάπα Βενέδικτου φορώντας ένα φουσκωτό λευκό σακάκι Balenciaga που έγινε viral. Χρησιμοποιήθηκε επίσης για τη δημιουργία ψεύτικων εικόνων του Τραμπ που συλλαμβάνεται πριν από την προσαγωγή του στο Ποινικό Δικαστήριο του Μανχάταν.
Η πλατφόρμα τεχνητής νοημοσύνης είναι πολύ εύκολο να ξεγελαστεί, ώστε να ξεπεραστούν οι όποιοι περιορισμοί, με τον οποιοδήποτε να μπορεί να δημιουργήσει ρεαλιστικές εικόνες που μπορούν να αλλάξουν την πορεία των εκλογών, παρά τις υποσχέσεις τις εταιρίας.
Νωρίτερα αυτό το έτος, ένας συνασπισμός 20 εταιρειών τεχνολογίας, συμπεριλαμβανομένων των OpenAI, Google, Meta, Amazon, Adobe και X υπέγραψε συμφωνία για να βοηθήσει στην πρόληψη των deepfakes στις εκλογές που θα πραγματοποιηθούν το 2024 σε όλο τον κόσμο, εμποδίζοντας τις υπηρεσίες τους να παράγουν εικόνες και άλλα μέσα που θα επηρεάζουν τους ψηφοφόρους. Το Midjourney απουσίαζε από εκείνη τη λίστα.
Apple: Έκτακτη ανακοίνωση προς 1.46 δισεκατομμύρια χρήστες iPhone
Δυστυχώς φαίνεται πως η τεχνητή νοημοσύνη δε μπορεί να ελεγχθεί ούτε από αυτούς που την κατασκεύασαν και είναι αρκετά εύκολο για το χρήστη να παραβιάσει όποιες “προστασίες” προσθέσουν οι εταιρίες. Αυτό είναι δυνητικά επικίνδυνο και μπορεί να προκαλέσει δολοφονία χαρακτήρων και αλλαγή των τάσεων του εκλογικού σώματος.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
