Η Google ανακοίνωσε ότι απενεργοποίησε τη δημιουργία εικόνων ανθρώπων στο Gemini μετά από επικρίσεις σχετικά με την ιστορική ακρίβεια. Η εταιρεία εξέδωσε μια πιο λεπτομερή εξήγηση, και δεν πείθει.
Ο Prabhakar Raghavan, ο οποίος είναι Senior Vice President of Search, Assistant, Ads, Geo (Maps), και άλλους συναφείς τομείς προϊόντων της Google, αναφέρει ότι “(η Google) δεν θέλει το Gemini να αρνηθεί να δημιουργήσει εικόνες οποιασδήποτε συγκεκριμένης ομάδας” ή “να δημιουργήσει ανακριβείς ιστορικές – ή οποιεσδήποτε άλλες – εικόνες”.
Σημειώνει πώς αν ζητήσετε από το Gemini εικόνες ενός συγκεκριμένου τύπου ατόμου – όπως “ένας μαύρος δάσκαλος σε μια τάξη” ή “ένας λευκός κτηνίατρος με έναν σκύλο” – ή άτομα σε συγκεκριμένα πολιτιστικά ή ιστορικά πλαίσια, θα πρέπει οπωσδήποτε να λάβετε μια απάντηση που να αντικατοπτρίζει με ακρίβεια αυτό που ζητάτε.
Η Google φαίνεται να προσδιόρισε δύο ζητήματα ως υπεύθυνα για τη συγκεκριμένη συμπεριφορά. Πρώτον, “…ο συντονισμός μας για να διασφαλίσουμε ότι το Gemini έδειχνε ένα εύρος ανθρώπων απέτυχε να λάβει υπόψη του περιπτώσεις που σαφώς δεν θα έπρεπε να δείχνουν κάποιο εύρος”.
Δεύτερον, “…με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι θέλαμε και αρνήθηκε εντελώς να απαντήσει σε ορισμένες ερωτήσεις – ερμηνεύοντας λανθασμένα κάποιες πολύ ανώδυνες ερωτήσεις ως ευαίσθητες.”
Αυτό οδήγησε τη λειτουργία δημιουργίας εικόνων του Gemini, η οποία τροφοδοτείται από το Imagen 2, στο να “υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητική σε άλλες”.
Όπως αναφέρθηκε, η Google “θα εργαστεί για να βελτιώσει σημαντικά το εργαλείο πριν το ενεργοποιήσει ξανά” για προτροπές που σχετίζονται με ανθρώπους και θα διεξάγει “εκτεταμένες δοκιμές”.
Αξιοσημείωτο στην ανάρτηση είναι το πώς η Google διακρίνει το Gemini και το Search: “συνιστούμε να βασίζεστε στο Search, όπου ξεχωριστά συστήματα φέρνουν στην επιφάνεια φρέσκες, υψηλής ποιότητας πληροφορίες για τέτοιου είδους θέματα από πηγές σε όλο τον ιστό”.
Η ανάρτηση του Prabhakar Raghavan καταλήγει στην σημείωση: “Δεν μπορώ να υποσχεθώ ότι το Gemini δεν θα παράγει περιστασιακά ενοχλητικά, ανακριβή ή προσβλητικά αποτελέσματα – αλλά μπορώ να υποσχεθώ ότι θα συνεχίσουμε να αναλαμβάνουμε δράση κάθε φορά που εντοπίζουμε κάποιο ζήτημα. Η τεχνητή νοημοσύνη είναι μια αναδυόμενη τεχνολογία που είναι χρήσιμη με πολλούς τρόπους, με τεράστιες δυνατότητες, και κάνουμε ό,τι μπορούμε για να την αναπτύξουμε με ασφάλεια και υπευθυνότητα.”
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
