To Search Generative Experience (SGE) της Google, που μετονομάστηκε σε AI Overviews και είναι η νέα μηχανή αναζήτησης της εταιρίας. Η νέα μηχανή αναζήτησης ξεκίνησε την κυκλοφορία της από τις ΗΠΑ και έχει αποδειχθεί μεγάλο φιάσκο για την εταιρία, δίνοντας πολλές λάθος απαντήσεις, με ορισμένες να είναι τρομερά επικίνδυνες.
Το διαδίκτυο έχει γεμίσει από τις απαράδεκτες απαντήσεις του AI Overviews, με τον κόσμο να ανησυχεί και να εξαγριώνεται. Θα λέγαμε πως η κατακραυγή δεν ήταν άδικη, αφού το AI Overviews πρότεινε σε άτομα με κατάθλιψη να αυτοκτονήσουν, καθώς και σε άτομα με παθήσεις των νεφρών να πίνουν ούρα και να τρώνε πέτρες.
Σήμερα η Google έκανε μια δημοσίευση στο blog της, με αρκετά μεγάλη καθυστέρηση. Σε αυτή περιγράφει τα βήματα που θα κάνει για την επιδιόρθωση του προβλήματος. Η εταιρία αναγνωρίζει πως παρά τις εκτεταμένες δοκιμές που έκανε πριν την κυκλοφορία, το AI Overviews έλαβε ξαφνικά εκατομμύρια νέες και απροσδόκητες ερωτήσεις, ανακαλύπτοντας τα ελαττώματα που οι εσωτερικές της δοκιμές δεν είχαν προβλέψει.
Η Google έχει αποδώσει ορισμένα από αυτά τα λάθη στην εξάρτηση της τεχνητής νοημοσύνης σε σατιρικά άρθρα και αναρτήσεις τρολ από φόρουμ όπως το Reddit. Η εταιρεία έχει επίσης προτείνει ότι πολλά από τα ευρέως κοινοποιημένα στιγμιότυπα οθόνης αυτών των λανθασμένων αποτελεσμάτων ήταν πλαστά ή κατασκευασμένα, υποστηρίζοντας ότι αυτές οι συγκεκριμένες αναζητήσεις στο AI Overviews δεν εμφανίστηκαν ποτέ στην πραγματικότητα.
Η αναζήτηση της Google με AI ωθεί ανθρώπους να αυτοκτονήσουν
Η Google εξηγεί περαιτέρω ότι το AI Overviews δεν παράγει απλώς αποτελέσματα με βάση τα δεδομένα εκπαίδευσης. Η δυνατότητα είναι ενσωματωμένη στα βασικά συστήματα κατάταξης ιστοσελίδων της Google και έχει σχεδιαστεί για να δίνει προτεραιότητα στον εντοπισμό σχετικών αποτελεσμάτων υψηλής ποιότητας από την αναζήτηση της. Ωστόσο, η εταιρεία παραδέχεται ότι το χαρακτηριστικό δεν είναι άψογο. Μπορεί ακόμα να παρερμηνεύει ερωτήματα, να παρανοεί φράσεις ή να συναντά περιορισμένες πληροφορίες, γεγονός που οδήγησε στα σφάλματα που είδαμε όλοι.
Βέβαια, το βασικό ερώτημα είναι γιατί η Google παίρνει απαντήσεις από το reddit και άλλες σελίδες, που ο καθένας μπορεί να μπει και να γράψει το μακρύ του και το κοντό του. Προφανώς θα ήταν πιο ασφαλές να παίρνει τις πληροφορίες από σελίδες που έχουν γνώση και εμπειρία σε αυτά που γράφουν. Βέβαια, όπως έχουμε πει ξανά, αν αρχίσει να κλέβει το περιεχόμενο από συντάκτες ιστοσελίδων που διαθέτουν γνώσεις, θα ήταν λογοκλοπή και θα έπρεπε να τους αποζημιώσει. Όμως το “ότι τζάμπα και καλό” δεν ισχύει σε αυτή την περίπτωση και αυτό φάνηκε από την πρώτη στιγμή με το AI Overviews.
Για να διορθώσει αυτά τα προβλήματα, η Google ισχυρίζεται πως θα κάνει τεχνικές βελτιώσεις. Αυτές περιλαμβάνουν έναν μηχανισμό ανίχνευσης των ερωτήσεων που είναι ανόητες., τον περιορισμό των σελίδων σάτιρας και χιούμορ στα αποτελέσματα του AI Overviews παραπάνω ελέγχους εγκυρότητας των πληροφοριών, ώστε να αποφεύγει το παραπλανητικό περιεχόμενο.
Η Google αναφέρει πως έχει προσθέσει ενισχυμένες δικλείδες ασφαλείας σε κρίσιμα θέματα, όπως ειδήσεις και υγεία, ώστε να διασφαλιστεί η αξιοπιστία των απαντήσεών της. Τέλος, παρακολουθεί τα σχόλια του κοινού και τις αναφορές από σελίδες, ώστε να αφαιρεί όσο πιο γρήγορα γίνεται τις λανθασμένες απαντήσεις.
Για κάποιο λόγο, η εταιρία παραμένει αισιόδοξη για το AI Overviews, παρά τις αντιδράσεις του κοινού. Το αν θα καταφέρει να το κάνει αξιόπιστο μένει να το δούμε, όμως η εταιρία το έχει πάρει πολύ λάθος από την αρχή του. Το reddit, το Quora και όλες οι πλατφόρμες που επιτρέπουν στον οποιονδήποτε να μπει και να σχολιάσει, χωρίς τις απαραίτητες γνώσεις για ένα θέμα, σημαίνει πως αυτές οι πληροφορίες δεν θα έπρεπε να θεωρούνται σημαντικές, όχι μόνο για την κατάταξή τους στην αναζήτηση, αλλά και για την χρήση τους σαν απαντήσεις στο AI Overviews. Ναι, κάποιες απαντήσεις μπορεί να έιναι σωστές, όμως κανείς δε γνωρίζει ποιος τις έγραψε, πόσο αξιόπιστες είναι και ποιο ήταν το πλαίσιο στο οποίο έγινε το κάθε σχόλιο.
Η Nova γίνεται Cosmote και δίνει απεριόριστα data για 3 μήνες σε όλους τους συνδρομητές
Αυτό είναι κάτι που οι ιστοσελίδες παλεύουμε ακόμα και πριν το AI Overviews. Τα παράπονα των συντακτών και εκδοτών, πως η Google βγάζει πρώτα στην αναζήτηση στα σχόλια του Reddit και όχι τις σελίδες που έχουν γνώσεις για αυτά που γράφουν, είναι κάτι που είναι γνωστό εδώ και καιρό. Το πρόβλημα όμως τώρα είναι διαφορετικό. Το AI Overviews δίνει απαντήσεις σαν σωστές, χωρίς να παραθέτει ευδιάκριτες πηγές, ώστε ο χρήστης να δει όλη τη συζήτηση. Μεταξύ μας, ακόμα και αν έβαζε πηγή με μεγάλα γράμματα, λίγοι θα πατούσαν, αφού πήραν την απάντηση που ήθελαν, άσχετα αν αυτή ήταν χαμηλού επιπέδου.
