Σε προηγούμενα άρθρα μας σας έχουμε πει πολλές φορές πως η τεχνητή νοημοσύνη δεν είναι κάτι που πρέπει να εμπιστευόμαστε τυφλά, πόσο μάλλον σε σοβαρά θέματα που έχουν να κάνουν με την υγεία μας. Κατά καιρούς έχουμε εντοπίσει πολύ σοβαρά λάθη στις απαντήσεις τόσο του AI Overviews, όσο και του Gemini, αλλά και του ChatGPT. Όσο η OpenAI λανσάρει το ChatGPT Health, η Google κάνει τη λογική κίνηση και αποσύρει τις απαντήσεις που έχουν να κάνουν με την υγεία μας, από το AI Overviews.
Παρόμοιες παρατηρήσεις είχε κάνει η εφημερίδα The Guardian, που δημοσίευσε έρευνά πως η Google παρέχει παραπλανητικές ή εντελώς ψευδείς πληροφορίες για ιατρικά θέματα, μέσω του AI Overviews, το οποίο χρησιμοποιεί το Gemini για τις απαντήσεις.
Τώρα, η Google αφαιρεί αυτά τα αποτελέσματα από το AI Overviews, καθώς μπορούσαν να θέσουν την υγεία και τη ζωή των ανθρώπων σε κίνδυνο. Στην αρχική αναφορά διαβάζουμε:
«Σε μια περίπτωση που οι ειδικοί χαρακτήρισαν ως «πραγματικά επικίνδυνη», η Google συμβούλεψε λανθασμένα άτομα με καρκίνο του παγκρέατος να αποφεύγουν τροφές με υψηλή περιεκτικότητα σε λιπαρά. Οι ειδικοί δήλωσαν ότι αυτό ήταν ακριβώς το αντίθετο από αυτό που θα έπρεπε να συνιστάται και μπορεί να αυξήσει τον κίνδυνο θανάτου ασθενών από την ασθένεια».
«Σε ένα άλλο «ανησυχητικό» παράδειγμα, η εταιρεία παρείχε ψευδείς πληροφορίες σχετικά με κρίσιμες εξετάσεις ηπατικής λειτουργίας, οι οποίες θα μπορούσαν να κάνουν άτομα με σοβαρή ηπατική νόσο να πιστεύουν λανθασμένα ότι είναι υγιή».
Οι ευρωπαϊκές τράπεζες κόβουν 200.000 θέσεις εργασίας καθώς η τεχνητή νοημοσύνη κυριαρχεί
Έτσι, από σήμερα το AI Overviews σταματάει να απαντάει σε ιατρικές ερωτήσεις εντελώς. Η εταιρεία φυσικά δεν σχολίασε για την συγκεκριμένη κίνηση και τι να πει άλλωστε, όταν η τεχνητή νοημοσύνη εκπαιδεύεται από όλο το διαδίκτυο με τα θετικά και τα αρνητικά του. Όλα τα μοντέλα κάνουν αρκετά κραυγαλέα λάθη, όμως όταν αυτά συμβαίνουν σε ιατρικές συμβουλές, τα αποτελέσματα μπορεί να είναι πολύ άσχημα.
Εμείς σας συμβουλεύουμε να μην εμπιστεύεστε την τεχνητή νοημοσύνη για καμία απάντηση. Πάντα να ελέγχεται τα αποτελέσματα που σας δίνει. Οι εταιρείες μπορεί να προσπαθούν να μας πείσουν πως η τεχνητή νοημοσύνη είναι η απάντηση για όλα, όμως η πραγματικότητα είναι πολύ διαφορετική. Λόγω του πολέμου για την επικράτηση μιας κάποιας εταιρείας στην τεχνητή νοημοσύνη, τα αποτελέσματα που δίνονται είναι χαμηλότερης ποιότητας και ακρίβειας.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
