Ένας αγρότης από το Chizhou της Κίνας, εδώ και μήνες είχε αρχίσει να ακολουθεί τις συμβουλές της τεχνητής νοημοσύνης, οι οποίες αρχικά έμοιαζαν να λειτουργούν. Όμως οι τελευταίες αλληλεπιδράσεις του μαζί της οδήγησαν στον θάνατο 100 στρεμμάτων καλλιεργιών. Σύμφωνα με την ταϊβανέζικη ιστοσελίδα CTWANT, ο 67χρονος αγρότης ήταν αρχικά πολύ επιφυλακτικός με την τεχνητή νοημοσύνη, αλλά σύντομα άλλαξε γνώμη όταν είδε πως κάποιες από τις συμβουλές της απέδιδαν. Η τυφλή εμπιστοσύνη, όμως, έφερε την ολοκληρωτική καταστροφή σε 100 στρέμματα δενδρυλλίων σουσαμιού, που αποτελούσαν ολόκληρη την καλλιέργειά του.
Πώς η συμβουλή του chatbot κατέστρεψε την καλλιέργεια
O Wu, ο αγρότης της ιστορίας, ζήτησε από την τεχνητή νοημοσύνη συμβουλές για τον έλεγχο των ζιζανίων και των παρασίτων. Η τεχνητή νοημοσύνη του πρότεινε να χρησιμοποιήσει «υψηλής απόδοσης φλουπυριμεθαλίνη» και «flusulfasulfaether» για την εξόντωση των ζιζανίων, αναμιγνύοντάς τα με «θειαμεθοξαζίνη» και «μεθυλικό άλας». Όμως, ο αγρότης δεν ζήτησε τη συμβουλή ειδικών για να επιβεβαιώσει τις πληροφορίες της τεχνητής νοημοσύνης και ήρθε αντιμέτωπος με την απόλυτη καταστροφή.
Τα δυσάρεστα αποτελέσματα φάνηκαν από την επόμενη κιόλας ημέρα. Μπορεί τα ζιζάνια να πέθαναν, αλλά μαζί με αυτά ξεράθηκαν και τα σπορόφυτα σουσαμιού. «Αν το ψεκάσετε, την επόμενη μέρα τα σπορόφυτα δεν θα επιβιώσουν», δήλωσε ο Wu σε βιντεοσκοπημένη συνέντευξή του. «Τόσο το γρασίδι όσο και τα σπορόφυτα πεθαίνουν, και τα σπορόφυτα πεθαίνουν ακόμη πιο γρήγορα».
Όταν ο αγρότης ρώτησε την τεχνητή νοημοσύνη γιατί συνέβη αυτό, εκείνη υπαινίχθηκε πως το flusulfasulfaether ίσως ευθυνόταν για το πρόβλημα. Σύμφωνα με τους ειδικούς, η συγκεκριμένη ουσία προτείνεται για πλατύφυλλα ζιζάνια σε χωράφια σόγιας. Το USDA κατηγοριοποιεί το σουσάμι ως πλατύφυλλο φυτό, πράγμα που σημαίνει ότι επηρεάζεται άμεσα και θανατηφόρα από το συγκεκριμένο ζιζανιοκτόνο. Παράλληλα, η ουσία αυτή χρησιμοποιείται μόνο στοχευμένα στα σημεία που υπάρχει πρόβλημα και όχι στο σύνολο της καλλιέργειας.
Η ψευδαίσθηση της αλάθητης τεχνητής νοημοσύνης
Ο Wu ισχυρίστηκε πως η τεχνητή νοημοσύνη δεν τον ενημέρωσε για τους κινδύνους που εγκυμονούσε η λύση που του έδωσε. Ωστόσο, η σελίδα εμφάνιζε το τυπικό μήνυμα: «Η παραγωγή Τεχνητής Νοημοσύνης μπορεί να κάνει λάθη, παρακαλώ επαληθεύστε». Πρόκειται για την ίδια προειδοποίηση που διαθέτουν όλα τα μοντέλα, αλλά σχεδόν κανένας δεν λαμβάνει σοβαρά υπόψη.
Παρόλο που η Τεχνητή Νοημοσύνη είναι ένα ισχυρό εργαλείο, διατηρεί επίσης ένα βεβαρημένο ιστορικό στο να δίνει επικίνδυνες συμβουλές και να κάνει λανθασμένες επιλογές. Μόλις πριν από μερικές ημέρες, ένας προγραμματιστής διέγραψε ολόκληρο τον φάκελο του προφίλ του (και μαζί όλη τη δουλειά του) κατά τη διάρκεια μιας συνηθισμένης διαδικασίας δημιουργίας αντιγράφων ασφαλείας, εξαιτίας ενός τυπογραφικού λάθους της AI. Ακόμη και διευθύντρια της Meta είδε ολόκληρο το inbox της να διαγράφεται αυτόματα από λάθος της τεχνητής νοημοσύνης.
Για αυτόν τον λόγο σας έχουμε αναφέρει επανειλημμένα πως δεν πρέπει να έχετε τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη, καθώς υποπίπτει σε τραγικά σφάλματα ακόμη και σε απλές λειτουργίες. Στο παρελθόν τη δοκιμάσαμε στο Techmaniacs για ορθογραφικό και συντακτικό έλεγχο σε άρθρα και καταλήγαμε με χειρότερα συντακτικά λάθη, αντικατάσταση σωστών λέξεων με λανθασμένες και αλλοίωση μερών του κειμένου, παρότι είχαμε ζητήσει ρητά να μην πειραχτεί το περιεχόμενο. Επομένως, δεν πρέπει να υπάρχει καμία εμπιστοσύνη, πόσο μάλλον σε θέματα εργασίας, ιατρικής φύσεως ή για οτιδήποτε αφορά την περιουσία μας.
Με τη ματιά του Techmaniacs
Δεν είναι η πρώτη φορά που βλέπουμε κραυγαλέα λάθη της τεχνητής νοημοσύνης με σοβαρές επιπτώσεις στον πραγματικό κόσμο. Δεν μπορούμε όμως και να κατηγορήσουμε τον αγρότη που έκανε το λάθος να την εμπιστευτεί, ειδικά από τη στιγμή που του είχε δώσει μερικές χρήσιμες συμβουλές στο παρελθόν. Είναι ολόκληρη η βιομηχανία της τεχνητής νοημοσύνης που την προωθεί ως την απόλυτη λύση για κάθε πρόβλημα, παρουσιάζοντάς την σαν ένα πάνσοφο σύστημα που ήρθε να σώσει την ανθρωπότητα.
Όπως έχουμε επισημάνει αρκετές φορές στο Techmaniacs, πρόκειται για ένα εργαλείο με συγκεκριμένη χρησιμότητα, το οποίο απέχει πάρα πολύ από το να θεωρηθεί έτοιμο, πόσο μάλλον για ευρεία χρήση από το ευρύ κοινό. Παράλληλα, απουσιάζει η διαφάνεια σχετικά με τα δεδομένα εκπαίδευσής του και το κατά πόσο αυτά έχουν φιλτραριστεί σωστά ώστε να παρέχουν ακρίβεια και ρεαλισμό.
Αν και κατά καιρούς χρησιμοποιώ τεχνητή νοημοσύνη για πολύ συγκεκριμένες εργασίες τις οποίες διασταυρώνω προσεκτικά, η πραγματικότητα είναι πως απέχουμε πολύ από ένα αξιόπιστο εργαλείο που θα μας λύσει τα χέρια. Σε συγκεκριμένα αιτήματα, η AI εκτελεί το ακριβώς αντίθετο από αυτό που της ζητήθηκε, ενώ συχνά αγνοεί δοθείσες οδηγίες και ενεργεί αυτόνομα χωρίς προειδοποίηση. Την ίδια στιγμή, είναι προγραμματισμένη να κολακεύει τον χρήστη, παρουσιάζοντας τα πάντα ωραία. Όταν όμως της ζητήσεις να απαντήσει αντικειμενικά και χωρίς κολακείες, η στάση της αλλάζει δραματικά, αποδεικνύοντας ότι δεν μπορούμε να βασιζόμαστε πάνω της. Στην παρούσα φάση, οι εταιρείες προσπαθούν απλώς να μας κάνουν να νιώθουμε όμορφα κατά τη χρήση, επιβεβαιώνοντας ακόμη και λανθασμένους ισχυρισμούς μας. Πρόκειται για εργαλεία μη ώριμα για ευρεία χρήση, ειδικά από ανθρώπους που δεν διαθέτουν την απαραίτητη τεχνολογική ή εξειδικευμένη κατάρτιση.
Εσύ χρησιμοποιείς εργαλεία τεχνητής νοημοσύνης στην καθημερινότητα ή την εργασία σου; Έχεις συναντήσει επικίνδυνα ή περίεργα λάθη; Μοιράσου την εμπειρία σου στα σχόλια!
