Τα μεγάλα γνωστικά μοντέλα, όπως το ChatGPT και το LLaMA, είναι διάσημα για τις άπταιστες και μερικές φορές ιδιαίτερα ανθρώπινες απαντήσεις τους. Όμως, έχουν γίνει γνωστά και για την παραγωγή λανθασμένων πληροφοριών, τις οποίες όμως παρουσιάζουν με απόλυτη σιγουριά. Τώρα, έχουμε μια νέα μελέτη που δείχνει πως ο τρόπος με τον οποίο επεξεργάζεται η AI τις πληροφορίες, έχει τρομερές ομοιότητες με τον τρόπο που λειτουργούν ορισμένες διαταραχές του ανθρωπίνου εγκεφάλου.
Ερευνητές από το Πανεπιστήμιο του Τόκιο μελέτησαν τη δυναμική των εσωτερικών σημάτων, σε μεγάλα γλωσσικά μοντέλα και έκαναν συγκρίσεις με πρότυπα εγκεφαλικής δραστηριότητας που παρατηρούσε σε άτομα με αφασία Wemicke, μια πάθηση κατά την οποία τα άτομα μιλούν με έναν άπταιστο λόγο, αλλά συχνά χωρίς νόημα και με συγκεχυμένο τρόπο.
Στη μελέτη, οι ερευνητές χρησιμοποίησαν μια μέθοδο που ονομάζεται ανάλυση ενεργειακού τοπίου, ώστε να χαρτογραφήσουν τον τρόπο με τον οποίο οι πληροφορίες ταξιδεύουν τόσο στον ανθρώπινο εγκέφαλο όσο και στα συστήματα τεχνητής νοημοσύνης.
Και στις δύο περιπτώσεις, οι επιστήμονες βρήκαν ακανόνιστα ή άκαμπτα μοτίβα που περιόριζαν την ουσιαστική επικοινωνία, τόσο στην τεχνητή νοημοσύνη του ChatGPT όσο και στα άτομα με αφασία Wamicke. Αυτό που δείχνουν τα εν λόγω μοτίβα, είναι πως οι πληροφορίες ακολουθούν εσωτερικές διαδρομές, που κάνουν δύσκολη την πρόσβαση και την οργάνωση της σχετικής γνώσης.
Αυτή η μελέτη ρίχνει περισσότερο φως στον τρόπο με τον οποίο η AI επεξεργάζεται πληροφορίες. Αν και έχουν εκπαιδευτεί με τεράστιο όγκο δεδομένων, μοντέλα σαν το ChatGPT εμπίπτουν σε αυτό που οι επιστήμονες ονομάζουν εσωτερικούς βρόγχους. Αυτοί οι βρόγχοι ακούγονται συνεκτικοί, όμως παράγουν ανακριβείς και άχρηστες απαντήσεις.
Αυτό δεν συμβαίνει επειδή η Τεχνητή Νοημοσύνη δυσλειτουργεί, αλλά επειδή η εσωτερική της δομή μπορεί να μοιάζει με ένα είδος άκαμπτης επεξεργασίας προτύπων, παρόμοιο με αυτό που συμβαίνει στην αφασία Wemicke.
Η Google προειδοποιεί όλους τους χρήστες του Gmail – Δεν θα λάβεις ποτέ αυτή την κλήση!
Τα ευρήματα, ωστόσο, έχουν επιπτώσεις πέρα από την απλή Τεχνητή Νοημοσύνη. Για τη νευροεπιστήμη, προτείνουν νέους τρόπους ταξινόμησης ή διάγνωσης της αφασίας, εξετάζοντας τον τρόπο με τον οποίο ο εγκέφαλος χειρίζεται εσωτερικά τις πληροφορίες. Με αυτό τον τρόπο, η τεχνητή νοημοσύνη μπορεί να δώσει έμμεσα, πολύ ενδιαφέροντα δεδομένα για την θεραπεία ιατρικών παθήσεων.
Για τους μηχανικούς της τεχνητής νοημοσύνης, τα δεδομένα αυτά αποτελούν μια σημαντική ανακάλυψη, που μπορεί να δώσει ένα σχέδιο δράσης για τα μελλοντικά γλωσσικά μοντέλα τεχνητής νοημοσύνης. Η κατανόηση των παραλληλισμών που κάνει η τεχνητή νοημοσύνη, μπορεί να είναι το κλειδί για τον σχεδιασμό πιο αξιόπιστων εργαλείων στο μέλλον, αλλά και στην εύρεση νέων θεραπειών για άτομα με εγκεφαλικές διαταραχές.
Η μελέτη δημοσιεύθηκε στο Wiley.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
