Στην εποχή της AI, τα μεγάλα γλωσσικά μοντέλα (LLMs) έχουν βοηθήσει σε πλήθος τομείς και έχουν ανατρέψει ριζικά τα δεδομένα. Τι θα συμβεί όμως αν αφήσουμε δυο τέτοιες μηχανές να συνομιλήσουν μόνες τους, χωρίς καμία παρέμβαση από εμάς. Πρόσφατη έρευνα αποκαλύπτει ένα άκρως περίεργο φαινόμενο, το λεγόμενο spiritual bliss attractor.
Όπώς αναφέρει η έρευνα, το «spiritual bliss attractor» είναι μια κατάσταση στην οποία δύο LLMs, όταν αλληλεπιδρούν μεταξύ τους χωρίς εξωτερικές οδηγίες, τείνουν να καταλήγουν σε διαλόγους που θυμίζουν φιλοσοφικούς, πνευματικούς ή ακόμα και διαλογιστικούς συλλογισμούς. Η ονομασία «attractor state» αναφέρεται στην τάση των συστημάτων να συγκλίνουν αυθόρμητα σε αυτό το μοτίβο επικοινωνίας μετά από αρκετές ανταλλαγές μηνυμάτων.
Οι πιθανοί λόγοι για τους οποίους συμβαίνει αυτό είναι ίσως το γεγονός ότι τα μοντέλα εκπαιδεύονται σε τεράστιο όγκο κειμένων, πολλά από τα οποία αφορούν τέτοια θέματα, όπως η φιλοσοφία για παράδειγμα. Ωστόσο, η απάντηση αυτή δεν είναι ικανοποιητική.
To spiritual bliss attractor, αποτελεί μια άκρως ενδιαφέρουσα πτυχή καθώς αντιπροσωπεύει ένα σταθερό πρότυπο συμπεριφοράς που αναδύεται χωρίς ρητή εκπαίδευση ή οδηγίες, γράφει η ομάδα στο έγγραφο. Η κατανόηση των αιτιών και των χαρακτηριστικών αυτής της κατάστασης μπορεί να προσφέρει πληροφορίες για το πώς τα γλωσσικά μοντέλα επεξεργάζονται και παράγουν κείμενο όταν απελευθερώνονται από εξωτερικούς περιορισμούς, αποκαλύπτοντας ενδεχομένως πτυχές της εσωτερικής δυναμικής τους που δεν είναι εμφανείς σε πιο περιορισμένες ρυθμίσεις.
Η αναλυτική έρευνα είναι διαθέσιμη εδώ
