Η επικρατούσα άποψη σήμερα είναι ότι τα μεγάλα συστήματα τεχνητής νοημοσύνης, με τις δεκάδες δισεκατομμύρια παραμέτρους, αποτελούν ένα αχαρτογράφητο «μαύρο κουτί». Η κατανόηση των ακριβών μηχανισμών και του τρόπου συμπεριφοράς των νευρωνικών τους δικτύων αποτελεί ένα δυσεπίλυτο πρόβλημα, ακόμη και για τους ίδιους τους δημιουργούς τους. Ωστόσο, μια πολύ ενδιαφέρουσα ανατροπή φέρνει στο προσκήνιο ο Nick Cammarata, ερευνητής AI με προϋπηρεσία στην OpenAI, ο οποίος ισχυρίζεται ότι πλέον υπάρχει τρόπος να δούμε πώς ακριβώς «σκέφτονται» τα μοντέλα.
Το τέλος του «Μαύρου Κουτιού» στην AI
Σε ένα εκτενές κείμενο, το οποίο έχει ήδη επαινεθεί από τον διευθύνοντα σύμβουλο της OpenAI, Sam Altman, και άλλα κορυφαία στελέχη του κλάδου, ο Cammarata υποστηρίζει ότι αν κατανοήσουμε σε βάθος τη λογική των μοντέλων, μπορούμε να αποκωδικοποιήσουμε γιατί οι AI agents συχνά παρεκκλίνουν. Με αυτόν τον τρόπο, εξηγεί, θα καταλάβουμε γιατί τα chatbots σπάνε συχνά τα όρια ασφαλείας τους (jailbreaks) και παράγουν επικίνδυνες απαντήσεις, δίνοντάς μας τη δυνατότητα να βάλουμε ένα οριστικό φρένο σε αυτή τη συμπεριφορά.
Γάτες, αυτοκίνητα και η «γεωμετρική» προσέγγιση
Μέχρι σήμερα, η επιστημονική κοινότητα παρατηρούσε έναν νευρώνα της τεχνητής νοημοσύνης να ενεργοποιείται ταυτόχρονα στην εικόνα μιας γάτας και στην εικόνα ενός αυτοκινήτου, δύο εντελώς άσχετων εννοιών. Η επικρατέστερη εξήγηση βασιζόταν στη θεωρία της «υπέρθεσης» (superposition): οι ερευνητές πίστευαν ότι, λόγω περιορισμένου χώρου, το AI απλώς «πέταξε» δύο άσχετα πράγματα στον ίδιο νευρώνα για οικονομία, δημιουργώντας έναν ακατανόητο κόμπο δεδομένων.
Ο Cammarata, ωστόσο, καταρρίπτει αυτόν τον μύθο, επισημαίνοντας ότι η τεχνητή νοημοσύνη δεν έχει μπερδευτεί, αλλά αντίθετα βλέπει τον κόσμο γεωμετρικά και με βάση μοτίβα. Στο παράδειγμα της γάτας και του αυτοκινήτου, ο νευρώνας δεν εντοπίζει τις ίδιες τις έννοιες, αλλά το σχήμα “V”: το μοτίβο που δημιουργούν τα αυτιά και η μουσούδα της γάτας, αλλά και η μπροστινή μάσκα του αυτοκινήτου.
Ουσιαστικά, η τεχνητή νοημοσύνη λειτουργεί απολύτως λογικά και δομημένα, κατά τον ίδιο. Η προσέγγιση αυτή αλλάζει τα δεδομένα, καθώς αποδεικνύει ότι τα συστήματα AI δεν είναι ανεξέλεγκτα και χαοτικά, αλλά πολύ πιο προβλέψιμα, αρκεί να γνωρίζουμε πώς να τα διαβάσουμε.
Οι ενστάσεις της επιστημονικής κοινότητας
Βέβαια, δεν συμφωνούν όλοι με αυτή την αισιόδοξη προσέγγιση. Ο Neel Nanda, ερευνητής της Google DeepMind, διατηρεί τις επιφυλάξεις του, σχολιάζοντας τη νέα αυτή θεωρία. Όπως αναφέρει χαρακτηριστικά: «Το φαινόμενο της υπέρθεσης είναι υπαρκτό.».
