Το Jev της Typesafe αποτελεί ένα νέο είδος AI μοντέλου, το οποίο δεν παράγει απαντήσεις σε φυσική γλώσσα όπως κάνουν τα Large Language Models (LLMs), αλλά αντίθετα παράγει πιθανότητες ή, όπως αναφέρεται επίσημα από τη TypeSafe AI, καλιμπραρισμένες αποφάσεις.
Πρόκειται για ένα πρωτοποριακό είδος μοντέλου τεχνητής νοημοσύνης, το οποίο επιχειρεί να λύσει ένα συγκεκριμένο πρόβλημα: το γεγονός δηλαδή ότι, μολονότι τα μεγάλα γλωσσικά μοντέλα είναι εξαιρετικά στη συνομιλία με τους ανθρώπους, δεν αποτελούν τη βέλτιστη λύση για αυτοματισμούς. Διότι οι υπολογιστές μιλούν μια εντελώς διαφορετική γλώσσα σε σχέση με εμάς.
Πώς λειτουργεί το Jev
Αντί δηλαδή να παράγει προτάσεις ή κώδικα, το Jev δέχεται μια κατάσταση και ένα σύνολο προκαθορισμένων ερωτήσεων ή επιλογών, αποδίδοντας την απάντησή του υπό μορφή απόφασης. Με άλλα λόγια, δεν ζητάς από το μοντέλο να γράψει κάτι, αλλά του ζητάς να επιστρέψει απευθείας μία τιμή, την οποία μπορεί να αξιοποιήσει άμεσα ο κώδικας ενός workflow.
Η TypeSafe ιδρύθηκε από τον Diogo Almeida, έναν πρώην ερευνητή της OpenAI, ο οποίος συνδέει την προηγούμενη εργασία του στην εταιρεία με τις μεθόδους που οδήγησαν στη δημιουργία του ChatGPT και του RLHF.
Η βασική θέση που υποστηρίζεται σε επίσημη δημοσίευση στο blog της TypeSafe είναι ότι το να προσπαθούμε να βελτιστοποιήσουμε ένα μοντέλο για την ανθρώπινη γλώσσα δεν είναι πάντοτε η καλύτερη επιλογή στην περίπτωση ενός λογισμικού. Ένας υπολογιστής δεν χρειάζεται ένα καλογραμμένο κείμενο, αλλά αντίθετα μια απάντηση με γνωστές επιλογές και μετρήσιμη αβεβαιότητα.
Ο developer ορίζει εκ των προτέρων το είδος της απάντησης που επιτρέπεται να επιστρέψει το μοντέλο, κάτι που αποτρέπει τα σφάλματα (errors) στην έξοδο (output).
Εντυπωσιακά αποτελέσματα από την κοινότητα των developers
Ιδιαίτερο ενδιαφέρον εκφράζεται ήδη από την κοινότητα των developers. Ο Pranit Sharma, software engineer στη Vercel, ανέφερε ότι η εταιρεία του χρησιμοποιούσε το ChatGPT Luna 5.6 για έναν classifier που ταξινομούσε διάφορες εντολές. Όταν η Vercel το αντικατέστησε με το Jev, τα αποτελέσματα ήταν 5 έως και 18 φορές πιο γρήγορα και με υψηλότερη ακρίβεια.
Από τη μεριά του, ο Nikhil Mudholkar που το δοκίμασε σε σύγκριση με το Gemini για την κατηγοριοποίηση επαγγελματικών email (business emails), αναφέρει ότι το Gemini ήταν ελαφρώς πιο ακριβές, αλλά ταυτόχρονα 10 έως 20 φορές πιο ακριβό.
Εκτός από την αντικατάσταση των Large Language Models σε συγκεκριμένες εργασίες, το νέο μοντέλο της Typesafe μπορεί να αξιοποιηθεί και για τον έλεγχο της συμπεριφοράς των αυτόνομων agents, όπως επισημαίνει ο Almeida.
