- Η Anthropic μιλά για πιθανή «recursive self-improvement», όπου τα AI θα σχεδιάζουν τους διαδόχους τους.
- Προτείνει συντονισμένη επιβράδυνση ανάπτυξης AI από εταιρείες και κυβερνήσεις.
- Ερευνητές αμφισβητούν τη ρεαλιστικότητα και τα κίνητρα πίσω από την πρόταση.
Η Anthropic η εταιρεία που βρίσκεται πίσω από την ανάπτυξη του Claude προειδοποιεί με τον πιο εμφατικό τρόπο ότι τα συστήματα τεχνητής νοημοσύνης θα φτάσουν σύντομα σε ένα σημείο όπου θα μπορούν να βελτιωθούν από μόνα τους, όπως αναφέρει σε άρθρο της με τίτλο When AI builds itself.
Την ίδια στιγμή καλεί τον κλάδο να εξετάσει ένα συντονισμένο φρένο στην ανάπτυξη τέτοιου είδους μοντέλων, πρόταση που ήδη έχει προκαλέσει ποικίλες αντιδράσεις και έντονη αμφισβήτηση.
Τα στοιχεία που επικαλείται η Anthropic
Η Anthropic χρησιμοποιεί δηλαδή ως ένδειξη την ολοένα και αυξανόμενη συμβολή του Claude στην ανάπτυξη λογισμικού:
- Πιο συγκεκριμένα, το Claude γράφει πλέον πάνω από το 80% του κώδικα που ενσωματώνεται στα συστήματα της Anthropic.
- Πριν από την κυκλοφορία του Claude, κάπου εκεί στις αρχές του 2025, το αντίστοιχο ποσοστό κινούνταν σε μονοψήφια επίπεδα.
- Οι μηχανικοί της Anthropic παράγουν περίπου οκταπλάσιο όγκο κώδικα ανά τρίμηνο σε σχέση με πριν από λίγα χρόνια.
- Σε κάθε στάδιο της δημιουργίας AI σημειώνει η εταιρεία, ο ρόλος του ανθρώπου συνεχώς συρρικνώνεται.
- Δεν είμαστε ακόμα εκεί, αλλά την ίδια στιγμή το self improvement της AI είναι αναπόφευκτο, τονίζει η εταιρεία.
Τι προτείνει η ίδια για το AI
Η εταιρεία προτείνει έναν παγκόσμιο μηχανισμό συντονισμού, ο οποίος θα συντελούσε στην επιβράδυνση, αλλά ακόμη και στην προσωρινή παύση της ανάπτυξης τέτοιου είδους άκρως προηγμένων AI μοντέλων.
Απώτερος στόχος να δοθεί ο απαραίτητος χρόνος ώστε η κοινωνία και η έρευνα να συμβαδίσουν με την τεχνολογία.
Δεν συμφωνούν όλοι μαζί της
Αξίζει να σημειωθεί πάντως όπως δεν φαίνεται να συμφωνούν όλοι μαζί της. Ο Mark Riedl, καθηγητής της Σχολή Διαδραστικής Πληροφορικής του Ινστιτούτου Τεχνολογίας της Georgia, αναφέρει συγκεκριμένα στο BlueSky ότι όλες οι μεγάλες εταιρείες τεχνητής νοημοσύνης αρχίζουν σιγά-σιγά να επιβιβάζονται στο τρένο της μόδας που επικρατεί το τελευταίο διάστημα, αυτό του recursive self improvement, όπως αναφέρεται χαρακτηριστικά.
Ο Noah Giansiracusa αναπληρωτής καθηγητής μαθηματικών στο Πανεπιστήμιο του Bentley επισημαίνει ότι δεν αποτελεί κατά την άποψή του, ένα γνήσιο κάλεσα για επιβράδυνση ανάπτυξης της AI.
Παράλληλα εκφράζει την άποψη ότι είναι αδύνατον να επιβραδυνθεί η ανάπτυξη.
Δεν υπάρχει καμία απολύτως περίπτωση αναφέρει χαρακτηριστικά. Και δεν μιλάω καν για την Κίνα. Ο Elon Musk δεν θα συμφωνούσε ποτέ σε κάποια επιβράδυνση, σημειώνει.
Αξίζει να σημειώσουμε ότι η παρέμβαση της Anthropic εντάσσεται κατά την άποψή μας σε μια ευρύτερη τάση που παρατηρείται το τελευταίο διάστημα. Την τάση δηλαδή όπου οι ίδιες οι εταιρείες που αναπτύσσουν τα εν λόγω μοντέλα να μιλούν και να θέτουν δημόσια ζητήματα ασφαλείας.
Η Anthropic είναι ένας από τους πρωταγωνιστές αυτή τη στιγμή στην κούρσα του AI. Την ίδια στιγμή όμως ζητά μηχανισμούς επιβράδυνσης.
Τα στοιχεία που η ίδια παρουσιάζει και που αναφέρθηκαν προηγουμένως μπορεί να δείχνουν σαφή επιτάχυνση της παραγωγικότητας, οι επικριτές της όμως τα ερμηνεύουν ως μια απλή εξέλιξη των εργαλείων αυτών και όχι ως πραγματική απόδειξη της επικείμενης έκρηξης ως προς το self improvement.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
