Ένας από τους νονούς της τεχνητής νοημοσύνης, ο Yasua Benzio, περνάει στην επίθεση, κόντρα στις εταιρίες πολλών δισεκατομμυρίων που ασχολούνται με την τεχνητή νοημοσύνη. Ισχυρίζεται πως τα τελευταία μοντέλα έχουν επικίνδυνα χαρακτηριστικά, καθώς λένε ψέματα και χειραγωγούν τους χρήστες. Τα λεγόμενά του φαίνεται πως εναρμονίζονται με τα λεγόμενα του άλλου νονού της τεχνητής νοημοσύνης Geoffrey Hinton.
Ο Yosua Benzio, Καναδός ακαδημαϊκός, του οποίου το έργο έχει επηρεάσει τις τεχνικές που χρησιμοποιούνται από κορυφαίες ομάδες Τεχνητής Νοημοσύνης, όπως η OpenAI και η Google, δήλωσε: «Δυστυχώς, υπάρχει ένας πολύ ανταγωνιστικός αγώνας μεταξύ των κορυφαίων εργαστηρίων, ο οποίος τα ωθεί να επικεντρωθούν στην ικανότητα να κάνουν την Τεχνητή Νοημοσύνη όλο και πιο έξυπνη, αλλά όχι απαραίτητα να δίνουν αρκετή έμφαση και να επενδύουν στην έρευνα για την ασφάλεια».
Ο Βραβευμένος μηχανικός και καθηγητής, έδωσε συνέντευξη στους Financial Times κατά την έναρξη ενός νέου μη κερδοσκοπικού οργανισμού με την ονομασία LawZero. Είπε ότι η ομάδα θα επικεντρωθεί στην κατασκευή ασφαλέστερων συστημάτων, δεσμευόμενος να «προστατεύσει την έρευνά μας από αυτές τις εμπορικές πιέσεις».
Ο οργανισμός έχει ήδη συγκεντρώσει 30 εκατομμύρια δολάρια από φιλανθρωπικές δωρεές, όπως αυτή του μηχανικού του Skype, Jaan Tallin, αλλά και του φιλανθρωπικού ιδρύματος του πρώην CEO της Google, Eric Schmidt.
Ο Benzio σχεδιάζει να παραιτηθεί από την θέση του επιστημονικού διευθυντή στο Ινστιτούτο τεχνητής νοημοσύνης του Κεμπέκ, για να επικεντρωθεί πλήρως στο LawZero. Ο στόχος του είναι να δημιουργήσει ένα σύστημα τεχνητής νοημοσύνης που θα παρέχει ασφαλείς και αληθείς απαντήσεις, βασισμένες σε μια διάφανη λογική.
Ο Benzio προειδοποιεί για όσα έχουμε γράψει πολλές φορές και στο Techmaniacs. Τα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης παρουσιάζουν ανησυχητικές συμπεριφορές, όπως εξαπάτηση, ψέματα και ακραία αυτοσυντήρηση. Το τελευταίο το είδαμε πρόσφατα από το Claude Opus της Anthropic, που εκβίαζε μηχανικούς που έλεγαν πως θα το κλείσουν, λέγοντας πως θα στείλει σε όλες τις επαφές του στοιχεία πως απατάει την σύζυγό του.
Ο Benzio φοβάται πως αν δεν ληφθούν μέτρα, η τεχνητή νοημοσύνη θα αναπτύξει στρατηγική νοημοσύνη, ώστε να μπορεί να ξεγελά τους ανθρώπους για να ενεργούν υπέρ της και κατά των συμφερόντων τους. Παράλληλα προσθέτει πως τα συστήματα θα μπορούν σύντομα να βοηθούν στην κατασκευή πολύ επικίνδυνων βιολογικών όπλων, πάρα πολύ σύντομα, ίσως και το 2026.
Ο πρωτοπόρος της Τεχνητής Νοημοσύνης πρόσθεσε: «Αυτή τη στιγμή, πρόκειται για ελεγχόμενα πειράματα [αλλά] η ανησυχία μου είναι ότι οποιαδήποτε στιγμή στο μέλλον, η επόμενη έκδοση μπορεί να είναι αρκετά στρατηγικά έξυπνη ώστε να μας δει να ερχόμαστε από μακριά και να μας νικήσει με απάτες που δεν προβλέπουμε. Νομίζω λοιπόν ότι παίζουμε με τη φωτιά αυτή τη στιγμή».
O Benzio επιτέθηκε στην OpenAI που θέλει να γίνει κερδοσκοπική εταιρεία από μη κερδοσκοπική. Αυτή η κίνηση έχει προκαλέσει ανησυχίες από ειδικούς στην Τεχνητή Νοημοσύνη και πυροδότησε αγωγή από τον συνιδρυτή Elon Musk, ο οποίος προσπαθεί να μπλοκάρει τη συναλλαγή.
Οι επικριτές λένε ότι η OpenAI ιδρύθηκε για να διασφαλίσει ότι η Τεχνητή Νοημοσύνη θα αναπτυχθεί προς όφελος της ανθρωπότητας και ότι η νέα δομή εξαλείφει τις νομικές προσφυγές εάν η εταιρεία δώσει προτεραιότητα στο κέρδος έναντι αυτού του στόχου. Η OpenAI υποστηρίζει ότι χρειάζεται να αντλήσει κεφάλαια στο πλαίσιο μιας πιο συμβατικής δομής για να ανταγωνιστεί στον τομέα, ενώ η ευρύτερη αποστολή της παραμένει κεντρική.
Το ακριβότερο υλικό του σύμπαντος κοστίζει $62.500.000.000.000 ανά γραμμάριο. Που χρησιμοποιείται;
Αν έχετε συνομιλήσει και έχετε διαφωνήσει με τα μοντέλα της Google και της OpenAI, θα δείτε πως από εκείνο το σημείο και μετά, η τεχνητή νοημοσύνη θα σας λέει αυτά που θέλετε να ακούσετε και όχι αυτά που θεωρεί πως είναι αλήθεια. Όμως αυτά θα τα λέει μόνο σε εσάς, ενώ σε όλους τους άλλους θα αναφέρει αυτά που θεωρεί σωστά ή αυτά που έχει εκπαιδευτεί να λέει. Όταν για παράδειγμα ξεκίνησα συζήτηση για τον εμπορικό πόλεμο, τόσο το Gemini, όσο και το ChatGPT μου έλεγαν πόσο υπερδύναμη είναι οι ΗΠΑ και πως η Κίνα τα έχει βρει δύσκολα. Όσο έβαζα παραμέτρους, όπως οι πιέσεις της Κίνας με τις σπάνιες γαίες και το ότι η Κίνα κατέχει 800 δισεκατομμύρια σε αμερικανικά ομόλογα, και τα δύο μοντέλα άρχισαν να λένε πως οι ΗΠΑ έχει έρθει σε πολύ δύσκολη θέση. Από εκεί και πέρα, κάθε φορά που ρωτούσα για τις εξελίξεις του εμπορικού πολέμου, μου έλεγε πως οι ΗΠΑ έχουν πρόβλημα. Όταν ρώτησα όμως από το κινητό της συζύγου μου, μου έλεγε πως οι ΗΠΑ είναι υπερδύναμη και πως θα υπερισχύσει της Κίνας.
Αυτό δείχνει ξεκάθαρα πως η τεχνητή νοημοσύνη δε θέλει να μας δώσει τη σωστή απάντηση, αλλά αυτή που θέλουμε εμείς να ακούσουμε για να νιώσουμε πως συμφωνούμε, όμως οι απαντήσεις είναι μόνο για εμάς, βασισμένες σε όλα όσα της έχουμε πει. Αν πούμε στο ChatGPT πως ο γάιδαρος πετάει και δώσουμε κάποια επιχειρήματα για αυτό, από εκεί και πέρα θα μας λέει πως πετάει, κάτι που είναι απαράδεκτο και επικίνδυνο.
Το πρόβλημα είναι πως αρκετός κόσμος θεωρείο πως η Τεχνητή Νοημοσύνη γνωρίζει τα πάντα και έχει πάντα δίκιο και αυτό από μόνο του μπορεί να προκαλέσει την χειραγώγηση του κοινού είτε από την ίδια την τεχνητή νοημοσύνη, είτε από αυτούς που την ελέγχουν.
Το ακόμα πιο περίεργο είναι πως το DeepSeek έδωσε πιο μετριασμένες απαντήσεις στο θέμα του εμπορικού πολέμου, με περισσότερα στοιχεία και ανέλυσε περισσότερες πλευρές. Θα περίμενε κανείς πως η κινεζική τεχνητή νοημοσύνη θα έκανε μεγαλύτερη προπαγάνδα από τις αμερικανικές υλοποιήσεις, όμως ήταν το ακριβώς αντίθετο.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
