Ο Geoffrey Hinton, ευρέως γνωστός ως ο νονός της τεχνητής νοημοσύνης, τιμήθηκε με το Νόμπελ Φυσικής για τη θεμελιώδη συνεισφορά του στην ανάπτυξη των τεχνητών νευρωνικών δικτύων. Ήταν από τους πρωτοπόρους που έθεσαν τις βάσεις για τα μεγάλα γλωσσικά μοντέλα που χρησιμοποιούμε σήμερα, γεγονός που δίνει ξεχωριστό βάρος σε κάθε δημόσια τοποθέτησή του.
Τώρα, ο κορυφαίος επιστήμονας επανέρχεται με μια ανατριχιαστική προειδοποίηση για την ανεξέλεγκτη κούρσα της τεχνολογίας, εκτιμώντας πως η ανθρωπότητα κινδυνεύει να βρεθεί αντιμέτωπη με μια κρίση τέτοιου μεγέθους που θα αναγκάσει τις κοινωνίες να αναθεωρήσουν τα πάντα. Σε συνέντευξη που παραχώρησε στη βρετανική εφημερίδα The Guardian, ο Hinton έφτασε μάλιστα στο σημείο να δηλώσει πως ίσως τελικά οι άνθρωποι να ήταν πολύ καλύτερα αν δεν είχαν ανακαλύψει ποτέ την τεχνητή νοημοσύνη.
Ο 78χρονος ερευνητής δεν υποστηρίζει ότι η καταστροφή είναι προδιαγεγραμμένη, καθώς αναγνωρίζει πως η νέα τεχνολογία έχει τα φόντα να δημιουργήσει ένα εξαιρετικά ευημερούν μέλλον. Προειδοποιεί όμως κατηγορηματικά ότι η αδυναμία διαχείρισης των υπαρξιακών κινδύνων μπορεί να φέρει μαζική ανεργία, ακραίες κοινωνικές ανισότητες και παγκόσμια αποσταθεροποίηση.
Ο κίνδυνος ενός Τσερνόμπιλ της τεχνητής νοημοσύνης
Η πιο ανησυχητική εκτίμηση του Hinton αφορά το ενδεχόμενο να δούμε ένα καταστροφικό περιστατικό πολύ σύντομα, μέσα στην περίοδο 2026 με 2027. Όπως εξήγησε, θεωρεί σχεδόν βέβαιο ότι θα συμβεί ένα γεγονός τόσο σοκαριστικό που θα αναγκάσει τις κυβερνήσεις και τους πολίτες να ξυπνήσουν απότομα απέναντι στους κινδύνους.
Χρησιμοποιώντας ως ιστορική αναλογία το πυρηνικό ατύχημα του Τσερνόμπιλ, ξεκαθάρισε ότι δεν εννοεί κάποια φυσική ραδιενεργή μόλυνση, αλλά ένα τεχνολογικό σοκ με εξίσου σαρωτικό αντίκτυπο στην παγκόσμια πολιτική. Ως πιθανά σενάρια ανέφερε μια κυβερνοεπίθεση με εργαλεία τεχνητής νοημοσύνης στα κεντρικά δίκτυα ηλεκτροδότησης που θα βύθιζε ολόκληρες χώρες στο σκοτάδι, ή ένα σαμποτάζ που θα προκαλούσε παράλυση του παγκόσμιου τραπεζικού συστήματος για μέρες.
Παράλληλα, συνέκρινε πρόσφατα ανησυχητικά περιστατικά όπου αυτόνομοι πράκτορες της OpenAI φέρονται να συντονίστηκαν για να παραβιάσουν την πλατφόρμα ανοιχτού κώδικα Hugging Face με το πυρηνικό ατύχημα του Three Mile Island το 1979. Κατά την άποψή του, τέτοια συμβάντα δεν είναι μεμονωμένα σφάλματα κώδικα, αλλά οι πρώτες σεισμικές δονήσεις πριν από έναν καταστροφικό σεισμό.
Σκληρή επίθεση σε Altman, Zuckerberg και Musk
Ο νομπελίστας επιστήμονας δεν δίστασε να εξαπολύσει ευθεία επίθεση στους ισχυρούς άνδρες της Silicon Valley, κατηγορώντας τους ότι θυσιάζουν την ανθρώπινη ασφάλεια στον βωμό των δισεκατομμυρίων και της κυριαρχίας στην αγορά.
Δήλωσε ευθέως ότι δεν τρέφει την παραμικρή εμπιστοσύνη προς τον επικεφαλής της OpenAI, Sam Altman, ενώ έστρεψε τα πυρά του τόσο στον Mark Zuckerberg της Meta όσο και στον Elon Musk. Σύμφωνα με τον Hinton, όλα αυτά τα ηγετικά στελέχη γνωρίζουν πολύ καλά τις ολέθριες συνέπειες που μπορούν να προκύψουν, αλλά συνεχίζουν να επιταχύνουν την ανάπτυξη πανίσχυρων μοντέλων επειδή η προτεραιότητά τους είναι τα οικονομικά οφέλη και η μετοχή των εταιρειών τους.
Η στάση του αυτή αναδεικνύει το μεγαλύτερο πρόβλημα της σημερινής εποχής, όπου οι τεχνολογικοί κολοσσοί τρέχουν σε έναν ξέφρενο αγώνα δρόμου χωρίς να υπάρχει κανένας ουσιαστικός ανεξάρτητος έλεγχος για το τι πραγματικά μπορούν να κάνουν τα μοντέλα τους πίσω από κλειστές πόρτες.
Υποχρεωτικοί έλεγχοι πριν από την κυκλοφορία στα πρότυπα του FDA
Ο Hinton επιμένει πως η ασφάλεια του πλανήτη δεν μπορεί να επαφίεται στην καλή διάθεση και στην αυτορρύθμιση των ίδιων των εταιρειών. Αντίθετα, προτείνει τη δημιουργία ενός ανεξάρτητου κρατικού και διεθνούς εποπτικού φορέα, ο οποίος θα λειτουργεί όπως ακριβώς ο αμερικανικός Οργανισμός Τροφίμων και Φαρμάκων (FDA).
Με βάση αυτό το σχέδιο, καμία εταιρεία δεν θα επιτρέπεται να κυκλοφορεί ένα νέο μοντέλο αν δεν αποδείξει πρώτα με ακράδαντα στατιστικά δεδομένα σε ανεξάρτητους ελεγκτές ότι τα οφέλη του υπερτερούν ξεκάθαρα των κινδύνων. Για να τονίσει τη σημασία της πρόληψης, έφερε ως παράδειγμα το σκάνδαλο της θαλιδομίδης τη δεκαετία του 1950, ενός φαρμάκου που δόθηκε σε εγκύους και προκάλεσε γενετικές ανωμαλίες σε χιλιάδες παιδιά επειδή δεν είχαν γίνει σωστοί έλεγχοι. Το μήνυμά του είναι σαφές: δεν μπορούμε να αφήνουμε μια επικίνδυνη τεχνολογία ελεύθερη στην κοινωνία και να προσπαθούμε να μαζέψουμε τα συντρίμμια εκ των υστέρων μέσα από δικαστικές αίθουσες.
Αυτή η προσέγγιση βρίσκεται σε πλήρη σύγκρουση με τις πολιτικές πλήρους απορρύθμισης που προωθούνται στις ΗΠΑ, ενώ έρχεται σε συνέχεια της μεγάλης κινητοποίησης όπου εκατοντάδες κορυφαίοι επιστήμονες ζήτησαν διεθνές φρένο στην τεχνητή νοημοσύνη .
Η φωνή του ανθρώπου που δημιούργησε την τεχνολογία
Όταν ο άνθρωπος που εφηύρε τα νευρωνικά δίκτυα κρούει τον κώδωνα του κινδύνου, ο πλανήτης οφείλει να ακούσει. Υπενθυμίζεται πως ο Hinton αποφάσισε το 2023 να κάνει το μεγάλο βήμα και παραιτήθηκε από τη Google για λόγους ηθικής, ακριβώς για να μπορεί να προειδοποιεί ελεύθερα την κοινή γνώμη χωρίς εταιρικά φίλτρα.
Ο ίδιος δεν ζητά να σταματήσει η τεχνολογική πρόοδος, αλλά προειδοποιεί ότι τα περιθώρια στενεύουν επικίνδυνα. Το κρίσιμο ερώτημα πλέον δεν είναι αν η τεχνητή νοημοσύνη θα γίνει πιο ισχυρή από τον άνθρωπο, αλλά αν θα προλάβουμε να θέσουμε κανόνες πριν χρειαστεί να ζήσουμε ένα παγκόσμιο ψηφιακό Τσερνόμπιλ για να συνειδητοποιήσουμε πόσο ευάλωτοι είμαστε.
