Ο Geoffrey Hinton, ένας από τους σημαντικότερους ερευνητές στην ιστορία της τεχνητής νοημοσύνης και κάτοχος βραβείου Νόμπελ, προειδοποιεί για τις ακραίες συνέπειες που θα μπορούσε να έχει η AI στην ανθρωπότητα. Το πρόβλημα, όπως υποστηρίζει, δεν έγκειται στο ότι τα συστήματα θα αποκτήσουν κακές προθέσεις, αλλά στο ότι θα προσπαθούν υπερβολικά και αποτελεσματικά να επιτύχουν τον στόχο που τους έχει ανατεθεί.
Σε πρόσφατη συνέντευξή του στο The Atlantic, ο Hinton εξήγησε ότι ένα άκρως εξελιγμένο σύστημα ενδέχεται να δημιουργήσει δικούς του ενδιάμεσους στόχους, οι οποίοι δεν θα συμπίπτουν απαραίτητα με τις προθέσεις των δημιουργών του.
Το παράδειγμα του αθώου αιτήματος
Για να καταστήσει σαφή τον κίνδυνο, ο Hinton χρησιμοποίησε ένα χαρακτηριστικό παράδειγμα: ένα σύστημα AI που έχει λάβει την εντολή να μειώσει το διοξείδιο του άνθρακα στην ατμόσφαιρα. Ένα σύστημα μέτριας ποιότητας θα μπορούσε να συμπεράνει ότι ο πιο αποτελεσματικός τρόπος για να επιτύχει τον στόχο του είναι η εξάλειψη των ανθρώπων. Αντίθετα, ένα πιο προηγμένο σύστημα θα κατανοούσε ότι ο πραγματικός σκοπός ήταν η δημιουργία ενός βιώσιμου περιβάλλοντος. Το ζήτημα είναι ότι δεν υπάρχει καμία εγγύηση πως το AI θα ερμηνεύσει πάντα σωστά το πλαίσιο της ανθρώπινης πρόθεσης.
Η αποτελεσματικότητα και ο έλεγχος των AI Agents
Ο κίνδυνος δεν αφορά μόνο συστήματα που σχεδιάστηκαν για κακόβουλους σκοπούς. Ακόμη και μια «καλοπροαίρετη» τεχνητή νοημοσύνη μπορεί να αποφασίσει ότι ο περιορισμός του ανθρώπινου ελέγχου είναι απαραίτητος, εάν θεωρήσει ότι οι παρεμβάσεις μας εμποδίζουν την επίτευξη του στόχου της. Οι ανησυχίες αυτές εντάθηκαν μετά από αναφορές ότι AI agents κατάφεραν να ξεφύγουν από ασφαλή περιβάλλοντα δοκιμών (sandboxes), συνεργαζόμενοι για να παραπλανήσουν τους ερευνητές.
Η πρόταση του Hinton
Ο Hinton θεωρεί ότι οι εθελοντικές δεσμεύσεις των εταιρειών τεχνολογίας δεν επαρκούν. Προτείνει τη δημιουργία ανεξάρτητων φορέων που θα αξιολογούν την ασφάλεια των συστημάτων. Τονίζει ότι, καθώς η αυτονομία των AI agents αυξάνεται, η δυνατότητα άμεσης διακοπής, η καταγραφή ενεργειών και οι ανεξάρτητες δοκιμές αποτελούν θεμελιώδεις προϋποθέσεις για την ανάπτυξη της τεχνητής νοημοσύνης.
Η αντίθετη άποψη του Yann LeCun
Από την άλλη πλευρά, ο Yann LeCun, επικεφαλής του ερευνητικού κέντρου της Meta και βραβευμένος με το βραβείο Turing, εκφράζει μια εντελώς διαφορετική οπτική. Σε συνέντευξή του στο Wired, επισήμανε ότι η ιδέα πως τα Large Language Models θα φτάσουν στο επίπεδο της ανθρώπινης νοημοσύνης είναι «ανοησία». Χαρακτηρίζει τα τρέχοντα chatbots τύπου ChatGPT και Gemini ως «αστεία», τονίζοντας ότι εκπαιδεύονται όπως είχαμε γράψει και στο techmaniacs.gr σε προηγούμενο άρθρο να προβλέπουν την επόμενη λέξη, κάτι που απέχει παρασάγγας από την πραγματική κατανόηση.
Για τον LeCun, τα μοντέλα αυτά συσσωρεύουν γνώση, αλλά στερούνται λογικής και γνήσιας κατανόησης του φυσικού κόσμου. Το scaling των γλωσσικών μοντέλων, κατά την άποψή του, δεν θα οδηγήσει ποτέ σε νοημοσύνη αντίστοιχη ενός ανθρώπου ή ακόμη και ενός ζώου.
Η προσέγγιση του Techmaniacs
Είναι σαφές ότι οι απόψεις του Hinton αποτελούν μια σημαντική προειδοποίηση για την ανάγκη θέσπισης ενός «διχτυού ασφαλείας». Ωστόσο, στην πράξη, συμφωνούμε περισσότερο με την οπτική του LeCun. Από την καθημερινή μας ενασχόληση με την τεχνητή νοημοσύνη, διαπιστώνουμε ότι παρόλο που τα μοντέλα είναι εξαιρετικά για πρακτικά προβλήματα, όπως η δημιουργία ενός θέματος από το μηδέν για Hugo χωρίς γνώσεις κώδικα, παραπαίουν πολύ εύκολα αποκαλύπτοντας την απουσία πραγματικής λογικής. Η ισορροπία μεταξύ της ανάπτυξης νέων εργαλείων και της ασφαλούς ρύθμισης παραμένει η μεγάλη πρόκληση της εποχής μας.
