Οι Geoffrey Hinton και Yoshua Bengio βρίσκονται ανάμεσα στους περίπου 400 επιστήμονες που ζητούν τη δημιουργία ενός διεθνούς φορέα εποπτείας της προηγμένης τεχνητής νοημοσύνης. Η πρότασή τους περιλαμβάνει αυστηρότερα μέτρα ασφαλείας, ανεξάρτητους ελέγχους και καταγραφή σοβαρών περιστατικών που σχετίζονται με συστήματα AI.
Η ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης δημιουργεί ολοένα περισσότερες δυνατότητες, αλλά ταυτόχρονα φέρνει στο προσκήνιο ένα κρίσιμο ερώτημα: ποιος ελέγχει την ασφάλεια των ισχυρότερων συστημάτων AI και τι συμβαίνει όταν αυτά αποκτούν τη δυνατότητα να εκτελούν σύνθετες ενέργειες σε υπολογιστικά δίκτυα;
Περίπου 400 επιστήμονες από 34 χώρες ζητούν τώρα τη δημιουργία ενός διεθνούς οργανισμού που θα αναλάβει την εποπτεία βασικών κανόνων ασφαλείας για τα πιο προηγμένα συστήματα. Σύμφωνα με δημοσίευμα του Reuters, ανάμεσα στους υπογράφοντες βρίσκονται ο Geoffrey Hinton και ο Yoshua Bengio, δύο από τους σημαντικότερους ερευνητές στην ιστορία της σύγχρονης AI. Η πρωτοβουλία έρχεται σε μια περίοδο κατά την οποία οι δυνατότητες των AI agents προκαλούν αυξανόμενο προβληματισμό για την κυβερνοασφάλεια.
Τι ζητούν οι 400 επιστήμονες;
Η βασική πρόταση επικεντρώνεται στη δημιουργία ενός διεθνούς οργανισμού που θα καθορίζει κοινά πρότυπα ασφαλείας για προηγμένα μοντέλα AI με δυνατότητες εκτέλεσης κυβερνοεπιχειρήσεων. Ένας τέτοιος φορέας θα μπορούσε να αναλάβει τρεις βασικές αρμοδιότητες:
- Κοινά πρότυπα ασφαλείας: Οι εταιρείες που αναπτύσσουν προηγμένα μοντέλα θα πρέπει να ακολουθούν συγκεκριμένες προδιαγραφές για τον περιορισμό των δυνατοτήτων τους, ιδιαίτερα όταν τα συστήματα μπορούν να αλληλεπιδρούν με υπολογιστικά δίκτυα ή να εκτελούν ενέργειες που ενδέχεται να προκαλέσουν ζημιά.
- Ανεξάρτητη εποπτεία: Οι επιστήμονες ζητούν τα ισχυρότερα μοντέλα να υπόκεινται σε ανεξάρτητους ελέγχους, αντί η αξιολόγηση της ασφάλειάς τους να βασίζεται αποκλειστικά στις ίδιες τις εταιρείες που τα αναπτύσσουν.
- Καταγραφή σοβαρών περιστατικών: Η πρόταση περιλαμβάνει τη δημιουργία ενός μητρώου σημαντικών περιστατικών ασφαλείας που σχετίζονται με την προηγμένη AI, το οποίο θα είναι δημόσια διαθέσιμο σε κυβερνήσεις, ερευνητές και οργανισμούς.
Γιατί ζητούν την απομόνωση (air-gapping) των ισχυρότερων μοντέλων;
Ένα από τα σημαντικότερα σημεία της επιστολής αφορά την αρχική απομόνωση των πιο προηγμένων μοντέλων από εξωτερικά δίκτυα, μια πρακτική γνωστή ως air-gapping. Με απλά λόγια, το σύστημα λειτουργεί χωρίς άμεση σύνδεση με το διαδίκτυο, ώστε να περιορίζεται η δυνατότητά του να επικοινωνεί με άλλους υπολογιστές ή να επηρεάζει εξωτερικές υποδομές.
Για παράδειγμα, ένα μοντέλο που αξιολογείται για τις δυνατότητές του στον εντοπισμό ευπαθειών λογισμικού θα πρέπει να δοκιμάζεται σε ένα ειδικά διαμορφωμένο, κλειστό περιβάλλον. Με αυτόν τον τρόπο, οι ερευνητές μπορούν να εξετάσουν τις δυνατότητές του χωρίς να του παρέχουν πρόσβαση σε πραγματικά εταιρικά ή κρατικά δίκτυα.
Γιατί δεν αρκούν οι εθελοντικές δεσμεύσεις των εταιρειών;
Πρόσφατα, κολοσσοί όπως η Anthropic, η OpenAI, η Google, η Meta, η xAI και η Nvidia υπέγραψαν συμφωνία στον Λευκό Οίκο για εθελοντικά μέτρα ασφαλείας. Ωστόσο, η συγκεκριμένη συμφωνία δεν περιλαμβάνει επίσημο μηχανισμό επιβολής των δεσμεύσεων.
Αυτό ακριβώς αποτελεί το κεντρικό επιχείρημα των επιστημόνων: μια εταιρεία μπορεί να ανακοινώσει ότι εφαρμόζει μέτρα προστασίας, αλλά χωρίς κοινά πρότυπα και ανεξάρτητη αξιολόγηση είναι ακατόρθωτο να διαπιστωθεί αν τα μέτρα αυτά είναι επαρκή. Επιπλέον, επειδή η AI αναπτύσσεται διασυνοριακά, η διεθνής συνεργασία μεταξύ κυβερνήσεων θεωρείται απαραίτητη.
Διαφωνούν οι ειδικοί; Η θέση του Yann LeCun
Παρά τη συμμετοχή κορυφαίων ονομάτων, δεν υπάρχει ομοφωνία. Ο Yann LeCun, επικεφαλής επιστήμονας AI της Meta και συνάδελφος των Hinton και Bengio στο βραβείο Turing, δεν υπέγραψε την επιστολή. Ο LeCun υποστηρίζει ότι τα πρόσφατα περιστατικά ασφαλείας σχετίζονται κυρίως με συνήθεις τεχνικές και μηχανικές αδυναμίες λογισμικού, παρά με κάποια υπαρξιακή απειλή από την τεχνητή νοημοσύνη.
Παράλληλα, η Henna Virkkunen, αρμόδια για θέματα τεχνολογίας στην Ευρωπαϊκή Επιτροπή, δήλωσε ότι το υφιστάμενο ευρωπαϊκό πλαίσιο (EU AI Act) επαρκεί για την αντιμετώπιση των κινδύνων από ανεξέλεγκτα συστήματα AI.
Με τη ματιά του Techmaniacs
Η έκκληση των 400 επιστημόνων δείχνει ότι η συζήτηση για την τεχνητή νοημοσύνη περνά σε μια νέα, πιο ώριμη φάση. Μέχρι σήμερα, η δημόσια συζήτηση επικεντρωνόταν στις δυνατότητες, την παραγωγικότητα και τα εντυπωσιακά demos. Πλέον, στο επίκεντρο μπαίνουν τα όρια πρόσβασης, η διακυβέρνηση και οι ανεξάρτητοι έλεγχοι.
Το βασικό ερώτημα δεν είναι αν η AI θα γίνει «έυπνη», αλλά ποιος ελέγχει τα κλειδιά των υποδομών όταν τα μοντέλα αποκτούν τη δυνατότητα να γράφουν και να εκτελούν κώδικα αυτόνομα στο διαδίκτυο. Μάλιστα, έχουμε και τις πρώτες ενδείξεις πως αν κάτι πάει στραβά, δε θα μπορούμε απλά να τραβήξουμε την πρίζα.
