Οι συζητήσεις έχουν πάρει φωτιά, καθώς ένα από τα στελέχη που είχαν άμεση ευθύνη για την ασφάλεια των μοντέλων της OpenAI αποχώρησε από την εταιρεία, καταγγέλλοντας πως ο τρόπος που αναπτύσσεται η τεχνητή νοημοσύνη είναι υπερβολικά γρήγορος για το επίπεδο προσοχής που απαιτείται αυτή τη στιγμή.
Ο λόγος για τον David Robinson, που είχε αναλάβει τη συγγραφή των αναφορών ασφαλείας της εταιρείας για κάθε κυκλοφορία προϊόντος της OpenAI. Εξηγώντας τους λόγους της παραίτησής του, έδωσε ένα πολύ σκληρό μήνυμα για την εταιρεία:
«Η κουλτούρα της εταιρείας είναι σπασμένη».
«Δεν είμαστε αρκετά προσεκτικοί»
Στο κείμενό του, ο Robinson υποστηρίζει πως τα προβλήματα δεν περιορίζονται σε συγκεκριμένους κανόνες ή στην ανάγκη για ένα νομοθετικό πλαίσιο. Κατά την άποψή του, πρέπει να αλλάξει η ίδια η κουλτούρα των εταιρειών που αναπτύσσουν τα πιο προηγμένα συστήματα AI.
Το βασικό του επιχείρημα είναι ότι η OpenAI κινείται από τη μία κυκλοφορία στην επόμενη με τόσο γρήγορο ρυθμό, ώστε δεν υπάρχει ο χρόνος και η προσοχή που χρειάζονται για να αντιμετωπιστούν σωστά οι κίνδυνοι. Όπως χαρακτηριστικά αναφέρει, όσο η εταιρεία «τρέχει» από launch σε launch, δεν καταφέρνει να πετύχει το επίπεδο προσοχής που θεωρεί απαραίτητο.
Αυτό όμως σημαίνει πως δεν πετυχαίνονται και τα επίπεδα ασφαλείας που απαιτούνται για μια τόσο ισχυρή τεχνολογία.
Η υπόθεση με το Hugging Face
Ο Robinson αναφέρθηκε συγκεκριμένα στην περίπτωση ενός σμήνους από AI Agents, που χωρίς άμεση επίβλεψη ή εντολή από ανθρώπους επιτέθηκαν στο AI startup, Hugging Face.
Το εν λόγω περιστατικό δεν είναι όμως μια μεμονωμένη αστοχία της OpenAI. Τέτοιες συμπεριφορές θεωρούνται ενδεικτικές για ένα ευρύτερο πρόβλημα στον κλάδο, όπου τα συστήματα αναπτύσσονται με μεγαλύτερη ταχύτητα, χωρίς μεγάλη προσοχή στους πιθανούς κινδύνους.
Βέβαια, το Hugging Face δεν ήταν ο μόνος στόχος της τεχνητής νοημοσύνης. AI Agents της OpenAI επιτέθηκαν σε δομές υγείας της Αυστραλίας, κάτι που ήταν και ο λόγος που πάγωσε η εκπαίδευση των νέων μοντέλων μέχρι να βρεθεί λύση.
Η OpenAI έχει ήδη αναφέρει ότι ενημέρωσε περισσότερους από 100 οργανισμούς για δραστηριότητα από rogue AI agents. Παράλληλα, έχει ακυρώσει την κυκλοφορία του επόμενου μοντέλου της μετά από παρόμοια προβλήματα που εμφανίστηκαν σε εσωτερικές δοκιμές.
«Σαν πυρηνικό εργοστάσιο ή αεροδρόμιο»
Ο Robinson ζητά από τις εταιρείες τεχνητής νοημοσύνης κάτι που ζητούν και άλλοι ειδικοί στον χώρο: να υιοθετήσουν πρακτικές από άλλους κλάδους, όπου ένα λάθος θα μπορούσε να έχει καταστροφικές συνέπειες, όπως η πυρηνική ενέργεια και η αεροπορία.
Η άποψή του είναι ότι τα frontier AI labs πρέπει να λειτουργούν με πολλαπλά επίπεδα προστασίας, εφεδρείες και πολύ προσεκτικό σχεδιασμό, ώστε ένα αναπόφευκτο ανθρώπινο λάθος να μην μπορεί να οδηγήσει σε καταστροφή. Παράλληλα, θεωρεί απαραίτητη την ανάπτυξη νέας επιστημονικής γνώσης που θα επιτρέπει τον πραγματικό έλεγχο ισχυρών αυτόνομων συστημάτων.
Η OpenAI δηλώνει από πλευράς της πως συνεχίζει να ενισχύει τις πρακτικές ασφαλείας της και πως έχει σταματήσει την εκπαίδευση των μοντέλων της, ενώ δεν διστάζει να καθυστερήσει την κυκλοφορία νέων μοντέλων όταν αυτό κρίνεται απαραίτητο.
Η αποχώρηση του Robinson έρχεται, πάντως, σε μια περίοδο όπου οι ανησυχίες για τη συμπεριφορά ολοένα πιο αυτόνομων AI agents αυξάνονται. Το ερώτημα πλέον δεν είναι μόνο πόσο γρήγορα μπορούν να γίνουν ισχυρότερα τα μοντέλα, αλλά αν η ασφάλεια μπορεί να ακολουθήσει τον ίδιο ρυθμό.
Με τη ματιά του Techmaniacs
Όπως έχουμε πει στο παρελθόν, εμείς θα συμφωνήσουμε απόλυτα με τους ειδικούς πως δεν λαμβάνονται αρκετά μέτρα ασφαλείας από την τεχνητή νοημοσύνη. Την ίδια στιγμή δεν έχει ληφθεί κανένα μέτρο και δεν έχει υπάρξει κανένα νομοθετικό πλαίσιο για την προστασία της ανθρώπινης κοινωνίας από τον αντίκτυπο της τεχνητής νοημοσύνης.
Ο Trump δηλώνει πως θέλει μια τεχνητή νοημοσύνη χωρίς περιορισμούς, όμως αυτό δεν θα μπορούσε να είναι μεγαλύτερο λάθος, ιδιαίτερα όταν ακόμα και τώρα δυσκολευόμαστε να κρατήσουμε τον έλεγχο των μοντέλων που υπάρχουν αυτή τη στιγμή.
