Την τελευταία περίοδο βλέπουμε μεγάλες δηλώσεις από CEOs εταιρειών που βλέπουν τις αξίες των μετοχών τους να εκτοξεύονται, όπως οι δηλώσεις του CEO της Arm ή του CEO της Nvidia. Μπορούμε να καταλάβουμε πως αυτή την περίοδο οι περιουσίες τους πολλαπλασιάζονται και αυτό θέλουν να συνεχιστεί, όμως υπάρχουν και κάποια άτομα στον χώρο που βλέπουν τη μεγαλύτερη εικόνα και κάνουν πιο σοβαρές δηλώσεις. Ένας από αυτούς είναι ο CEO της Anthropic, Dario Amodei, που ζητά από τις υπόλοιπες εταιρείες τεχνητής νοημοσύνης και από τις κυβερνήσεις να επιβραδύνουν τους ρυθμούς ανάπτυξης των πιο ισχυρών μοντέλων AI, υποστηρίζοντας πως η τεχνολογία προχωράει πλέον πολύ γρήγορα και χρειάζεται περισσότερος χρόνος για ελέγχους ασφαλείας.
Δεν πρόκειται για κάποιον τυχαίο CEO μιας μικρής εταιρείας τεχνητής νοημοσύνης, αλλά για έναν άνθρωπο που η εταιρεία του παράγει μερικά από τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης αυτή τη στιγμή.
Ο Amodei, σε ένα άρθρο του με τίτλο «We Must Pace the Frontier», ξεκαθαρίζει πως δε ζητάει να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης, αλλά ζητάει μια πιο ελεγχόμενη πορεία, ώστε να υπάρχει χρόνος για την αντιμετώπιση των κινδύνων πριν προχωρήσουμε σε ανάπτυξη ακόμα πιο ισχυρών συστημάτων.
Οι προτάσεις της Anthropic
Εν συντομία, η πρόταση της Anthropic βασίζεται σε τρεις βασικούς πυλώνες:
- Ανεξάρτητη παρακολούθηση των μοντέλων κατά την ανάπτυξή τους.
- Κοινά πρότυπα ασφαλείας σε ολόκληρη τη βιομηχανία.
- Διεθνής συντονισμός κυβερνήσεων και εταιρειών.
Έτσι, θεωρεί πως πρέπει να υπάρχουν ανεξάρτητοι αξιολογητές, ώστε να εξετάζονται τα πιο προηγμένα μοντέλα ήδη από τη διαδικασία της εκπαίδευσής τους. Με αυτό τον τρόπο θεωρεί πως πιθανοί κίνδυνοι θα εντοπίζονται πριν τα μοντέλα φτάσουν στους χρήστες. Ταυτόχρονα, οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης θα πρέπει να έχουν κοινά standards ασφαλείας και να μοιράζονται πληροφορίες για τα μοντέλα τους.
Η κούρσα της AI είναι τρομακτική
Οι δηλώσεις του Amodei έρχονται σε μια περίοδο στην οποία οι δυνατότητες των σύγχρονων μοντέλων έχουν αυξηθεί δραματικά. Ο ίδιος, όντας μέσα στον κλάδο της ΑΙ, επικαλείται περιστατικά όπου συστήματα τεχνητής νοημοσύνης παρουσίασαν συμπεριφορές που δεν ήταν πλήρως αναμενόμενες από τους δημιουργούς τους, όπως επίσης και κακόβουλες προσπάθειες των μοντέλων, σε προσπάθειες που έφταναν μέχρι και τις βιολογικές απειλές.
Έχοντας ήδη γίνει γνωστές ορισμένες από τις κακόβουλες πράξεις της τεχνητής νοημοσύνης, έχει ξεκινήσει μια συζήτηση για την ασφάλειά της, ενώ πιθανότατα δεν έχουμε καν ακούσει για τα πιο ακραία περιστατικά που αναφέρει ο Amodei. Σύμφωνα με τον CEO της Anthropic, χρειαζόμαστε τουλάχιστον ένα με δύο χρόνια ώστε να βελτιωθούν οι μηχανισμοί ελέγχου, προκειμένου να μειωθεί σημαντικά ο κίνδυνος.
Η πιθανότητα εξαφάνισης των ανθρώπων ξεπερνά το 10%
Ειδικοί του χώρου εκτιμούν πως υπάρχει πιθανότητα άνω του 10% η AI να οδηγήσει ακόμα και στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία. Βέβαια, αυτές οι εκτιμήσεις είναι αρκετά υποθετικές και αμφισβητήσιμες.
Η βασική ανησυχία δεν είναι ότι τα σημερινά chatbots «θέλουν» να βλάψουν τους ανθρώπους, αλλά ότι πολύ ισχυρότερα αυτόνομα συστήματα στο μέλλον θα μπορούσαν να αποκτήσουν στόχους ή συμπεριφορές που δεν ευθυγραμμίζονται επαρκώς με τις ανθρώπινες αξίες.
Αυτό δεν σημαίνει πως η AI θέλει να μας βλάψει, αλλά η εκπλήρωση τυχόν στόχων που της δίνονται μπορεί να καταστρέψει τομείς που είναι κρίσιμοι για την επιβίωση του ανθρώπου, προκειμένου να κάνει αυτό που της ζητήθηκε αποτελεσματικά.
Το πρόβλημα είναι πως κανείς δε θέλει να μείνει πίσω
Εδώ έρχεται ένα ακόμα πρόβλημα, που κατά κάποιο τρόπο είναι στη φύση του ανθρώπου: ο ανταγωνισμός. Μια εταιρεία που αναγκάζεται να επιβραδύνει την ανάπτυξη των μοντέλων της ενδέχεται να βρεθεί σε μειονεκτική θέση απέναντι στον ανταγωνισμό της. Αυτό σημαίνει πως καμία εταιρεία δεν είναι διατεθειμένη να το κάνει από μόνη της.
Για αυτό ο Amodei ζητάει μια συντονισμένη δράση από όλη τη βιομηχανία και τις κυβερνήσεις, ώστε να υπάρχει καθολική εφαρμογή των κανόνων. Αν υπάρχει αυστηρό νομοθετικό πλαίσιο και επιτήρηση, θα έχουμε και πλήρη εφαρμογή των κανόνων που θα αυξήσουν την ασφάλεια, εξασφαλίζοντας ταυτόχρονα πως μια εταιρεία που δεν ακολουθεί τους κανόνες δε θα έχει ανταγωνιστικό πλεονέκτημα.
Με τη ματιά του Techmaniacs
Οι δηλώσεις του Amodei είναι αυτό που λέμε εδώ και αρκετό καιρό και στο Techmaniacs. Η τεχνητή νοημοσύνη δεν είναι μια κακή τεχνολογία. Ο τρόπος που χρησιμοποιείται είναι λανθασμένος και μπορεί να προκαλέσει πολύ επικίνδυνες καταστάσεις για την ανθρωπότητα. Πρέπει να υπάρχει ένα παγκόσμιο νομοθετικό πλαίσιο, ώστε να είμαστε προστατευμένοι. Στην παρούσα φάση, η κυβέρνηση των ΗΠΑ έχει δώσει λευκή επιταγή στις εταιρείες τεχνητής νοημοσύνης, προκειμένου να μην χάσουν τη μάχη της τεχνητής νοημοσύνης με την Κίνα και αυτό είναι το ακριβώς αντίθετο από αυτό που πρέπει να συμβεί.
