Κινέζοι και Αμερικάνοι ειδική σε θέματα τεχνητής νοημοσύνης συμφωνούν στην θέσπιση κανόνων για τη χρήση της τεχνητής νοημοσύνης και ιιααίτερα σε στρατιωτικές υποδομές και πυρηνικές υποδομές, με ένα πλαίσιο που θυμίζει τους κανόνες ασφαλείας που έχουν δημιουργηθεί για τα πυρηνικά όπλα.
Η πρόταση των ειδικών από τις δύο υπερδυνάμεις, έρχονται την στιγμή που ανοίγει επιτέλους η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται όλο και πιο αυτόνομα και λαμβάνουν αποφάσεις. Με τη δυνατότητα να εκτελούν ενέργειες ταχύτερα από τους ανθρώπους, μπορούν να γίνουν πολύ επικίνδυνα αν δεν ελεγχονται πλήρως. Τι θα γίνει αν ένα σύστημα εκτός ελέγχου αρχίσει να επηρεάζει πυρηνικά δίοκτυα διοίκησης και να παίρνει αποφάσεις για τον έλεγχο των πυρηνικών όπλων;
Η AI δεν πρέπει να αποφασίζει για τα πυρηνικά
Το βασικότερο σημείο συνάντησης των ειδικών είναι πως πρέπει να υπάρχουν σαφείς «κόκκινες γραμμές» ώστε να μην μπορεί η τεχνητή νοημοσύνη να αποφασίζει αυτόνομα για την χρήση πυρηνικών όπλων ή να ξεκινήσει επιθέσεις από μόνη της, σε συστήματα που σχετίζονται με τον πυρηνικό έλεγχο.
Σύμφωνα με τους ειδικούς, οι άνθρωποι θα πρέπει να είναι αυτοί που θα λάβουν την τελική απόφαση για κυβερνοεπιθέσεις και για στρατιωτικές κινήσεις, που θα μπρούσαν να έχουν πολύ σοβαρές συνέπειες.
Ο λόγος είναι ότι ένα αυτόνομο σύστημα μπορεί να παρουσιάσει δυσλειτουργία, να παραβιαστεί ή να ξεπεράσει τις αρχικές οδηγίες του. Ακόμη πιο επικίνδυνο είναι το ενδεχόμενο η άλλη πλευρά να μην μπορεί να καταλάβει αν μια ενέργεια ήταν αποτέλεσμα λάθους ή σκόπιμης επίθεσης, ξεκινώντας έτσι μια αλυσιδωτή αντίδραση.
Μια επίθεση AI θα μπορούσε να προκαλέσει λάθος συναγερμό
Ένα από τα πιθανά σενάρια που φοβούνται οι ειδικοί, είναι ένα σύστημα ΑΙ που εντοπίζει ύποπτη δραστηριότητα και αντιδράει αυτόματα. Η αντίδραση αυτή θα μπορούσε στη συνέχεια να ερμηνευτεί από την άλλη πλευρά ως εχθρική ενέργεια, οδηγώντας σε νέα αυτόματη αντίδραση.
Σε αυτό το σενάριο οι άνθρωποι θα έχουν ελάχιστο χρόνο για να καταλάβουν τι πραγματικά συμβαίνει, ενώ μπορεί να αντιληφθουν πως κάτι πάει στραβά, όταν θα είναι ήδη πολύ αργά και δε θα μπορούν να σταματήσουν την κλιμάκωση.
Αυτός είναι και ο λόγος που προτίνουν τη δημιουργία μιας ειδικής γραμμής επικοινωνίας ΗΠΑ-Κίνας για περιστατικά που σχετίζονται με την ΑΙ, ώστε οι δύο πλευρές να μπορούν να επικοινωνούν άμεσα σε περίπτωση τέτοιων περιστατικών. Παράλληλα, οι ειδικοί ζητούν έναν κοινό ορισμό για το τι σημαίνει «ουσιαστικός ανθρώπινος έλεγχος», ώστε οι δύο χώρες να μην χρησιμοποιούν τον ίδιο όρο για να περιγράψουν εντελώς διαφορετικά επίπεδα αυτονομίας.
Η συζήτηση αποκτά ιδιαίτερη σημασία καθώς Ουάσινγκτον και Πεκίνο προετοιμάζουν νέες συνομιλίες για την AI, ενώ η τεχνολογική κούρσα μεταξύ των δύο χωρών επεκτείνεται πλέον και στο πεδίο της στρατιωτικής τεχνητής νοημοσύνης.
Με τη ματιά του Techmaniacs
Τα πυρηνικά όπλα δε θα έπρεπε να έχουν συστήματα τεχνητής νοημοσύνης, αλλά ούτε και σύνδεση στο διαδίκτυο. Θα πρέπει να είναι όλα offline και τις αποφάσεις θα πρέπει να τις λαμβάνουν αποκλειστικά και μόνο άνθρωποι. Το να λέμε για γραμμές επικοινωνίας μεταξύ των δύο χωρίς αν υπάρξει περιστατικό είναι ημίμετρο και χωρίς ιδιαίτερη ουσία. Αν η ΑΙ πατήσει το κουμπί, οποιαδήποτε επικοινωνία των δύο χωρών μετά είναι άνευ λόγου και ουσίας.
Πλέον έχουμε ξεπεράσει τα όρια της λογικής και με κάνει να αναρρωτιέμαι τι σκέφτονται τα άτομα που παίρνουν τις αποφάσεις. Πρόκειται για βασικές αρχές ασφαλείας για τόσο κρίσιμα συστήματα, που δεν χρειάζονται ούτε απομακρυσμένη σύνδεση, ούτε κάποια τεχνητή νοημοσύνη να παίρνει τόσο σοβαρές αποφάσεις.
