Πριν από λίγες ημέρες είχαμε γράψει ένα άρθρο σχετικά με το πλαίσιο που πρέπει να θεσπιστεί για την τεχνητή νοημοσύνη και πώς δεν πρέπει σε καμία περίπτωση να έχει τον έλεγχο οπλικών συστημάτων, και κυρίως των πυρηνικών. Σήμερα, ένα πολύ σοβαρό περιστατικό έρχεται για να επιβεβαιώσει τους φόβους μας, καθώς παραλίγο να ξεκινήσει θερμό επεισόδιο ανάμεσα σε Κίνα και ΗΠΑ. Σύμφωνα με αποκαλυπτικό δημοσίευμα του CNN, μια αναφορά πληροφοριών που είχε δημιουργηθεί με τη βοήθεια AI υποστήριζε λανθασμένα ότι κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.
Η πληροφορία που έδωσε η AI ήταν εντελώς λανθασμένη, όμως οι στρατιωτικές δυνάμεις των ΗΠΑ είχαν ήδη κινηθεί. Σταμάτησαν κυριολεκτικά λίγο πριν την καταστροφή.
Σύμφωνα με το δημοσίευμα, είχαν ήδη απογειωθεί στρατιωτικά αεροσκάφη, ενώ ένοπλο προσωπικό ετοιμαζόταν να επιβιβαστεί στο πλοίο. Ευτυχώς, αξιωματούχοι μελέτησαν πιο προσεκτικά τις πληροφορίες και διαπίστωσαν πως επρόκειτο για λάθος. Ακόμα δεν γνωρίζουμε τι μετέφερε το πλοίο στην πραγματικότητα, όμως η τεχνητή νοημοσύνη φαίνεται να έκανε ένα τραγικό σφάλμα που θα μπορούσε να ξεκινήσει πόλεμο ανάμεσα στις δύο χώρες, με απρόβλεπτες συνέπειες.
Πώς έγινε το λάθος
Το περιστατικό ξεκίνησε όταν αναλυτής της αμερικανικής Διοίκησης Ειδικών Επιχειρήσεων (Special Operations Command) χρησιμοποίησε ένα AI chatbot για να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του πλοίου.
Τότε το chatbot συνδύασε δεδομένα από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων και κατέληξε λανθασμένα στο συμπέρασμα πως το πλοίο μετέφερε εξαρτήματα για πυρηνικά όπλα.
Το πρόβλημα όμως δεν σταμάτησε εκεί. Ο αναλυτής χρησιμοποίησε ξανά την AI για να μετατρέψει το αποτέλεσμα σε μια τυπική αναφορά πληροφοριών. Το έγγραφο στη συνέχεια κυκλοφόρησε μέσα στις στρατιωτικές δομές, αποκτώντας την εμφάνιση μιας κανονικής, επαληθευμένης αναφοράς.
Δεν γνωρίζουμε πώς ακριβώς χρησιμοποιήθηκε το AI chatbot, ούτε πώς είχε παραμετροποιηθεί. Αυτό σημαίνει πως μπορεί να ήταν λογισμικό ειδικά ανεπτυγμένο για την αμερικανική κυβέρνηση ή κάποιο εμπορικό μοντέλο της αγοράς.
Το λάθος δεν ήταν το μόνο επικίνδυνο στην υπόθεση
Τα μεγάλα γλωσσικά μοντέλα μπορούν να δημιουργήσουν πληροφορίες που ακούγονται απολύτως πειστικές, χωρίς όμως να ανταποκρίνονται στην πραγματικότητα. Το φαινόμενο αυτό είναι γνωστό ως AI hallucination (παραισθήσεις της AI).
Στην καθημερινή χρήση, ένα τέτοιο λάθος μπορεί να οδηγήσει απλώς σε μια λανθασμένη απάντηση. Στον στρατιωτικό τομέα, όμως, μια λανθασμένη πληροφορία μπορεί να περάσει μέσα από την αλυσίδα αποφάσεων και να οδηγήσει σε πραγματικές επιχειρησιακές ενέργειες.
Εδώ αναδεικνύεται ένας πολύ σοβαρός παράγοντας: η τεχνητή νοημοσύνη δεν χρειάστηκε να ελέγξει η ίδια κάποιο οπλικό σύστημα για να προκαλέσει κίνδυνο. Η παραγωγή ενός και μόνο λανθασμένου κειμένου ήταν αρκετή για να δημιουργήσει επικίνδυνο επεισόδιο, μέσα από μια αναφορά που έμοιαζε απολύτως αξιόπιστη.
Ο στρατός των ΗΠΑ βασίζεται όλο και περισσότερο στην AI
Το περιστατικό συνέβη την ώρα που το αμερικανικό Υπουργείο Άμυνας επιταχύνει την ενσωμάτωση της τεχνητής νοημοσύνης σε όλο και περισσότερες διαδικασίες, από την ανάλυση πληροφοριών και τον σχεδιασμό επιχειρήσεων μέχρι την επιλογή στόχων, τις προμήθειες και τα logistics.
Όμως, διαφορετικές υπηρεσίες και οργανισμοί χρησιμοποιούν διαφορετικά εργαλεία τεχνητής νοημοσύνης, διατηρώντας παράλληλα διαφορετικές διαδικασίες ελέγχου. Αυτό σημαίνει πως απουσιάζει ένα ενιαίο σύστημα επαλήθευσης, με αποτέλεσμα να αυξάνεται ο κίνδυνος να εμφανιστούν κι άλλα παρόμοια περιστατικά στο μέλλον.
Προκειμένου να κερδηθεί η κούρσα της τεχνητής νοημοσύνης, συχνά παραλείπονται κρίσιμα ζητήματα ποιότητας και αξιοπιστίας. Παρότι ένα σύστημα μπορεί να επεξεργάζεται τεράστιες ποσότητες δεδομένων σε ελάχιστο χρόνο, μια πειστική αλλά λανθασμένη απάντηση μπορεί να αποδειχθεί πολύ πιο επικίνδυνη από μια προφανώς λανθασμένη πληροφορία.
Με τη ματιά του Techmaniacs
Η τεχνητή νοημοσύνη είναι ένα πάρα πολύ δυνατό εργαλείο, το οποίο όμως επιβάλλεται να επιβλέπεται αυστηρά από ανθρώπους. Δυστυχώς κάνει ακόμα πολλά λάθη, ενώ συχνά αποτυγχάνει να εκτελέσει μια εργασία σύμφωνα με τις ακριβείς οδηγίες του χρήστη. Απέχουμε πολύ από το να διαθέτουμε ένα αλάνθαστο σύστημα τεχνητής νοημοσύνης, κι όμως τα κράτη βιάζονται να την ενσωματώσουν κυριολεκτικά παντού.
Χωρίς αξιόπιστες απαντήσεις και αναλύσεις, πώς είναι δυνατόν να βασιζόμαστε στην AI για αποφάσεις τέτοιου βεληνεκούς; Στην επιστημονική έρευνα, όπου κάθε μελέτη ελέγχεται αναλυτικά από ειδικούς, η τεχνητή νοημοσύνη μπορεί να αποτελέσει τεράστιο σύμμαχο. Σε τομείς όμως όπως η εθνική ασφάλεια και ο στρατός, η αλόγιστη χρήση της μπορεί να αποβεί καταστροφική.
Προσωπικά, σαν μηχανικός υπολογιστών και δικτύων, βρίσκω αδύνατο να έγινε χρήση κάποιου εμπορικού AI chatbot σε ένα τόσο σοβαρό τμήμα του αμερικανικού στρατού. Σε τέτοια καίρια σημεία, η ελεύθερη πρόσβαση στο διαδίκτυο είναι αδύνατη, πόσο μάλλον σε υπολογιστές που χειρίζονται αναλύσεις και απόρρητα έγγραφα. Ειδικά στον αμερικανικό στρατό, τα μέτρα ασφαλείας είναι δρακόντια και είναι δεδομένο πως κανένας δεν μπορεί να ανεβάσει επιχειρησιακά δεδομένα σε κάποιο εμπορικό AI chatbot ή οπουδήποτε γενικότερα.
