Αυτό που φοβόμασταν σχετικά με την τεχνητή νοημοσύνη, ή τουλάχιστον ένα από αυτά, συμβαίνει ήδη. Αναφέρομαι στη χρήση της τεχνητής νοημοσύνης σε στρατιωτικό εξοπλισμό, όπου έχουμε άλλη μία επιβεβαιωμένη επίθεση. Μετά την είδηση πως οι Ουκρανοί χρησιμοποιούν αυτόνομα drones με τεχνητή νοημοσύνη κατά της Ρωσίας, σήμερα μαθαίνουμε πως η Ρωσία πέρασε στην αντεπίθεση, και μάλιστα με drones που τρέχουν σε chips της Nvidia.
Σύμφωνα με το ρεπορτάζ των The New York Times, ένα πλήρως αυτόνομο drone της Ρωσίας σκότωσε τρεις αμάχους στην πόλη Ζαπορίζια τον περασμένο μήνα, με την τεχνητή νοημοσύνη να φέρει την αποκλειστική ευθύνη για το περιστατικό. Σύμφωνα με τους New York Times, αυτή ήταν η πρώτη επίθεση στον πόλεμο της Ουκρανίας όπου άμαχοι σκοτώθηκαν από ένα πλήρως αυτόνομο σύστημα AI.
Το περιστατικό της 6ης Ιουλίου
Η επίθεση στη Ζαπορίζια σημειώθηκε στις 6 Ιουλίου. Το drone φαινόταν πως κατευθυνόταν προς δεξαμενές προπανίου σε ουκρανικό έδαφος, όμως δεν έφτασε ποτέ στον στόχο του. Έκλινε από την πορεία του όταν η AI έχασε τον έλεγχο και προσέκρουσε σε τοίχο, με αποτέλεσμα να χάσουν τη ζωή τους τρεις άνθρωποι: η 19χρονη φοιτήτρια Tetiana Bubynets, ο 41χρονος Oleksiy Svirin και ο 48χρονος Roman Karpiy.
Και εδώ έρχεται το μεγάλο ερώτημα: Ποιος πήρε την απόφαση;
Η τελική απόφαση δεν ελήφθη από άνθρωπο
Σύμφωνα με το ρεπορτάζ, το συγκεκριμένο drone ήταν ένα πειραματικό σύστημα τεχνητής νοημοσύνης, το οποίο δεν είχε δοκιμαστεί ξανά στο πεδίο της μάχης υπό πραγματικές συνθήκες.
Το σύστημα AI πήρε την τελική απόφαση να επιτεθεί χωρίς την έγκριση ανθρώπου χειριστή ή διοικητή. Η απόφαση ανήκε αποκλειστικά στον αλγόριθμο, ο οποίος κατέληξε να χτυπήσει δίπλα σε αμάχους.
Το drone λειτουργούσε με τεχνολογία της Nvidia. Το περιστατικό αποδεικνύει πόσο γρήγορα εξελίσσεται η τεχνητή νοημοσύνη όταν ενσωματώνεται σε πολεμικά συστήματα, αλλά και πόσο γρήγορα λαμβάνονται αποφάσεις από την AI, ασχέτως αν αυτές είναι σωστές ή λάθος.
Η Ουκρανία έχει γίνει το πεδίο δοκιμών για τον πόλεμο με AI
Ουκρανία και Ρωσία έχουν ήδη εντάξει την τεχνητή νοημοσύνη στους στρατούς τους, την ώρα που οι ΗΠΑ βρίσκονται πίσω από την Ουκρανία και η Κίνα υποστηρίζει τη Ρωσία. Το πεδίο της μάχης έχει καταληφθεί σε πολλά σημεία από την τεχνητή νοημοσύνη, όπου δοκιμάζονται τα όπλα του μέλλοντος με τεχνητή νοημοσύνη, με στρατιώτες αλλά και αμάχους να πληρώνουν τους πειραματισμούς με τη ζωή τους.
Η συγκεκριμένη περίπτωση προκαλεί ακόμα μεγαλύτερη ανησυχία, καθώς αφορά ένα σύστημα με πολύ υψηλότερο βαθμό αυτονομίας. Το σύστημα αποφάσισε μόνο του και χτύπησε αμάχους, χωρίς να γνωρίζει κανείς τι το οδήγησε σε αυτή την επιλογή.
Το πιο επικίνδυνο όριο έχει πλέον ξεπεραστεί
Το να επιτρέπεται σε μια μηχανή να αποφασίζει ποιος θα ζήσει και ποιος θα πεθάνει αποτελεί το πιο διστοπικό σενάριο για την ανθρωπότητα. Είναι άλλο να χρησιμοποιείται η τεχνητή νοημοσύνη για συλλογή πληροφοριών σε περιοχές όπου η επικοινωνία με τον χειριστή είναι δύσκολη, και εντελώς διαφορετικό να αφήνεται σε έναν αλγόριθμο η απόφαση για την αφαίρεση ανθρώπινης ζωής χωρίς καμία ανθρώπινη έγκριση.
Η υπόθεση στη Ζαπορίζια αναδεικνύει τον τεράστιο κίνδυνο της υπερβολικής αυτονομίας. Ένα λάθος στην αναγνώριση στόχου ή μια αστοχία του συστήματος μπορεί να έχει άμεσες και θανατηφόρες συνέπειες.
Σε μία μόλις πειραματική πτήση, τρεις άμαχοι έχασαν τη ζωή τους. Τι θα συμβεί όταν αυτά τα drones κατακλύσουν το πεδίο της μάχης, ανεξάρτητα από τη χώρα προέλευσης; Κάθε μορφής επίθεση σε αμάχους είναι κατακριτέα και απαράδεκτη. Προσωπικά, δε με ενδιαφέρει αν την απόφαση πήρε άνθρωπος ή μηχανή, κάποιος είχε την ευθύνη και για τα δύο. Λες και δεν είχαμε αρκετούς θερμόαιμους στον κόσμο να προβαίνουν σε επιθέσεις εναντίον αμάχων, τώρα θα ανησυχούμε και για την τεχνητή νοημοσύνη.
Όλα αυτά με κάνουν να ανησυχώ βαθιά για τον κόσμο στον οποίο μεγαλώνω το παιδί μου.
