Μια νέα υπόθεση που έχει κάνει τον γύρω της δημοσιότητας, δείχνει με τον καλύτερο τρόπο πως η υπερβολική εξάρτηση των αρχών στην τεχνολογία αναγνώρισης προσώπου με AI, μπορεί να γίνει πολύ επικίνδυνη. Ο Richard Dillon είναι το θύμα αυτής της τεχνολογίας, καθώς συνελήφθη το 2023, με την κατηγορία πως προσπάθησε να απαγάγει ένα 12χρονο κορίτσι από ένα κατάστημα MacDonald’s στο Jacksonville Beach. Ο ίδιος όμως βρισκόταν 480 χιλιόμετρα μακριά τη στιγμή της απόπειρας απαγωγής, όμως η τεχνολογία αναγνώρισης προσώπου με AI, τον αναγνώρισε σε φωτογραφίες.
Η υπόθεση της αστυνομίας βασίστηκε αποκλειστικά στην αντιστοίχιση εικόνας μέσω λογισμικού αναγνώρισης προσώπου με AI. Το σύστημα συνέδεσε τη φωτογραφία του υπόπτου με τον Dillon .
Ο Dillon αθωώθηκε σε δεύτερο χρόνο και την περασμένη Τετάρτη κατέθεσε αγωγή κατά του Αστυνομικού Τμήματος του Jacksonville Beach, στην οποία καταγγέλλει την κατάχρηση της τεχνολογίας τεχνητής νοημοσύνης. Όπως αναφέρεται στην καταγγελία, «η αστυνομία επέτρεψε σε ένα επιρρεπές σε λάθη σύστημα τεχνητής νοημοσύνης να αντικαταστήσει μια κανονική έρευνα».
Μια εφιαλτική τηλεφωνική κλήση
Ο Dillon στην αγωγή περιγράφει πως ένα μήνα μετά το περιστατικό, δέχθηκε τηλεφωνική κλήση από αστρονομικό του τμήματος Jacksonville Beach, που τον κατηγόρησε επανειλημμένα για ένα απεχθές έγκλημα, που ο ίδιος γνώριζε πως δεν έχει διαπράξει. «Σκέφτηκα ότι η ζωή μου τελείωσε… Η AI λέει ότι το έκανα εγώ, πώς θα αποδείξω ότι δεν το έκανα;» δήλωσε.
Κατά τη διάρκεια της κλήσης, ο Dillon προσπάθησε να αποδείξει την αθωότητά του λέγοντας πως έχει μια εμφανείς ουλές στο μέτωπό του από χειρουργείο για καρκίνο του δέρματος, μια λεπτομέρεια που τον έκανε να διαφέρει σημαντικά από τον πραγματικό ύποπτο.
Ένα Ευρύτερο Πρόβλημα με την τεχνολογία αναγνώρισης προσώπου με AI
Δεν είναι η μόνη φορά που συμβαίνει κάτι τέτοιο. Είναι όμως το έναυσμα για να ξεκινήσει μια συζήτηση για την θέσπιση κανόνων για μια τεχνολογία που χρησιμοποιείται ολοένα και πιο πολύ από τις αστυνομικές αρχές για την αναγνώριση προσώπων. Σύμφωνα με στοιχεία του Center on Privacy and Technology του Georgetown Law School, οι δημόσιες βάσεις δεδομένων περιλαμβάνουν εικόνες 117 εκατομμυρίων Αμερικανών πολιτών.
Η αγωγή αναμένεται να ανοίξει εκ νέου τη συζήτηση σχετικά με τα όρια χρήσης της τεχνητής νοημοσύνης στην αστυνόμευση και την ανάγκη ανθρώπινης επιβεβαίωσης πριν από κάθε σύλληψη.
FTTP.gr: Χάρτες κάλυψης οπτικών ινών δωρεάν
Το Αστυνομικό Τμήμα του Jacksonville Beach αρνήθηκε να σχολιάσει την υπόθεση.
Η τεχνολογία αναγνώρισης προσώπου με AI δεν είναι το μόνο πρόβλημα
Ακόμα και σήμερα η τεχνητή νοημοσύνη κάνει αρκετά λάθη, παρά τους ισχυρισμούς των εταιρειών που τις κατασκευάζουν. Παρατηρούμε συνεχώς απλά λάθη λογική, που δε θα έπρεπε να συμβαίνουν. Την ίδια στιγμή, οι εταιρείες προωθούν την εν λόγω τεχνολογία σε κρίσιμες υπηρεσίες και υποδομές και για αυτό παρατηρούμε μια σειρά από προβλήματα που δε θα συνέβαιναν αν πραγματικοί άνθρωποι έκαναν την δουλειά, αντί για την τεχνητή νοημοσύνη. Δεν χρειάζεται να πάμε μακριά, η αλλαγές που έχει φέρει η τεχνητή νοημοσύνη στο διαδίκτυο, έχουν ήδη καταστρέψει επιχειρήσεις που λειτουργούσαν άριστα εδώ και χρόνια, φανταστείτε τι γίνεται όταν αυτά τα συστήματα χρησιμοποιούνται από τις αρχές επιβολής του νόμου.
