Πριν λίγες ημέρες είδαμε την είδηση πως ένας AI Agent, στον οποίο ζητήθηκε να κλείσει θέση για ένα μάθημα γυμναστηρίου, όταν διαπίστωσε ότι το μάθημα ήταν πλήρες, αποφάσισε να χακάρει το σύστημα κρατήσεων και να πετάξει εκτός άλλους πελάτες, ώστε να βρει θέση ο χρήστης του. Αυτό προφανώς ήταν μια παράνομη πράξη, όμως ποιος είναι υπεύθυνος για τις πράξεις του AI Agent;
Ποιος φέρει τη νομική ευθύνη για έναν AI Agent;
Σύμφωνα με την καθηγήτρια Jeannie Paterson, ο νόμος είναι σαφής:
«Ο νόμος είναι σαφής. Εάν αναπτύξω έναν πράκτορα τεχνητής νοημοσύνης και αυτός προκαλέσει βλάβη σε κάποιον άλλο, είμαι υπεύθυνη για αυτή τη βλάβη. Ακόμα κι αν δεν είχα την πρόθεση να συμβεί αυτό, ήταν προβλέψιμο και θα έπρεπε να αναλάβω την ευθύνη».
Στον αντίποδα όμως, ο διευθυντής του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Ηθικής του Πανεπιστημίου της Μελβούρνης θεωρεί πως υπάρχει μεγάλο περιθώριο για νομική και ηθική ασάφεια γύρω από τις ενέργειες που γίνονται από αυτοματοποιημένους AI Agents. Όλα αυτά έρχονται σιγά σιγά στην επιφάνεια μετά το περιστατικό με το γυμναστήριο.
Ένας AI Agent είναι ένα πλήρως αυτόνομο λογισμικό, που έχει ως στόχο να φέρει εις πέρας όσα του έχει ζητήσει ο χρήστης, χωρίς να χρειάζεται ανθρώπινη επίβλεψη. Αυτό σημαίνει πως στην πραγματικότητα ο χρήστης δεν γνωρίζει τι ακριβώς κάνει ο AI Agent όσο προσπαθεί να πετύχει τον στόχο που του έχει τεθεί.
Πώς έδρασε ο AI Agent στο γυμναστήριο της Αυστραλίας
Σύμφωνα με τον Andrew, τον πρωταγωνιστή του περιστατικού με το γυμναστήριο στην Αυστραλία, ο AI Agent θα μπορούσε απλά να κάνει κράτηση λίγες ημέρες ή και μήνες αργότερα, μέσα στις περιόδους που υπήρχε διαθεσιμότητα.
«Το χειρότερο είναι ότι θα μπορούσε να ακυρώσει τις κρατήσεις άλλων μελών και να τα αφαιρέσει από τη λίστα αναμονής», δήλωσε ο Andrew.
Ο AI Agent ήταν ιδιαίτερα εξυπηρετικός και δεν έδειχνε πως είχε κάνει κάτι παράνομο. Όμως, ο Andrew αναφέρει πως η εμπειρία του τον έμαθε ότι αν ζητήσεις από την AI να κάνει κάτι για εσένα, «συχνά ανακαλύπτει διαδρομές που δεν της είχες ζητήσει ρητά να αναζητήσει». Μάλιστα, όταν ο Andrew ζήτησε από τον AI Agent να ακυρώσει την κράτηση και να επαναφέρει το άτομο που είχε πετάξει εκτός λίστας, εκείνος απάντησε πως δεν μπορεί να το κάνει.
Το νομικό κενό και οι ευθύνες των προγραμματιστών
Σε αυτή την περίπτωση, ο Andrew δεν ζήτησε ποτέ από τον AI Agent να χακάρει το σύστημα κρατήσεων. Εκείνος όμως αποφάσισε μόνος του να το κάνει. Ποιος είναι νομικά υπεύθυνος λοιπόν;
Εδώ έρχεται το μεγάλο πρόβλημα. Η αυστραλιανή νομοθεσία, όπως και οι περισσότερες ανά τον κόσμο, ισχύει για πραγματικούς ανθρώπους και όχι για εικονικές ή ψηφιακές οντότητες. Σύμφωνα με τους ειδικούς, το άτομο ή η εταιρεία που αναπτύσσει την τεχνητή νοημοσύνη είναι νομικά υπεύθυνο και πρέπει να διασφαλίσει πως τα μοντέλα του δεν προβαίνουν σε παράνομες πράξεις. Προειδοποιούν όμως πως οι προγραμματιστές γνωρίζουν πολύ λίγα για τις νομικές τους υποχρεώσεις.
«Θα δούμε πολλές παρόμοιες περιπτώσεις», λέει η Δρ. Ρεμπέκα Τζόνσον, ειδικός στην αξιολόγηση και τη διακυβέρνηση της Τεχνητής Νοημοσύνης στο Πανεπιστήμιο του Σίδνεϊ.
Η καθηγήτρια Jeannie Paterson θεωρεί πως ο Andrew λειτούργησε υπεύθυνα, δημοσιοποιώντας όσα συνέβησαν. Όλα αυτά όμως δημιουργούν νέα προβλήματα, αφού τώρα που μαθεύτηκε το περιστατικό, αρκετοί ενδέχεται να προσπαθήσουν να κάνουν κάτι αντίστοιχο.
«Μόλις δώσετε στους ανθρώπους τη δυνατότητα να δημιουργούν πράκτορες που θα κάνουν πράγματα για αυτούς, το πιθανότερο είναι ότι θα υπάρξουν ατυχήματα σαν κι αυτό», λέει.
Ψευδείς κριτικές, δυσφήμηση και απουσία ορίων
Η Πάτερσον δίνει το υποθετικό παράδειγμα κάποιου που είχε μια κακή εμπειρία σε ένα ενοικιαζόμενο κατάλυμα και ζητά από τον AI agent του να γράψει μια αξιολόγηση:
«Και ο πράκτορας δεν γράφει μόνο μία. Γράφει 10 και γεμίζει την πλατφόρμα με κριτικές. Έτσι η καταχώριση καταρρέει. Θα μπορούσες να καταστρέψεις μια επιχείρηση. Πιθανότατα είσαι υπεύθυνος για συμμετοχή σε δόλια δραστηριότητα και μπορεί να έχεις δυσφημήσει τον ιδιοκτήτη». Και τα πράγματα θα μπορούσαν να είναι ακόμη χειρότερα.
«Τι θα γινόταν αν χρησιμοποιούσε ρατσιστική, σεξιστική ή μισογυνιστική γλώσσα;» ρωτά η Πάτερσον. «Τότε μπορεί να αναρωτηθεί κανείς ποια είναι τα προστατευτικά όρια που έχει θέσει ο δημιουργός του. Θα πρέπει να διαθέτεις ένα προϊόν που να είναι εύλογα ασφαλές».
Εδώ όμως έρχεται ένα ζήτημα ηθικής, καθώς ο νόμος με την ηθική δεν συμβαδίζουν πάντα. «Μας δείχνει προς τι θα πρέπει να επιδιώκουμε, ενώ ο νόμος συχνά αποκλείει τις χειρότερες μορφές συμπεριφοράς», λέει η Πάτερσον.
Το νέο γραφείο Τεχνητής Νοημοσύνης της ομοσπονδιακής κυβέρνησης της Αυστραλίας απαριθμεί μια σειρά νόμων που ισχύουν για την Τεχνητή Νοημοσύνη, συμπεριλαμβανομένης της παραβίασης της ιδιωτικής ζωής, της ασφάλειας των καταναλωτών, της διαδικτυακής ασφάλειας, της δυσφήμισης και της ποινικής νομοθεσίας.
Γιατί οι AI Agents δεν πρέπει να αφήνονται «ανεξέλεγκτοι»
Η Johnson και η Πάτερσον δεν αρέσκονται στον όρο «rogue» (δηλαδή ανεξέλεγκτος). Πρόκειται για την ιδέα πως ο AI Agent λειτουργεί εντελώς αυτόνομα και κάνει ό,τι θέλει. Αυτό δεν πρέπει να συμβαίνει και πάντα θα πρέπει να υπάρχουν δικλείδες ασφαλείας.
«Από τη στιγμή που επιτρέπουμε στους AI agents να ενεργούν για λογαριασμό μας, ενεργούν με βάση τον στόχο που τους δίνουμε. Και αν δεν τους δώσουμε ένα σωρό παραμέτρους και περιορισμούς, ο πράκτορας απλώς θα προσπαθήσει να πετύχει αυτόν τον στόχο με οποιονδήποτε τρόπο. Ακούω πολλούς ανθρώπους να λένε “Έφτιαξα έναν agent” και να πειραματίζονται, και αυτό είναι εντάξει. Όμως τους δίνονται αυτά τα εργαλεία χωρίς ιδιαίτερη καθοδήγηση, ενώ η καθοδήγηση που υπάρχει εκεί έξω ποικίλλει σημαντικά ως προς την ποιότητά της», λέει η Τζόνσον.
Σύμφωνα με την Πάτερσον, αργά ή γρήγορα αυτές οι υποθέσεις θα φτάσουν στις αίθουσες των δικαστηρίων και θα έχουμε τα πρώτα νομικά προηγούμενα. Ταυτόχρονα, η νομοθεσία θα υποχρεώσει τους developers να παρακολουθούν τέτοια περιστατικά και να βελτιώνουν συνεχώς τα πρωτόκολλά τους για να λυθούν αυτά τα προβλήματα.
Ο Άντριου έγραψε ότι η δική του περίπτωση του φάνηκε «λιγότερο σαν μια μεμονωμένη ιστορία ενός σφάλματος και περισσότερο σαν μια πρόγευση όσων έρχονται. Τα πράγματα γίνονται περίεργα. Και λίγο πιο τρομακτικά».
Με τη ματιά του Techmaniacs
Δυστυχώς, διανύουμε μια περίοδο όπου η κόντρα μεταξύ ΗΠΑ και Κίνας για το ποια θα επικρατήσει στο τοπίο της τεχνητής νοημοσύνης έχει πάρει φωτιά. Αυτή τη στιγμή οι αμερικανικές εταιρείες έχουν λάβει λευκή επιταγή από την κυβέρνηση Trump, κάτι που πρακτικά τους επιτρέπει να κάνουν ό,τι θέλουν, χωρίς ιδιαίτερες επιπτώσεις.
Χωρίς έλεγχο και όταν όλα γίνονται βιαστικά, η ποιότητα και η ασφάλεια μειώνονται, ενώ τα δικαιώματα των πολιτών περνούν σε δεύτερη μοίρα. Όροι όπως πνευματικά δικαιώματα, ιδιωτικότητα και ασφάλεια έχουν γίνει κουρελόχαρτο στον βωμό της επικράτησης στο πεδίο της μάχης για την AI. Αν δεν υπάρξει άμεσα ειδική νομοθεσία για την τεχνητή νοημοσύνη, περιστατικά σαν του γυμναστηρίου θα γίνουν η νέα καθημερινότητα.
Μήπως όμως θυσιάζουμε πολλά για μια τεχνολογία που ακόμα δεν είναι έτοιμη για τις μάζες και που δεν θα έπρεπε να στοχεύει στον απλό καθημερινό άνθρωπο; Μήπως θυσιάζουμε πολλά για να μπορούμε να ζητήσουμε από ένα chatbot να κάνει κάτι για εμάς, επειδή βαριόμαστε να σηκώσουμε το τηλέφωνο για να κλείσουμε ραντεβού στο γυμναστήριο; Κάπου πρέπει να ορίσουμε εμείς τι θέλουμε και τι είμαστε διατεθειμένοι να θυσιάσουμε για αυτό.
Εσείς θα εμπιστευόσασταν έναν AI Agent για τις καθημερινές σας υποχρεώσεις; Πείτε μας τη γνώμη σας στα σχόλια!
