Η Microsoft σε σημαντική προειδοποίηση που εξέδωσε, δείχνει με τον καλύτερο τρόπο την παράνοια που επικρατεί στις εταιρείες με την τεχνητή νοημοσύνη. Με την τελευταία προειδοποίηση είναι σα να παραδέχεται πως τα συστήματα τεχνητής νοημοσύνης δεν είναι έτοιμα να προσφέρουν ασφάλεια στον χρήστη και εμείς θα συμπληρώσουμε πως δεν είναι έτοιμα γενικότερα, άσχετα αν οι εταιρείες στην προσπάθειά τους να κερδίσουν την μάχη για την επικράτηση στον κλάδο, την ενσωματώνουν κυριολεκτικά παντού.
Σε ένα έγγραφο υποστήριξης, η Microsoft προειδοποιεί τους χρήστες πως θα πρέπει να «ενεργοποιήσουν αυτήν τη λειτουργία, που μετατρέπει το λειτουργικό σε Agentic OS, μόνο εάν κατανοούν τις επιπτώσεις στην ασφάλεια» και επιβεβαίωσε ότι λόγω των πιθανών κινδύνων, θα είναι απενεργοποιημένη από προεπιλογή.
Την ίδια στιγμή η Microsoft διαφημίζει εδώ και καιρό πως τα Windows 11 θα εξελιχθούν σε ένα Agentic OS, δηλαδή ένα λειτουργικό που θα λειτουργεί μέσω ενός AI Agent, δηλαδή ένα chatbot. Φυσικά οι χρήστες έχουν απογοητευτεί και τελευταία εξέφρασαν αυτή τους τη δυσαρέσκεια σε ανάρτηση του διευθυντή των Windows, στο X. Η εταιρεία όμως δεν κοιτάει τι θέλουν οι χρήστες και συνεχίζει αυτό που θέλει εκείνη, ξεκινώντας το λανσάρισμα των πρώτων δυνατοτήτων τύπου agents, στο λειτουργικό της.
Σύμφωνα με την Microsoft οι νέες δυνατότητες μπορούν να ενεργοποιηθούν μόνο από χρήστες με δικαιώματα διαχειριστή στον υπολογιστή. Όμως μόλις τις ενεργοποιήσει ένας χρήστης, ενεργοποιούνται για όλους τους άλλους χρήστες και διαχειριστές του υπολογιστή. Όταν ενεργοποιείται, δημιουργούνται αυτόματα τοπικοί λογαριασμού χρηστών, για διαφορετικούς Agents τεχνητής νοημοσύνης, οι οποίοι όμως θα έχουν πρόσβαση στον προσωπικό φάκελο του χρήστη και σε όλα τα αρχεία του.
Οι agents θα έχουν τους δικούς τους λογαριασμούς μέσα στο λειτουργικό, με περιορισμένη πρόσβαση στα προφίλ των χρηστών. Όμως, όταν απαιτείται, θα αποκτούν πρόσβαση εγγραφής και ανάγνωσης στα user profiles, σε φακέλους όπως Documents, Downloads και Desktop. Κοινώς, θα έχει πρόσβαση στα περισσότερα αρχεία του χρήστη. Με αυτό τον τρόπο, θα μπορούν να ολοκληρώνουν τις εργασίες που τους έχουμε αναθέσει. Μπορεί να λειτουργούν στο δικό τους περιβάλλον εργασίας, όμως θα έχουν πρόσβαση στις εφαρμογές και τα αρχεία μας.
Η Honor δείχνει το Honor Robot Phone πριν την ανακοίνωση και τα σπάει!
Ως εκ τούτου, η εταιρεία προειδοποιεί ότι αυτές οι δυνατότητες των πρακτόρων δεν είναι χωρίς κινδύνους. «Οι εφαρμογές τεχνητής νοημοσύνης εισάγουν νέους κινδύνους ασφαλείας, όπως το cross-prompt injection (XPIA), όπου κακόβουλο περιεχόμενο ενσωματωμένο σε στοιχεία ή έγγραφα του UI μπορεί να παρακάμψει τις οδηγίες των πρακτόρων, οδηγώντας σε ακούσιες ενέργειες όπως η εξαγωγή δεδομένων ή η εγκατάσταση κακόβουλου λογισμικού».
Η Microsoft λέει πως έχει σχεδιάσει έτσι τις λειτουργίες, ώστε να απαιτείται η καταγραφή όλων των αποφάσεων των Agents τεχνητής νοημοσύνης. Οι ενέργειές της θα είναι πάντα παρατηρήσιμες από τον χρήστη, που θα πρέπει να δώσει έγκριση.
Οι επιθέσεις cross-prompt injection είναι γνωστές ήδη από το διαδίκτυο. Όταν όμως υπάρχει η δυνατότητα να συμβούν στο ίδιο το λειτουργικό, τότε τα πράγματα είναι πιο τραγικά. Με αυτό τον τρόπο, αν ο χρήστης ανοίξει ένα αρχείο εικόνας ή ένα PDF, που περιέχει κρυμμένες εντολές, θα μπορούσε να κάνει τον Agent να προχωρήσει σε ανεπιθύμητες ενέργειες, πόσο μάλλον όταν έχει πρόσβαση σε όλα τα μας τα αρχεία. Θα μπορεί να παραχωρήσει την πρόσβαση στα δεδομένα μας και να εγκαταστήσει malwares, χωρίς την συναίνεση του χρήστη.
Οι νέες λειτουργίες δεν είναι ενεργοποιημένες από προεπιλογή μέχρι στιγμής, καθώς ακόμα θεωρούνται σε κατάσταση beta. Όμως κάποια στιγμή θα τις δούμε να ελέγχουν πλήρως το λειτουργικό και αυτό είναι κάπως δυστοπικό. Το να μην έχουμε τον απόλυτο έλεγχο των συσκευών που έχουμε όλα μας τα δεδομένα και τα αρχεία μας, είναι τρομακτικό, δε νομίζετε;
