Όσο πιο έξυπνη γίνεται η τεχνητή νοημοσύνη, τόσο πιο δύσκολος θα είναι ο έλεγχός της. Ακριβώς γι’ αυτό προειδοποιεί ο Geoffrey Hinton, ο βραβευμένος με Νόμπελ επιστήμονας, γνωστός και ως πατέρας της AI.
Ο προβληματισμός του; Με τους άκρως εξειδικευμένους και εξελιγμένους AI agents. Πόσο μάλλον μετά τις πρόσφατες περιπτώσεις όπου αυτοί δραπέτευσαν από άκρως ελεγχόμενα περιβάλλοντα δοκιμών.
«Αυτό που συμβαίνει αυτή τη στιγμή είναι ότι οι AI agents γίνονται όλο και πιο εξελιγμένοι», αναφέρει ο ίδιος στο CNN. «Το σίγουρο είναι ότι οι πιο έξυπνοι θα βλέπουμε να έχουν όλο και πιο περίπλοκες προθέσεις. Θεωρώ ότι δεν θα μπορέσουμε να τους διατηρήσουμε για πολύ ακόμη υπό έλεγχο. Με τον πιο απλό τρόπο που υπάρχει αυτή τη στιγμή, με το να τους κάνουμε να μην δραπετεύουν.»
Αξίζει να σημειωθεί ότι μόλις πριν ένα μήνα OpenAI και Anthropic ανακοίνωσαν ότι μοντέλα τεχνητής νοημοσύνης ξέφυγαν από το στενό ελεγχόμενο sandbox περιβάλλον και χάκαραν η μια τα συστήματα της άλλης.
Σύμφωνα με τον ίδιο, τα περιστατικά αυτά είναι άκρως ανησυχητικά και αποτελούν μόνο την αρχή αυτών των εξελίξεων που θα βλέπουμε στη συνέχεια.
«Προβλέπω ότι θα υπάρξουν πολλές σοβαρές κυβερνοεπιθέσεις». «Πρέπει όμως να τονίσω ότι το μέλλον είναι πολύ αβέβαιο. Πολλοί λένε ότι ο αμυνόμενος μπορεί να διαθέτει περισσότερους πόρους από τον επιτιθέμενο. Το πρόβλημα είναι ότι ο επιτιθέμενος χρειάζεται να πετύχει μόνο μία φορά, ενώ ο αμυνόμενος πρέπει να το κάνει κάθε φορά.» καταλήγει.
