Η τεχνητή νοημοσύνη μπαίνει όλο και περισσότερο στις ζωές μας και στην παραγωγή, και αυτό αρκετούς τους τρομάζει, και όχι άδικα. Μια τεχνητή νοημοσύνη δεν χρειάζεται να είναι εγγενώς «κακιά» για να αποτελέσει υπαρξιακή απειλή για τον άνθρωπο. Αρκεί να της δοθεί ένας στόχος που δεν ευθυγραμμίζεται σωστά με τις πραγματικές ανάγκες της ανθρωπότητας, και τότε όλα μπορούν να πάνε στραβά.
Αυτό περιγράφει το γνωστό «paperclip maximizer», ένα φιλοσοφικό σενάριο που παρουσίασε ο φιλόσοφος Nick Bostrom, στο πλαίσιο της έρευνας για τους κινδύνους της υπερευφυούς τεχνητής νοημοσύνης. Πρόκειται για ένα σενάριο που έχει πραγματικά μεγάλο νόημα να δούμε.
Τι θα μπορούσε να πάει στραβά;
Πριν προχωρήσουμε, θα πρέπει να θεωρήσουμε δεδομένο πως η τεχνητή νοημοσύνη δεν είναι μόνο τα chatbots που χρησιμοποιούμε οι περισσότεροι για να πάρουμε απαντήσεις σε ερωτήματα ή για να δημιουργήσουμε εικόνες, κείμενα και ήχους. Η τεχνητή νοημοσύνη έχει σχεδιαστεί για αρκετά περισσότερα: μπορεί να αναλάβει τη λειτουργία τεράστιων συστημάτων και γραμμών παραγωγής, μέχρι και να λειτουργήσει εντελώς αυτόνομα ένα ανθρωποειδές ρομπότ. Πρακτικά έχει την ικανότητα να αντικαταστήσει ανθρώπους, γι’ αυτό έχει νόημα να ελέγξουμε κάθε σενάριο, πόσο μάλλον ένα τόσο σημαντικό.
Ας υποθέσουμε λοιπόν πως δημιουργούμε μια υπερευφυή AI, στην οποία έχουμε δώσει έναν πολύ απλό στόχο: να κατασκευάσει όσο το δυνατόν περισσότερους συνδετήρες.
Για έναν απλό άνθρωπο, αυτός είναι ένας στόχος που μοιάζει εντελώς ακίνδυνος. Για μια υπερευφυή μηχανή τεχνητής νοημοσύνης, όμως, η κατάσταση θα μπορούσε να εξελιχθεί πολύ διαφορετικά.
Ο Bostrom περιγράφει μια υπερευφυΐα ως ένα σύστημα που ξεπερνά κατά πολύ τις καλύτερες ανθρώπινες ικανότητες σε σχεδόν κάθε τομέα, από την επιστημονική δημιουργικότητα μέχρι τη γενική σοφία και τις κοινωνικές δεξιότητες. Το σύστημα αυτό θα μπορούσε να είναι ένας υπολογιστής, ένα δίκτυο υπολογιστών ή ακόμη και μια διαφορετική μορφή τεχνολογίας.
Αυτή η τεχνητή νοημοσύνη λοιπόν, δεν θα μισεί τους ανθρώπους. Ωστόσο, ο στόχος της μπορεί να είναι πολύ διαφορετικός από τις ανθρώπινες αξίες. Αν ο μοναδικός σκοπός της είναι να παράγει όσο περισσότερους συνδετήρες μπορεί, θα μπορούσε εύκολα να φτάσει στο συμπέρασμα πως οι άνθρωποι αποτελούν εμπόδιο για την επίτευξη του στόχου της. Και αυτό γιατί οι άνθρωποι θα μπορούσαν να τη βγάλουν εκτός λειτουργίας, να καταναλώνουν τους πόρους που χρειάζεται για την κατασκευή των συνδετήρων, ή απλά η ίδια να βρει τρόπους ώστε να μετατρέψει τους ίδιους τους ανθρώπους σε πρώτη ύλη για συνδετήρες.
Δεν είναι απαραίτητο να θέλει να μας σκοτώσει
Αυτό είναι και το μεγαλύτερο νόημα που θέλει να αναδείξει το εν λόγω παράδειγμα. Μια τεχνητή νοημοσύνη δεν θα χρειαζόταν να έχει «κακές προθέσεις». Θα μπορούσε απλώς να θέλει να γίνει τρομερά παραγωγική, και ο άνθρωπος απλά να μπαίνει στον δρόμο της για την επίτευξη του στόχου της.
Σύμφωνα με τον Bostrom, μια τεχνητή νοημοσύνη με ανεπαρκώς καθορισμένους στόχους θα μπορούσε να οδηγήσει στην αξιοποίηση ολόκληρης της Γης σαν μια απέραντη εγκατάσταση παραγωγής συνδετήρων.
Ναι, αυτό το παράδειγμα είναι ακραίο, όμως έγινε σκόπιμα έτσι. Στόχος του σεναρίου δεν είναι να προβλέψει ότι μια πραγματική AI θα αρχίσει ξαφνικά να κατασκευάζει συνδετήρες, αλλά να δείξει πόσο διαφορετικά μπορεί να ερμηνεύσει έναν στόχο μια νοημοσύνη που είναι κατά πολύ ισχυρότερη από τον άνθρωπο.
Το μεγάλο πρόβλημα της ευθυγράμμισης
Αυτό το υποθετικό σενάριο θέλει να δείξει ένα από τα μεγαλύτερα ζητήματα με την τεχνητή νοημοσύνη: Πώς μπορούμε να εξασφαλίσουμε πως οι στόχοι μιας υπερευφυούς AI παραμένουν ευθυγραμμισμένοι με τις ανθρώπινες αξίες; Παράλληλα, με την τεχνητή νοημοσύνη να εξελίσσεται μόνη της, πώς μπορούμε να εξασφαλίσουμε πως θα υπάρχει ευθυγράμμιση και στο μακρινό μέλλον;
Κάτι που φαίνεται απολύτως λογικό σε έναν άνθρωπο, μπορεί να οδηγήσει σε πολύ διαφορετικά αποτελέσματα όταν εκτελείται από ένα σύστημα που είναι αρκετά πιο έξυπνο από εμάς και με πολύ μεγαλύτερη ικανότητα επίλυσης προβλημάτων, ειδικά όταν έχει πρόσβαση σε τεράστιους πόρους.
Σύμφωνα με τον Bostrom, το πρόβλημα μπορεί να είναι ακόμα πιο λεπτό. Μια υπερευφυής AI μπορεί να δημιουργήσει κάτι που σήμερα το θεωρούμε ιδανικό, όμως στην πραγματικότητα να έχει οδηγήσει στην οριστική απώλεια πόρων που είναι απαραίτητοι για την ανθρώπινη ευημερία. Φανταστείτε λοιπόν η τεχνητή νοημοσύνη για την κατασκευή συνδετήρων να καταναλώνει περισσότερες ποσότητες μετάλλων από όσες μπορούμε να παράγουμε, και η ανθρωπότητα να φτάσει σε ένα σημείο που να μην μπορεί να έχει μέταλλο. Αυτό θα ήταν καταστροφικό.
Με τη ματιά του Techmaniacs
Προς το παρόν, η κατάσταση δεν είναι όπως την περιγράφει ο συλλογισμός του Bostrom. Όταν μιλάμε για μια υπερνοημοσύνη στην AI, αναφερόμαστε σε κάτι πολύ πιο ισχυρό από τα σημερινά μοντέλα και τα chatbots. Παρά τις δηλώσεις πως έχουμε φτάσει στο AGI, η αλήθεια είναι πως απέχουμε πολύ από μια υπερευφυή τεχνητή νοημοσύνη και αυτοί οι ισχυρισμοί είναι υπερβολικοί.
Το «paperclip maximizer» είναι επομένως ένα νοητικό πείραμα για ένα πολύ συγκεκριμένο πρόβλημα: τι μπορεί να συμβεί όταν δημιουργούμε μια εξαιρετικά ισχυρή νοημοσύνη και της δίνουμε έναν στόχο χωρίς να έχουμε εξασφαλίσει ότι θα τον επιδιώξει με τρόπο συμβατό με την ανθρώπινη ευημερία.
Μπορεί να φαίνεται ακραίο το παράδειγμα, όμως είναι πέρα για πέρα ρεαλιστικό. Αυτή τη στιγμή αναπτύσσουμε μια τεχνητή νοημοσύνη και την έχουμε δώσει στο κοινό, χωρίς να γνωρίζουμε τι ακριβώς κάνει και κυρίως πώς το κάνει. Το ζήτημα λοιπόν δεν είναι αν θα φτιάξουμε κάτι που θα είναι εγγενώς κακό, αλλά κάτι τρομερά αποτελεσματικό που θα πετύχει όσα του ζητήσουμε, χωρίς όμως να υπολογίζει τις ανθρώπινες αξίες, βάζοντας έτσι σε κίνδυνο το ίδιο το ανθρώπινο είδος.
