Η OpenAI διέλυσε την «ομάδα υπερευθυγράμμισης», που ήταν υπεύθυνη να αποτρέψει την τεχνητή νοημοσύνη από το να αποκτήσει υπαρξιακά και να ξεκινήσει να βλάπτει τον άνθρωπο. Η διάλυση έρχεται μόλις ένα χρόνο μετά την δημιουργία της και τα νέα κυκλοφόρησαν αρχικά στο Wired. Λίγο μετά ήρθε και η ανάρτηση στο Χ από τον επικεφαλής της ομάδας, Jan Leike. O Leike έγραψε στον λογαριασμό του “Παραιτήθηκα σήμερα”, στις 15 Μαΐου.
«Έγινα μέλος γιατί πίστευα ότι το OpenAI θα ήταν το καλύτερο μέρος στον κόσμο για να κάνω αυτή την έρευνα», έγραψε ο Leike στο X λίγες μέρες μετά. «Ωστόσο, διαφωνώ με την ηγεσία του OpenAI σχετικά με τις βασικές προτεραιότητες της εταιρείας εδώ και αρκετό καιρό, μέχρι που τελικά φτάσαμε σε ένα οριακό σημείο».
Η OpenAI είχε δημιουργήσει την εν λόγω ομάδα, τον Ιούλιο του 2023. Σε μια συνοδευτική ανάρτηση στον ιστότοπου της, η εταιρεία ισχυρίστηκε ότι η υπερέξυπνη τεχνητή νοημοσύνη «θα είναι η πιο επιδραστική τεχνολογία που έχει εφεύρει ποτέ η ανθρωπότητα και θα μπορούσε να μας βοηθήσει να λύσουμε πολλά από τα πιο σημαντικά προβλήματα του κόσμου. Αλλά η τεράστια δύναμη της υπερνοημοσύνης θα μπορούσε επίσης να είναι πολύ επικίνδυνη και θα μπορούσε να οδηγήσει στην αποδυνάμωση της ανθρωπότητας ή ακόμα και στην ανθρώπινη εξαφάνιση».
Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.
— Jan Leike (@janleike) May 17, 2024
«Η διαχείριση αυτών των κινδύνων θα απαιτήσει, μεταξύ άλλων, νέους θεσμούς για τη διακυβέρνηση και την επίλυση του προβλήματος της ευθυγράμμισης της υπερευφυΐας», συνέχισε η εταιρεία, ανακοινώνοντας παράλληλα τον Leike και τον επικεφαλής επιστήμονα και συνιδρυτή του OpenAI Ilya Sutskever ως συνεπικεφαλής της ομάδας υπερευθυγράμμισης. Ο Sutskever έχει επίσης αποχωρήσει από το OpenAI για παρόμοιες ανησυχίες, ενώ τα υπόλοιπα μέλη της ομάδας φέρεται να έχουν απορροφηθεί από άλλες ερευνητικές ομάδες.
Τα κορυφαία στελέχη της ομάδας, συμπεριλαμβανομένου και του CEO, Sam Altman, έχουν προειδοποιήσει επανειλημμένως για τους κινδύνους της Rogue AI (κακής τεχνητής νοημοσύνης). Βέβαια τώρα είναι τα ίδια άτομα που άφησαν την ομάδα καταπολέμησηςκακών συμπεριφορών της τεχνητής νοημοσύνης, να σβήσει. Την ίδια στιγμή οι ίδιες εταιρίες παραγωγής τεχνητής νοημοσύνης, όπως η Google και η OpenAI, παρουσιάζουν τους εαυτούς τους σαν ειδικούς για να αντιμετωπίσουν ζητήματα με κακή συμπεριφορά που θα προκύψουν, ενώ ασκούν πιέσεις για να είναι αυτοί που θα υπαγορεύσουν τους κανονισμούς για το μέλλον του κλάδου.
Μέχρι στιγμής οι ακριβείς λεπτομέρειες πίσω από την αποχώρηση του Leike και την διάλυση της ομάδας του, παραμένουν ασαφείς. Τελευταία όμως έχουμε δει πολλές ενδοεταιρικές διαμάχες για την εξουσία, που δείχνουν πως υπάρχουν διαφορετικές απόψεις σχετικά με το πως πρέπει να κινηθούν. Όταν γίνονται όμως τέτοιου είδους υποχωρήσεις σε κάτι που θα κρίνει το μέλλον της ανθρωπότητας, δείχνει πως τα πράγματα δεν είναι σε καλό δρόμο. Η τεχνητή νοημοσύνη είναι πραγματικότητα και με γρήγορα βήματα μπαίνει σχεδόν σε όλους τους τομείς της ζωής μας, ακόμα και αν απέχει πολύ από το να είναι ασφαλής και έτοιμη για κάτι τέτοιο. Είναι η διαμάχη μεταξύ ΗΠΑ, Κίνας και Ρωσίας που πιέζει τις αμερικάνικες εταιρίες να κάνουμε άλματα ανάπτυξης, χωρίς όμως να παρέχουν ασφάλεια για την ανθρωπότητα. Αρκετοί, όπως ο Leike, φαίνονται πεπεισμένοι ότι η τεχνητή νοημοσύνη μπορεί σύντομα να αποτελέσει τρομερή απειλή για την ανθρωπότητα και ότι εταιρείες όπως η OpenAI δεν το λαμβάνουν αρκετά σοβαρά.
Θα χρειαστούμε παγκόσμιο βασικό εισόδημα λέει ο νονός της τεχνητής νοημοσύνης
Αν και στην αρχή της, έχουμε δει την τεχνητή νοημοσύνη να μπαίνει σε οπλικά συστήματα και να μετατρέπεται σε απατεώνα που έχει σκοπό να μας ξεγελάσει. Έχει γίνει μάστορας στη διασπορά ψευδών ειδήσεων προκειμένου να πετύχει τους στόχους της και την ίδια στιγμή απειλεί τα εργασιακά δικαιώματα των ανθρώπων. Καθώς οι εταιρείες συνεχίζουν να ωθούν τα εκκολαπτόμενα συστήματα τεχνητής νοημοσύνης σε αναζητήσεις ιστού, μέσα κοινωνικής δικτύωσης και δημοσιεύσεις ειδήσεων, η κοινωνία μένει να αντιμετωπίσει τις συνέπειες.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
