Η Τεχνητή Νοημοσύνη εξελίσσεται με ιλιγγιώδη ρυθμό καθώς νέα μοντέλα επιτυγχάνουν συνεχώς πράγματα που οι άνθρωποι δεν περίμεναν να δουν από την ΤΝ τόσο σύντομα. Οι ερευνητές πίσω από ορισμένα από αυτά τα κορυφαία μοντέλα ΤΝ υποδηλώνουν ότι ήδη δυσκολευόμαστε να παρακολουθήσουμε τον τρόπο που σκέφτεται η ΤΝ και ότι χωρίς τα κατάλληλα συστήματα, το πρόβλημα αυτό θα επιδεινωθεί.
Για το λόγο αυτό είναι σημαντικό να εντοπιστούν παράγοντες που μπορούν να επηρεάσουν άμεσα το πόσο ασφαλής είναι η αξιόπιστη χρήση της Τεχνητής Νοημοσύνης. Ο πυρήνας αυτού του προβλήματος, λένε οι ερευνητές, συνδέεται άμεσα με τον τρόπο που σκέφτονται ή συλλογίζονται τα μοντέλα Τεχνητής Νοημοσύνης. Σύμφωνα με μια νέα μελέτη που δημοσιεύτηκε στο arXiv, οι αλυσίδες σκέψεων (COT) αποτελούν έναν βασικό τρόπο για να παρακολουθούμε τον τρόπο με τον οποίο ένα μοντέλο τεχνητής νοημοσύνης προσεγγίζει και στη συνέχεια λύνει ένα πρόβλημα. Ωστόσο, δεν λειτουργούν όλα τα μοντέλα με μια τυπική ρύθμιση COT, καθώς αυτό απαιτεί την ανάλυση των ερωτημάτων σε πιο ενδιάμεσα και λογικά βήματα.
H κατανόηση αυτών των συμπεριφορών και η προώθηση της ασφάλειας της Τεχνητής Νοημοσύνης σε άλλο επίπεδο είναι ένα σημαντικό βήμα για να διασφαλιστεί ότι τα πράγματα δεν θα ξεφύγουν από τον έλεγχο. Σύμφωνα με αυτή τη νέα προδημοσιευμένη μελέτη, η παρακολούθηση της αλυσίδας σκέψεων που χρησιμοποιεί ένα μοντέλο Τεχνητής Νοημοσύνης για την επίλυση ερωτημάτων θα μπορούσε να είναι το κλειδί για τη διασφάλιση της ασφάλειας της Τεχνητής Νοημοσύνης σε όλους τους τομείς. Ωστόσο δεν απαιτούν όλα τα ερωτήματα από το μοντέλο να αναλύσει το ερώτημα σε ενδιάμεσα και λογικά βήματα για να παρέχει μια λύση.
Σε αυτά τα δημοφιλή ροφήματα κρύβονται τα περισσότερα μικροπλαστικά!
Το άλλο πρόβλημα με την παρακολούθηση του COT είναι ότι πολλά μοντέλα δεν παρέχουν αυτές τις πληροφορίες ακόμη και όταν τους δοθεί η σχετική εντολή. Ακόμη οι ερευνητές υποστηρίζουν ότι τα νεότερα μοντέλα ενδέχεται να μην χρειάζονται COT για την ολοκλήρωση ερωτημάτων. Το πιο ανησυχητικό είναι ότι τα μελλοντικά μοντέλα θα μπορούσαν ακόμη και να είναι σε θέση να ανιχνεύσουν ότι το COT τους επιβλέπεται και έτσι να αποκρύψουν την κακή συμπεριφορά από τους παρατηρητές.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
