Τα AI chatbots έχουν μπει δυναμικά στην καθημερινότητά μας. Γράφουν κείμενα, απαντούν σε ερωτήσεις, βοηθούν στην εργασία και επικοινωνούν με τρόπο που θυμίζει άνθρωπο.
Παρά τον ενθουσιασμό του κοινού, πολλοί ειδικοί στον χώρο της ΑΙ αντιμετωπίζουν αυτά τα συστήματα με σημαντική δόση σκεπτικισμού. Και όχι άδικα.
Όταν η ακρίβεια δεν είναι εγγυημένη
Ένα βασικό πρόβλημα είναι ότι τα chatbots λειτουργούν προβλέποντας λέξεις και μοτίβα, όχι κατανοώντας πραγματικά το περιεχόμενο. Αυτό οδηγεί συχνά σε «παραισθήσεις» απαντήσεις που ακούγονται πειστικές αλλά είναι εντελώς λανθασμένες.
Το πιο ανησυχητικό είναι ότι το σύστημα συχνά δεν γνωρίζει πότε κάνει λάθος, με αποτέλεσμα ο χρήστης να παίρνει ανακριβείς πληροφορίες χωρίς προειδοποίηση.
Οι ειδικοί επισημαίνουν ότι όσο πιο πειστική γίνεται η γλώσσα των μοντέλων, τόσο πιο επικίνδυνες γίνονται οι αστοχίες τους, ειδικά σε θέματα υγείας, νομικών συμβουλών ή οικονομικών συναλλαγών.
Υποστήριξη και εκπαίδευση “από τα αποδυτήρια”
Ένας ακόμη παράγοντας ανησυχίας προέρχεται από όσους εκπαιδεύουν τα συστήματα: τους ανθρώπινους αξιολογητές.
Πολλοί από αυτούς καταγγέλλουν ελλιπή εκπαίδευση, πιεστικά χρονοδιαγράμματα και περιορισμένη υποστήριξη.
Αυτό σημαίνει ότι τα δεδομένα αξιολόγησης που χρησιμοποιούνται για τη βελτίωση των μοντέλων συχνά δεν έχουν την ποιότητα που θα έπρεπε.
Αν το «υλικό» πάνω στο οποίο εκπαιδεύεται ένα chatbot δεν είναι σωστό, τότε και οι απαντήσεις του θα είναι προβληματικές.
Η ασφάλεια και η ηθική στην πρώτη γραμμή
Παράλληλα, η ραγδαία ανάπτυξη της ΑΙ έχει δημιουργήσει ένα κενό στην ηθική και νομική κάλυψη.
Οι ειδικοί φοβούνται ότι η κοινωνία δεν προλαβαίνει να χτίσει τους απαραίτητους μηχανισμούς ελέγχου με τον ίδιο ρυθμό που εξελίσσεται η τεχνολογία.
Θέματα όπως η παραπληροφόρηση, οι μεροληψίες και η προστασία προσωπικών δεδομένων γίνονται ολοένα και πιο επίκαιρα.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
