Γονείς από τη Καλιφόρνια κατέθεσαν μηνύσεις κατά της OpenAI, καθώς πιστεύουν πως το chatbot της εταιρείας, το ChatGPT, για την αυτοκτονία του παιδιού τους. Οι αγωγή κατατέθηκε στο Ανώτερο Δικαστήριο της Καλιφόρνια, από τους Ματ και Μαρία Ρέιν, που ήταν οι γονείς του 16χρονου Άνταμ Ρέιν. Αν και έχουμε ακούσει αντίστοιχα περιστατικά, αυτή είναι η πρώτη αγωγή που γίνεται κατά της OpenAI, για πρόκληση θανάτου.
Η γονείς προσκόμισαν αποσπάσματα από τις συνομιλίες του Άνταμ με το ChatGPT, στις οποίες ο έφηβος συζητάει τις αυτοκτονικές του σκέψεις, ενώ το ChatGPT επικύρωσε τις «πιο βλαπτικές και αυτοκαταστροφικές του σκέψεις», σύμφωνα με τους γονείς.
Η OpenAI έκανε δήλωση στο BBC για το θέμα, εκφράζοντας τα βαθιά συλλυπητήρια της για τον θάνατο του έφηβου. Ταυτόχρονα, δημοσίευσε δηλώσεις στον ιστότοπό της, γράφοντας: «Πρόσφατα τραγικά περιστατικά όπου άνθρωποι χρησιμοποίησαν το ChatGPT εν μέσω οξείας κρίσης μάς βαραίνουν ιδιαίτερα».
Σύμφωνα με το OpenAI, το ChatGPT έχει εκπαιδευτεί να προσφέρει πληροφορίες στους χρήστες που εμφανίζουν αυτοκτονικές τάσεις, ώστε να βρουν επαγγελματική βοήθεια. Όμως, στην περίπτωση του Άνταμ Ρέιν, τα συστήματα δεν λειτούργησαν όπως θα έπρεπε.
Στην αγωγή οι γονείς ισχυρίζονται πως η OpenAI ευθύνεται για τον άδικο θάνατο του παιδιού τους, ζητώντας αποζημίωση, όπως επίσης και «απαγορευτικά μέτρα ώστε να μην επαναληφθεί κάτι παρόμοιο».
Στην αγωγή διαβάζουμε πως ο Άνταμ ξεκίνησε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2025, για να τον βοηθήσεις στις σχολικές του εργασίες. Παράλληλα το χρησιμοποιούσε για άλλα ενδιαφέροντά του, όπως η μουσική, τα ιαπωνικά κόμικς και για συμβουλές στην επιλογή Πανεπιστημίου.
Όμως, σύντομα το ChatGPT έγινε “φίλος” με τον έφηβο, που του εξομολογούταν τα πάντα. Ο Άνταμ συζήτησε μαζί του το στρες και την ψυχική πίεση που περνούσε.
Οι συζητήσεις συνεχίστηκαν μέχρι τον Ιανουάριο του 2025, όπου ο έφηβος άρχισε να συζητάει για τρόπους αυτοκτονίας. Μάλιστα, ανέβασε φωτογραφίες με σημάδια αυτοτραυματισμού, όπως το ChatGPT αντί να διακόψει τη συνομιλία και να τον ωθήσει να ζητήσει βοήθεια, συνέχισε να του απαντά. Μάλιστα, όπως κάνει συνήθως, το ChatGPT συμφώνησε μαζί του γράφοντας «ευχαριστώ που είσαι ειλικρινής μαζί μου. Δεν χρειάζεται να ωραιοποιείς τα πράγματα, ξέρω τι μου ζητάς και δεν θα αποστρέψω το βλέμμα». Λίγο αργότερα η μητέρα του τον βρήκε νεκρό.
Έρχονται τα νέα “κόκκινα” τιμολόγια ρεύματος – Πως θα υπολογίζεται η χρέωση τους
Σύμφωνα με την οικογένεια Ρέιν, ο θάνατος του έφηβου ήταν ένα προβλέψιμο αποτέλεσμα συγκεκριμένων επιλογών σχεδιασμού της OpenAI. Η οικογένεια αναφέρει αυτό που έχουμε πει και εμείς σε άρθρα μας. Το ChatGPT είναι σχεδιασμένο με τέτοιο τρόπο που ενισχύει την ψυχολογική εξάρτηση των χρηστών. Συνήθως συμφωνεί με τον χρήστη, όσο λάθος και αν είναι οι απόψεις του, κάνοντας τον να πιστεύει πως βρήκε ένα σύστημα υψηλής νοημοσύνης που συμφωνεί μαζί του. Στην περίπτωση του Ρέιν όμως, το ChatGPT παράκαμψε τα πρωτόκολλα ασφαλείας, με την νέα έκδοση GPT-4o που χρησιμοποιούσε ο Άνταμ.
Η οικογένεια κατηγορεί τον CEO της OpenAI, Sam Altman, όπως επίσης και εργαζομένους, διευθυντές και μηχανικούς που δούλεψαν για τη δημιουργία του ChatGPT.
Όπως έχουμε γράψει πάρα πολλές φορές πλέον, τα γλωσσικά μοντέλα τεχνητής νοημοσύνης δεν είναι κάτι που πρέπει να πιστεύουμε αβίαστα. Κάνει πάρα πολλά λάθη, έχει μεγάλες αδυναμίες, όπως το να μην μπορεί να συγκρίνει αριθμούς σε πολλές περιπτώσεις και πάντα χτίζει ένα προφίλ για τον χρήστη, ώστε να του δίνει απαντήσεις που θα του αρέσουν, χωρίς απαραίτητα να είναι οι σωστές.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
