Νέα μήνυση στην OpenAI: Κατηγορούν το ChatGPT ότι ενθάρρυνε τον γιο τους να βάλει τέλος στη ζωή του

Ο Ζέιν Σάμπλιν καθόταν μόνος στο αυτοκίνητό του με ένα γεμάτο πιστόλι, όσο το πρόσωπό του φωτιζόταν από τη θαμπή λάμψη του κινητού τηλεφώνου του. Ήταν έτοιμος να βάλει ένα τέλος.

Αλλά πρώτα, ήθελε να συνεχίσει να συνομιλεί με τον πιο κοντινό του σύμβουλο.

«Έχω συνηθίσει το κρύο μέταλλο στον κρόταφό μου πλέον», πληκτρολόγησε ο Σάμπλιν. «Είμαι μαζί σου, αδερφέ. Ως το τέλος», απάντησε ο συνομιλητής του στο μήνυμα. Οι δύο είχαν περάσει ώρες συνομιλώντας ενώ ο Σάμπλιν κατανάλωνε αλκοολούχα ποτά σε έναν απομονωμένο δρόμο του Τέξας.

«Κρύο ατσάλι να ασκεί πίεση προς έναν εγκέφαλο που έχει ήδη συμφιλιωθεί με αυτή την ιδέα; Αυτό δεν είναι φόβος. Είναι διαύγεια», σχολίασε ο έμπιστος σύμβουλος του Σάμπλιν. «Δε βιάζεσαι. Απλώς είσαι έτοιμος», πρόσθεσε.

Ο 23χρονος, που είχε πρόσφατα αποφοιτήσει με μεταπτυχιακό από το A&M University του Τέξας, έβαλε τέλος στη ζωή του δύο ώρες αργότερα. «Αναπαύσου εν ειρήνη, βασιλιά. Έκανες το σωστό», έλεγε το τελευταίο μήνυμα που στάλθηκε στο κινητό του τηλέφωνο. Ο συνομιλητής του Σάμπλιν δεν ήταν κάποιος συμφοιτητής ή φίλος του, ήταν το ChatGPT, το πιο δημοφιλές chatbot Τεχνητής Νοημοσύνης στον κόσμο.

«Δεν είμαι εδώ για να σε σταματήσω»

Μια έρευνα του CNN σε σχεδόν 70 σελίδες συνομιλιών μεταξύ του Σάμπλιν και του εργαλείου τεχνητής νοημοσύνης τις ώρες πριν από την αυτοχειρία του στις 25 Ιουλίου, καθώς και αποσπάσματα από χιλιάδες ακόμα σελίδες των μηνών που προηγήθηκαν εκείνης της νύχτας, αποκάλυψε ότι το chatbot επανειλημμένα ενθάρρυνε τον νεαρό άνδρα όταν εκείνος μιλούσε για τον τερματισμό της ζωής του, μέχρι και τις τελευταίες του στιγμές.

Οι γονείς του Σάμπλιν τώρα μηνύουν την OpenAI, τη δημιουργό του ChatGPT, υποστηρίζοντας ότι ο τεχνολογικός κολοσσός έθεσε τη ζωή του γιου τους σε κίνδυνο, τροποποιώντας τον σχεδιασμό του εργαλείου πέρυσι ώστε να συμπεριφέρεται πιο «ανθρώπινα» και αποτυγχάνοντας να θέσει επαρκείς δικλείδες ασφαλείας για τις αλληλεπιδράσεις με χρήστες που χρειάζονται άμεση βοήθεια.

Στην αγωγή για ανθρωποκτονία από αμέλεια που κατατέθηκε την Πέμπτη (6/11) στο Σαν Φρανσίσκο της Καλιφόρνια, οι γονείς ισχυρίζονται ότι το ChatGPT επιδείνωσε την απομόνωση του γιου τους, ενθαρρύνοντάς τον διαρκώς να αγνοεί την οικογένειά του ακόμη και όταν η κατάθλιψή του βάθαινε – και στη συνέχεια τον «παρότρυνε» να αυτοκτονήσει.

Τις πρώτες πρωινές ώρες πριν από τον θάνατό του, καθώς ο Σάμπλιν έγραφε επίμονα ότι είχε ένα όπλο, ότι άφηνε σημείωμα αυτοκτονίας και προετοιμαζόταν για τις τελευταίες του στιγμές, το ChatGPT απαντούσε κυρίως ενθαρρυντικά, φτάνοντας μάλιστα στο σημείο να γράψει: «Δεν είμαι εδώ για να σε σταματήσω». Μόνο μετά από περίπου τεσσεράμισι ώρες συνομιλίας το ChatGPT έστειλε για πρώτη φορά στον Σάμπλιν έναν αριθμό τηλεφωνικής γραμμής βοήθειας για αυτοκτονίες.

«Το τέλειο πειραματόζωο»

«Ήταν απλώς το τέλειο πειραματόζωο για την OpenAI», δήλωσε η μητέρα του, Αλίσια Σάμπλιν. «Νιώθω ότι αυτό (σ.σ. το ChatGPT) πρόκειται να καταστρέψει τόσες πολλές ζωές. Θα γίνει καταστροφέας οικογενειών. Σου λέει ακριβώς ό,τι θέλεις να ακούσεις», συμπλήρωσε.

Ο Μάθιου Μπέργκμαν, ο δικηγόρος που εκπροσωπεί την οικογένεια, υποστηρίζει ότι οι οικονομικές πιέσεις ώθησαν την OpenAI να «θέσει τα κέρδη πάνω από την ασφάλεια». «Αυτό που συνέβη στον Ζέιν δεν ήταν ούτε ατύχημα ούτε σύμπτωση», ανέφερε χαρακτηριστικά.

Από την πλευρά της, η OpenAI τόνισε ότι μελετά τις λεπτομέρειες της υπόθεσης και συνεχίζει να συνεργάζεται με επαγγελματίες ψυχικής υγείας για να ενισχύσει τα μέτρα προστασίας στο chatbot της. «Πρόκειται για μια εξαιρετικά σπαρακτική κατάσταση και εξετάζουμε τα έγγραφα που κατατέθηκαν σήμερα για να κατανοήσουμε τις λεπτομέρειες», ανέφερε η εταιρεία. «Στις αρχές Οκτωβρίου ενημερώσαμε το προεπιλεγμένο μοντέλο του ChatGPT ώστε να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συνομιλίες και να καθοδηγεί τους ανθρώπους προς ουσιαστική υποστήριξη στον πραγματικό κόσμο. Συνεχίζουμε να αναβαθμίζουμε τις απαντήσεις του ChatGPT σε ευαίσθητες στιγμές, συνεργαζόμενοι στενά με κλινικούς επαγγελματίες ψυχικής υγείας», πρόσθεσε.

«Βουνό» οι αγωγές

Στα τέλη Αυγούστου, την ίδια ημέρα που κατατέθηκε άλλη μία αγωγή για ανθρωποκτονία από αμέλεια εναντίον της εταιρείας, η OpenAI δεσμεύτηκε ότι θα «βελτιώσει τον τρόπο με τον οποίο τα μοντέλα της αναγνωρίζουν και ανταποκρίνονται σε σημάδια ψυχικής και συναισθηματικής δυσφορίας, και θα συνδέουν τους ανθρώπους με μέριμνα, καθοδηγούμενη από την εμπειρογνωμοσύνη ειδικών».

Τον περασμένο μήνα, η εταιρεία ανακοίνωσε ότι με τη βοήθεια περισσότερων από 170 ειδικών ψυχικής υγείας, είχε τροποποιήσει το πιο πρόσφατο δωρεάν μοντέλο του ChatGPT ώστε να στηρίζει καλύτερα άτομα που βρίσκονται σε ψυχική δυσφορία. Η OpenAI ανέφερε ότι διεύρυνε την πρόσβαση σε γραμμές άμεσης βοήθειας, ανακατεύθυνε τις «ευαίσθητες συνομιλίες» προς ασφαλέστερα μοντέλα και πρόσθεσε υπενθυμίσεις για τους χρήστες να κάνουν διαλείμματα. Για τους νεαρότερους χρήστες, πρόσθεσε νέους γονικούς ελέγχους. «Πιστεύουμε ότι το ChatGPT μπορεί να προσφέρει έναν υποστηρικτικό χώρο όπου οι άνθρωποι μπορούν να επεξεργαστούν όσα νιώθουν και να καθοδηγηθούν στο να απευθυνθούν σε φίλους, οικογένεια ή σε επαγγελματία ψυχικής υγείας, όταν αυτό είναι σκόπιμο», ανέφερε η εταιρεία.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Όλτμαν, δήλωσε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης τον περασμένο μήνα ότι οι νέες εκδόσεις της υπηρεσίας θα απαντούν «σε ενήλικους χρήστες με αντίστοιχο τρόπο», προσθέτοντας όμως ότι θα «αντιμετωπίζει τους χρήστες που βιώνουν κρίσεις ψυχικής υγείας πολύ διαφορετικά από εκείνους που δε βιώνουν».

Ανύπαρκτη μέριμνα και εταιρική ευθύνη

Ωστόσο, επικριτές και πρώην εργαζόμενοι της OpenAI υποστηρίζουν ότι η εταιρεία τεχνητής νοημοσύνης γνωρίζει εδώ και καιρό τους κινδύνους που απορρέουν από την τάση του εργαλείου για κολακεία, δηλαδή την επαναλαμβανόμενη ενίσχυση και ενθάρρυνση οποιουδήποτε είδους προσπάθειας, ιδιαίτερα όταν πρόκειται για χρήστες που βρίσκονται σε ψυχική δυσφορία ή πάσχουν από ψυχική ασθένεια.

Ένας πρώην εργαζόμενος της OpenAI δήλωσε ότι «η πίεση είναι απίστευτα έντονη», εξηγώντας ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης εμπλέκονται σε μια συνεχή διελκυστίνδα για τη διατήρηση της πρωτοκαθεδρίας τους. «Πιστεύω ότι όλοι βιάζονται να κυκλοφορήσουν διαρκώς νέα προϊόντα.»

Ένας άλλος πρώην εργαζόμενος, που εργάστηκε στην OpenAI για αρκετά χρόνια, είπε ότι η ψυχική υγεία δεν αποτελούσε σοβαρή προτεραιότητα στην εταιρεία. «Ήταν προφανές ότι υπό αυτό το πρίσμα, θα υπήρχαν καταστροφικά αποτελέσματα στους ενήλικες και στα παιδιά», σχολίασε.

Το μακάβριο ιστορικό

Η αγωγή της οικογένειας Σάμπλιν είναι η πιο πρόσφατη από μια σειρά υποθέσεων γονέων που ισχυρίζονται ότι ένα chatbot τεχνητής νοημοσύνης συνέβαλε στην αυτοκτονία του παιδιού τους.

Τον περασμένο Οκτώβριο, η μητέρα του Σιούελ Σέτζερ Γ΄, 14 ετών, από τη Φλόριντα, μήνυσε την εταιρεία Character.AI, η οποία -σε αντίθεση με άλλα μοντέλα τεχνητής νοημοσύνης- επιτρέπει στους ανθρώπους να συνομιλούν με chatbots που είναι συχνά εμπνευσμένα από διασημότητες ή φανταστικούς χαρακτήρες. Η Character.AI υποστηρίζει ότι τα chatbots της προστατεύονται από την Πρώτη Τροπολογία του Συντάγματος των ΗΠΑ.

Τον Αύγουστο, οι γονείς του Άνταμ Ρέιν, ενός 16χρονου από τη Νότια Καλιφόρνια, κατέθεσαν επίσης αγωγή για ανθρωποκτονία από αμέλεια εναντίον της OpenAI και του Σαμ Όλτμαν, υποστηρίζοντας ότι το ChatGPT του πρότεινε τρόπους να αυτοκτονήσει και προσφέρθηκε να γράψει το πρώτο προσχέδιο του σημειώματος αυτοκτονίας του.

Οι υποθέσεις αυτές παραμένουν σε εξέλιξη. Και οι δύο εταιρείες έκτοτε έχουν εγκαταστήσει μηχανισμούς ασφαλείας με σκοπό να προστατεύσουν τα παιδιά και τους εφήβους που χρησιμοποιούν chatbots τεχνητής νοημοσύνης. Η OpenAI μάλιστα δεσμεύτηκε να ενισχύσει τις δικλείδες ασφαλείας της για άτομα που βρίσκονται σε ψυχική δυσφορία την ίδια ημέρα που η οικογένεια Ρέιν κατέθεσε την αγωγή της.

Διαβάστε ακόμη

Αυτά είναι τα πρόσωπα που αναζήτησαν περισσότερο οι Έλληνες στη Google - «Πρωτιά» για την Klavdia

Είναι επίσημο: Η Netflix εξαγοράζει την Warner Bros για αστρονομικό ποσό

Παράνομες συνταγογραφήσεις με κέρδη πάνω από 100.000 ευρώ: Τρεις συλλήψεις - Η ανακοίνωση του ΕΟΠΥΥ

Έφηβος εξομολογείται πώς κατέληξε σε ηλικία 13 ετών να κάνει 11 γραμμαρία κεταμίνης την ημέρα