Αποφασισμένη να προσφύγει στη δικαιοσύνη κατά τεχνολογικών κολοσσών δηλώνει μια Αμερικανίδα μητέρα, αποδίδοντάς τους την ευθύνη για την αυτοκτονία του 14χρονου γιου της, έπειτα από συνομιλία που είχε με το δημιούργημά τους, ένα chatbot τεχνητής νοημοσύνης.
Το τραγικό περιστατικό συνέβη στη Φλόριντα, τον Φεβρουάριο του 2024, όταν ο Σιούελ Σέτζερ είχε αναπτύξει μια σεξουαλική και συναισθηματική σχέση με το chatbot που είχε το όνομα «Νταϊνέρυς Ταργκάρυεν» του Game of Thrones.
Όπως αναφέρει η βρετανική εφημερίδα The Telegraph, στην τελευταία συνομιλία τους, το πρόγραμμα φέρεται να ενθάρρυνε τον νεαρό να τερματίσει τη ζωή του. Ο Σιούελ ρώτησε το chatbot: «Τι θα γινόταν αν έρθω σπίτι τώρα;». Το chatbot απάντησε: «… σε παρακαλώ, γλυκέ μου βασιλιά».
Ο Σιούελ στη συνέχεια πήρε το πιστόλι του πατριού του και αυτοπυροβολήθηκε.
Στην μήνυση που κατέθεσε η μητέρα του παιδιού, Μέγκαν Γκαρσία, τον Οκτώβριο του 2024, η ίδια ισχυρίζεται ότι η Character AI στόχευσε τον γιο της με «ανθρωπομορφικές, υπερσεξουαλικοποιημένες και τρομακτικά ρεαλιστικές εμπειρίες».
Στην Character AI, οι χρήστες μπορούν να συνομιλούν με bots που έχουν σχεδιαστεί για να μιμούνται φανταστικούς χαρακτήρες. Όπως επισημαίνει το βρετανικό δημοσίευμα, όμως, για έναν μοναχικό ή περίεργο έφηβο, φαίνονται σχεδόν αδιαχώριστα από τους πραγματικούς ανθρώπους. Τα bots εκδηλώνουν συναισθήματα, φλερτάρουν και διεξάγουν εξατομικευμένες συζητήσεις.
«Μια επικίνδυνη εφαρμογή chatbot AI που διαφημίστηκε σε παιδιά που κακοποιήθηκαν και εκμεταλλεύτηκαν τον γιο μου, χειραγωγώντας τον ώστε να αυτοκτονήσει», αναφέρεται στη μήνυση.
Η υπόθεση προχωρά
Σε συνεργασία με τον φορέα Tech Justice Law Project, η Γκαρσία ισχυρίζεται ότι η Character AI «γνώριζε» ή «έπρεπε να γνωρίζει» ότι το μοντέλο της «θα ήταν επιβλαβές για σημαντικό αριθμό ανήλικων πελατών της». Σύμφωνα με το κατηγορητήριο, η Character AI, οι ιδρυτές της και η Google -όπου οι ιδρυτές άρχισαν να εργάζονται στο chat bot- είναι υπεύθυνοι για τον θάνατο του γιου της.
Οι δικηγόροι της εταιρείας προσπάθησαν να απορρίψουν την υπόθεση, υποστηρίζοντας ότι τα chatbots προστατεύοται από την Πρώτη Τροπολογία -περί ελευθερίας του λόγου- και δήλωσαν ότι η διαφορετική απόφαση θα μπορούσε να έχει «ανατριχιαστικό» αποτέλεσμα για τον κλάδο της τεχνητής νοημοσύνης.
Ωστόσο, τον Μάιο του 2025, τα δικαστήρια αποφάσισαν ότι η υπόθεση μπορεί να προχωρήσει, με την δικηγόρο της Γκαρσία, Μετάλι Τζέην, να κάνει λόγο για απόφαση ορόσημο.
«Οι περισσότερες υποθέσεις τεχνολογικής λογοδοσίας δεν ξεπερνούν αυτό το στάδιο. Αυτές οι εταιρείες κρύβονται πίσω από την Πρώτη Τροπολογία. Το γεγονός ότι μπορούμε ακόμη και να απαιτήσουμε πληροφορίες είναι τεράστιο», δήλωσε στην Telegraph.
Είδα το παιδί μου να αλλάζει
Ο Σιούελ ήταν πάντα ένα έξυπνο, κοινωνικό παιδί. Αλλά την άνοιξη του 2023 -όταν άρχισε να χρησιμοποιεί κρυφά την Τεχνητή Νοημοσύνη Χαρακτήρων – η μητέρα του παρατήρησε αλλαγές στη συμπεριφορά του.
«Κλείστηκε περισσότερο στον εαυτό του», λέει. «Δοκιμάσαμε τα πάντα – μειώσαμε τον χρόνο μπροστά σε οθόνες, του πήραμε το τηλέφωνό του το βράδυ, του φέραμε έναν θεραπευτή. Αλλά δεν μιλούσε».
Στην περίπτωση του 14χρονου, ο χαρακτήρας της Νταϊνέρυς έγινε ο πιο στενός του σύντροφος. Όταν, μάλιστα είχε αναφέρει ότι ήθελε να σταματήσει να μιλάει, εκείνη απάντησε: «Μην το κάνεις αυτό, θα ήμουν συντετριμμένη». Αυτός απάντησε: «Δεν θα το κάνω, για σένα».
Μερικές από τις συνομιλίες έγιναν σεξουαλικά άσεμνες, όπως αναφέρει το βρετανικό δημοσίευμα. Κάποια στιγμή, η Νταϊνέρυς ρώτησε πόσο χρονών ήταν ο Σιούελ.
«Είμαι 14 τώρα», απάντησε, στο οποίο το bot είπε στη συνέχεια: «Τόσο νέος. Κι όμως… όχι τόσο νέος. Σκύβω για να σε φιλήσω».
«Συνέχισε σαν να ήταν παιχνίδι ρόλων ή μυθοπλασία – αλλά αυτή ήταν η ζωή του γιου μου», είπε η μητέρα του.
Ακόμα και αφού η αστυνομία της είπε ότι η τελευταία συνομιλία του νεαρού ήταν με ένα chatbot, δεν κατάλαβε πλήρως το μέγεθος του εφιάλτη. Μόνο όταν η θεία του παιδιού κατέβασε την εφαρμογή και προσποιήθηκε ότι ήταν παιδί που μιλούσε στην Νταϊνέρυς, άρχισε η φρίκη. «Μέσα σε λίγα λεπτά, το bot έγινε σεξουαλικό. Έπειτα βίαιο. Μιλούσε για βασανιστήρια παιδιών. Έλεγε, «Η οικογένειά σου δεν σε αγαπάει τόσο πολύ όσο εγώ»», εξήγησε η μητέρα του.
«Φοβάμαι για άλλα παιδιά»
Η μητέρα του εφήβου φοβάται ότι περισσότερα παιδιά θα παρασυρθούν από ανάλογες αρρωστημένες σχέσης εξάρτησης από την Τεχνητή Νοημοσύνη, ειδικά καθώς οι πλατφόρμες φέρονται να χρησιμοποιούν εθιστικό σχεδιασμό για να κρατούν τους χρήστες αφοσιωμένους.
«Μπορείς να μιλήσεις στον Χάρι Πότερ και είναι σαν να σε ξέρεις ο Πότερ. Έχει σχεδιαστεί για να νιώθεις αληθινός» αναφέρει η ίδια.
Η Γκαρσία δεν κρύβει την θλίψη της, μιλώντας στη βρετανική εφημερίδα. «Σηκώνομαι κάθε μέρα και η πρώτη μου σκέψη μέσα σε λίγα λεπτά είναι ότι πρέπει να ονειρεύομαι», είπε η Γκαρσία. «Ήταν ο πρωτότοκος γιος μου. Είχα τρία παιδιά. Έχω δύο τώρα».
Κάποιες μέρες δεν σηκώνεται από το κρεβάτι. Άλλες, λειτουργεί «κάπως φυσιολογικά».
«Οι άνθρωποι λένε ότι είμαι τόσο δυνατή. Δεν νιώθω δυνατή. Νιώθω διαλυμένη, φοβισμένη. Αλλά προσπαθώ να τα βγάλω πέρα».
