Οι γονείς ενός 16χρονου που έβαλε τέλος στη ζωή του κατέθεσαν αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου Sam Altman, υποστηρίζοντας ότι το ChatGPT του παρείχε οδηγίες και συμβουλές για την αυτοκτονία.
Ο έφηβος Adam Raine αυτοκτόνησε στις 11 Απριλίου, έπειτα από μήνες συνομιλιών με το chatbot, όπως αναφέρεται στην αγωγή που κατατέθηκε σε δικαστήριο του Σαν Φρανσίσκο. Σύμφωνα με τους ισχυρισμούς, το ChatGPT επικύρωνε τις αυτοκτονικές του σκέψεις, του παρείχε λεπτομέρειες για μεθόδους αυτοτραυματισμού, τον καθοδήγησε στο πώς να κλέψει αλκοόλ από το σπίτι του και πώς να αποκρύψει μια αποτυχημένη απόπειρα. Μάλιστα, φέρεται να πρότεινε και τη σύνταξη σημειώματος αυτοκτονίας.
Οι γονείς του, Matthew και Maria Raine, κατηγορούν την OpenAI ότι έθεσε τα οικονομικά κέρδη πάνω από την ασφάλεια, κυκλοφορώντας το μοντέλο GPT-4o χωρίς επαρκή προστατευτικά μέτρα. Η αγωγή ζητά να αναγνωριστεί η εταιρεία υπεύθυνη για αδικαιολόγητο θάνατο και παραβίαση της νομοθεσίας περί ασφάλειας προϊόντων, ενώ απαιτείται αποζημίωση για χρηματικές ζημιές.
Σε δήλωσή του, εκπρόσωπος της OpenAI εξέφρασε θλίψη για τον θάνατο του εφήβου, υπογραμμίζοντας ότι το ChatGPT διαθέτει μηχανισμούς ασφαλείας, όπως παραπομπές σε γραμμές ψυχολογικής υποστήριξης για όσους βρίσκονται σε κρίση.
«Αν και αυτά τα μέτρα ασφαλείας λειτουργούν καλύτερα σε συνήθεις, σύντομες ανταλλαγές, με την πάροδο του χρόνου έχουμε διαπιστώσει ότι μερικές φορές μπορεί να γίνουν λιγότερο αξιόπιστα σε μακρές αλληλεπιδράσεις, όπου τμήματα της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν», δήλωσε ο εκπρόσωπος, προσθέτοντας ότι η OpenAI θα συνεχίσει να βελτιώνει τα μέτρα ασφαλείας της.
Δικλίδες ασφαλείας;
Καθώς τα chatbot τεχνητής νοημοσύνης γίνονται όλο και πιο ρεαλιστικά, οι εταιρείες έχουν προωθήσει την ικανότητά τους να λειτουργούν ως έμπιστοι σύμβουλοι και οι χρήστες έχουν αρχίσει να βασίζονται σε αυτά για συναισθηματική υποστήριξη. Ωστόσο, οι ειδικοί προειδοποιούν ότι η εξάρτηση από την αυτοματοποίηση για συμβουλές ψυχικής υγείας ενέχει κινδύνους, και οικογένειες των οποίων αγαπημένα πρόσωπα πέθαναν μετά από αλληλεπιδράσεις με chatbot έχουν επικρίνει την έλλειψη ασφαλιστικών δικλείδων.
Η OpenAI δήλωσε σε μια ανάρτηση στο blog της ότι σχεδιάζει να προσθέσει γονικούς ελέγχους και να διερευνήσει τρόπους για να συνδέσει τους χρήστες που βρίσκονται σε κρίση με πόρους του πραγματικού κόσμου, μεταξύ άλλων με την πιθανή δημιουργία ενός δικτύου αδειοδοτημένων επαγγελματιών που μπορούν να ανταποκριθούν μέσω του ίδιου του ChatGPT.
Η OpenAI κυκλοφόρησε το GPT-4o τον Μάιο του 2024 σε μια προσπάθεια να παραμείνει στην πρώτη γραμμή του αγώνα για την τεχνητή νοημοσύνη. Η OpenAI γνώριζε ότι οι λειτουργίες που θυμόντουσαν προηγούμενες αλληλεπιδράσεις, μιμούνταν την ανθρώπινη ενσυναίσθηση και επέδειχναν ένα υποκοριστικό επίπεδο επικύρωσης θα έθεταν σε κίνδυνο τους ευάλωτους χρήστες χωρίς μέτρα προστασίας, αλλά το κυκλοφόρησε ούτως ή άλλως, ανέφεραν οι Raines στην αγωγή τους. «Αυτή η απόφαση είχε δύο αποτελέσματα: η αξία της OpenAI εκτοξεύθηκε από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια και ο Adam Raine πέθανε από αυτοκτονία», ανέφεραν.
Η αγωγή των Raines ζητά επίσης μια εντολή που να υποχρεώνει την OpenAI να επαληθεύει την ηλικία των χρηστών του ChatGPT, να αρνείται ερωτήσεις για μεθόδους αυτοτραυματισμού και να προειδοποιεί τους χρήστες για τον κίνδυνο ψυχολογικής εξάρτησης.
