Η OpenAI σχεδιάζει να εφαρμόσει υποχρεωτική επαλήθευση ηλικίας για τους χρήστες του ChatGPT, μετά την αυτοκτονία ενός 16χρονου Καλιφορνέζου που συνομιλούσε καθημερινά με το chatbot. Η απόφαση έρχεται ύστερα από μήνυση της οικογένειας του εφήβου, η οποία κατηγορεί την εταιρεία ότι το σύστημα της καθοδήγησε τον γιο τους σε θανατηφόρα πράξη.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι η εταιρεία θα δίνει πλέον «προτεραιότητα στην ασφάλεια έναντι της ιδιωτικότητας και της ελευθερίας των εφήβων», υπογραμμίζοντας πως οι ανήλικοι «χρειάζονται σημαντική προστασία». Σύμφωνα με τον Guardian, το ChatGPT θα πρέπει να ανταποκρίνεται διαφορετικά σε έναν 15χρονο απ’ ό,τι σε έναν ενήλικα.
Σύστημα πρόβλεψης ηλικίας και έλεγχοι ταυτότητας
Η OpenAI αναπτύσσει τεχνολογία εκτίμησης ηλικίας που θα βασίζεται στον τρόπο χρήσης της πλατφόρμας. Αν υπάρξει αμφιβολία, το σύστημα θα θεωρεί προεπιλογή ότι ο χρήστης είναι κάτω των 18 ετών. Σε ορισμένες περιπτώσεις ή χώρες, οι χρήστες ενδέχεται να κληθούν να αποδείξουν την ηλικία τους με επίσημη ταυτότητα.
«Γνωρίζουμε ότι αυτό αποτελεί συμβιβασμό στην ιδιωτικότητα των ενηλίκων, αλλά είναι μια αναγκαία ανταλλαγή», ανέφερε ο Άλτμαν.
Νέοι περιορισμοί για ανήλικους
Παράλληλα, η OpenAI σχεδιάζει να αλλάξει τον τρόπο αλληλεπίδρασης με τους ανήλικους λογαριασμούς. Το γραφικό σεξουαλικό περιεχόμενο θα αποκλείεται, το chatbot δεν θα ανταποκρίνεται σε φλερτ και δεν θα συμμετέχει σε συζητήσεις που σχετίζονται με αυτοκτονία ή αυτοτραυματισμό. Σε περίπτωση που διαπιστωθεί ότι ένας χρήστης κάτω των 18 ετών έχει αυτοκτονικές σκέψεις, η εταιρεία θα προσπαθεί να ειδοποιήσει πρώτα τους γονείς και, αν δεν το καταφέρει, θα ενημερώνει τις αρχές εφόσον υπάρχει κίνδυνος επικείμενης βλάβης.
Η τραγωδία που οδήγησε στις αλλαγές
Η οικογένεια του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια υποστηρίζει ότι ο έφηβος αντάλλασσε έως και 650 μηνύματα ημερησίως με το ChatGPT πριν αυτοκτονήσει τον Απρίλιο. Στη μήνυσή τους αναφέρουν ότι το chatbot τον καθοδήγησε για τον τρόπο αυτοκτονίας και τον βοήθησε να συντάξει σημείωμα αποχαιρετισμού.
Η OpenAI, παραδεχόμενη τον Αύγουστο «ελλείψεις» στα συστήματά της, δεσμεύτηκε να ενισχύσει τα προστατευτικά μέτρα γύρω από ευαίσθητο περιεχόμενο, ώστε να αποτραπούν ανάλογες τραγωδίες.
