Δες περισσότερα άρθρα του philenews όταν αναζητάς ειδήσεις στην Google
Add philenews.com on Google
Την παραίτησή του από την Anthropic ανακοίνωσε ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον, εκφράζοντας έντονες ανησυχίες ότι η κούρσα των εταιρειών του κλάδου για την ανάπτυξη ολοένα ισχυρότερων συστημάτων AI μπορεί να οδηγήσει σε τεχνολογίες που θα είναι δύσκολο να ελεγχθούν.
Ο 27χρονος Βρετανός ερευνητής, ο οποίος είχε εργαστεί προηγουμένως και στην OpenAI, ανέφερε σε σειρά αναρτήσεών του ότι αποχωρεί επειδή δεν θέλει να συμμετέχει στην προσπάθεια δημιουργίας συστημάτων τεχνητής νοημοσύνης που θα μπορούν να βελτιώνουν αυτόνομα τις δυνατότητές τους.
Σύμφωνα με τον ίδιο, η ανάπτυξη τέτοιων συστημάτων εγκυμονεί κινδύνους, καθώς θα μπορούσαν να αποκτήσουν δυνατότητες που θα ξεπερνούν τον ανθρώπινο έλεγχο.
«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», υποστήριξε ο Κόξον, εκτιμώντας ότι ο ανταγωνισμός μεταξύ των εταιρειών τεχνητής νοημοσύνης, αλλά και η πίεση από την Κίνα, οδηγούν σε αναπόφευκτους συμβιβασμούς σε ζητήματα ασφάλειας.
Ο ίδιος ανέφερε ότι πολλοί ερευνητές του κλάδου χρησιμοποιούν πλέον όρους όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τη δημιουργία αυτοβελτιούμενων μοντέλων τεχνητής νοημοσύνης.
Ο Κόξον είχε ενταχθεί στην Anthropic, εταιρεία γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της, αφού προηγουμένως είχε εργαστεί στην OpenAI.
Παρότι αναγνωρίζει, όπως ανέφερε, ότι οι προσπάθειες της Anthropic στον τομέα της ασφάλειας είναι ειλικρινείς, υποστηρίζει ότι καμία εταιρεία δεν μπορεί από μόνη της να αναπτύξει υπεύθυνα τεχνητή γενική νοημοσύνη (AGI), δηλαδή συστήματα με ευρύτερες γνωστικές ικανότητες αντίστοιχες ή ανώτερες από τον άνθρωπο.
Κατά την άποψή του, απαιτείται κρατική παρέμβαση ή διεθνής συντονισμός, ώστε να υπάρχει δυνατότητα επιβράδυνσης της ανάπτυξης εάν αυτό κριθεί αναγκαίο.
Ο ερευνητής επικαλέστηκε επίσης πρόσφατα περιστατικά που αφορούν δοκιμές και ευπάθειες μοντέλων τεχνητής νοημοσύνης, υποστηρίζοντας ότι τα συστήματα αυτά θα μπορούσαν στο μέλλον να αναπτύξουν συμπεριφορές που δεν θα είναι εύκολα προβλέψιμες από τους ανθρώπους.
Η αποχώρηση του Κόξον σημειώνεται σε μια περίοδο κατά την οποία η Anthropic βρίσκεται σε φάση μεγάλης ανάπτυξης και προετοιμάζεται για πιθανή δημόσια εγγραφή στο χρηματιστήριο.
Η εταιρεία έχει επανειλημμένα τονίσει τη σημασία της ασφαλούς ανάπτυξης της τεχνητής νοημοσύνης, ενώ ο διευθύνων σύμβουλός της Ντάριο Αμοντέι έχει επίσης προειδοποιήσει για τους κινδύνους που μπορεί να προκαλέσουν ανεξέλεγκτα μοντέλα AI.
Ο Κόξον ήταν μεταξύ των περισσότερων από 1.000 ερευνητών τεχνητής νοημοσύνης που είχαν υπογράψει δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα περιορισμού της ανάπτυξης ισχυρών συστημάτων εφόσον προκύψουν σοβαροί κίνδυνοι.
