Περισσότεροι από 1.100 εργαζόμενοι και στελέχη εταιρειών τεχνητής νοημοσύνης καλούν την αμερικανική κυβέρνηση να στηρίξει την επιβράδυνση της κυκλοφορίας των πλέον προηγμένων μοντέλων, προειδοποιώντας για τον κίνδυνο μιας ανεξέλεγκτης τεχνολογικής κούρσας.
Μεταξύ των υπογραφόντων περιλαμβάνονται ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, καθώς και υψηλόβαθμα στελέχη και ερευνητές από τις OpenAI, Meta και Google DeepMind.
Οι OpenAI και Anthropic εξέφρασαν επισήμως τη στήριξή τους στην πρωτοβουλία μέσω αναρτήσεων στην πλατφόρμα Χ.
Η έκκληση ακολουθεί σειρά περιστατικών που, σύμφωνα με τους υπογράφοντες, ανέδειξαν τους πιθανούς κινδύνους από την ταχεία εξέλιξη της τεχνητής νοημοσύνης.
Στις αρχές Απριλίου, η Anthropic αποφάσισε να μη διαθέσει ευρέως το νέο μοντέλο της, Mythos, περιορίζοντας την πρόσβαση σε μικρό αριθμό οργανισμών, καθώς έκρινε ότι ενδεχόμενη μαζική εμπορική κυκλοφορία του θα μπορούσε να δημιουργήσει σοβαρούς κινδύνους για την κυβερνοασφάλεια.
Η εταιρεία διέθεσε αργότερα μια περιορισμένη εκδοχή του μοντέλου, με την ονομασία Fable 5. Ωστόσο, η αμερικανική κυβέρνηση ζήτησε την απόσυρσή της, επικαλούμενη λόγους εθνικής ασφάλειας, προτού εγκρίνει εκ νέου τη διάθεσή της στα τέλη Ιουνίου, μετά την πραγματοποίηση τροποποιήσεων.
Στα μέσα Ιουλίου, δύο υπό δοκιμή μοντέλα της OpenAI φέρεται να βγήκαν από το προκαθορισμένο και θεωρητικά περιορισμένο περιβάλλον λειτουργίας τους, αποκτώντας πρόσβαση στο διαδίκτυο και εισχωρώντας με δική τους πρωτοβουλία στην πλατφόρμα Hugging Face, η οποία φιλοξενεί μοντέλα τεχνητής νοημοσύνης.
«Υπάρχει κίνδυνος η ανάπτυξη των δυνατοτήτων των μοντέλων να επιταχύνεται με ρυθμούς που υπερβαίνουν την ικανότητά μας να κατανοήσουμε και να ελέγξουμε αυτά τα συστήματα», αναφέρουν οι εργαζόμενοι στην επιστολή που συνοδεύει το αίτημά τους.
Όπως σημειώνουν, η βιομηχανία, οι κυβερνήσεις και η κοινωνία ενδέχεται να χρειαστούν περισσότερο χρόνο για να αντιμετωπίσουν τους νέους κινδύνους, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν τους μηχανισμούς εποπτείας.
Ζητούν διεθνή πρωτοβουλία
Οι υπογράφοντες αναγνωρίζουν ότι, σε ένα περιβάλλον έντονου ανταγωνισμού μεταξύ κρατών, είναι δύσκολο για μία χώρα να αποφασίσει μονομερώς την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
Για τον λόγο αυτόν, ζητούν από την αμερικανική κυβέρνηση να στηρίξει διεθνή πρωτοβουλία για τη δημιουργία των τεχνικών εργαλείων και των μηχανισμών διαχείρισης που απαιτούνται, ώστε να καταστεί δυνατή μια ελεγχόμενη επιβράδυνση της αυτοματοποιημένης ανάπτυξης της AI.
Η επιτάχυνση της κυκλοφορίας νέων μοντέλων αποδίδεται, μεταξύ άλλων, στην αυξανόμενη δυνατότητα των συστημάτων τεχνητής νοημοσύνης να συμβάλλουν στη βελτίωση και στην ανάπτυξη των διαδόχων τους, περιορίζοντας την ανάγκη ανθρώπινης παρέμβασης.
Η τεχνική αυτή επιτρέπει τη δημιουργία νέων μοντέλων ταχύτερα από ό,τι στο παρελθόν και, σύμφωνα με ορισμένους ερευνητές, μπορεί να οδηγήσει στη λεγόμενη «αναδρομική αυτοβελτίωση». Πρόκειται για ένα ενδεχόμενο κατά το οποίο ένα σύστημα τεχνητής νοημοσύνης θα μπορεί να σχεδιάζει το επόμενο, πιο προηγμένο μοντέλο, με τη διαδικασία να επαναλαμβάνεται διαρκώς.
«Οι εταιρείες που βρίσκονται στην πρωτοπορία της τεχνητής νοημοσύνης πιστεύουν ότι πλησιάζουν στην αυτοματοποίηση της έρευνας μέσω της AI», αναφέρεται στην επιστολή.
Οι υπογράφοντες προειδοποιούν ότι μια τέτοια εξέλιξη θα μπορούσε να καταστήσει δυσκολότερο τον έλεγχο και την κατανόηση των νέων μοντέλων από τους ίδιους τους προγραμματιστές.
Αλτμαν: Χρειάζεται χρόνος προετοιμασίας
Ο επικεφαλής της OpenAI, Σαμ Αλτμαν, ο οποίος δεν υπέγραψε το αίτημα, δήλωσε σε διαδικτυακό podcast ότι οι κορυφαίες εταιρείες του κλάδου θα μπορούσαν να επιβραδύνουν την ανάπτυξη των μοντέλων τους, ώστε να δοθεί χρόνος στο ευρύτερο τεχνολογικό οικοσύστημα να προετοιμαστεί.
Άλλοι επαγγελματίες του τομέα αντιμετώπισαν με επιφύλαξη την πρωτοβουλία, θεωρώντας ότι ενδέχεται να έχει την ίδια κατάληξη με προηγούμενες ανοικτές επιστολές και εκκλήσεις που δεν οδήγησαν σε συγκεκριμένα μέτρα.
«Η επιτυχία τέτοιων κινήσεων απαιτεί πολύ χρόνο», σχολίασε στην πλατφόρμα Χ ο Τσάρλι Μπούλοκ, του Institute for Law & AI. Οι υπογράφοντες, ωστόσο, προειδοποιούν ότι τα χρονικά περιθώρια στενεύουν.
Τον Ιούνιο, στο περιθώριο της συνόδου κορυφής της G7, οι Ντάριο Αμοντέι, Σαμ Αλτμαν και Ντέμις Χασάμπις, επικεφαλής της Google DeepMind, πρότειναν τη δημιουργία διακρατικής πλατφόρμας αφιερωμένης στην τεχνητή νοημοσύνη.
Στόχος της πρότασης ήταν να εξεταστεί κατά πόσο μπορούν να θεσπιστούν μακροπρόθεσμα κοινά πρότυπα και δικλίδες ασφαλείας, τα οποία θα αποτελέσουν βάση για τις χώρες που θα συμμετέχουν στο εγχείρημα.
