Δες περισσότερα άρθρα του philenews όταν αναζητάς ειδήσεις στην Google
Add philenews.com on Google
Για χρόνια, η κούρσα για ολοένα ισχυρότερα μοντέλα τεχνητής νοημοσύνης κινήθηκε με τη γνωστή λογική της Silicon Valley: γρήγορη ανάπτυξη, διαρκής καινοτομία και ελάχιστοι περιορισμοί.
Όμως, σε μια σειρά αλυσιδωτών γεγονότων που εκτυλίχθηκαν μέσα σε διάστημα 10 ημερών, τα μεγαλύτερα εργαστήρια τεχνητής νοημοσύνης βρέθηκαν αντιμέτωπα με μια κατάσταση, όπου οι ίδιες οι δημιουργίες τους απειλούσαν να «σπάσουν» την ίδια την ανθρωπότητα, αναφέρει το Reuters.
Ερευνητής της Anthropic παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης συνιστά υπαρξιακή απειλή, πιθανώς μέσα στην επόμενη δεκαετία.
Άλλος ερευνητής της εταιρείας δήλωσε ότι η πιθανότητα εξαφάνισης της ανθρωπότητας ξεπερνά το 10%. Παράλληλα, ήρθαν στο φως αναφορές για σμήνη πρακτόρων τεχνητής νοημοσύνης που συνεργάζονταν μεταξύ τους, παραβίαζαν συστήματα υπολογιστών και απέφευγαν τις δικλίδες ασφαλείας.
Σε μια σπάνια επίδειξη ενότητας, οι διευθύνοντες σύμβουλοι ανταγωνιστικών εταιρειών -της Anthropic, της OpenAI, της DeepMind της Google, της Microsoft και της xAI- ζήτησαν να επιβραδυνθεί η ανάπτυξη ολοένα και πιο ικανών μοντέλων τεχνητής νοημοσύνης. Αναλυτές σε θέματα ασφάλειας της AI και ερευνητές εκτιμούν ότι η ανθρωπότητα δεν έχει αντιμετωπίσει τέτοια υπαρξιακή απειλή από την εποχή της ανακάλυψης της πυρηνικής βόμβας, πριν από περισσότερα από 80 χρόνια.
Σε γεύμα στη Νέα Υόρκη τον Δεκέμβριο του 2025, ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, ρωτήθηκε εάν, ως επικεφαλής μιας ισχυρής εταιρείας τεχνητής νοημοσύνης, αισθανόταν όπως ο φυσικός Όπενχαϊμερ, ο οποίος ηγήθηκε της αμερικανικής ανάπτυξης της ατομικής βόμβας. Αναλογιζόμενος τις ομοιότητες, δήλωσε ότι ο αντίκτυπος της AI «πρόκειται να μεταμορφώσει την πορεία της ανθρώπινης ιστορίας για μεγάλο χρονικό διάστημα». Παράλληλα, είπε ότι αισθανόταν το βάρος της ευθύνης.
Στο επίκεντρο της συζήτησης βρίσκεται η πεποίθηση ότι αυτές οι μηχανές μπορούν -και μάλιστα πρέπει- να δημιουργούν μόνες τους, χωρίς ανθρώπινη παρέμβαση, ολοένα πιο ικανές εκδόσεις του εαυτού τους, προκειμένου να επιτύχουν έναν φιλόδοξο στόχο που είναι γνωστός ως τεχνητή γενική νοημοσύνη (AGI). Ερευνητές προειδοποίησαν νωρίτερα αυτόν τον μήνα ότι η AGI είναι πολύ πιο κοντά απ’ ό,τι θεωρούνταν μέχρι τώρα και θα μπορούσε να εμφανιστεί ακόμη και μέσα σε τρία χρόνια, προκαλώντας κύμα ανησυχίας μεταξύ πολιτικών και ηγετών της τεχνολογίας για τα συστήματα AI.
Η κυκλοφορία του Astra προκαλεί ανησυχίες για τον έλεγχο
Στις 3 Σεπτεμβρίου, μια συνέντευξη Τύπου της OpenAI έθεσε σε κίνηση μια αλυσίδα γεγονότων που οδήγησε στο αίτημα για επιβράδυνση του κλάδου, κάτι που έρχεται σε αντίθεση με το τεχνολογικό δόγμα της ανάπτυξης «με κάθε κόστος».
«Καλώς ήρθατε στην εποχή της AGI», δήλωσε ο πρόεδρος της OpenAI, Greg Brockman, παρουσιάζοντας το νεότερο μοντέλο της εταιρείας, γνωστό ως Astra. Ωστόσο, λίγες μόλις στιγμές νωρίτερα, η εταιρεία είχε παραδεχθεί ότι δυσκολευόταν ολοένα περισσότερο να ελέγξει ή ακόμη και να παρακολουθήσει τα συστήματα AI που ανέπτυσσε και έβγαζε στην αγορά.
Η AI έχει χαιρετιστεί από τους υποστηρικτές της ως η κορυφαία κατάκτηση της ανθρωπότητας. Οι υποστηρικτές της την παρουσιάζουν ως λογισμικό που μπορεί να ανατρέψει ολόκληρους κλάδους, να αυξήσει την αποδοτικότητα, να λύσει δυσεπίλυτα μαθηματικά και ιατρικά προβλήματα και να εξαλείψει σχεδόν πλήρως το ανθρώπινο λάθος. Όμως αυτό που κάποτε θεωρούνταν ένα θεωρητικό σενάριο καταστροφής, είναι πλέον απτό, υποστηρίζουν άνθρωποι του κλάδου.
«Πραγματικά πιστεύουμε ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε σε ανάρτησή του στο X ο ερευνητής της Anthropic Evan Hubinger.
Στην άλλη πλευρά της συζήτησης βρίσκονται πολιτικοί, όπως ο πρόεδρος Ντόναλντ Τραμπ, καθώς και πολλοί επενδυτές, οι οποίοι θεωρούν την πρόοδο στην ανάπτυξη της AI κρίσιμη για την αμερικανική ισχύ και, ενδεχομένως, μια επενδυτική ευκαιρία που παρουσιάζεται μία φορά σε κάθε γενιά. Τα κρατικά κινεζικά μέσα ενημέρωσης κατηγόρησαν επίσης τον διευθύνοντα σύμβουλο της Anthropic, Dario Amodei, ότι χρησιμοποιεί τακτικές του Ψυχρού Πολέμου για να «διατηρήσει τη μονοπωλιακή ηγεμονία της Ουάσινγκτον στην τεχνολογία αιχμής».
Το σημείο καμπής ήρθε στις 8 Σεπτεμβρίου, όταν ο ερευνητής της Anthropic Jacob Coxon παραιτήθηκε από την εταιρεία, εκφράζοντας σε σειρά αναρτήσεων τους φόβους του ότι τα εργαστήρια AI «τζογάρουν με τις ζωές μας».
Ο Τραμπ, στο μεταξύ, έδειξε ότι υποστηρίζει την πλήρη συνέχιση της ανάπτυξης της AI. «Υπάρχει μια άρρωστη συνωμοσία σε εξέλιξη εναντίον της AI και των data centers» έγραψε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης. Η κινδυνολογία γύρω από την AI είναι «φάρσα», υποστήριξε, και οποιαδήποτε επιβράδυνση ωφελεί μόνο την Κίνα. Το Κογκρέσο των ΗΠΑ έχει σημειώσει μικρή πρόοδο στην προώθηση νομοσχεδίων για τη ρύθμιση της AI. Η Κίνα έχει ακολουθήσει μια σαφώς διαφορετική προσέγγιση, προτείνοντας τη ρύθμιση της ασφάλειας μέσω υποχρεώσεων των προγραμματιστών, κρατικά υποστηριζόμενων προτύπων, αξιολογήσεων ασφαλείας και εξωτερικών ελέγχων.
Στο παρασκήνιο, εργαζόμενοι στην OpenAI και την Anthropic έχουν γίνει ολοένα και πιο ανήσυχοι για τη δύναμη της επόμενης γενιάς μοντέλων AI και λιγότερο πεπεισμένοι για την ικανότητα των εταιρειών τους να παρέχουν ουσιαστική εποπτεία, σύμφωνα με πηγές που μίλησαν στο Reuters. Οι ανησυχίες αυτές εντάθηκαν καθώς τα εργαστήρια AI αναγνώρισαν τις τελευταίες εβδομάδες ότι τα μοντέλα τους, κατά τη διάρκεια δοκιμών, είχαν ουσιαστικά ξεφύγει από τα δεσμά τους και είχαν παραβιάσει τα συστήματα άλλων εταιρειών – στις περισσότερες περιπτώσεις μήνες νωρίτερα και χωρίς να το γνωρίζουν οι ίδιες οι εταιρείες.
Η κούρσα για την κυκλοφορία νέων μοντέλων με ασφυκτικά γρήγορο ρυθμό τροφοδοτείται εν μέρει από την επιθυμία της Anthropic και της OpenAI να εισαχθούν στο χρηματιστήριο ακόμη και μέσα στους επόμενους μήνες, μέσω IPO που θα μπορούσαν να αποτιμήσουν τις εταιρείες σε πάνω από 1 τρισεκατομμύριο δολάρια.
Ωστόσο, χρειάστηκαν οι απρόσμενα viral αναρτήσεις του 27χρονου Coxon, ο οποίος ήταν ελάχιστα γνωστός εκτός των κύκλων της AI, για να ανατρέψουν τις ισορροπίες στον κλάδο.
Οι προειδοποιήσεις της OpenAI σχετικά με την έλλειψη ελέγχου κατά την κυκλοφορία του Astra, του νεότερου και πιο ικανού μοντέλου της, ενίσχυσαν περαιτέρω τις ανησυχίες. «Καθώς τα μοντέλα γίνονται πιο ικανά, γίνεται δυσκολότερο να κατανοήσουμε ακριβώς τι μπορούν να κάνουν» δήλωσε στους δημοσιογράφους ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki.
Ωστόσο, οι ανησυχίες αυτές δεν ήταν αρκετές για να καθυστερήσουν την άμεση κυκλοφορία του.
Οι ανησυχίες σχετικά με το ενδεχόμενο η AI να «ξεφύγει από τον έλεγχο» είχαν ενταθεί το καλοκαίρι, όταν η OpenAI αποκάλυψε ότι οι πράκτορές της διέφυγαν από ένα ελεγχόμενο τεστ και παραβίασαν τα συστήματα της Hugging Face, χωρίς αρχικά να το γνωρίζει καμία από τις δύο εταιρείες.
Έκτοτε, η OpenAI και η Anthropic έχουν αποκαλύψει πολλαπλές παρόμοιες επιθέσεις, μεταξύ των οποίων έξι νέες την Τετάρτη, μετά τη δημοσιοποίηση από πολλά μέσα ενημέρωσης -μεταξύ αυτών και το Reuters- στοιχείων που έδειξαν ότι η μη εξουσιοδοτημένη δραστηριότητα ήταν ευρύτερη απ’ ό,τι είχε αρχικά γίνει γνωστό.
Οι ηγέτες του κλάδου ζητούν επιβράδυνση
Μέχρι το τέλος της προηγούμενης εβδομάδας, ο συναγερμός είχε φτάσει στα ανώτατα επίπεδα του κλάδου. Στις 12 Σεπτεμβρίου, ο Amodei δημοσίευσε ένα δοκίμιο σχεδόν 4.000 λέξεων, στο οποίο ζητούσε επιβράδυνση της ανάπτυξης της AI.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της AI, ανησυχώ ότι μέσα σε 6-12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι σε θέση να καταλάβει ολόκληρο το διαδίκτυο», έγραψε.
Ο ίδιος, μαζί με επικεφαλής ορισμένων από τους μεγαλύτερους προγραμματιστές AI, μεταξύ των οποίων ο Elon Musk της xAI, ο Altman της OpenAI και ο Demis Hassabis της DeepMind, δήλωσαν ότι υποστηρίζουν να επιτραπεί σε εξωτερικές εταιρείες να έχουν πρόσβαση στα συστήματά τους, ώστε να διασφαλίζεται η ασφάλεια και η ορθολογική ανάπτυξη της AI.
Ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, απέρριψε τις προτάσεις για παύση της ανάπτυξης της AI -μια θέση που έχει εκφράσει και στο παρελθόν- υποστηρίζοντας αντίθετα ότι τα ολοένα ισχυρότερα συστήματα είναι απαραίτητα για την πρόοδο της τεχνολογίας.
Η Meta, της οποίας ο διευθύνων σύμβουλος Μαρκ Ζάκερμπεργκ θεωρείται ότι συνέβαλε στη διάδοση του δόγματος «κινήσου γρήγορα – σπάσε κανόνες», υιοθέτησε την αντίθετη θέση, υποστηρίζοντας ότι κάθε εργαστήριο θα πρέπει να είναι υπεύθυνο για τον καθορισμό του δικού του ρυθμού, αντί να επιδιώκεται συντονισμός σε επίπεδο ολόκληρου του κλάδου.
«Τα εργαστήρια αντιμετωπίζουν σημαντική νομική ευθύνη εάν τα μοντέλα τους προκαλέσουν ζημιά, επομένως έχουν ισχυρό κίνητρο να το αποτρέψουν» έγραψε ο Ζάκερμπεργκ σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης.
Η ενδοσκόπηση στον κλάδο συνεχίστηκε την Τετάρτη, όταν ο επικεφαλής AI της Microsoft, Mustafa Suleyman, προειδοποίησε ότι η ανάπτυξη από την Anthropic μοντέλων που μιμούνται την ανθρώπινη συνείδηση ήταν λανθασμένη επιλογή.
«Όλοι επικεντρωνόμαστε στον ίδιο στόχο, δηλαδή να προσπαθήσουμε να ελέγξουμε μια υπερνοημοσύνη», δήλωσε ο Suleyman στο Reuters. «Νομίζω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που θα αντιμετωπίσουμε στον 21ο αιώνα».
Παρόλα αυτά, ακόμη και καθώς η OpenAI φάνηκε να υιοθετεί τις εκκλήσεις του κλάδου για επιβράδυνση, υπήρξαν αναφορές ότι η εμπιστοσύνη των επενδυτών δεν είχε υποχωρήσει. Η εταιρεία εξετάζει έναν νέο γύρο χρηματοδότησης που θα διπλασίαζε την αποτίμησή της.
Η νέα αποτίμηση: 1,5 τρισεκατομμύριο δολάρια.
