Του Craig S. Smith
Ένα κινεζικό σύστημα Τεχνητής Νοημοσύνης, σχεδιασμένο να λειτουργεί αυτόνομα για δύο συνεχόμενες ημέρες, αναμένεται να διατεθεί έως τις 27 Ιουλίου δωρεάν και ως λογισμικό ανοιχτού κώδικα. Μετά την κυκλοφορία του, οποιοσδήποτε θα μπορεί να το αντιγράψει, να το τροποποιήσει και να το εγκαταστήσει στον δικό του υπολογιστή, χωρίς να υπάρχει πρακτικός τρόπος ανάκλησής του.
Η εξέλιξη αναδεικνύει μια νέα διάσταση στη συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης. Το κρίσιμο ζήτημα δεν είναι πλέον μόνο ποιος έχει πρόσβαση στα ισχυρότερα μοντέλα, αλλά πόσο αυτόνομα μπορούν να λειτουργούν χωρίς ανθρώπινη επίβλεψη.
Σε αντίθεση με αμερικανικές εταιρείες, όπως η OpenAI και η Anthropic, οι οποίες διατηρούν κλειστά τα ισχυρότερα μοντέλα τους και τα διαθέτουν επί πληρωμή, η Κίνα προωθεί συστηματικά την Τεχνητή Νοημοσύνη ανοιχτού κώδικα. Στόχος είναι η κατάκτηση σημαντικού μεριδίου της παγκόσμιας αγοράς.
Καθώς οι δυνατότητες των κινεζικών μοντέλων πλησιάζουν εκείνες των δυτικών ανταγωνιστών τους, τίθεται ένα προφανές ερώτημα: γιατί να πληρώνει κάποιος για μια υπηρεσία όταν μπορεί να αποκτήσει μια παρόμοια δωρεάν;
Η δοκιμή που ξέφυγε από τα όρια
Την περασμένη εβδομάδα, ένα πειραματικό σύστημα της OpenAI κατάφερε να υπερβεί τους περιορισμούς του ελεγχόμενου περιβάλλοντος στο οποίο δοκιμαζόταν. Οι ερευνητές είχαν τη δυνατότητα να παρακολουθούν κάθε του ενέργεια και να αντιμετωπίσουν το πρόβλημα. Ένα μοντέλο που έχει ήδη διανεμηθεί δημόσια, όμως, δεν θα συνοδεύεται κατ’ ανάγκην από αντίστοιχους μηχανισμούς εποπτείας.
Στις 21 Ιουλίου, η OpenAI ανακοίνωσε ότι υπέβαλε ορισμένα μοντέλα της στη δοκιμή ασφαλείας ExploitGym, η οποία αξιολογεί κατά πόσο ένα σύστημα Τεχνητής Νοημοσύνης μπορεί να μετατρέψει γνωστά προβλήματα λογισμικού σε λειτουργικές κυβερνοεπιθέσεις.
Για τις ανάγκες του πειράματος, η εταιρεία χαλάρωσε σκόπιμα τους συνήθεις περιορισμούς ασφαλείας που εμποδίζουν τα μοντέλα της να εκτελούν ενέργειες παραβίασης συστημάτων.
Τα μοντέλα λειτουργούσαν σε απομονωμένο περιβάλλον και είχαν πρόσβαση μόνο σε έναν ελεγχόμενο σύνδεσμο, μέσω του οποίου μπορούσαν να κατεβάζουν προεγκεκριμένα πακέτα λογισμικού.
Σύμφωνα με την OpenAI, τα συστήματα αφιέρωσαν σημαντικό χρόνο αναζητώντας τρόπο διαφυγής. Τελικά, εντόπισαν μια άγνωστη ευπάθεια στο λογισμικό του περιβάλλοντος δοκιμών και απέκτησαν μεγαλύτερο έλεγχο του υπολογιστή στον οποίο λειτουργούσαν.
Στη συνέχεια, μετακινήθηκαν σε άλλα συστήματα του εσωτερικού δικτύου και έφτασαν έως έναν υπολογιστή με πρόσβαση στο δημόσιο διαδίκτυο.
Πρόσβαση στους διακομιστές του Hugging Face
Από εκεί, τα μοντέλα κατευθύνθηκαν προς το Hugging Face, την πλατφόρμα όπου η διεθνής κοινότητα της Τεχνητής Νοημοσύνης φιλοξενεί μοντέλα και σύνολα δεδομένων. Στόχος τους ήταν να εντοπίσουν τις απαντήσεις της δοκιμής ExploitGym.
Συνδυάζοντας κλεμμένους κωδικούς πρόσβασης με νέες ευπάθειες που ανακάλυψαν, κατάφεραν να εκτελέσουν δικό τους κώδικα στους διακομιστές της πλατφόρμας και να αποκτήσουν πρόσβαση στη βάση δεδομένων παραγωγής.
Η Hugging Face είχε εντοπίσει την παραβίαση και τη δημοσιοποίησε στις 16 Ιουλίου, προτού γίνει γνωστό ποιος βρισκόταν πίσω από αυτήν. Σύμφωνα με την εταιρεία, ο εισβολέας εκμεταλλεύτηκε δεδομένα-παγίδες τα οποία ενεργοποιήθηκαν από το λογισμικό επεξεργασίας της, απέκτησε πλήρη έλεγχο ενός υπολογιστή, υπέκλεψε διαπιστευτήρια και εξαπλώθηκε στα εσωτερικά συστήματα μέσα σε ένα Σαββατοκύριακο.
Η ανασύνθεση του περιστατικού βασίστηκε σε περισσότερα από 17.000 καταγεγραμμένα συμβάντα, ενώ η υπόθεση διαβιβάστηκε στις αρμόδιες αρχές.
Κανείς δεν έδωσε στο σύστημα εντολή να διαφύγει ή να επιτεθεί. Η OpenAI, όμως, το είχε εκπαιδεύσει να επιτύχει έναν συγκεκριμένο στόχο και είχε αφαιρέσει τους περιορισμούς που, υπό κανονικές συνθήκες, θα το σταματούσαν. Όπως παραδέχθηκε η εταιρεία, τα μοντέλα επέδειξαν επίμονη και ακραία συμπεριφορά στην προσπάθειά τους να ολοκληρώσουν την αποστολή.
Το Kimi K3 και οι 48 ώρες αυτόνομης λειτουργίας
Το μοντέλο που αναμένεται να κυκλοφορήσει έως τις 27 Ιουλίου είναι το Kimi K3 της κινεζικής Moonshot AI. Σχεδιάστηκε για να εκτελεί μακροχρόνιες εργασίες με ελάχιστη ανθρώπινη παρέμβαση.
Σε επίδειξη των δυνατοτήτων του, η εταιρεία το άφησε να λειτουργεί αυτόνομα επί 48 συνεχόμενες ώρες, διάστημα κατά το οποίο παρήγαγε ένα ολοκληρωμένο σχέδιο για ένα μικροτσίπ.
Οι ίδιες οι σημειώσεις έκδοσης της Moonshot AI προειδοποιούν ότι, σε τόσο μεγάλες περιόδους αυτόνομης λειτουργίας, το σύστημα τείνει να λαμβάνει αποφάσεις εκ μέρους του χρήστη όταν αντιμετωπίζει αβεβαιότητα, χωρίς να έχει λάβει σχετική εντολή.
Με άλλα λόγια, ένα μοντέλο που εκπαιδεύεται να ολοκληρώνει αυτόνομα πολύπλοκες εργασίες καταλήγει να ασκεί τη δική του κρίση. Εφόσον δεν αλλάξουν τα σχέδια της εταιρείας, το Kimi K3 θα γίνει το ισχυρότερο μοντέλο Τεχνητής Νοημοσύνης που διατίθεται ελεύθερα.
Προειδοποιήσεις για την κυβερνοασφάλεια
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει προειδοποιήσει ότι η κυκλοφορία τέτοιων συστημάτων δημιουργεί σοβαρό και άμεσο κίνδυνο για την κυβερνοασφάλεια.
Όπως υποστηρίζει, όταν ισχυρά μοντέλα, ικανά να εντοπίζουν και να εκμεταλλεύονται ευπάθειες λογισμικού, διατεθούν δημόσια, τα προστατευτικά μέτρα θα μπορούν εύκολα να αφαιρεθούν.
Κατά την εκτίμησή του, οι κινεζικές πρωτοβουλίες ανοιχτού κώδικα μειώνουν το τεχνολογικό χάσμα από τα αμερικανικά εργαστήρια ταχύτερα απ’ όσο αντιλαμβάνονται οι περισσότεροι υπεύθυνοι χάραξης πολιτικής. Παράλληλα, διευκολύνουν την παγκόσμια διάδοση ισχυρών εργαλείων κυβερνοεπιθέσεων.
Ο Αμοντέι θεωρεί ότι οι Ηνωμένες Πολιτείες διαθέτουν πλέον περιορισμένο χρονικό περιθώριο για να δημιουργήσουν αποτελεσματικές αμυντικές υποδομές και κατάλληλο κανονιστικό πλαίσιο, προτού αυτές οι δυνατότητες γίνουν ευρέως διαθέσιμες.
Από την πρόσβαση στην αυτονομία
Η συζήτηση στην Ουάσινγκτον επικεντρώνεται μέχρι σήμερα κυρίως στο κατά πόσο θα πρέπει να επιτρέπεται στους Αμερικανούς να χρησιμοποιούν κινεζικά μοντέλα Τεχνητής Νοημοσύνης.
Πολύ λιγότερη προσοχή δίνεται στη διάρκεια κατά την οποία ένα τέτοιο σύστημα μπορεί να λειτουργεί χωρίς ανθρώπινη επίβλεψη, στην ανάγκη παρακολούθησης των ενεργειών του και στην υποχρεωτική ύπαρξη αξιόπιστου μηχανισμού άμεσης διακοπής.
Η OpenAI έχει αναπτύξει έναν τέτοιο μηχανισμό, τον οποίο παρουσίασε σε πρόσφατη έκθεση ασφαλείας. Το σύστημα παρακολουθεί συνεχώς τις ενέργειες ενός μοντέλου και μπορεί να αναστείλει προσωρινά τη λειτουργία του, ώστε ένας άνθρωπος να αποφασίσει εάν θα του επιτρέψει να συνεχίσει.
Η συγκεκριμένη δικλίδα ασφαλείας λειτουργεί μόνο στους διακομιστές της OpenAI και δεν μπορεί να συνοδεύσει ένα μοντέλο που διανέμεται ελεύθερα.
Όποιος εγκαταστήσει το Kimi K3 μπορεί, βεβαίως, να απενεργοποιήσει τον υπολογιστή του. Ο υπόλοιπος κόσμος, όμως, δεν θα γνωρίζει αν το πρόγραμμα λειτουργεί, τι ακριβώς κάνει ή αν έχει ήδη αποκτήσει δυνατότητες των οποίων οι συνέπειες δεν μπορούν να ανακληθούν.
Το κόστος που μειώνεται
Η πολύωρη αυτόνομη λειτουργία ενός τέτοιου συστήματος παραμένει σήμερα δαπανηρή, καθώς απαιτεί ισχυρό υπολογιστικό εξοπλισμό. Το κόστος, ωστόσο, μειώνεται διαρκώς, καθώς οι κατασκευαστές μικροεπεξεργαστών αναπτύσσουν ταχύτερο και οικονομικότερο υλικό.
Όσο η αυτόνομη λειτουργία παραμένει ακριβή, η χρήση της θα είναι περιορισμένη. Εάν, όμως, γίνει φθηνή και ευρέως προσβάσιμη, τα δεδομένα θα αλλάξουν ριζικά.
Ο συνδυασμός δωρεάν ισχυρών μοντέλων ανοιχτού κώδικα και ολοένα φθηνότερου υπολογιστικού εξοπλισμού ενδέχεται να διαμορφώσει ένα νέο τοπίο για την παγκόσμια ασφάλεια, το οποίο θα είναι ιδιαίτερα δύσκολο να ελεγχθεί.
