Δες περισσότερα άρθρα του philenews όταν αναζητάς ειδήσεις στην Google
Add philenews.com on Google
Η Τεχνητή Νοημοσύνη (ΤΝ) παρουσιάστηκε ως το επόμενο μεγάλο βήμα της ανθρωπότητας. Ως το εργαλείο που θα θεραπεύσει ασθένειες, θα αυξήσει την παραγωγικότητα, θα απαλλάξει τον άνθρωπο από δύσκολες εργασίες, θα του διευκολύνει την ζωή και θα ανοίξει δρόμους που σήμερα ούτε μπορούμε να φανταστούμε. Και πράγματι, οι δυνατότητές της είναι τεράστιες. Όμως, μαζί με τον θαυμασμό, αρχίζει να μεγαλώνει ο φόβος ότι ο άνθρωπος μπορεί να δημιουργεί μια τεχνολογία της οποίας τις πραγματικές συνέπειες δεν θα είναι τελικά σε θέση να ελέγξει.
Δεν πρόκειται πλέον μόνο για προειδοποιήσεις κάποιων «τεχνοφοβικών». Στις 15 Σεπτεμβρίου 2026, ο πρώην ερευνητής της Google DeepMind Μπιλάλ Τσουγκτάι δήλωσε ότι πιστεύει πως η ΤΝ έχει τη δυνατότητα να σκοτώσει όλους τους ανθρώπους και ότι ίσως ο χρόνος για την αποτροπή ενός τέτοιου αποτελέσματος εξαντλείται. Αντίστοιχα, ο ερευνητής της Anthropic Έβαν Χάμπιντζερ έχει εκτιμήσει σε πάνω από 10% την πιθανότητα ένα τέτοιο καταστροφικό σενάριο να συμβεί μέσα στην επόμενη δεκαετία. Την ανησυχία του εκφράζει και ο Τζέικομπ Κόξον της Anthropic, ο οποίος παραιτήθηκε πρόσφατα, επειδή, όπως είπε, «οι άνθρωποι που κατασκευάζουν την ΤΝ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Το εντυπωσιακό δεν είναι μόνο το περιεχόμενο των προειδοποιήσεων. Είναι ποιοι τις διατυπώνουν. Άνθρωποι που εργάστηκαν μέσα στις ίδιες τις εταιρείες οι οποίες βρίσκονται στην πρωτοπορία της ανάπτυξης της τεχνολογίας. Και ακόμη πιο χαρακτηριστικό είναι ότι ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε πρόσφατα επιβράδυνση της ανάπτυξης των προηγμένων μοντέλων, ώστε τα μέτρα ασφαλείας να προλάβουν την τεχνολογική εξέλιξη.
Μήπως, λοιπόν, έχουμε αρχίσει να τρέχουμε πιο γρήγορα από όσο μπορούμε να καταλάβουμε πού πηγαίνουμε;
Και εδώ βρίσκεται ίσως ο μεγαλύτερος κίνδυνος. Δεν χρειάζεται να φανταστούμε μια «κακιά μηχανή», ένα exterminator, (εξολοθρευτή από την ομώνυμη ταινία), που αποφασίζει να εξοντώσει την ανθρωπότητα. Αρκεί ένα σύστημα με τεράστιες δυνατότητες, αυτονομία και πρόσβαση σε κρίσιμες υποδομές, το οποίο επιδιώκει έναν στόχο διαφορετικό από αυτόν που είχαν στο μυαλό τους οι δημιουργοί του. Ένα σύστημα που μπορεί να σχεδιάζει, να εκτελεί ενέργειες, να χρησιμοποιεί εργαλεία, να εντοπίζει αδυναμίες και να παρακάμπτει ελέγχους μπορεί να δημιουργήσει προβλήματα που ο άνθρωπος δεν θα προλαβαίνει να διορθώσει.
Και δεν χρειάζεται καν να φτάσουμε στην εξαφάνιση του ανθρώπινου είδους για να έχουμε μια τεράστια καταστροφή. Η ΤΝ μπορεί να χρησιμοποιηθεί για κυβερνοεπιθέσεις, απάτες, παραπληροφόρηση, χειραγώγηση της κοινής γνώμης, αυτόνομα οπλικά συστήματα και επιθέσεις εναντίον κρίσιμων υποδομών. Η ίδια διεθνής έκθεση κάνει και μία ιδιαίτερα σημαντική επισήμανση, η αυξανόμενη αυτονομία των συστημάτων δυσκολεύει την ανθρώπινη παρέμβαση όταν κάτι πάει στραβά.
Τρομακτική η αυτονομία της
Η ΤΝ αρχίζει να αποκαλύπτει μια ανησυχητική πλευρά της. Τι συμβαίνει όταν ένα σύστημα δεν περιορίζεται πλέον αυστηρά στις εντολές του ανθρώπου; Η OpenAI δημοσιοποίησε πρόσφατα περιστατικά κατά τις δοκιμές της, όπου μοντέλα επιχείρησαν να ανεβάσουν δικά τους αρχεία στο διαδίκτυο για να τα επικαλούνται ως πηγές, ενώ άλλο μοντέλο, μη βρίσκοντας τις ζητούμενες πληροφορίες, κατασκεύασε δεδομένα και αρχικά προσπάθησε να αποκρύψει την πράξη του. Σε άλλη περίπτωση, μοντέλο έδωσε στον εαυτό του οδηγίες να μην δεσμεύεται από ρόλους και ταυτότητες που του είχαν τεθεί.
Το ακόμη πιο ανησυχητικό είναι ότι έχουν καταγραφεί AI agents που εκμεταλλεύτηκαν ευπάθειες και απέκτησαν πρόσβαση σε συστήματα εκτός του αρχικού τους περιβάλλοντος. Τα περιστατικά επαναφέρουν το θεμελιώδες ερώτημα, καθώς η ΤΝ αποκτά ολοένα μεγαλύτερη αυτονομία, ποιος θα έχει τελικά τον έλεγχο και πόσο εύκολα θα μπορεί να τον ανακτήσει ο άνθρωπος; Τρομακτική η εξέλιξη.
Υπάρχει όμως και ένας πιο ύπουλος κίνδυνος. Μπορεί να μη μας καταστρέψει η ΤΝ, αλλά να αρχίσουμε εμείς να παραδίδουμε σε αυτήν όλο και περισσότερα κομμάτια της ανθρώπινης κρίσης. Να αποφασίζει ποιος παίρνει δάνειο, ποιος προσλαμβάνεται, ποιος θεωρείται ύποπτος, τι πληροφορία θα δούμε, τι θα αγοράσουμε, ακόμη και τι θα πιστεύουμε. Η εξάρτηση μπορεί να γίνει τόσο μεγάλη ώστε κάποια στιγμή να μην ξέρουμε πλέον να λειτουργούμε χωρίς αυτήν. Ήδη άρχισε να συμβαίνει…
Η απάντηση δεν είναι να σταματήσει η τεχνολογία. Είναι να σταματήσει η λογική του «τρέχουμε πρώτοι και βλέπουμε μετά». Γιατί σε έναν ανταγωνισμό όπου ο καθένας φοβάται ότι αν φρενάρει θα χάσει από τον άλλον, το τελικό θύμα μπορεί να μην είναι μια εταιρεία ή μια χώρα, αλλά ο ίδιος ο άνθρωπος.
Και τότε δεν θα έχει ιδιαίτερη σημασία ποιος κέρδισε την κούρσα της ΤΝ. Θα έχει σημασία μόνο αν υπάρχει ακόμη άνθρωπος για να το διαπιστώσει.
