Του Bernard Marr
Η τεχνητή νοημοσύνη (AI) ίσως είναι η πιο ισχυρή τεχνολογία που έχουμε χρησιμοποιήσει ποτέ οι περισσότεροι από εμάς, χωρίς να κατανοούμε πραγματικά πώς λειτουργεί.
Αυτό από μόνο του θα έπρεπε να μας δημιουργήσει ορισμένα ερωτήματα. Η τεχνητή νοημοσύνη ενσωματώνεται ήδη στον τομέα της υγειονομικής περίθαλψης, στις κυβερνητικές υπηρεσίες, στις χρηματοοικονομικές αποφάσεις, στις επιχειρηματικές δραστηριότητες και στα εργαλεία που χρησιμοποιούν καθημερινά εκατομμύρια άνθρωποι. Μπορεί να γράφει, να προγραμματίζει, να αναλύει, να συνοψίζει και να προτείνει, με εκπληκτική ταχύτητα. Ωστόσο, πίσω από τα εντυπωσιακά αποτελέσματα της, κρύβεται μια δυσάρεστη αλήθεια: ακόμη και οι άνθρωποι που αναπτύσσουν τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης δεν μπορούν πάντα να εξηγήσουν γιατί αυτά συμπεριφέρονται με τον τρόπο που συμπεριφέρονται.
Ένα από τα πιο ξεκάθαρα παραδείγματα είναι οι “παραισθήσεις” (“hallucination”), δηλαδή η τάση των μοντέλων τεχνητής νοημοσύνης να παράγουν απαντήσεις με απόλυτη βεβαιότητα, οι οποίες όμως είναι λανθασμένες. Αυτό δεν είναι ένα ασήμαντο προβληματάκι όταν η τεχνητή νοημοσύνη χρησιμοποιείται για την υποστήριξη ιατρικών διαγνώσεων, διαδικασιών κανονιστικής συμμόρφωσης, αποφάσεων για την πρόσληψη ατόμων ή χρηματοοικονομικών συμβουλών. Η ίδια η OpenAI έχει αναγνωρίσει ότι οι “παραισθήσεις” παραμένουν ένα δύσκολο και ανεπίλυτο ζήτημα.
Στη συνέχεια, υπάρχει το ευρύτερο πρόβλημα του “μαύρου κουτιού” (“black box”). Τα συστήματα τεχνητής νοημοσύνης μπορούν να παράγουν χρήσιμα αποτελέσματα, αλλά η πορεία από την εισαγωγή δεδομένων έως την απάντηση είναι συχνά αδιαφανής. Μπορούμε να δούμε τι εισάγεται και τι προκύπτει από το σύστημα, αλλά η συλλογιστική που μεσολαβεί μπορεί να είναι δύσκολο να εξεταστεί, να εξηγηθεί ή να θεωρηθεί αξιόπιστη.
Για τις επιχειρήσεις, αυτό δημιουργεί ένα πολύ πρακτικό θέμα. Αν η τεχνητή νοημοσύνη πρέπει να ελέγχεται, να επαληθεύεται και να παρακολουθείται προτού τα αποτελέσματά της μπορούν να ληφθούν ως αξιόπιστα, πόση παραγωγικότητα κερδίζουμε πραγματικά και πότε γίνεται υπερβολικά υψηλός ο κίνδυνος;
Το ρίσκο
Η μελέτη της OpenAI με τίτλο “Γιατί τα γλωσσικά μοντέλα έχουν παραισθήσεις” (“Why Language Models Hallucinate”), η οποία έχει συζητηθεί ευρέως, προτείνει την άποψη ότι αυτά τα λάθη και οι παραισθήσεις θα μπορούσαν απλώς να αποτελούν υποπροϊόν του πιθανοτικού τρόπου λειτουργίας των μεγάλων γλωσσικών μοντέλων (LLMs).
Με άλλα λόγια, δεν είναι περισσότερο “σφάλμα” από ό,τι είναι η τάση του ανθρώπου να κάνει λάθη, λανθασμένες εικασίες ή να βγάζει παράλογα συμπεράσματα. Αυτό καθιστά πολύ δύσκολη την εξεύρεση τεχνικών λύσεων για την αντιμετώπιση του προβλήματος.
Δημιουργεί επίσης μια πρόκληση για τις επιχειρήσεις. Τα κέρδη στην παραγωγικότητα που υπόσχεται η τεχνητή νοημοσύνη βασίζονται στην παραδοχή ότι μπορεί φέρει εις πέρας εργασίες που, διαφορετικά, θα έπρεπε να κάνουμε εμείς οι ίδιοι. Αν όμως καθετί που δημιουργείται από την τεχνητή νοημοσύνη πρέπει να ελέγχεται και να επαληθεύεται προτού θεωρηθεί αξιόπιστο, πόσο αποδοτική είναι στην πραγματικότητα;
Φυσικά, αυτό θα διαφέρει ανάλογα με την εργασία. Ένα συγκεκριμένο ποσοστό σφάλματος μπορεί, για παράδειγμα, να είναι ανεκτό με αντάλλαγμα τεράστια κέρδη παραγωγικότητας κατά τη δημιουργία στοχευμένων εκστρατειών μάρκετινγκ. Αλλά στην ιατρική και στο κομμάτι της διάγνωσης, στη λήψη χρηματοοικονομικών αποφάσεων ή στην αυτοματοποίηση διαδικασιών συμμόρφωσης, πιθανότατα δεν είναι.
Ουσιαστικά, τα τεράστια ποσά που επενδύουν οι επιχειρήσεις στην τεχνητή νοημοσύνη ενδέχεται να αποδειχθούν χαμένα, αν δεν καταφέρουμε ποτέ να κατανοήσουμε ή να προσαρμοστούμε σε αυτό το πρόβλημα.
Ανοίγοντας το “μαύρο κουτί”
Αυτό δεν σημαίνει ότι δεν γίνεται τίποτα για την αντιμετώπιση του προβλήματος. Τα κορυφαία εργαστήρια τεχνητής νοημοσύνης επικεντρώνονται όλο και περισσότερο στην κατανόηση του τι ακριβώς συμβαίνει στο εσωτερικό των συστημάτων τους.
Αυτό το πεδίο μελέτης είναι γνωστό ως “ερμηνευσιμότητα της τεχνητής νοημοσύνης” (AI interpretability), και οι ανακαλύψεις έχουν βοηθήσει τους ερευνητές να συνδέσουν την ενεργοποίηση των τεχνητών νευρώνων με τα αποτελέσματα που παράγουν τα LLMs. Αυτό φέρνει στο φως στοιχεία για τον τρόπο λειτουργίας τους, με τρόπο παρόμοιο με αυτόν που οι νευροεπιστήμονες κάνουν ανακαλύψεις σχετικά με τον ανθρώπινο εγκέφαλο.
Μια άλλη μελέτη με βάση το μοντέλο Claude Sonnet οδήγησε στην ανακάλυψη ότι ορισμένες συμπεριφορές των LLMs, γνωστές ως “χαρακτηριστικά” (features), μπορούν να ενεργοποιηθούν ή να απενεργοποιηθούν επηρεάζοντας τεχνητά κάποιες μεταβλητές.
Μια ακόμη μελέτη αναζητά εξηγήσεις για το γιατί η τεχνητή νοημοσύνη επιλέγει μερικές φορές μια συμπεριφορά “χειραγώγησης”, όπως το να λέει ψέματα ή να κρύβει τις προθέσεις της, και φαίνεται να έχει σημειώσει κάποια πρόοδο.
Εντοπίζοντας μοτίβα και διαδικασίες λήψης αποφάσεων κρυμμένα μέσα στα δισεκατομμύρια παραμέτρων που συνθέτουν τα συστήματα τεχνητής νοημοσύνης, υπάρχει η ελπίδα ότι αυτά θα γίνουν πιο χρήσιμα, αλλά και πιο προβλέψιμα και κατανοητά.
Όλα αυτά είναι θετικά, αλλά δεν αλλάζουν το γεγονός ότι η τεχνητή νοημοσύνη ενσωματώνεται ήδη ευρέως σε κρίσιμα συστήματα σήμερα, ενώ εξακολουθούν να υπάρχουν πολλά αναπάντητα ερωτήματα.
Η αρχή της αβεβαιότητας
Το γεγονός ότι δεν κατανοούμε πλήρως κάτι δεν μας εμπόδισε ποτέ στο παρελθόν από το να το χρησιμοποιήσουμε. Η κβαντομηχανική, για παράδειγμα, αποτελεί τη βάση πολλών από τις σημαντικότερες επιστημονικές προόδους του περασμένου αιώνα. Πολλές πτυχές της δεν είναι πλήρως κατανοητές, αλλά αυτό δεν μας εμπόδισε να χτίσουμε πάνω της μοντέλα για το πώς λειτουργεί ολόκληρο το σύμπαν.
Το κλειδί, τόσο για τα άτομα που αναρωτιούνται πώς θα ενσωματωθεί η τεχνητή νοημοσύνη στη ζωή τους, όσο και για τις επιχειρήσεις που τη χρησιμοποιούν για να προωθήσουν την ανάπτυξη και την καινοτομία, θα είναι να μάθουν να ζουν με αυτή την αβεβαιότητα.
Αυτό σημαίνει να διατηρούνται δικλίδες ασφαλείας για την περίπτωση που κάτι πάει στραβά, αλλά πιθανώς σημαίνει επίσης να μην προχωράμε στην αυτοματοποίηση απλώς για την αυτοματοποίηση. Οι πιθανές συνέπειες της απρόβλεπτης συμπεριφοράς της τεχνητής νοημοσύνης πρέπει να εξεταστούν προσεκτικά, να σχεδιαστούν εκ των προτέρων και να σταθμιστούν έναντι της προστιθέμενης αξίας του εκάστοτε έργου.
Ίσως η μεγαλύτερη άγνωστη παράμετρος είναι ότι εξακολουθούμε να μην κατανοούμε τις μακροπρόθεσμες κοινωνικές προεκτάσεις της τεχνητής νοημοσύνης. Όσον αφορά στον τρόπο με τον οποίο επηρεάζονται οι θέσεις εργασίας, οι επιχειρήσεις, η πολιτική και η ζωή μας γενικότερα, πολλές από τις επιπτώσεις ενδέχεται να γίνουν ορατές μόνο μετά από χρόνια.
Η κατανόηση των ορίων της, τουλάχιστον στον ίδιο βαθμό που κατανοούμε τις δυνατότητές της, είναι κρίσιμη για τη διαχείριση αυτών των προκλήσεων και τη λήψη τεκμηριωμένων αποφάσεων σχετικά με την ασφάλεια της τεχνητής νοημοσύνης.
