Η τεχνητή νοημοσύνη έχει πάψει προ πολλού να αποτελεί απλώς μια υπόσχεση τεχνολογικής προόδου. Έχει ήδη ενσωματωθεί στον πυρήνα της οικονομικής δραστηριότητας, επηρεάζοντας τον τρόπο με τον οποίο λαμβάνονται αποφάσεις σε τράπεζες, επιχειρήσεις, ασφαλιστικούς οργανισμούς και επαγγελματικές υπηρεσίες.

Από την αξιολόγηση πιστοληπτικής ικανότητας έως την επιλογή προσωπικού και την αυτοματοποιημένη εξυπηρέτηση πελατών, οι αλγόριθμοι λειτουργούν πλέον ως «αόρατοι υπάλληλοι», επηρεάζοντας σοβαρές οικονομικές επιλογές χωρίς ανθρώπινη παρουσία.

Το ουσιαστικό, ωστόσο, ερώτημα δεν είναι τεχνολογικό. Είναι βαθύτατα νομικό και θεσμικό. Ποιος φέρει την ευθύνη όταν ένα σύστημα τεχνητής νοημοσύνης παράγει εσφαλμένα αποτελέσματα ή προκαλεί οικονομική ζημία;

Το κανονιστικό έλλειμμα

Η εξέλιξη της τεχνητής νοημοσύνης έχει αναδείξει ένα δομικό πρόβλημα του σύγχρονου δικαίου. Την αδυναμία της κανονιστικής παρέμβασης να συμβαδίσει με τον ρυθμό της τεχνολογικής καινοτομίας. Η ταχύτητα υιοθέτησης συστημάτων AI από την αγορά προηγείται κατά πολύ της ανάπτυξης σαφών κανόνων ευθύνης και εποπτείας.

Το αποτέλεσμα είναι ένα σύνθετο πεδίο αβεβαιότητας. Όταν, για παράδειγμα, ένα σύστημα AI απορρίπτει εσφαλμένα αίτηση χρηματοδότησης ή αξιολογεί λανθασμένα την πιστοληπτική ικανότητα ενός πελάτη, η απόδοση ευθύνης δεν είναι αυτονόητη. Εγείρονται ερωτήματα ποιος ευθύνεται, ο πάροχος του συστήματος, ο οργανισμός που το χρησιμοποιεί ή ο σχεδιασμός του ίδιου του αλγορίθμου;

Η δυσχέρεια επιτείνεται από το λεγόμενο «πρόβλημα της αλγοριθμικής αδιαφάνειας». Σε πολλές περιπτώσεις, ακόμη και οι δημιουργοί των συστημάτων δεν μπορούν να εξηγήσουν με ακρίβεια τη διαδικασία λήψης μιας συγκεκριμένης απόφασης, ιδίως σε μοντέλα μηχανικής μάθησης μεγάλης κλίμακας.

Ο Κανονισμός (ΕΕ) 2024/1689

Απέναντι σε αυτή τη θεσμική υστέρηση, η Ευρωπαϊκή Ένωση προχώρησε στην υιοθέτηση του Κανονισμού (ΕΕ) 2024/1689 για την τεχνητή νοημοσύνη (Artificial Intelligence Act), του πρώτου ολοκληρωμένου ρυθμιστικού πλαισίου σε παγκόσμιο επίπεδο.

Ο Κανονισμός εισάγει μια ουσιαστική μετατόπιση, από την αποσπασματική ρύθμιση επιμέρους τεχνολογιών σε μια προσέγγιση βασισμένη στον κίνδυνο. Τα συστήματα AI ταξινομούνται ανάλογα με το επίπεδο επικινδυνότητάς τους, με ιδιαίτερη έμφαση στις εφαρμογές «υψηλού κινδύνου», όπως αυτές που χρησιμοποιούνται στους τομείς των  χρηματοοικονομικών υπηρεσιών, της απασχόλησης, της εκπαίδευσης, της υγείας και της δημόσιας διοίκησης.

Για τις κατηγορίες αυτές επιβάλλονται αυστηρές υποχρεώσεις συμμόρφωσης, όπως ανθρώπινη εποπτεία, τεχνική τεκμηρίωση και υποχρεώσεις διαφάνειας. Παράλληλα, ο Κανονισμός προβλέπει απαγορεύσεις για πρακτικές που θεωρούνται ασύμβατες με τις θεμελιώδεις αρχές της Ένωσης.

Η προσέγγιση αυτή αντανακλά τη βούληση της Ευρωπαϊκής Ένωσης να διαμορφώσει ένα πλαίσιο εμπιστοσύνης, όπου η τεχνολογική ανάπτυξη δεν θα υπονομεύει την ασφάλεια δικαίου και την προστασία των θεμελιωδών δικαιωμάτων.

Παράγοντας εταιρικού κινδύνου

Για τον επιχειρηματικό κόσμο, η τεχνητή νοημοσύνη δεν αποτελεί πλέον ουδέτερο εργαλείο παραγωγικότητας. Εντάσσεται στον πυρήνα της διαχείρισης κινδύνου και της εταιρικής διακυβέρνησης.

Η χρήση συστημάτων AI συνεπάγεται πολλαπλές διαστάσεις κινδύνου, κανονιστική συμμόρφωση, προστασία προσωπικών δεδομένων, πνευματική ιδιοκτησία, κυβερνοασφάλεια και πιθανές αξιώσεις αποζημιώσεων. Μια λανθασμένη αυτοματοποιημένη απόφαση μπορεί να προκαλέσει όχι μόνο οικονομική ζημία, αλλά και σοβαρή βλάβη φήμης και εμπιστοσύνης.

Ιδίως στις χρηματοπιστωτικές υπηρεσίες, όπου οι αποφάσεις βασίζονται σε αυστηρά κανονιστικά πρότυπα, η ενσωμάτωση AI δημιουργεί ανάγκη για ενισχυμένους μηχανισμούς ελέγχου και τεκμηριωμένη λογοδοσία. Η ευθύνη των διοικητικών οργάνων δεν εξαντλείται πλέον στην επιλογή τεχνολογικών λύσεων, αλλά επεκτείνεται στη διασφάλιση της νομιμότητας και της διαφάνειας της λειτουργίας τους.

Για την κυπριακή οικονομία, η οποία έχει αναπτύξει ισχυρή δραστηριότητα στους τομείς των χρηματοοικονομικών και επαγγελματικών υπηρεσιών, το νέο ευρωπαϊκό πλαίσιο αποκτά ιδιαίτερη σημασία.

Η συμμόρφωση με τον AI Act δεν αποτελεί απλώς νομική υποχρέωση, αλλά στρατηγική επιλογή ανταγωνιστικότητας. Οι επιχειρήσεις καλούνται να επαναπροσδιορίσουν τις εσωτερικές τους διαδικασίες και να ενσωματώσουν τη νομική διάσταση της τεχνητής νοημοσύνης στον επιχειρησιακό τους σχεδιασμό.

Επίμετρο

Η ιστορία του δικαίου έχει επανειλημμένα αποδείξει ότι κάθε τεχνολογική επανάσταση προηγείται της αντίστοιχης ρυθμιστικής της ωρίμανσης. Η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση.

Ο Κανονισμός (ΕΕ) 2024/1689 συνιστά ένα αναγκαίο πρώτο βήμα προς τη διαμόρφωση ενός συνεκτικού πλαισίου λογοδοσίας και εμπιστοσύνης. Δεν εξαλείφει την αβεβαιότητα, αλλά θέτει τις βάσεις για τη διαχείρισή της με θεσμικά οργανωμένο τρόπο.

Η πραγματική πρόκληση των επόμενων ετών δεν είναι αν η τεχνητή νοημοσύνη θα διεισδύσει βαθύτερα στην οικονομία, αυτό έχει ήδη συμβεί. Η πραγματική δοκιμασία θα είναι αν τα νομικά και θεσμικά συστήματα μπορούν να διασφαλίσουν ότι ο «αόρατος υπάλληλος» θα λειτουργεί με διαφάνεια, λογοδοσία και σεβασμό στο κράτος δικαίου.

* Δικηγόρος στη Λάρνακα