Η ΕΕ κοντά σε συμφωνία επί της νομοθεσίας για την τεχνητή νοημοσύνη

Το πρώτο θεσμικό πλαίσιο ως προς την τεχνητή νοημοσύνη (ΤΝ) ενδέχεται να συμφωνηθεί από τους νομοθέτες της ΕΕ τον προσεχή Δεκέμβριο.

Το σχετικό σχέδιο Κανονισμού, το οποίο πρότεινε η Ευρωπαϊκή Επιτροπή το 2021, βρίσκεται στα τελευταία στάδια της διαπραγματευτικής διαδικασίας, με το Συμβούλιο και το Ευρωπαϊκό Κοινοβούλιο να είναι κοντά σε συμφωνία επί του τελικού κειμένου. Οι πρωτοποριακοί αυτοί κανόνες ακολουθούν μια προσέγγιση βάσει κινδύνου, καθορίζοντας απαιτήσεις ανάλογες του επιπέδου κινδύνου που παρουσιάζουν τα συστήματα ΤΝ για τα φυσικά πρόσωπα. Τα συστήματα που κατηγοριοποιούνται ως «μη αποδεκτού κινδύνου» − όπως αυτά που χρησιμοποιούν τεχνικές υποσυνείδητου − θα απαγορεύονται, ενώ τα συστήματα που κατηγοριοποιούνται ως «υψηλού κινδύνου» − όπως τα σχετικά με την αξιολόγηση πιστοληπτικής ικανότητας − θα υπόκεινται σε αυστηρές ρυθμίσεις.

Ο χρηματοοικονομικός τομέας αναμένεται να επηρεαστεί σημαντικά από τους νέους κανόνες, λόγω της ολοένα μεγαλύτερης χρήσης συστημάτων τα οποία αξιοποιούν μηχανισμούς ΤΝ.

Το Σχέδιο Κανονισμού

Το σχέδιο Κανονισμού χρησιμοποιεί ένα μοντέλο ταξινόμησης τριών επιπέδων, διαχωρίζοντας τα συστήματα τεχνητής νοημοσύνης με βάση τον κίνδυνο που ενέχουν για τα φυσικά πρόσωπα και ταξινομώντας τα ως «μη αποδεκτού κινδύνου», «υψηλού κινδύνου» και «περιορισμένου κινδύνου».

Εστίαση σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου

Στο Παράρτημα III του σχεδίου Κανονισμού καθορίζονται διάφοροι τύποι συστημάτων ΤΝ οι οποίοι θεωρούνται υψηλού κινδύνου. Περιλαμβάνονται, μεταξύ άλλων, συστήματα εξ αποστάσεως αναγνώρισης προσώπων, πρόσληψης ή αξιολόγησης υπαλλήλων, αξιολόγησης πιστοληπτικής ικανότητας και προληπτικής αστυνόμευσης.

Τα συστήματα ΤΝ τα οποία εμπίπτουν στην κατηγορία υψηλού κινδύνου θα υπόκεινται σε αυστηρές απαιτήσεις. Οι απαιτήσεις αυτές ισχύουν κυρίως για τον «πάροχο» συστήματος ΤΝ, δηλαδή το πρόσωπο που ανέπτυξε ή ανέθεσε την ανάπτυξη του συστήματος με σκοπό να το διαθέσει στην αγορά ή να το θέσει σε λειτουργία με τη δική του επωνυμία ή εμπορικό σήμα. Πρόσωπα τα οποία χρησιμοποιούν σύστημα ΤΝ («χρήστες») δύναται να θεωρηθούν πάροχοι, σε περίπτωση που το διαθέτουν στην αγορά ή το λειτουργούν υπό την επωνυμία ή το εμπορικό τους σήμα ή τροποποιούν το σύστημα ή τον σκοπό αυτού.

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται μεταξύ άλλων σε αξιολόγηση της συμμόρφωσής τους με τις απαιτήσεις της νομοθεσίας (“conformity assessment”) πριν τη διάθεση τους στην αγορά. Ο πάροχος θα υποχρεούται επίσης να παρακολουθεί την ορθότητα της λειτουργίας, των επιδόσεων και της συνεχούς συμμόρφωσης του συστήματος.

Οντότητα η οποία είναι χρήστης συστήματος ΤΝ υψηλού κινδύνου, υπό την προϋπόθεση ότι δεν θεωρείται πάροχος του συστήματος, υπόκειται σε κάποιες περιορισμένες υποχρεώσεις, όπως τη χρησιμοποίηση του συστήματος σύμφωνα με τις οδηγίες χρήσης του, την παρακολούθηση της ορθής λειτουργίας του, και την τήρηση αρχείων (“log files”).

Συστήματα τεχνητής νοημοσύνης περιορισμένου κινδύνου

Αυτά υπόκεινται σε ορισμένες υποχρεώσεις διαφάνειας. Ειδικότερα, τα συστήματα ΤΝ τα οποία προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα (όπως τα chatbots) πρέπει να ενημερώνουν τα εν λόγω πρόσωπα ότι αλληλεπιδρούν με σύστημα ΤΝ. Τα φυσικά πρόσωπα πρέπει επίσης να ενημερώνονται για περιπτώσεις περιεχομένου εικόνων, ήχου ή βίντεο παραγόμενων από συστήματα ΤΝ τα οποία λανθασμένα μπορεί να εκληφθούν από κάποιο πρόσωπο ως γνήσια ή αληθινά (“deep fakes”).

Κοντά σε επίτευξη συμφωνίας επί του τελικού κειμένου

Κατά τη διάρκεια των διαπραγματεύσεων, το Ευρωπαϊκό Κοινοβούλιο κατέθεσε προτάσεις για επέκταση των περιπτώσεων μη αποδεκτών συστημάτων, συμπεριλαμβανομένης της απαγόρευσης συστημάτων για εξ αποστάσεως βιομετρική ταυτοποίηση προσώπων σε δημόσιους χώρους σε πραγματικό χρόνο, κοινωνικής βαθμολόγησης, και βιομετρικής κατηγοριοποίησης βασιζόμενης σε ευαίσθητα δεδομένα (π.χ. φύλο, φυλή). Όσον αφορά στον κατάλογο των συστημάτων ΤΝ υψηλού κινδύνου του Παραρτήματος III, το Κοινοβούλιο πρότεινε αυτά να θεωρούνται υψηλού κινδύνου στην περίπτωση που ενέχουν σημαντικό κίνδυνο για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα των φυσικών προσώπων. Επιπλέον, πρότεινε την επέκταση του καταλόγου των συστημάτων ΤΝ υψηλού κινδύνου, συμπεριλαμβάνοντας, για παράδειγμα, συστήματα ΤΝ τα οποία προορίζονται να χρησιμοποιηθούν για την εξαγωγή συμπερασμάτων σχετικά με προσωπικά χαρακτηριστικά φυσικών προσώπων χρησιμοποιώντας βιομετρικά δεδομένα, συμπεριλαμβανομένων των συστημάτων αναγνώρισης συναισθημάτων.

Παρόλο που είναι αρκετά πιθανό να επιτευχθεί συμφωνία επί του τελικού κειμένου τον προσεχή Δεκέμβριο, η δημοσίευση του επίσημου κειμένου του Κανονισμού θα χρειαστεί μερικούς μήνες. Ο τελικός Κανονισμός αναμένεται να προβλέπει μεταβατική περίοδο 24 μηνών για τις επηρεαζόμενες οντότητες.

Προετοιμασία

Οι πάροχοι και οι χρήστες συστημάτων που ενδέχεται να εμπίπτουν στον ορισμό του «συστήματος ΤΝ», συμπεριλαμβανομένων των επιχειρήσεων του χρηματοοικονομικού τομέα, πρέπει εγκαίρως να εξετάσουν το κατά πόσον οποιαδήποτε από τα λογισμικά συστήματα και/ή διαδικασίες τους αποτελούν συστήματα ΤΝ και, εάν ναι, κατά πόσο αυτά εμπίπτουν στην κατηγορία υψηλού, περιορισμένου ή καθόλου κινδύνου.

Δεδομένων των επαχθών απαιτήσεων στις οποίες υπόκεινται τα συστήματα ΤΝ υψηλού κινδύνου και των ιδιαίτερα αυστηρών κυρώσεων που προβλέπονται για μη συμμόρφωση, οι οντότητες που ενδέχεται να επηρεαστούν συνιστάται όπως αξιολογήσουν τις προκλήσεις που ανακύπτουν από τη μετάβαση στο νέο καθεστώς, το συντομότερο.