Τον περασμένο Απρίλιο το Ευρωπαϊκό Κοινοβούλιο ψήφισε την τον κανονισμό για τη ρύθμιση της Τεχνητής Νοημοσύνης (EU Artificial Intelligence Act) ανοίγοντας το δρόμο παγκοσμίως για την ρύθμιση ενός μεταβαλλόμενου και περίπλοκου τοπίου.
Στόχος της νέας νομοθεσίας είναι να προστατέψει τα θεμελιώδη δικαιώματα, τη δημοκρατία, το κράτος δικαίου και την περιβαλλοντική βιωσιμότητα από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, αλλά και να ενισχύσει παράλληλα την καινοτομία και να αναδείξει την Ευρώπη ως πρωτοπόρο δύναμη στον τομέα αυτό.
Πρόκειται για μια πρωτοποριακή ρύθμιση ανάφερε ο Ρουμάνος ευρωβουλευτής, μέλος της ομάδας Renew και ένας εκ των εισηγητών του Κανονισμού Dragoș Tudorache στη συνέντευξή του στον Φιλελεύθερο τονίζοντας πως πρόκειται για ένα ικανό πλαίσιο που προστατεύει τους Ευρωπαίους από τα ρίσκα που εμπεριέχει η τεχνολογία. «Πρόκειται για μια τεχνολογία που έχει μετασχηματιστικό αντίκτυπο για όλους μας, για την κοινωνία, την οικονομία, ακόμη και για τη γεωπολιτική και δεν μπορούμε να αδιαφορούμε για την εξέλιξή της και για την αλληλεπίδρασή της με την κοινωνία των πολιτών», επεσήμανε.
Μετά την ψήφισή του στο Ευρωπαϊκό Συμβούλιο τους επόμενους μήνες, ο Κανονισμός θα γίνει νόμος της Ευρωπαϊκής Ένωσης και η πλήρης εφαρμογή του αναμένεται σε περίπου 24 μήνες μετά την έναρξη ισχύος του. Ορίζει διαφορετικές υποχρεώσεις για τα συστήματα τεχνητής νοημοσύνης, ανάλογα με τους πιθανούς κινδύνους και τις επιπτώσεις που ενέχει η χρήση τους. «Το πιο σημαντικό είναι ότι δεν προσπαθήσαμε να ρυθμίσουμε την ίδια την τεχνολογία, καθώς κάτι τέτοιο θα ήταν αδύνατο. Εξετάσαμε τις χρήσεις της για τον εντοπισμό εκείνων των τομέων, που οι λειτουργίες της εγείρουν κινδύνους για εμάς τους ανθρώπους και την κοινωνία», τόνισε ο Ρουμάνος ευρωβουλευτής, εξηγώντας πως οι νέοι κανόνες απαγορεύουν ορισμένες εφαρμογές τεχνητής νοημοσύνης που απειλούν τα δικαιώματα των πολιτών και που είναι αντίθετα με τις αρχές της ΕΕ.
-Για ποιους λόγους χρειαζόμαστε κανόνες για τη ρύθμιση της Τεχνητής Νοημοσύνης;
-Οι κανόνες είναι απαραίτητοι αφενός γιατί πρόκειται για μια τεχνολογία που έχει μετασχηματιστικό αντίκτυπο για όλους μας, για την κοινωνία, την οικονομία, ακόμη και για τη γεωπολιτική και αφετέρου γιατί δεν μπορούμε να αδιαφορούμε για την εξέλιξή της και για την αλληλεπίδρασή της με την κοινωνία των πολιτών. Βλέπουμε πως έχει τεράστιες δυνατότητες και ότι θα αποφέρει τεράστια οφέλη. Αλλά την ίδια στιγμή διακυβεύονται και πολλά, για παράδειγμα όταν πηγαίνουμε σε μια τράπεζα να πάρουμε ένα δάνειο ή όταν ένα σχολείο χρησιμοποιεί αλγόριθμους για να κατανέμει τα παιδιά για ορισμένες τάξεις. Η συγκεκριμένη τεχνολογία εγείρει κινδύνους. Και το ερώτημα είναι, εμπιστευόμαστε αυτούς που αναπτύσσουν την Τεχνητή Νοημοσύνη για να λάβουν τα απαραίτητα μέτρα απάλειψης αυτών των κινδύνων; Η ιστορία μας έχει διδάξει, για παράδειγμα στα μέσα κοινωνικής δικτύωσης, πως οι εταιρείες δεν ήταν καθόλου γρήγορες ή πρόθυμες να αντιμετωπίσουν τους συστημικούς κινδύνους στην αλληλεπίδραση της τεχνολογίας με την κοινωνία. Για αυτό και κρίθηκε απαραίτητο να υιοθετηθούν αυστηροί κανόνες ώστε να διασφαλίζουν την εύρυθμη λειτουργία της Τεχνητής Νοημοσύνης.
-Ποιες είναι οι σημαντικότερες διατάξεις του Κανονισμού που υιοθέτησε το Ευρωπαϊκό Κοινοβούλιο για την ΤΝ τον περασμένο Απρίλιο;
-Το πιο σημαντικό είναι αυτό που αποκαλούμε προσέγγιση της Τεχνητής Νοημοσύνης με βάση τον κίνδυνο, το οποίο ουσιαστικά σημαίνει ότι δεν προσπαθήσαμε να ρυθμίσουμε την ίδια την τεχνολογία, κάτι τέτοιο θα ήταν άλλωστε αδύνατο. Εξετάσαμε τις χρήσεις της για τον εντοπισμό εκείνων των τομέων, που οι λειτουργίες της εγείρουν κινδύνους για εμάς τους ανθρώπους και την κοινωνία. Η ρύθμιση για την υπόλοιπη ΤΝ που βελτιστοποιεί τις βιομηχανικές διαδικασίες, που βοηθά στη διαχείριση της κυκλοφορίας στους δρόμους, των μεταφορών και της εναέριας κυκλοφορίας, τη συντριπτική δηλαδή πλειοψηφία της συγκεκριμένης τεχνολογίας και που δεν βάζει σε κίνδυνο τα δικαιώματα μας, παραμένει ως έχει. Όπου υπάρχουν κίνδυνοι εκεί υπάρχει και ρύθμιση. Στον πυρήνα του Κανονισμού βρίσκεται ο διαχωρισμός σε επίπεδα κινδύνου. Τα συστήματα τεχνητής νοημοσύνης απαράδεκτου κινδύνου απαγορεύονται, τα συστήματα υψηλού κινδύνου θα υπόκεινται σε αυστηρούς κανόνες, ενώ τα χαμηλού κινδύνου θα υπόκεινται σε χαλαρότερους κανόνες.
-Μπορείτε να μας δώσετε συγκεκριμένα παραδείγματα για το τι αφορά το κάθε επίπεδο κινδύνου;
Ας ξεκινήσουμε από την κορυφή της πυραμίδας κινδύνου. Οι απαγορεύσεις στην κατηγορία απόλυτου κινδύνου αφορούν εφαρμογές που έχουν να κάνουν με κοινωνική βαθμολόγηση (social scoring) όπως γίνεται στην Κίνα, όπου αν δεν έχεις πετύχει ένα συγκεκριμένο σκορ δεν μπορείς να έχεις πρόσβαση σε κάποιες υπηρεσίες ή τα παιδιά σου να μην μπορούν να πάνε σε συγκεκριμένα σχολεία. Έχει να κάνει επίσης, με συστήματα μαζικής παρακολούθησης των πολιτών. Και τα δύο είναι απολύτως αντίθετα, με τις αξίες και τις αρχές της ΕΕ. Η προβλεπτική αστυνόμευση, επίσης απαγορεύεται, καθώς πιστεύουμε στο τεκμήριο της αθωότητας και διαφωνούμε με τη χρήση αλγόριθμων με την πρόβλεψη εγκληματικής συμπεριφοράς. Ένα άλλο παράδειγμα είναι η βιομετρική κατηγοριοποίηση με βάση τις προτιμήσεις, όπως είναι οι πολιτικές θέσεις, ο σεξουαλικός προσανατολισμός, οι θρησκευτικές πεποιθήσεις. Στις κατηγορίες υψηλού κινδύνου ανήκουν οι τομείς που η χρήση της Τεχνητής Νοημοσύνης έρχεται σε άμεση επαφή με τους ανθρώπους και αυτό αφορά στις τράπεζες, στην υγεία ή στην εκπαίδευση. Και αφορά συστήματα κρίσιμα για την διοίκηση, την ασφάλεια, τη διασφάλιση των συνόρων. Περιπτώσεις, δηλαδή, που η ΤΝ χρησιμοποιείται για να βοηθήσει στην ανάλυση μεμονωμένων περιπτώσεων. Σε αυτή την περίπτωση επιτρέπεται η χρήση αλγόριθμων, αλλά πρέπει να υπάρχουν δικλείδες ασφαλείας, ώστε τα δεδομένα που χρησιμοποιούνται να μην περιέχουν προκαταλήψεις ή διακρίσεις. Περισσότεροι άνδρες και γυναίκες, περισσότεροι λευκοί από μαύρους και ούτως καθεξής. Για αυτό και απαιτούμε για αυτές τις εφαρμογές πλήρη επεξήγηση της τεχνικής τεκμηρίωσης ως προς τον τρόπο με τον οποίο κτίζουν τα αποτελέσματά τους, έτσι ώστε οι ρυθμιστικές αρχές να μπορούν στη συνέχεια να ασκήσουν επαρκείς ελέγχους.
-Πότε θα αρχίσει να εφαρμόζεται ο Κανονισμός και τι πρέπει να κάνουν τα κράτη μέλη για να εναρμονιστούν;
– Αναμένουμε ότι ο Κανονισμός θα δημοσιευθεί στις αρχές Ιουνίου. Στη συνέχεια μέσα από τρεις φάσεις πρέπει να αρχίζει να εφαρμόζεται σε δύο χρόνια από τώρα. Έτσι τα κράτη μέλη θα έχουν 24 μήνες για να εναρμονιστούν και να δημιουργήσουν την αρμόδια Αρχή, είτε προχωρώντας σε αλλαγές σε αυτό που ήδη έχουν, είτε διορίζοντας μια νέα, που θα είναι υπεύθυνη για την εφαρμογή του κανονισμού.
-Πιστεύετε πως η πρωτοπόρα προσπάθεια της ΕΕ να ρυθμίσει την ΤΝ θα κάνει τη διαφορά αν και οι υπόλοιπες χώρες δεν υιοθετήσουν παρόμοιους κανόνες;
-Ισχύει ότι προς το παρόν είμαστε οι μόνοι που θέσαμε κανόνες. Από την άλλη, όμως είμαι πεπεισμένος πως θα ακολουθήσουν και άλλοι και μάλιστα γρήγορα. Έχω έρθει με αρκετά εθνικά κοινοβούλια και κυβερνήσεις σε όλο τον κόσμο, στη Λατινική Αμερική, την Ασία και άλλες χώρες και πληροφορήθηκα ότι βρίσκονται σε διάφορα στάδια προετοιμασίας της εθνικής νομοθεσίας τους για ΤΝ. Και εδώ νομίζω ότι έχουμε ένα πλεονέκτημα κατά κάποιον τρόπο, διότι οι κανόνες μας θα χρησιμεύσουν ως έμπνευση και για άλλες χώρες. Μέσα σε δύο χρόνια από τώρα θα υπάρχουν υποχρεωτικά πρότυπα. Οι εξελίξεις στην ΤΝ εντός και εκτός ΕΕ θα επηρεαστούν από αυτά τα ευρωπαϊκά πρότυπα.
-Η τεχνολογία προχωρεί πολύ γρήγορα. Σας ανησυχεί το γεγονός πως μέχρι να εφαρμοστεί ο κανονισμός για την ΤΝ μπορεί να μην είναι τόσο σχετικός;
-Όχι, καθόλου, επειδή έχουμε τη δυνατότητα βάση ενός πρωτοκόλλου να ρυθμίζουμε τεχνικά ζητήματα πολύ γρήγορα ανάλογα με τις ανάγκες που προκύπτουν. Έτσι και με το νέο κανονισμό, όπου απαιτείται, θα γίνονται αλλαγές συνεχώς. Έτσι, ο νέος κανονισμός θα έχει την δυνατότητα να προσαρμόζεται συνεχώς και να συμβαδίζει με την τεχνολογία.
-Πιστεύετε πως οι εταιρείες τεχνολογίας λαμβάνοντας τη δύναμη που έχουν, θα προσπαθήσουν να σταματήσουν ή να αποδυναμώσουν τον Κανονισμό για την ΤΝ;
– Λοιπόν, ήδη επιχείρησαν να κάνουν κάτι τέτοιο όταν ξεκινούσαν οι συζητήσεις. Για μεγάλο διάστημα έλπιζαν πως δεν θα καταφέρναμε να φτάσουμε μέχρι τέλους. Τώρα που η νομοθεσία υιοθετήθηκε κατάλαβαν πως δεν υπάρχει τρόπος για να την αποφύγουν. Είτε τους αρέσει είτε όχι αντιλαμβάνονται πως αυτό είναι το νέο πρότυπο για την ΤΝ και πρέπει να προσαρμοστούν με αυτό. Θα προβάλουν αντιρρήσεις; Είναι φυσικό να συμβεί αυτό. Το ερώτημα είναι αν η νομοθεσία θα τους επιτρέψει σε ευρωπαϊκό επίπεδο, να παρακάμψουν τους κανόνες. Δεν πιστεύω πως θα συμβεί κάτι τέτοιο γιατί θα υπάρχουν πολύ αυστηρές κυρώσεις.
-Θα μπορούσε με κάποιο τρόπο ο κανονισμός να δράσει ως τροχοπέδη και να κρατήσει πίσω την ΕΕ από την τεχνολογική ανάπτυξη, ειδικά στον ανταγωνισμό με την Κίνα και τις ΗΠΑ;
-Ξεκάθαρα όχι. Δεν πιστεύω πως υπάρχει δίλημμα ανάμεσα στη ρύθμιση από τη μια και την καινοτομία από την άλλη. Οι κανόνες δεν σταματήσαν τις φαρμακοβιομηχανίες, τις αυτοκινητοβιομηχανίες και όλους τους άλλους τομείς από το να αναπτύσσονται. Οι κανόνες δεν φρενάρουν την καινοτομία και ένα καθεστώς άγριας Δύσης δεν βοηθά ιδιαίτερα. Για αυτό και πιστεύω πως η ύπαρξη προτύπων είναι κάτι που ενισχύει και τις ίδιες τις εταιρείες, καθώς δημιουργεί σταθερότητα στην αγορά και τους επιτρέπει να λειτουργούν καλή πίστη. Και αυτό είναι τα σημάδια που λαμβάνω από τεχνολογικές εταιρείες.
