AI Act: Είναι πραγματικότητα και είναι Ευρωπαϊκό!

Του Χάρη Καλπάκη,

Μόλις δύο εβδομάδες έχουν περάσει από τη δημοσίευση στην εφημερίδα της ΕΕ του πρώτου παγκοσμίως ολοκληρωμένου πλαισίου δεσμευτικών κανόνων για την τεχνητή νοημοσύνη (εφεξής ΤΝ), του Κανονισμού (ΕΕ) 2024/1689 (εφεξής Κανονισμός). Ναι, κι όμως, όσο περίεργο κι αν ακούγεται, αυτή η τεχνολογία που έχει μπει τόσο γρήγορα και κομβικά στην καθημερινότητά μας, από το Face ID και τη Siri, μέχρι το Chat GPT, ρυθμίστηκε για πρώτη φορά τώρα! Οι συζητήσεις, βέβαια, για νομική ρύθμιση της ΤΝ έχουν τις αρχές τους στον μακρινό Απρίλιο του 2021 με προτάσεις ρυθμιστικών πλαισίων της Ευρωπαϊκής Επιτροπής.

Κατανόηση κομβικών εννοιών

Ως τεχνητή νοημοσύνη μπορούμε να ορίσουμε γενικά τη λειτουργία ενός υπολογιστικού συστήματος κατά την οποία αυτό μιμείται ανθρώπινες συμπεριφορές περιέχουσες ευφυΐα, όπως η μάθηση, η καλλιτεχνική και επιστημονική δημιουργία, ο σχεδιασμός κ.ο.κ.

Διακρίνουμε μεταξύ μοντέλων και συστημάτων ΤΝ: τα μοντέλα ΤΝ συνιστούν αλγορίθμους/προγράμματα για την εκτέλεση εργασιών και αποτελούν κατασκευαστικά στοιχεία των συστημάτων ΤΝ· με την προσθήκη περαιτέρω κατασκευαστικών στοιχείων, όπως η διεπαφή χρήστη, καθίστανται συστήματα ΤΝ. Τα συστήματα, αντίστοιχα, συνιστούν «μηχανικά συστήματα που έχουν σχεδιαστεί για να λειτουργούν με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζουν προσαρμοστικότητα μετά την εφαρμογή τους και τα οποία, για ρητούς ή σιωπηρούς στόχους, συνάγουν, από τα στοιχεία εισόδου που λαμβάνουν, πώς να παράγουν στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα» (άρ. 3 στοιχ. 1 Καν.).

Βασικό στοιχείο των συστημάτων ΤΝ είναι, λοιπόν, να συνάγουν συμπεράσματα. Η ικανότητα ενός συστήματος ΤΝ να συνάγει συμπεράσματα υπερβαίνει τη βασική επεξεργασία δεδομένων, ενώ παράλληλα ο σχεδιασμός αυτών των συστημάτων είναι τέτοιος, ώστε να λειτουργούν με ποικίλα επίπεδα αυτονομίας.

Από όλα τα παραπάνω, σε συνδυασμό με την ευχέρεια εφαρμογής των συστημάτων ΤΝ σε ευρύ φάσμα κλάδων της οικονομίας και σε πολλούς τομείς της κοινωνίας, εύκολα γίνονται αντιληπτοί οι κίνδυνοι που μπορεί να προκαλέσει η κακή χρήση της ΤΝ για τα θεμελιώδη δικαιώματα, όπως κατοχυρώνονται από τον Χάρτη Θεμελιωδών Δικαιωμάτων της ΕΕ και την ΕΣΔΑ —και ιδίως για την προστασία της ιδιωτικότητας— για τα δημόσια συμφέροντα, την προστασία του περιβάλλοντος, καθώς και το κράτος δικαίου. Έτσι, λοιπόν, διαφαίνεται καλύτερα και ο ίδιος χαρακτήρας εφαρμογής του Κανονισμού: είναι κατά κανόνα παραπληρωματικός των Κανονισμών για την προστασία των δεδομένων, των καταναλωτών, των εργαζομένων κτλ. και εν μέρει ειδικός στον βαθμό που θεσπίζει ειδικότερους κανόνες.

Με αυτή τη βάση μπορούμε να προχωρήσουμε στο τρίπτυχο των πρωταγωνιστών του Κανονισμού: τα δεδομένα, τον πάροχο ΤΝ και τον φορέα εφαρμογής .

• Δεδομένα είναι ένα σύνολο στοιχείων ή σημεία πληροφοριών που αφορούν πρόσωπα, γεγονότα, καταστάσεις και οτιδήποτε δεκτικό αντίληψης. Ειδικότερα, προσωπικά δεδομένα είναι πληροφορίες που αφορούν ένα ταυτοποιημένο ή ταυτοποιήσιμο εν ζωή άτομο, οι οποίες, εάν συγκεντρωθούν όλες μαζί, μπορούν να οδηγήσουν στην εξακρίβωση αυτού.
• Πάροχος ΤΝ είναι ένα «φυσικό ή νομικό πρόσωπο, δημόσια αρχή, υπηρεσία ή άλλος φορέας που αναπτύσσει σύστημα ΤΝ ή μοντέλο ΤΝ γενικού σκοπού ή έχει αναπτύξει και διαθέτει σύστημα ΤΝ ή μοντέλο ΤΝ γενικού σκοπού στην αγορά ή θέτει το σύστημα ΤΝ σε λειτουργία υπό τη δική του επωνυμία ή εμπορικό σήμα, είτε έναντι αντιτίμου είτε δωρεάν» (άρ. 3 στοιχ. 3 Καν).
• Φορέας εφαρμογής είναι ένα «φυσικό ή νομικό πρόσωπο, δημόσια αρχή, υπηρεσία ή άλλος φορέας που χρησιμοποιεί σύστημα ΤΝ υπό την ευθύνη του, εκτός εάν το σύστημα ΤΝ χρησιμοποιείται στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας» (άρ. 3 στοιχ. 4 Καν.).

Γενικές αρχές

«Σκοπός του κανονισμού είναι να βελτιώσει τη λειτουργία της εσωτερικής αγοράς και να προωθήσει την υιοθέτηση ανθρωποκεντρικής και αξιόπιστης τεχνητής νοημοσύνης (ΤΝ), παράλληλα διασφαλίζοντας υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της περιβαλλοντικής προστασίας από τις επιζήμιες συνέπειες των συστημάτων ΤΝ στην Ένωση, και στηρίζοντας την καινοτομία» (άρ.1).

Μια πρώτη και θεμελιακή βάση για την συγκρότηση και διατύπωση του ρυθμιστικού πλαισίου του Κανονισμού αποτέλεσαν οι κατευθυντήριες γραμμές δεοντολογίας της ΟΕΥΕ του 2019, επτά στο σύνολο. Αυτές, όπως αναπτύσσονται και στο προοίμιο του Κανονισμού, είναι οι εξής:

1. η ανθρώπινη παρέμβαση και εποπτεία,
2. η τεχνική στιβαρότητα και ασφάλεια,
3. η ιδιωτική ζωή και διακυβέρνηση των δεδομένων,
4. η διαφάνεια,
5. η πολυμορφία, η απαγόρευση των διακρίσεων και η δικαιοσύνη,
6. η κοινωνική και περιβαλλοντική ευημερία και
7. η λογοδοσία.

Στο πλαίσιο αυτής της ευσύνοπτης παρουσίασης του Κανονισμού και για τις ανάγκες του άρθρου αξίζουν να επισημανθούν τα ακόλουθα:

• Η ανθρώπινη εποπτεία υπήρξε ιδιαίτερα σημαντική για ολόκληρη την φυσιογνωμία του Κανονισμού, καθώς το χαρακτηριστικό των συστημάτων ΤΝ είναι η συναγωγή συμπερασμάτων∙ για να αποφευχθούν, λοιπόν, τακτικές διακρίσεων και για να προστατευθούν τα θεμελιώδη δικαιώματα θεωρήθηκε ως αποτελεσματικότερη ασφαλιστική δικλείδα ο ανθρώπινος έλεγχος, που διατρέχει το σύνολο των ρυθμίσεων (βλ. Ενδεικ. Άρ. 6 παρ. 3 Καν., άρ. 14 κτλ.).
• Σημαντικό ρόλο, επίσης, διαδραματίζουν οι διατυπώσεις διαφάνειας που απαιτούνται για μια ασφαλή και αξιόπιστη ΤΝ, στις οποίες χρειάζεται να δοθεί ιδιαίτερη προσοχή (άρ. 13, 50 Καν.).

Η λογική πίσω από τον Κανονισμό

Εφόσον, όπως προεκτέθη, τα συστήματα ΤΝ μπορούν να προκαλέσουν, ανάλογα τη χρήση, τους ποικίλους κινδύνους, κρίθηκε ορθότερη μια ταξινόμησή τους βάσει του κινδύνου που παράγουν.

Στο ένα άκρο έχουμε τα συστήματα απαράδεκτου κινδύνου, τα οποία ενέχουν δηλαδή παραβίαση των θεμελιωδών δικαιωμάτων της ΕΕ και για αυτό κατά το άρθρο 5 απαγορεύονται. Σε γενικές γραμμές πρόκειται για πρακτικές που περιλαμβάνουν: τεχνικές χειραγώγησης ατόμων ή στοχευμένων κοινωνικών ομάδων βάσει των χαρακτηριστικών τους, βιομετρική κατηγοριοποίηση ατόμων σε κοινωνικές κατηγορίες και κοινωνική βαθμολόγηση, καθώς και βιομετρική ταυτοποίηση και αναγνώριση. Οι όποιες εξαιρέσεις επιτρέπονται από την απαγόρευση γίνονται δεκτές μόνο στο πλαίσιο επιβολής του νόμου.

Στο άλλο άκρο βρίσκονται τα συστήματα μηδαμινού ρίσκου, τα οποία και επιτρέπονται. Η πιο αναλυτικά ρυθμισμένη κατηγορία στον Κανονισμό είναι αυτή των συστημάτων υψηλού κινδύνου. Πρόκειται για συστήματα που ενέχουν κινδύνους για την ασφάλεια, την υγεία και τα θεμελιώδη δικαιώματα. Διακρίνονται σε: αυτά που εμπεριέχονται σε προϊόντα, που ρυθμίζονται από την ευρωπαϊκή νομοθεσία για την ασφάλεια προϊόντων (άρ. 6 παρ. 1 Καν.) και αυτά που περιλαμβάνονται σε ορισμένους τομείς κατά το άρ.6 παρ. 2 Καν. σε συνδ. Με Παράρτημα III. Για αυτά θεσπίζονται ορισμένες απαιτήσεις (άρ.8- άρ.15) και υποχρεώσεις για τους παρόχους, τους εισαγωγείς, τους διανομείς και τους φορείς εφαρμογής τους (άρ.16- άρ.26), ενώ παράλληλα διέρχονται μια διαδικασία αξιολόγησης (Παράρτημα IV) από εθνικές αρχές (άρ. 28) και οργανισμούς αξιολόγησης συμμόρφωσης (άρ. 39) προκειμένου να διατεθούν στην αγορά.

Τέλος, υπάρχει και η κατηγορία του συστημικού κινδύνου, ο οποίος αφορά τα μοντέλα ΤΝ γενικού σκοπού, όπως ορίζεται στο άρ. 3 στοιχ. 63 Καν. και ρυθμίζεται από τα άρ. 51 επ. Καν.

 Υπόλοιπες ρυθμίσεις του Κανονισμού

Ακόμα, ο Κανονισμός περιλαμβάνει διατάξεις για την ίδρυση από τα κράτη-μέλη ρυθμιστικών δοκιμαστηρίων ΤΝ (άρ. 57 επ. Καν.) για την ανάπτυξη και την δοκιμή με ασφάλεια καινοτόμων συστημάτων ΤΝ και υπό αυστηρή εποπτεία. Συστήνεται Συμβούλιο Τεχνητής Νοημοσύνης προκειμένου να μεριμνά για την ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του Κανονισμού, το οποίο συνεπικουρείται από ένα συμβουλευτικό φόρουμ και μια επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων (άρ. 67,68). Θεσπίζεται υποχρέωση των κρατών-μελών να ορίσουν ή να συστήσουν ως εθνικές, αρμόδιες για τους σκοπούς του Κανονισμού, αρχές μια κοινοποιούσα αρχή και μία αρχή εποπτείας (άρ. 28 επ. και αρ. 70 επ.). Συστήνονται οργανισμοί αξιολόγησης της συμμόρφωσης με τις απαιτήσεις του Κανονισμού των συστημάτων ΤΝ υψηλού κινδύνου (άρ. 3 στοιχ. 21 και άρ. 39 Καν.) και σε περίπτωση παράβασης του Κανονισμού προβλέπονται κυρώσεις (άρ. 99 επ.).

Το μέλλον μετά την δημοσίευση του Κανονισμού

Ο Κανονισμός έχει ήδη τεθεί σε ισχύ και θα εφαρμόζεται ολόκληρος και καθολικά από τον Αύγουστο του 2027, με εξαίρεση ορισμένες γενικές διατάξεις και απαγορεύσεις που θα αρχίσουν να εφαρμόζονται από τον Φεβρουάριο του 2025. Αναμένεται να διαπιστωθεί η ευστοχία και η αποτελεσματικότητά του και κυρίως ο τρόπος με τον οποίο θα επιλυθούν οι προκλήσεις ερμηνείας που θα ανακύψουν, λόγω της αλληλεπίδρασής του με άλλα κομβικά νομοθετήματα, όπως τον Κανονισμό (ΕΕ) 2016/679 για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα (GDPR).

ΕΝΔΕΙΚΤΙΚΕΣ ΠΗΓΕΣ

• Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση των κανονισμών (ΕΚ) αριθ. 300/2008, (ΕΕ) αριθ. 167/2013, (ΕΕ) αριθ. 168/2013, (ΕΕ) 2018/858, (ΕΕ) 2018/1139 και (ΕΕ) 2019/2144 και των οδηγιών 2014/90/ΕΕ, (ΕΕ) 2016/797 και (ΕΕ) 2020/1828 (κανονισμός για την τεχνητή νοημοσύνη) (Κείμενο που παρουσιάζει ενδιαφέρον για τον ΕΟΧ), eur-lex.europa.eu, Διαθέσιμος εδώ.
• Πράξη Τεχνητής Νοημοσύνης της ΕΕ: πρώτος κανονισμός για την τεχνητή νοημοσύνη, europa.eu, Διαθέσιμο εδώ.
• Τι είναι η τεχνητή νοημοσύνη και πώς χρησιμοποιείται;, europa.eu, Διαθέσιμο εδώ.
• Μαρία Ε. Ιακωβίδου (2024), Ο Κανονισμός (EE) 2024/1689 για την τεχνητή νοημοσύνη (AI Act), iakovidoulaw.gr, Διαθέσιμο εδώ.
• AI Act: Εγκρίθηκε ο Κανονισμός για την Τεχνητή νοημοσύνη – Τι προβλέπει, lawspot.gr, Διαθέσιμο εδώ.