Όταν αποφασίζει η Τεχνητή Νοημοσύνη: Ευθύνη και λογοδοσία στην ψηφιακή λήψη αποφάσεων

Επιμέλεια: Βασίλειος Δ. Δημητρόπουλος, Ηλεκτρολόγος Μηχανικός & Μηχανικός Υπολογιστών, PhDc

Η ενσωμάτωση συστημάτων τεχνητής νοημοσύνης μεταβάλλει τον τρόπο με τον οποίο ιδιωτικοί και δημόσιοι οργανισμοί λαμβάνουν αποφάσεις. Η επίδραση αυτή δεν αφορά μόνο την τελική κρίση. Αφορά και την προετοιμασία, την υποστήριξη και την αιτιολόγησή της. Από την αξιολόγηση αιτήσεων χρηματοδότησης έως τη διαχείριση σύνθετων δικτύων, η ανθρώπινη κρίση συχνά διαμεσολαβείται από αυτοματοποιημένη επεξεργασία δεδομένων.

Το ερώτημα που ανακύπτει είναι κατεξοχήν νομικό: πώς αποδίδεται ευθύνη όταν το αποτέλεσμα δεν αποτελεί προϊόν αποκλειστικά ανθρώπινης κρίσης;

Αυτοματοποιημένη απόφαση και ουσιαστική ανθρώπινη παρέμβαση

Στο πεδίο της προστασίας προσωπικών δεδομένων, κρίσιμο σημείο αναφοράς αποτελεί το άρθρο 22 του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR). Η διάταξη κατοχυρώνει το δικαίωμα του υποκειμένου να μην υπόκειται σε απόφαση που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία. Στην έννοια αυτή περιλαμβάνεται και η κατάρτιση προφίλ. Η προστασία του άρθρου 22 ενεργοποιείται όταν η απόφαση παράγει έννομα αποτελέσματα για το υποκείμενο ή το επηρεάζει κατά παρόμοιο τρόπο σημαντικά. Δεν καταλαμβάνει, επομένως, κάθε χρήση τεχνητής νοημοσύνης ή κάθε μορφή αλγοριθμικής υποστήριξης. Απαιτείται να συντρέχουν οι ειδικές προϋποθέσεις του GDPR.

Παράλληλα, τα άρθρα 13 έως 15 GDPR προβλέπουν υποχρεώσεις ενημέρωσης. Στις περιπτώσεις αυτοματοποιημένης λήψης αποφάσεων, το υποκείμενο πρέπει να λαμβάνει ουσιαστική πληροφόρηση για τη λογική που ακολουθείται. Πρέπει επίσης να ενημερώνεται για τη σημασία και τις προβλεπόμενες συνέπειες της επεξεργασίας.

Κρίσιμο ζήτημα είναι η έννοια της ουσιαστικής ανθρώπινης παρέμβασης. Η απλή τυπική επικύρωση ενός αποτελέσματος δεν αρκεί. Η ανθρώπινη συμμετοχή πρέπει να είναι πραγματική. Πρέπει να επιτρέπει αξιολόγηση, αμφισβήτηση και, όπου χρειάζεται, διαφοροποίηση της τελικής απόφασης. Η ύπαρξη ανθρώπινης υπογραφής ή τυπικής τελικής έγκρισης δεν αρκεί από μόνη της. Αν ο άνθρωπος περιορίζεται σε μηχανική αποδοχή της πρότασης, η διαδικασία μπορεί να παραμένει κατ’ ουσίαν αυτοματοποιημένη. Σε μια τέτοια περίπτωση, η προστατευτική λειτουργία του άρθρου 22 GDPR αποδυναμώνεται.

Στην ίδια κατεύθυνση κινείται και η αρχή της λογοδοσίας του άρθρου 5 παρ. 2 GDPR. Ο υπεύθυνος επεξεργασίας δεν αρκεί να συμμορφώνεται με τις αρχές του Κανονισμού. Πρέπει και να μπορεί να αποδείξει τη συμμόρφωσή του. Σε περιβάλλοντα τεχνητής νοημοσύνης, αυτό προϋποθέτει σαφείς ρόλους, καταγεγραμμένους ελέγχους και επαρκή τεχνική και οργανωτική τεκμηρίωση.

Αστική ευθύνη: από την πράξη στην οργανωτική δομή

Στο πεδίο της αστικής ευθύνης, η αφετηρία παραμένει η αδικοπρακτική ευθύνη του άρθρου 914 ΑΚ. Η διάταξη προϋποθέτει παράνομη και υπαίτια συμπεριφορά, ζημία και αιτιώδη σύνδεσμο. Στα συστήματα τεχνητής νοημοσύνης, όμως, η ζημία δεν απορρέει πάντοτε από μία μεμονωμένη ανθρώπινη ενέργεια. Συχνά συνδέεται με επιλογές σχεδιασμού, με την ποιότητα των δεδομένων, με την απουσία ελέγχων ή με την πλημμελή ένταξη της τεχνολογίας σε μια οργανωτική διαδικασία.

Υπό το πρίσμα αυτό, η ευθύνη δεν αναζητείται μόνο στο επίπεδο του φυσικού προσώπου που χειρίστηκε το εργαλείο. Μπορεί να αναζητηθεί και στο επίπεδο του οργανισμού που το επέλεξε και το έθεσε σε λειτουργία. Ανάλογα με τα πραγματικά περιστατικά, κρίσιμες μπορεί να είναι και οι διατάξεις για την ευθύνη νομικών προσώπων ή για πράξεις προστηθέντων. Η πλημμελής οργάνωση μπορεί να λειτουργήσει ως στοιχείο αξιολόγησης της υπαιτιότητας. Το ίδιο ισχύει για την ανεπαρκή τεκμηρίωση, την απουσία ουσιαστικού ελέγχου ή την έλλειψη κατάλληλων διαδικασιών αντιμετώπισης σφαλμάτων.

Έτσι, η νομική αξιολόγηση μετατοπίζεται. Δεν περιορίζεται στη μεμονωμένη πράξη. Εξετάζει και τη διακυβέρνηση της τεχνολογίας: ποιος την επέλεξε, με ποια δεδομένα λειτουργεί, ποιος την ελέγχει και ποια όρια έχουν τεθεί.

Ευθύνη προϊόντος και λογισμικό

Η Οδηγία (ΕΕ) 2024/2853 για την ευθύνη λόγω ελαττωματικών προϊόντων εκσυγχρονίζει το ευρωπαϊκό πλαίσιο ευθύνης προϊόντος. Αποσαφηνίζει, μεταξύ άλλων, ότι το λογισμικό μπορεί να αποτελεί προϊόν για τους σκοπούς της ευθύνης χωρίς πταίσμα. Η Οδηγία πρέπει να μεταφερθεί στο εθνικό δίκαιο των κρατών μελών έως τις 9 Δεκεμβρίου 2026. Αφορά προϊόντα που τίθενται στην αγορά ή σε λειτουργία μετά την ημερομηνία αυτή.

Η εξέλιξη αυτή έχει ιδιαίτερη σημασία για την τεχνητή νοημοσύνη. Το κρίσιμο ερώτημα δεν είναι αν κάθε εσφαλμένο ή ανεπιθύμητο αποτέλεσμα ή δεδομένo εξόδου (output) ενός συστήματος ΤΝ συνιστά ελάττωμα. Το ερώτημα είναι αν το προϊόν παρείχε την ασφάλεια που δικαιούται κανείς να αναμένει. Η αξιολόγηση αυτή λαμβάνει υπόψη τον σκοπό του προϊόντος, την προβλέψιμη χρήση, τους κινδύνους και τις δικλείδες ασφαλείας που έχουν ενσωματωθεί.

Η ευθύνη προϊόντος δεν εξετάζει μόνο το τελικό αποτέλεσμα. Εκτείνεται στον σχεδιασμό, στη διάθεση, στην παρακολούθηση και, όπου απαιτείται, στην ενημέρωση ή διόρθωση μετά τη θέση του προϊόντος στην αγορά ή σε λειτουργία.

AI Act και προληπτική συμμόρφωση

Ο Κανονισμός (ΕΕ) 2024/1689 για την Τεχνητή Νοημοσύνη, γνωστός ως AI Act, υιοθετεί προσέγγιση βασισμένη στον κίνδυνο. Για τα συστήματα υψηλού κινδύνου προβλέπει αυξημένες υποχρεώσεις. Μεταξύ αυτών περιλαμβάνονται η διαχείριση κινδύνου, η τεχνική τεκμηρίωση, η διαφάνεια, η ανθρώπινη εποπτεία, η ακρίβεια, η ανθεκτικότητα και η κυβερνοασφάλεια.

Ο Κανονισμός δεν θεσπίζει αυτοτελές καθεστώς αστικής ευθύνης. Ωστόσο, οι υποχρεώσεις που εισάγει μπορούν να επηρεάσουν την αστική αξιολόγηση. Η μη συμμόρφωση με απαιτήσεις διαχείρισης κινδύνου, ελέγχου ή ανθρώπινης εποπτείας μπορεί να αποτελέσει κρίσιμο στοιχείο. Αυτό θα κριθεί με βάση τα πραγματικά περιστατικά και το εφαρμοστέο εθνικό δίκαιο.

Η έμφαση του νομοθέτη μετατοπίζεται από την εκ των υστέρων διαπίστωση του σφάλματος στην εκ των προτέρων πρόληψη. Η συμμόρφωση δεν εξαντλείται στη χρήση ενός προηγμένου τεχνολογικού εργαλείου. Απαιτεί μηχανισμούς ελέγχου και δυνατότητα λογοδοσίας.

Το ζήτημα της απόδειξης και η πληροφοριακή ασυμμετρία

Η σημαντικότερη δυσχέρεια για τον ζημιωθέντα εντοπίζεται συχνά στην απόδειξη. Το πρόβλημα αφορά ιδίως την ελαττωματικότητα, την πλημμέλεια και τον αιτιώδη σύνδεσμο. Η πολυπλοκότητα ορισμένων συστημάτων δημιουργεί πρακτικά εμπόδια. Το λεγόμενο «black box» μπορεί να καθιστά δυσχερή την κατανόηση του τρόπου με τον οποίο διαμορφώθηκε ένα αποτέλεσμα. Ο ζημιωθείς ενδέχεται να μην έχει πρόσβαση στα κρίσιμα τεχνικά στοιχεία.

Τέτοια στοιχεία μπορεί να είναι τα δεδομένα εισόδου, τα αρχεία καταγραφής, οι παράμετροι λειτουργίας ή οι διαδικασίες ελέγχου. Η πληροφοριακή ασυμμετρία είναι εμφανής. Εκείνος που υφίσταται τη ζημία βρίσκεται συχνά εκτός του τεχνικού και οργανωτικού περιβάλλοντος μέσα στο οποίο διαμορφώθηκε η απόφαση.

Η Οδηγία 2024/2853 επιχειρεί να μετριάσει αυτή την ασυμμετρία. Προβλέπει πρόσβαση σε σχετικά αποδεικτικά στοιχεία υπό όρους αναγκαιότητας και αναλογικότητας. Προβλέπει επίσης ορισμένα τεκμήρια ελαττωματικότητας ή αιτιώδους συνδέσμου σε περιπτώσεις τεχνικής ή επιστημονικής πολυπλοκότητας. Η κατεύθυνση αυτή δεν αναιρεί την ανάγκη δικαστικής αξιολόγησης κατά περίπτωση. Αναγνωρίζει όμως ένα πρακτικό πρόβλημα: η κρίσιμη πληροφορία βρίσκεται συχνά στη σφαίρα του κατασκευαστή, του παρόχου ή του φορέα που χρησιμοποιεί την τεχνολογία.

Συμπέρασμα

Η ψηφιακή λήψη αποφάσεων δεν αναιρεί την ευθύνη. Αντιθέτως, αναδεικνύει την ανάγκη ακριβέστερης κατανομής της. Η νομική αξιολόγηση δεν μπορεί να περιορίζεται στο τελικό αποτέλεσμα. Πρέπει να εξετάζει τον σχεδιασμό, την επιλογή, την ένταξη, τον έλεγχο και τη χρήση της τεχνολογίας.

Σε ένα περιβάλλον όπου η απόφαση δεν είναι πάντοτε αποκλειστικά ανθρώπινη, οι κλασικές έννοιες της υπαιτιότητας, του αιτιώδους συνδέσμου και της λογοδοσίας δεν εγκαταλείπονται. Προσαρμόζονται σε νέες τεχνικές και οργανωτικές πραγματικότητες.

Το ζητούμενο δεν είναι να αποδοθεί νομική προσωπικότητα ή αυτοτελής ευθύνη στην τεχνητή νοημοσύνη. Είναι να διασφαλιστεί ότι πίσω από κάθε υποστηριζόμενη απόφαση υπάρχουν αναγνωρίσιμοι φορείς ευθύνης, σαφείς διαδικασίες ελέγχου και αποτελεσματικοί μηχανισμοί προστασίας για το πρόσωπο που επηρεάζεται.