Ιταλία: Παράνομη η επεξεργασία δεδομένων δημοσιογράφου από σατιρική εκπομπή μέσω Deepfake

Παράνομη έκρινε η ιταλική αρχή προστασίας δεδομένων Garante τη δημιουργία και μετάδοση βίντεο deepfake στα οποία ο γνωστός Ιταλός δημοσιογράφος Enrico Mentana εμφανιζόταν να εκφωνεί δηλώσεις που ουδέποτε είχε κάνει. Τα επίμαχα βίντεο δημιουργήθηκαν για τη «Striscia la Notizia», τη σατιρική εκπομπή του Canale 5, με τη χρήση πραγματικών πλάνων του Mentana από το στούντιο του τηλεοπτικού δελτίου ειδήσεων του La7, το οποίο διευθύνει και παρουσιάζει. Με τη χρήση συστημάτων τεχνητής νοημοσύνης, η εκπομπή είχε παρέμβει στο υλικό, εμφανίζοντας τον δημοσιογράφο να εκφωνεί, με διαφορετική φωνή, κείμενα που είχαν συντάξει οι δημιουργοί της. Το αποτέλεσμα ήταν βίντεο στα οποία ο Mentana παρουσιαζόταν, στο πραγματικό επαγγελματικό περιβάλλον του και υπό την ιδιότητά του ως παρουσιαστή του δελτίου ειδήσεων, να κάνει δηλώσεις που στην πραγματικότητα δεν είχε ποτέ κάνει.

Η καταγγελία του δημοσιογράφου

Με την καταγγελία του ενώπιον της Garante, ο Mentana υποστήριξε ότι η χρήση της εικόνας του με τον τρόπο αυτό υπερέβαινε τα όρια της σάτιρας. Όπως ανέφερε, τα βίντεο ήταν αρκετά αληθοφανή ώστε πολλοί θεατές να θεωρήσουν ότι επρόκειτο για πραγματικά αποσπάσματα του δελτίου του La7 και ότι οι επίμαχες δηλώσεις είχαν πράγματι γίνει από τον ίδιο. Προς επίρρωση του ισχυρισμού του επικαλέστηκε, μεταξύ άλλων, αντιδράσεις χρηστών στα μέσα κοινωνικής δικτύωσης, οι οποίοι τον επέκριναν ή τον προσέβαλαν για όσα εμφανιζόταν να έχει πει. Κατά τον ίδιο, δεν επρόκειτο για σατιρική παραμόρφωση πραγματικών δηλώσεων ή συμπεριφορών του, αλλά για τη δημιουργία ενός ψηφιακού «σωσία» στον οποίο αποδίδονταν απόψεις και δηλώσεις που δεν ήταν δικές του.

Η εταιρεία R.T.I., υπεύθυνη για την παραγωγή της εκπομπής, αντέτεινε ότι τα αυθεντικά πλάνα είχαν αποκτηθεί νομίμως από τη La7 βάσει σχετικής σύμβασης και ότι η παρέμβασή της περιορίστηκε στην αντικατάσταση της φωνής του Mentana με διαφορετική φωνή, με τη χρήση τεχνολογικών συστημάτων. Κατά την εταιρεία, επρόκειτο ουσιαστικά για μια σύγχρονη μορφή μίμησης, στην οποία η τεχνολογία τεχνητής νοημοσύνης είχε υποκαταστήσει τον άνθρωπο που θα την έκανε.

Η εταιρεία υποστήριξε ακόμη ότι η χρήση αυτή καλυπτόταν από το δικαίωμα στη σάτιρα και ότι το κοινό μπορούσε να αντιληφθεί τον κατασκευασμένο χαρακτήρα των βίντεο τόσο από το ύφος και το περιεχόμενό τους όσο και από το σατιρικό πλαίσιο της Striscia la Notizia. Επικαλέστηκε επίσης τις σχετικές ενδείξεις και προειδοποιήσεις για τη χρήση deepfake που συνόδευαν, κατά περίπτωση, τη μετάδοση και την ανάρτηση των επίμαχων βίντεο.

Η κρίση της Garante

Η ιταλική αρχή δέχθηκε καταρχήν ότι η επεξεργασία εντασσόταν στην ελευθερία της έκφρασης και, ειδικότερα, στη σάτιρα, ως εκ τούτου, η χρήση προσωπικών δεδομένων στο πλαίσιο αυτό δεν προϋποθέτει κατ’ ανάγκην τη συγκατάθεση του ενδιαφερομένου. Αυτό όμως, όπως παρατήρησε, δεν σημαίνει πως η σάτιρα εξαιρείται πλήρως από τις εγγυήσεις της νομοθεσίας για την προστασία δεδομένων, αφού η επεξεργασία αυτή πρέπει να σέβεται τα δικαιώματα, τις θεμελιώδεις ελευθερίες και την αξιοπρέπεια του προσώπου.

Καθοριστικό για την κρίση της Garante ήταν ότι χρησιμοποιήθηκε η εικόνα του Mentana μέσα στο πραγματικό επαγγελματικό περιβάλλον του, δηλαδή στο στούντιο από το οποίο παρουσιάζει το δελτίο ειδήσεων. Η αλλοίωση μέσω ΤΝ δεν ήταν ευδιάκριτη, ενώ και οι δηλώσεις που του αποδίδονταν δεν είχαν, κατά την εποπτική αρχή, τέτοιο βαθμό υπερβολής ώστε να καθίσταται αμέσως αντιληπτό ότι ήταν ψευδείς.

Ο συνδυασμός αυτός καθιστούσε την επεξεργασία ιδιαίτερα επικίνδυνη για την προσωπική ταυτότητα του δημοσιογράφου και μπορούσε να μετατρέψει το deepfake σε μέσο παραπληροφόρησης του κοινού.

Ανεπαρκείς οι προειδοποιήσεις για το deepfake

Ιδιαίτερη σημασία απέδωσε η Garante και στον τρόπο με τον οποίο οι θεατές ενημερώνονταν ότι το περιεχόμενο που παρακολουθούσαν ήταν τεχνητά κατασκευασμένο. Η R.T.I. είχε υποστηρίξει ότι το κοινό είχε ενημερωθεί εξαρχής για τη χρήση τεχνολογίας deepfake, επικαλούμενη, μεταξύ άλλων, σχετικές αναφορές κατά την παρουσίαση των επίμαχων αποσπασμάτων, επεξηγηματικές ενδείξεις στα βίντεο που αναρτήθηκαν στον ιστότοπο της εκπομπής, καθώς και πρόσθετες επισημάνσεις στην πλατφόρμα Mediaset Infinity.

Οι προειδοποιήσεις αυτές δεν κρίθηκαν, ωστόσο, επαρκείς, καθώς η Garante στάθηκε στην ιδιαίτερη αληθοφάνεια των επίμαχων βίντεο: ο Mentana εμφανιζόταν με την πραγματική του εικόνα, μέσα στο πραγματικό στούντιο του δελτίου ειδήσεων που παρουσιάζει, ενώ οι δηλώσεις που του αποδίδονταν δεν ήταν τόσο υπερβολικές ή εξωπραγματικές ώστε να γίνεται αμέσως αντιληπτό ότι επρόκειτο για κατασκευασμένο περιεχόμενο. Υπήρχε, επομένως, ο κίνδυνος ο θεατής να θεωρήσει ότι παρακολουθούσε αυθεντικό απόσπασμα του δελτίου και ότι οι δηλώσεις είχαν πράγματι γίνει από τον δημοσιογράφο.

Υπό τις συνθήκες αυτές, η Garante έκρινε ότι οι σχετικές επισημάνσεις έπρεπε να είναι σαφέστερες και περισσότερο εμφανείς, λαμβάνοντας υπόψη όχι μόνο έναν θεατή εξοικειωμένο με τις τεχνολογίες deepfake, αλλά και τον μέσο ή λιγότερο προσεκτικό θεατή. Η ενημέρωση έπρεπε, μάλιστα, να επαναλαμβάνεται σε διαφορετικά σημεία κατά τη μετάδοση των επίμαχων αποσπασμάτων, ώστε να γίνεται αντιληπτή και από όσους άρχιζαν να παρακολουθούν την εκπομπή ενώ αυτή βρισκόταν ήδη σε εξέλιξη.

Οι παραβάσεις και τα μέτρα της Αρχής

Με βάση τις διαπιστώσεις αυτές, η Garante έκρινε ότι η επεξεργασία παραβίασε τις αρχές της νομιμότητας, της θεμιτής και της διαφανούς επεξεργασίας του άρθρου 5 ΓΚΠΔ. Σύμφωνα με την απόφασή της, η R.T.I. όφειλε ήδη κατά τον σχεδιασμό της συγκεκριμένης χρήσης της τεχνολογίας να λάβει υπόψη τον κίνδυνο βλάβης για τον Mentana, ιδίως λόγω της αληθοφάνειας των βίντεο και του τρόπου με τον οποίο αυτά μπορούσαν να γίνουν αντιληπτά από το κοινό.

Για τον λόγο αυτό, διαπιστώθηκε και η παραβίαση του άρθρου 25 ΓΚΠΔ για την προστασία δεδομένων ήδη από τον σχεδιασμό και εξ ορισμού. Η Garante έκρινε ότι δεν είχαν ληφθεί κατάλληλα τεχνικά και οργανωτικά μέτρα για την αποτελεσματική εφαρμογή των γενικών αρχών προστασίας δεδομένων και τη διασφάλιση των δικαιωμάτων του δημοσιογράφου. Στο πλαίσιο αυτό εντάσσεται και η κρίση της ότι, λόγω της ιδιαίτερης αληθοφάνειας του περιεχομένου, απαιτούνταν σαφέστερες και περισσότερο εμφανείς προειδοποιήσεις για τον τεχνητά κατασκευασμένο χαρακτήρα των βίντεο.

Η ιταλική αρχή δεν επέβαλε διοικητικό πρόστιμο, λαμβάνοντας υπόψη τον καινοφανή χαρακτήρα του νομικού ζητήματος. Όπως επισήμανε, η υπόθεση ανέκυψε από τη χρήση νέων τεχνολογικών εργαλείων, χωρίς να έχουν ακόμη αποσαφηνιστεί πλήρως τα ζητήματα που εγείρει η αξιοποίησή τους, ιδίως στο πλαίσιο προγραμμάτων ψυχαγωγίας και, κατ’ επέκταση, της καλλιτεχνικής έκφρασης. Υπό τις συνθήκες αυτές, η Garante έκρινε αναλογική την επιβολή επίπληξης για τις παραβάσεις που διαπιστώθηκαν.

Η επίπληξη δεν ήταν, πάντως, το μόνο μέτρο που επιβλήθηκε. Η Garante απαγόρευσε στην R.T.I. κάθε περαιτέρω επεξεργασία των δεδομένων του Mentana με τις συγκεκριμένες μεθόδους, επιτρέποντας αποκλειστικά τη διατήρησή τους για ενδεχόμενη χρήση σε δικαστική διαδικασία. Παράλληλα, κάλεσε την εταιρεία να γνωστοποιήσει εντός 30 ημερών τις ενέργειες στις οποίες προέβη για την πλήρη συμμόρφωσή της με την απόφαση.