Στόχος του νέου πλαισίου είναι να διασφαλίζεται ότι οι πολίτες γνωρίζουν πότε αλληλεπιδρούν με Τεχνητή Νοημοσύνη και πότε εικόνες, βίντεο, ήχος ή κείμενα έχουν δημιουργηθεί ή αλλοιωθεί μέσω AI, περιορίζοντας έτσι τον κίνδυνο εξαπάτησης από τα λεγόμενα deepfakes και άλλο παραποιημένο ψηφιακό περιεχόμενο.
Υποχρεωτική επισήμανση περιεχομένου AI
Με τους νέους κανόνες, περιεχόμενο που δημιουργείται ή τροποποιείται μέσω Τεχνητής Νοημοσύνης και μπορεί να εκληφθεί ως αυθεντικό οφείλει να επισημαίνεται με σαφή τρόπο, ενώ παράλληλα πρέπει να ενσωματώνει μηχανικά αναγνώσιμα στοιχεία ώστε να μπορεί να αναγνωρίζεται και από ψηφιακά συστήματα. Οι υποχρεώσεις αφορούν κυρίως:
εικόνες, ήχο και βίντεο τύπου deepfake,
περιεχόμενο που προσομοιάζει πραγματικά πρόσωπα ή γεγονότα,
συστήματα αναγνώρισης συναισθημάτων και βιομετρικής κατηγοριοποίησης,
κείμενα που παράγονται από AI και δημοσιεύονται για την ενημέρωση του κοινού σχετικά με ζητήματα δημόσιου ενδιαφέροντος, όταν δεν υπάρχει ουσιαστικός ανθρώπινος συντακτικός έλεγχος.
Παράλληλα, οι χρήστες θα πρέπει να ενημερώνονται ξεκάθαρα όταν συνομιλούν με chatbot, εικονικό βοηθό ή άλλο σύστημα Τεχνητής Νοημοσύνης και όχι με φυσικό πρόσωπο.
Τα νέα εικονίδια της Ευρωπαϊκής Ένωσης
Για την ομοιόμορφη εφαρμογή των νέων κανόνων, η Ευρωπαϊκή Επιτροπή έχει αναπτύξει κοινά εικονίδια επισήμανσης, τα οποία μπορούν να χρησιμοποιούν δημιουργοί περιεχομένου, εκδότες και πάροχοι υπηρεσιών AI, ώστε οι χρήστες να αναγνωρίζουν εύκολα ότι ένα περιεχόμενο έχει δημιουργηθεί ή τροποποιηθεί με χρήση Τεχνητής Νοημοσύνης.
Πότε δεν απαιτείται επισήμανση
Ο Κανονισμός προβλέπει συγκεκριμένες εξαιρέσεις.
Δεν απαιτείται ειδική επισήμανση όταν το περιεχόμενο αποτελεί εμφανώς καλλιτεχνικό, σατιρικό, μυθοπλαστικό ή δημιουργικό έργο, υπό την προϋπόθεση ότι η σχετική ενημέρωση δεν αλλοιώνει την εμπειρία του κοινού.
Εξαιρούνται επίσης περιπτώσεις όπου η χρήση της Τεχνητής Νοημοσύνης προβλέπεται από τον νόμο για σκοπούς πρόληψης ή διερεύνησης εγκλημάτων, καθώς και δημοσιεύσεις που έχουν υποστεί ουσιαστική ανθρώπινη δημοσιογραφική ή συντακτική επεξεργασία και για τις οποίες υπάρχει σαφής συντακτική ευθύνη.
Τι θεωρείται «deepfake»
Ως deepfake χαρακτηρίζεται περιεχόμενο εικόνας, ήχου ή βίντεο που έχει δημιουργηθεί ή αλλοιωθεί με χρήση Τεχνητής Νοημοσύνης και εμφανίζεται τόσο πειστικό ώστε ένας μέσος άνθρωπος μπορεί εύλογα να πιστέψει ότι είναι πραγματικό.
Για να εμπίπτει στον ορισμό, το περιεχόμενο πρέπει να παρουσιάζει μεγάλη ομοιότητα με υπαρκτά πρόσωπα, αντικείμενα ή γεγονότα και να μπορεί να παραπλανήσει το κοινό ως προς την αυθεντικότητά του.
Αυστηρές κυρώσεις για τους παραβάτες
Η εφαρμογή των νέων διατάξεων θα επιβλέπεται από τις εθνικές εποπτικές αρχές και το Ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης.
Σε περίπτωση παραβίασης των κανόνων διαφάνειας προβλέπονται ιδιαίτερα αυστηρές κυρώσεις, με πρόστιμα που μπορούν να φθάσουν έως και τα 15 εκατομμύρια ευρώ ή το 3% του παγκόσμιου ετήσιου κύκλου εργασιών μιας εταιρείας, ανάλογα με το ποιο ποσό είναι υψηλότερο, ενώ προβλέπεται αναλογική εφαρμογή για μικρομεσαίες επιχειρήσεις.
Μια νέα εποχή για την ψηφιακή αξιοπιστία
Η Ευρωπαϊκή Ένωση επιχειρεί να δημιουργήσει ένα περιβάλλον μεγαλύτερης διαφάνειας και εμπιστοσύνης στην ψηφιακή εποχή, σε μια περίοδο όπου η παραγωγή συνθετικού περιεχομένου αυξάνεται με πρωτοφανείς ρυθμούς.
Οι νέοι κανόνες δεν στοχεύουν στον περιορισμό της καινοτομίας, αλλά στην προστασία των πολιτών από την παραπληροφόρηση, τις ηλεκτρονικές απάτες, την πλαστοπροσωπία και τις οργανωμένες εκστρατείες χειραγώγησης, οι οποίες μπορούν πλέον να αξιοποιούν εξαιρετικά ρεαλιστικό περιεχόμενο που παράγεται μέσω Τεχνητής Νοημοσύνης.