Απαγορευμένες πρακτικές ΤΝ
Ο AI Act απαγορεύει συγκεκριμένες χρήσεις συστημάτων ΤΝ, όταν δημιουργούν μη αποδεκτούς κινδύνους για την ανθρώπινη αξιοπρέπεια, την αυτονομία, την ασφάλεια ή τα θεμελιώδη δικαιώματα. Το άρθρο 5 περιλαμβάνει, μεταξύ άλλων, τις ακόλουθες περιπτώσεις:
| Απαγορευμένη πρακτική | Επεξήγηση |
|---|---|
| Χειραγώγηση συμπεριφοράς | Χρήση παραπλανητικών ή υποσυνείδητων τεχνικών που επηρεάζουν ουσιωδώς τις αποφάσεις και προκαλούν ή ενδέχεται να προκαλέσουν σημαντική βλάβη. |
| Εκμετάλλευση ευαλωτότητας | Συστήματα που εκμεταλλεύονται την ηλικία, την αναπηρία ή συγκεκριμένη κοινωνική ή οικονομική κατάσταση ώστε να επηρεάσουν επιβλαβώς τη συμπεριφορά τους. |
| Κοινωνική βαθμολόγηση (Social Scoring) | Βαθμολόγηση προσώπων βάσει κοινωνικής συμπεριφοράς ή χαρακτηριστικών, με αποτέλεσμα αδικαιολόγητη ή δυσανάλογη δυσμενή μεταχείριση. |
| Πρόβλεψη ατομικής εγκληματικής συμπεριφοράς | Εκτίμηση κινδύνου διάπραξης εγκλήματος αποκλειστικά μέσω κατάρτισης προφίλ ή αξιολόγησης χαρακτηριστικών προσωπικότητας. |
| Μαζική συλλογή εικόνων προσώπων | Μη στοχευμένη συλλογή εικόνων από το διαδίκτυο ή κάμερες για τη δημιουργία ή επέκταση βάσεων αναγνώρισης προσώπου. |
| Αναγνώριση συναισθημάτων | Συστήματα που προσπαθούν να αναγνωρίσουν τα συναισθήματα ανθρώπων σε χώρους εργασίας και εκπαίδευσης, με εξαιρέσεις για ιατρικούς λόγους ή λόγους ασφάλειας. |
| Βιομετρική κατηγοριοποίηση ευαίσθητων χαρακτηριστικών | Κατάταξη ανθρώπων με βάση βιομετρικά δεδομένα, για να βγουν συμπεράσματα για ευαίσθητα στοιχεία, όπως πολιτικές ή θρησκευτικές πεποιθήσεις. |
| Βιομετρική ταυτοποίηση σε πραγματικό χρόνο | Εξ αποστάσεως βιομετρική ταυτοποίηση σε δημόσιους χώρους για σκοπούς επιβολής του νόμου, εκτός από αυστηρά οριοθετημένες περιπτώσεις. |
| Νέο · Μη συναινετικό ρεαλιστικό περιεχόμενο σεξουαλικού χαρακτήρα | Συστήματα που παράγουν ή αλλοιώνουν ρεαλιστικές εικόνες, βίντεο ή ήχο ταυτοποιήσιμου προσώπου με σεξουαλικό περιεχόμενο, χωρίς τη ρητή, ελεύθερη και ενημερωμένη συγκατάθεσή του (σημείο ba). |
| Νέο · Υλικό σεξουαλικής κακοποίησης ανηλίκων | Συστήματα που παράγουν ή αλλοιώνουν υλικό κατά την έννοια του άρθρου 2 στοιχεία γ) και ε) της Οδηγίας 2011/93/ΕΕ (σημείο bb). |