Modèle d'auditQuestionnaire de qualification des obligations de transparence (AI Act Art. 50)

Ce questionnaire a pour objet de déterminer, pour un système d'IA donné, lesquelles des quatre obligations de transparence de l'article 50 du règlement (UE) 2024/1689 (AI Act) s'appliquent, et d'évaluer le niveau de préparation de l'organisation à les respecter.

1. Introduction

2. Cadrage : rôle et exemptions transversales

2.1. Quel rôle votre organisation exerce-t-elle au regard de ce système d'IA ?

Le fournisseur développe ou commercialise le système sous son propre nom.
Le déployeur utilise le système sous sa propre autorité.
Une même organisation peut être à la fois fournisseur et déployeur.

Identifie le débiteur des obligations prévues par l'article 50.

Fournisseur

Déployeur

Fournisseur et déployeur

Importateur, distributeur ou mandataire

Rôle non déterminé

2.2. Le système est-il autorisé par la loi à des fins de détection, de prévention, d'enquête ou de poursuite d'infractions pénales ?

Cette exemption ne s'applique que lorsqu'une base légale existe et que des garanties appropriées protègent les droits des personnes concernées.

Vérifie si l'exemption répressive prévue à l'article 50 est applicable.

Non

Oui, avec base légale documentée

Oui, sans documentation

Partiellement

Ne sait pas

3. Article 50.1 : Interaction directe avec une personne physique

3.1. Le système est-il destiné à interagir directement avec des personnes physiques ?

L'interaction directe comprend notamment les chatbots, assistants virtuels, assistants vocaux, avatars, robots téléphoniques ou tout autre système dialoguant directement avec une personne.

Le critère est la destination du système, et non un usage ponctuel.

Question filtre permettant de déterminer si l'article 50.1 est applicable.

Oui, interaction en langage naturel (texte, voix, avatar)

Oui, interaction par une autre modalité (image, geste, capteurs...)

Non

Ne sait pas

3.2. Quelles modalités d'information sur le caractère artificiel de l'interlocuteur sont effectivement mises en œuvre ?

L'information doit être délivrée au plus tard lors de la première interaction, être claire, visible et accessible.

Le caractère "manifeste" doit pouvoir être démontré.

Évalue si les utilisateurs sont correctement informés qu'ils interagissent avec une IA

Mention explicite affichée avant le premier échange

Indication persistante pendant toute la session

Annonce vocale en début d'appel

Caractère manifeste démontré et documenté

Information disponible dans un format accessible

Passage vers un humain clairement signalé

Aucune de ces modalités

4. Article 50.2 : Génération de contenu de synthèse et marquage

4.1. Le système génère-t-il des contenus de synthèse, et de quel type ?

Sont concernés les contenus texte, image, audio et vidéo générés ou manipulés par une IA.

Un système peut relever simultanément des articles 50.2 et 50.4.

Question filtre permettant de déterminer si l'article 50.2 est applicable.

Oui, du texte

Oui, des images

Oui, de l'audio

Oui, de la vidéo

Non

Ne sait pas

4.2. L'exception d'assistance à l'édition standard ou d'absence d'altération substantielle est-elle invoquée ?

Cette exception concerne principalement les fonctions telles que :

correction orthographique ;
réduction de bruit ;
amélioration du contraste ;
recadrage.

Elle ne couvre pas les modifications de sens ou les créations de nouveaux contenus.

Détermine si le système bénéficie de l'exception prévue par l'article 50.2.

Non, l'exception n'est pas invoquée

Oui, pour certaines fonctions

Oui, pour l'ensemble du système

Oui, mais sans analyse formalisée

Ne sait pas

4.3. Quelles solutions techniques de marquage et de détectabilité sont mises en œuvre sur les sorties ?

Le marquage doit être lisible par machine afin de permettre la détection des contenus générés ou manipulés par une IA. Les solutions telles que C2PA / Content Credentials, les filigranes numériques et les métadonnées signées constituent aujourd'hui l'état de l'art.

Une simple mention visuelle ne satisfait pas à elle seule cette obligation.

Évalue la maturité du dispositif technique de marquage des contenus générés, conformément à l'article 50.2.

Métadonnées de provenance signées (C2PA / Content Credentials)

Filigrane numérique imperceptible

Mention perceptible complémentaire

Empreinte cryptographique ou identifiant unique

Tests de robustesse documentés

Outil de détection mis à disposition des tiers

Analyse documentée de faisabilité technique

Aucune solution technique en place

5. Article 50.3 : Reconnaissance des émotions et catégorisation biométrique

5.1. Le système relève-t-il de la reconnaissance des émotions ou de la catégorisation biométrique ?

Un système de reconnaissance des émotions déduit les émotions ou intentions d'une personne à partir de données biométriques.

Un système de catégorisation biométrique classe des personnes sur la base de leurs caractéristiques biométriques.

Les analyses de sentiment réalisées uniquement sur du texte ne sont pas concernées.

Question filtre permettant de déterminer si l'article 50.3 est applicable.

Oui, reconnaissance des émotions

Oui, catégorisation biométrique

Non

Ne sait pas

5.2. Avez-vous vérifié que l'usage ne relève pas d'une pratique interdite par l'article 5 de l'AI Act ?

Certaines utilisations de la reconnaissance des émotions ou de la catégorisation biométrique sont interdites, notamment dans le cadre professionnel ou éducatif, sauf exceptions prévues par le règlement.

Aucune mesure de transparence ne peut rendre licite une pratique interdite.

Vérifie que le système ne met pas en œuvre une pratique interdite par l'AI Act.

Oui, vérification documentée

Vérification en cours

Non

Un usage potentiellement interdit a été identifié

Ne sait pas

5.3. Quelles mesures d'information et de conformité au RGPD sont en place ?

Les personnes concernées doivent être informées du fonctionnement du système.

Lorsque des données biométriques sont traitées, une base légale appropriée, une éventuelle AIPD et d'autres obligations du RGPD peuvent être requises.

Évalue les mesures destinées à informer les personnes concernées et à assurer la conformité du traitement de données biométriques.

Information préalable des personnes

Signalétique sur les lieux d'utilisation

Base légale RGPD identifiée

AIPD réalisée

Analyse d'impact sur les droits fondamentaux

Aucune mesure

6. Article 50.4 : Hypertrucages et textes d'information publique

6.1. Diffusez-vous des contenus image, audio ou vidéo générés ou manipulés par une IA constituant un hypertrucage ?

Un hypertrucage (deep fake) est un contenu image, audio ou vidéo généré ou modifié par une IA, ressemblant à une personne, un lieu, un objet ou un événement réel, susceptible d'induire le public en erreur sur son authenticité.

Le critère déterminant est le potentiel de tromperie, indépendamment de l'intention de l'auteur.

Question filtre permettant de déterminer si la première obligation de l'article 50.4 est applicable.

Oui, régulièrement

Oui, ponctuellement

Non

Ne sait pas

6.2. Comment la divulgation des hypertrucages est-elle assurée, et le régime des œuvres créatives est-il mobilisé ?

Le déployeur doit informer que le contenu a été généré ou manipulé par une IA.

Lorsqu'il s'agit d'une œuvre manifestement artistique, créative, satirique ou fictionnelle, cette obligation est allégée mais n'est jamais supprimée.

Évalue les modalités de divulgation des hypertrucages et la bonne application du régime allégé applicable aux œuvres artistiques, créatives, satiriques ou fictionnelles.

Mention explicite intégrée au contenu ou à son support

Régime des œuvres créatives documenté

Mention maintenue sur les plateformes tierces

Validation préalable avant publication

Registre des hypertrucages diffusés

Aucune divulgation

6.3. Publiez-vous des textes générés ou manipulés par une IA destinés à informer le public sur des questions d'intérêt public, et sous quel contrôle ?

Cette obligation concerne les textes publiés afin d'informer le public sur des sujets tels que :

santé ;
sécurité ;
environnement ;
consommation ;
actualité ;
vie publique.

Elle ne s'applique pas lorsqu'un contrôle éditorial humain est exercé et qu'une personne ou une organisation assume la responsabilité éditoriale de la publication.

Évalue la seconde obligation prévue par l'article 50.4 ainsi que l'application éventuelle de l'exception fondée sur le contrôle éditorial humain.

Oui, avec contrôle éditorial humain documenté

Oui, avec divulgation systématique de l'origine IA

Oui, sans contrôle éditorial ni divulgation

Non

Ne sait pas

7. Modalités transversales et gouvernance de la transparence

7.1. Les modalités d'information respectent-elles les exigences de l'article 50.5 ?

Les informations doivent être :

claires ;
facilement identifiables ;
accessibles ;
délivrées avant ou lors de la première interaction ou exposition.

Une information uniquement présente dans les CGU ou la politique de confidentialité n'est généralement pas suffisante.

Évalue la qualité des informations délivrées aux personnes concernées, quelle que soit l'obligation de transparence applicable.

Information délivrée avant ou lors de la première interaction

Information claire et facilement identifiable

Information conforme aux exigences d'accessibilité

Traçabilité et conservation des preuves

Aucune de ces exigences n'est respectée

7.2. Quel dispositif de gouvernance garantit le maintien de la conformité à l'article 50 ?

Les obligations de transparence évoluent avec les lignes directrices européennes, les actes d'exécution et les codes de bonnes pratiques du Bureau européen de l'IA.

Une gouvernance documentée permet de maintenir la conformité malgré les évolutions du système.

Évalue la pérennité du dispositif de conformité mis en œuvre autour de la transparence des systèmes d'IA.

Registre des obligations de transparence tenu à jour

Responsable de conformité désigné

Clauses contractuelles avec les fournisseurs

Contrôle intégré au cycle de vie produit

Veille réglementaire organisée

Formation des équipes

Aucun dispositif de gouvernance

Modèle d'auditQuestionnaire de qualification des obligations de transparence (AI Act Art. 50)

1. Introduction

2. Cadrage : rôle et exemptions transversales

3. Article 50.1 : Interaction directe avec une personne physique

4. Article 50.2 : Génération de contenu de synthèse et marquage

5. Article 50.3 : Reconnaissance des émotions et catégorisation biométrique

6. Article 50.4 : Hypertrucages et textes d'information publique

7. Modalités transversales et gouvernance de la transparence

Accédez à tous nos modèles d'audit