Avec l’entrée en vigueur de nouvelles dispositions de la loi européenne sur l’IA, de nombreuses entreprises se posent actuellement la même question : à partir du 2 août, toutes les images générées par l’IA devront-elles être clairement identifiées ?
La réponse courte est : non.
La réponse, plus longue et plus importante, est toutefois la suivante : les entreprises ne devraient pas partir du principe que la question de l’étiquetage de l’IA ne les concerne pas. En effet, l’article 50 de la loi européenne sur l’IA va bien au-delà du simple étiquetage des images. Il s’agit en effet d’une disposition fondamentale en matière de transparence, qui couvre de nombreux cas d’utilisation de l’intelligence artificielle et implique des exigences organisationnelles considérables.
Le véritable défi ne consiste donc pas à identifier des contenus spécifiques. Il s’agit plutôt de comprendre votre propre utilisation de l’IA, de définir les responsabilités et de mettre en place une gouvernance structurée.
L’erreur que constitue l’obligation générale d’étiquetage
Au cours des derniers mois, de nombreuses présentations simplifiées de la loi européenne sur l’IA ont été publiées. Celles-ci donnent souvent l’impression qu’à l’avenir, toute image générée par l’intelligence artificielle devra obligatoirement comporter un avertissement visible.
La situation juridique n’est toutefois pas aussi simple que cela.
L’article 50 de la loi européenne sur l’IA prévoit des obligations de transparence pour diverses applications de l’IA. Les exigences concrètes applicables dépendent notamment des éléments suivants :
- Quel type de système d’IA est utilisé ?
- Quel rôle joue une entreprise ?
- Quel type de contenu est créé ou traité ?
- Dans quel contexte l’IA est-elle utilisée ?
- Quels sont les risques pour les personnes concernées ?
Il n’existe donc pas de réponse générale valable pour tous les contenus générés par l’IA.
Pour les entreprises, cela signifie qu’elles doivent évaluer leurs applications d’IA au cas par cas, plutôt que de se fonder sur des hypothèses générales.
La transparence ne se limite pas aux images
Ceux qui associent l’article 50 exclusivement à la génération d’images négligent une partie essentielle des exigences.
Cette disposition prévoit notamment :
- Chatbots et assistants IA
- Agents IA
- Contenus audio générés par l’IA ou trafiqués
- Contenus vidéo générés par l’IA ou manipulés
- Les deepfakes
- Systèmes de reconnaissance des émotions
- Systèmes de classification biométrique
- Certains textes générés par l’IA sur des sujets d’intérêt public
- Exigences relatives aux marquages lisibles par machine
Cela montre clairement que la transparence n’est pas seulement une question de marketing. Elle concerne de nombreux processus métier, interactions avec les clients et applications internes.
Les entreprises qui utilisent l’IA dans le service client, les ressources humaines, le marketing, le développement de logiciels ou la gestion des connaissances devraient donc vérifier si des obligations de transparence s’appliquent.
La question cruciale : quel est le rôle de votre entreprise ?
L’un des aspects essentiels de la loi sur l’IA réside dans le fait que les obligations dépendent du rôle de chacun.
De nombreuses organisations utilisent aujourd’hui des systèmes d’IA proposés par de grands fournisseurs tels que Microsoft, OpenAI, Google ou Anthropic. On part souvent du principe que l’ensemble des obligations réglementaires incombent exclusivement au fournisseur.
Cette hypothèse peut s’avérer dangereuse.
La loi sur l’IA établit notamment une distinction entre :
- Fournisseurs de systèmes d’IA
- Opérateurs ou déployeurs
- Importateurs
- Revendeurs
- mandataires
Selon le scénario d’utilisation, différentes obligations peuvent s’appliquer. Une entreprise peut, dans un cas de figure, se contenter d’être simple utilisatrice d’une solution d’IA, tandis que dans un autre, elle peut fournir elle-même des contenus ou configurer des systèmes d’IA d’une manière qui entraîne des exigences supplémentaires.
En l’absence d’une définition claire des rôles, il est donc difficile d’évaluer quelles sont les obligations légales qui s’appliquent réellement.
Savez-vous seulement quels sont les systèmes d’IA utilisés ?
De nombreuses entreprises sont déjà confrontées aujourd’hui à un problème de transparence considérable.
Les collaborateurs utilisent les outils d’IA pour :
- Rédaction de textes
- Génération d’images
- Traductions
- Développement de logiciels
- Analyses de données
- Tâches de recherche
- Communication avec la clientèle
Cela se fait souvent de manière décentralisée et sans enregistrement centralisé.
De ce fait, les entreprises ne sont pas en mesure de répondre à des questions fondamentales :
- Quels sont les systèmes d’IA utilisés ?
- Qui utilise ces systèmes ?
- À quelles fins sont-ils utilisés ?
- Quelles sont les données traitées ?
- Quels sont les contenus publiés ?
- Quels sont les risques ?
Un élément essentiel d’une gouvernance de l’IA efficace consiste donc avant tout à assurer la transparence concernant son propre environnement d’IA.
On ne peut répondre qu’aux exigences que l’on connaît. Cela n’est pas possible pour les applications d’IA inconnues.
Qui vérifie et valide les contenus générés par l’IA ?
Un autre point souvent négligé concerne les responsabilités internes.
De nombreuses entreprises disposent de processus de validation pour les contrats, les documents relatifs à la protection des données ou les campagnes marketing. Or, de tels processus n’existent souvent pas encore pour les contenus générés par l’IA.
Cela soulève toute une série de questions importantes :
- Qui rédige le contenu ?
- Qui vérifie l’exactitude technique ?
- Qui évalue les obligations éventuelles en matière de transparence ?
- Qui décide de l’apposition d’une étiquette ?
- Qui consigne cette décision ?
En l’absence de répartition claire des responsabilités, des incertitudes et des incohérences apparaissent rapidement.
Alors qu’un service étiquette systématiquement ses contenus, un autre peut s’en abstenir complètement. Cela augmente non seulement les risques réglementaires, mais complique également les audits et la démonstration de la conformité.
La documentation devient un facteur de réussite déterminant
Une stratégie de conformité efficace ne se limite pas à la mise en œuvre d’une mesure.
Les entreprises doivent de plus en plus être en mesure de démontrer comment les décisions ont été prises et sur quelle base certaines évaluations ont été effectuées.
C’est pourquoi les organisations devraient consigner par écrit :
- Quels sont les systèmes d’IA utilisés ?
- Quelles évaluations ont été réalisées ?
- Quelles obligations de transparence ont été identifiées ?
- Quelles mesures ont été mises en œuvre ?
- Qui a approuvé ces décisions ?
- Quand ces contrôles ont-ils eu lieu ?
Cette documentation ne se contente pas d’assurer la conformité réglementaire. Elle facilite également les contrôles internes, les certifications et les audits externes.
Une gouvernance de l’IA plutôt que des mesures isolées
De nombreuses entreprises recherchent actuellement des solutions rapides pour répondre à certaines exigences de la loi sur l’IA.
Dans la pratique, on constate toutefois que les mesures prises isolément sont rarement suffisantes.
Se contenter de mettre en place un étiquetage pour les images générées par l’IA ne permettrait peut-être de répondre qu’à une petite partie des besoins réels.
Une approche plus durable consiste à mettre en place une gouvernance structurée de l’IA, avec des processus, des rôles et des responsabilités clairement définis.
Il s’agit notamment :
- Directives relatives à l’IA
- Processus de validation
- Évaluations des risques
- Formations
- Documentation
- mécanismes de contrôle
- Contrôles réguliers
Une approche systématique permet non seulement de réduire les risques réglementaires, mais aussi d’instaurer un climat de confiance auprès des clients, des partenaires commerciaux et des autorités.
La norme ISO/IEC 42001 comme fondement d’une conformité durable en matière d’IA
De nombreuses organisations reconnaissent désormais que la mise en œuvre à long terme de la réglementation en matière d’IA n’est possible de manière pertinente qu’en adoptant une approche fondée sur un système de gestion.
La norme internationale ISO/IEC 42001 offre à cet effet un cadre structuré.
Elle aide les entreprises à :
- Identifier les systèmes d’IA
- Définir les responsabilités
- Évaluer les risques
- Mettre en place des processus de gouvernance
- Mettre en œuvre les exigences de conformité
- Fournir les pièces justificatives pour les audits
Cela permet de jeter des bases solides pour une utilisation responsable de l’intelligence artificielle.
Conclusion
Le débat sur l’étiquetage des images générées par l’IA ne va pas assez loin. L’article 50 de la loi européenne sur l’IA va bien au-delà des contenus visuels et impose aux entreprises des exigences de transparence très étendues.
La question déterminante n’est donc pas de savoir si une image particulière doit être signalée. La question déterminante est de savoir si une organisation sait réellement quels systèmes d’IA sont utilisés, quelles obligations en découlent et comment ces décisions sont documentées.
Les hypothèses ne constituent pas une stratégie de conformité.
Les entreprises devraient saisir dès maintenant cette occasion pour analyser leur utilisation de l’IA, définir les responsabilités et mettre en place des structures de gouvernance solides.
La société Syngenity® GmbH aide les organisations à instaurer précisément cette transparence et à mettre en place des structures de gouvernance de l’IA ainsi que des systèmes de gestion de l’IA conformes à la norme ISO/IEC 42001. En effet, la conformité durable en matière d’IA ne commence pas par un simple label, mais par une compréhension systématique de son propre environnement d’IA.
