L’Union européenne a récemment publié de nouvelles lignes directrices soulignant le rôle essentiel de la formation à l’IA pour se conformer à la loi européenne sur l’IA. Comme beaucoup d’autres aspects de la technologie IA aujourd’hui, ces lignes directrices comportent à la fois de bonnes et de mauvaises nouvelles pour les professionnels de la conformité.
La bonne nouvelle, c’est que ces lignes directrices, publiées le 7 mai, ne sont pas trop contraignantes. Elles décrivent un ensemble d’objectifs visant à aider les entreprises à développer les connaissances et les compétences essentielles dont leur personnel a besoin pour évaluer efficacement l’IA sur le plan éthique et utiliser les systèmes d’IA de manière responsable. Elles fournissent également des informations précieuses sur les principales considérations éthiques et encouragent les organisations à mettre en œuvre des programmes complets de formation à l’IA.
Cela nous amène à la mauvaise nouvelle : il n’existe pas de voie clairement définie et facile à suivre pour se conformer à cette disposition (article 4) de la loi sur l’IA. Au lieu de cela, les responsables de la conformité devront travailler avec les dirigeants des équipes opérationnelles de première et deuxième ligne pour réfléchir à la manière dont votre organisation souhaite déployer les applications d’IA, aux risques inhérents à ces plans (y compris ceux liés à l’IA générative) et aux pratiques de gouvernance de l’IA que vos employés devront connaître pour éviter de marcher sur ces mines à risque renforcées par l’IA.
Mais au fait, c’est quoi l’Article 4 de l’EU AI Act ?
L’article 4 de la loi européenne sur l’IA stipule que tous les « fournisseurs et déployeurs de systèmes d’IA » doivent prendre des mesures pour s’assurer que leurs employés et les tiers (par exemple, les sous-traitants travaillant pour leur compte) possèdent « un niveau suffisant de connaissances en matière d’IA » pour utiliser ces systèmes de manière responsable. En termes simples, l’article 4 exige des entreprises qu’elles dispensent à leurs employés une formation complète sur la conformité en matière d’IA afin de leur fournir les connaissances et les compétences essentielles pour comprendre et gérer les risques liés à l’IA.
Mais que signifie « connaissance de l’IA » ? L’article 4 la définit comme « les compétences, les connaissances et la compréhension » nécessaires pour que les employés puissent « déployer les systèmes d’IA en connaissance de cause, ainsi que prendre conscience des opportunités et des risques liés à l’IA et des dommages qu’elle peut causer ».
L’application de l’article 4 ne débutera pas avant août 2026, et les sanctions en cas de non-respect ne sont pas encore tout à fait claires. Chaque État membre de l’UE est censé adopter sa propre loi mettant en œuvre l’article 4, et ces lois incluront les sanctions auxquelles une entreprise s’exposerait en cas de non-respect de la formation appropriée en matière de culture de l’IA.
Cela dit, considérons la situation dans son ensemble et de manière plus réaliste. Voulez-vous vraiment négliger de former vos employés à l’utilisation responsable de l’IA ? C’est la recette du désastre, quelles que soient les exigences de l’UE ou de toute autre juridiction.
Examinons donc de près les orientations de l’article 4 de l’UE et voyons comment elles peuvent guider la formation à l’IA dont vous aurez besoin quoi qu’il arrive.
Quatre points fondamentaux pour une formation efficace à l’IA
Les orientations commencent par énoncer une évidence : l’intelligence artificielle évolue trop rapidement, avec trop de cas d’utilisation potentiels, pour que l’on puisse définir des exigences de formation précises. Les entreprises devraient plutôt s’efforcer de dispenser une formation qui aborde quatre points**.**
Maitriser l’IA en 4 étapes
- Fournissez une compréhension générale des outils et des systèmes d’IA au sein de votre organisation, en mentionnant les risques et les opportunités
- Reflétez le rôle de votre entreprise en tant que fournisseur de systèmes d’IA (ce qui comporte un ensemble de risques) ou en tant qu’utilisateur de systèmes d’IA (ce qui comporte un ensemble différent de risques)
- Abordez les risques liés aux applications d’IA que vous utilisez actuellement. Par exemple, l’un des principaux risques liés à l’IA générative est celui des hallucinations ; pour l’IA prédictive, il s’agit de la discrimination algorithmique. Pour d’autres systèmes, il peut s’agir des deux
- La formation à l’IA doit être basée sur les rôles, en tenant compte du poste de l’employé, de son expérience en matière d’IA et de la manière dont il est susceptible d’utiliser les systèmes d’IA. Cette approche permet de garantir que les professionnels de la conformité et les autres employés peuvent évaluer l’IA de manière éthique et responsable en toute confiance
Le guide souligne également que le simple fait de se fier aux instructions du système d’IA ou de demander aux employés de « lire le manuel » ne suffit souvent pas pour satisfaire à l’article 4. Les entreprises devront réfléchir aux questions suivantes :
- Comment souhaitent-ils utiliser la technologie IA ?
- Qui, au sein de l’entreprise, utilisera quels systèmes IA ?
- Quelle formation ces groupes devront suivre pour utiliser l’IA dans le respect des règles de conformité et en tenant compte des risques ?
Ce qui est intéressant ici, c’est que, d’une manière générale, ce sont les quatre mêmes principes qu’un responsable de la conformité utiliserait pour orienter votre formation à la lutte contre la corruption. En d’autres termes, vous devez toujours chercher à comprendre comment fonctionne votre entreprise et comment la corruption peut s’immiscer dans ses activités. Vous devriez toujours proposer une formation sur l’IA axée sur la lutte contre la corruption en général plutôt que sur la loi américaine sur les pratiques de corruption à l’étranger (Foreign Corrupt Practices Act) en particulier. Vous devriez proposer une formation adaptée aux différents rôles, où un agent commercial à l’étranger recevra une formation différente de celle d’un comptable chargé d’approuver les factures.
La tâche consiste donc à réunir les cadres supérieurs concernés au sein de votre entreprise pour discuter de l’utilisation de l’IA, puis à déterminer le niveau de connaissances en IA dont vos employés (et les tiers !) auront besoin.
Commencez dès maintenant à élaborer votre programme de formation à l’IA
Comme nous l’avons mentionné précédemment, le cadre réglementaire applicable à l’article 4 n’est pas encore clairement défini, mais est-ce vraiment nécessaire ? Une utilisation imprudente de l’intelligence artificielle peut causer aujourd’hui déjà un préjudice considérable aux entreprises. Ce préjudice peut notamment prendre la forme de violations d’autres réglementations, telles que les lois sur la protection de la vie privée, mais aussi de perturbations importantes des activités, de mauvaise publicité ou de poursuites civiles.
En effet, cela devrait être votre premier message à l’intention de la direction et des responsables des opérations commerciales : une approche réfléchie de la maîtrise et de la formation à l’IA est une priorité commerciale autant qu’une obligation de conformité.
Et ensuite ? Envisagez quelques mesures pratiques pour mettre en œuvre votre formation à l’IA dès que possible.
Créez un comité de gouvernance de l’IA. Ce comité devrait comprendre des responsables de tous les services de l’entreprise (informatique, sécurité, juridique, financier, opérations commerciales et, bien sûr, conformité). Il pourra alors définir des politiques claires pour une utilisation acceptable de l’IA, aborder les considérations éthiques clés et gérer les risques permanents grâce à une gouvernance complète de l’IA.
Faites l’inventaire de tous les outils et systèmes d’IA. Vous ne pourrez pas enseigner la culture IA ni gérer les risques liés à l’IA sans savoir combien de systèmes et d’applications d’IA fonctionnent dans votre entreprise et ce que font ces systèmes. L’inventaire doit également inclure une liste de toutes les sources de données, internes et externes, utilisées par chaque système d’IA.
Associez les employés aux systèmes et aux risques liés à l’IA. À partir de là, vous pouvez développer les programmes de formation à l’IA basés sur les rôles que l’article 4 souhaite voir mis en place afin de garantir une utilisation responsable, éthique et conforme de l’IA.
Réexaminez régulièrement tous vos inventaires, risques et formations en matière d’IA, et mettez-les à jour si nécessaire, car l’utilisation de l’intelligence artificielle par les entreprises ne fera que croître et vos risques continueront d’évoluer. Les connaissances en matière d’IA dont vos employés auront besoin continueront également d’évoluer.
