Pourquoi l’utilisation d’un outil IA RH crée de nouvelles obligations
Les équipes de ressources humaines sont particulièrement impactées par l’entrée en application du règlement européen sur l’intelligence artificielle (« RIA »). En effet, de nombreux logiciels et outils d’IA qu’elles utilisent sont susceptibles d’être qualifiés de systèmes d’IA à haut risque.
Lorsqu’une équipe de ressources humaines décide de déployer au sein de son service un tel outil d’IA, elle est considérée comme déployeur. Or, cette qualification entraîne de nombreuses obligations dont le respect par l’entreprise est indispensable pour éviter une amende administrative de plusieurs millions d’euros.
Dès qu’elles commencent à envisager l’utilisation d’un outil d’IA, les équipes de ressources humaines doivent respecter plusieurs obligations.
Obligation 1 : Identifier s’il s’agit d’un outil d’IA à haut risque
La première obligation des équipes RH consiste à déterminer si l’outil d’IA de recrutement ou de gestion du personnel qu’elles souhaitent déployer est considéré comme un système d’IA à haut risque.
Le règlement européen sur l’intelligence artificielle qualifie de système d’IA à haut risque tout outil d’IA utilisé dans les situations suivantes :
- Recrutement et sélection, par exemple pour publier des offres ciblées, analyser et filtrer les candidatures, évaluer les candidats
- Prise des décisions concernant les conditions de travail, la promotion ou le licenciement
- Attribution des tâches sur la base du comportement individuel, de traits de personnalité ou de caractéristiques personnelles
- Suivi et évaluation du comportement et des performances des salariés
Lorsque l’équipe RH envisage l’utilisation d’un outil d’IA dans l’une de ces situations, elle doit respecter l’AI Act et les autres obligations identifiées dans cet article.
Obligation 2 : Consulter le CSE
En plus des obligations d’information et de consultation issues du droit du travail français, l’AI Act rend obligatoire l’information du CSE pour tout système d’IA à haut risque utilisé sur le lieu de travail.
Ainsi, avant même que l’outil d’IA ne soit réellement déployé et utilisé par les équipes RH, elles doivent avoir préalablement organisé une information du CSE. Cette information est indispensable et doit avoir lieu y compris avant les phases de test (POC) de l’outil d’IA. Lancer un projet d’IA sans avoir consulté le CSE alors que cela est requis est une source de risque importante pour la viabilité du projet.
En effet, dans une telle situation, le CSE pourrait reprocher à l’équipe RH de ne pas l’avoir informé et saisir un juge afin de contraindre l’entreprise à organiser sa consultation. Lorsque cela se produit, l’intégration de l’outil d’IA est alors retardée, ce qui a des conséquences financières et contractuelles importantes : l’entreprise doit s’acquitter du prix de l’outil sans pouvoir l’utiliser. En outre, cela retarde le projet et peut également désorganiser l’équipe RH.
Obligation 3 : Former les équipes utilisatrices
L’utilisation d’un outil d’IA à haut risque comporte de nombreux risques pour les candidats et les salariés : discrimination à l’embauche, discrimination dans l’attribution des tâches, erreurs et hallucinations impactant l’évolution d’un salarié ou conduisant à son licenciement ou encore mauvaise évaluation de ses capacités professionnelles. Si ces risques se réalisaient, cela impacterait fortement la vie professionnelle, mais aussi personnelle des personnes concernées.
Pour éviter les effets négatifs, il est essentiel de former les équipes RH utilisant les outils d’IA. Cela permet de s’assurer qu’elles mettent en œuvre un contrôle humain suffisant pour évaluer la pertinence des résultats proposés par l’outil d’IA.
Concrètement, la formation des équipes doit notamment leur permettre de :
- Connaître les limites et les capacités de l’outil d’IA qu’elles utilisent
- Interpréter correctement les résultats apportés par l’outil d’IA
- Identifier un comportement anormal ou défaillant de l’outil d’IA
L’entreprise doit également désigner une personne disposant d’un niveau de responsabilité suffisant pour superviser l’utilisation de l’outil d’IA. Cette personne doit être en mesure de s’écarter des recommandations formulées par le système lorsqu’elles lui paraissent inadaptées, erronées ou susceptibles de porter atteinte aux droits des candidats ou des salariés.
Obligation 4 : Informer les candidats et salariés de l’utilisation de l’IA
Les outils d’IA utilisés par les équipes RH traitent de nombreuses données à caractère personnel. Leur utilisation doit donc être conforme à la fois à l’AI Act et au RGPD. Les candidats et les salariés doivent être informés de manière claire et transparente du recours à ces outils.
En pratique, cette information est souvent renseignée au sein de la politique de confidentialité de l’entreprise qui précise que l’intelligence artificielle peut être utilisée pour le recrutement et la gestion des salariés.
Une bonne pratique permettant d’améliorer la transparence et l’information consiste à expliquer le fonctionnement des outils d’IA utilisés par l’entreprise. Les candidats et salariés
comprennent ainsi plus précisément la façon dont leurs données personnelles sont traitées et le rôle de l’intelligence artificielle dans les processus de recrutement et de gestion.
Obligation 5 : Respecter les droits des candidats et salariés
Les outils d’IA à haut risque sont généralement utilisés par les équipes RH pour assister la prise de décisions concernant la vie professionnelle des candidats ou des salariés.
Les décisions prises via l’outil d’IA sont souvent susceptibles de produire des effets juridiques ou d’affecter significativement les candidats et salariés. Tel est par exemple le cas lorsqu’un outil IA de recrutement écarte une candidature ou lorsqu’il refuse la promotion d’un salarié. Ces décisions peuvent avoir un impact réel sur la vie des individus concernés, sur leur situation professionnelle et sur leurs capacités financières.
Or, ces personnes disposent du droit RGPD de ne pas faire l’objet d’une décision automatisée. Afin de se conformer à ce droit, les entreprises utilisant des outils d’IA doivent s’assurer qu’elles remplissent les conditions suivantes :
- Elles ont obtenu le consentement de la personne concernée, ou
- Le recours à l’outil est nécessaire pour la conclusion ou l’exécution d’un contrat (de travail par exemple) ou
- Elles y sont légalement autorisées
En outre, elles doivent mettre en place des mécanismes permettant à la personne concernée de demander une intervention humaine, exprimer son point de vue et contester la décision prise par l’outil d’IA.
Anticiper la conformité dès le lancement de votre projet d’IA
Il est indispensable de respecter ces cinq obligations pour utiliser un outil d’IA dédié aux équipes de ressources humaines en conformité avec les exigences du règlement européen sur l’intelligence artificielle et du RGPD. Les intégrer dès le lancement du projet permet de les suivre comme feuille de route et de construire la conformité étape par étape.
Webinaire : faites le point sur l'IA en conformité
Comment les équipes conformité utilisent-elles déjà l’intelligence artificielle ? Découvrez des cas d’usage concrets et les bonnes pratiques pour intégrer l’IA à vos processus dans un cadre maîtrisé.
