L'argument revient à chaque comité de direction qui envisage de mettre un agent d'intelligence artificielle en service : l'agent n'est qu'un outil, l'éditeur en répond, l'entreprise se contente de l'utiliser. Cette lecture a le mérite de la simplicité. Elle ne résiste à aucun des trois textes qui encadrent désormais la question.
Utiliser un agent, c'est en devenir le déployeur
Le règlement européen sur l'intelligence artificielle, règlement (UE) 2024/1689 dit AI Act, ne laisse aucune marge d'interprétation sur ce point. Son article 3, point 4, définit le déployeur comme toute personne physique ou morale, autorité publique ou organisme, utilisant un système d'IA sous sa propre autorité, hors activité personnelle à caractère non professionnel. Pas de seuil de chiffre d'affaires, pas de taille minimale, pas d'exception pour les usages internes. Dès qu'un agent tourne sous votre autorité, vous en êtes le déployeur.
Ce statut emporte une première obligation qui ne dépend d'aucune classification de risque. L'article 4 impose aux fournisseurs comme aux déployeurs de prendre les mesures garantissant un niveau suffisant de maîtrise de l'IA chez leurs personnels et chez les personnes agissant pour leur compte. Il est applicable depuis le 2 février 2025. Il vise tous les systèmes, y compris l'agent conversationnel qu'une division a mis en service sans en informer la direction générale.
Ce que la supervision humaine veut dire dans le texte
Pour les systèmes classés à haut risque, l'article 26 précise ce que l'entreprise ne peut pas déléguer. La supervision humaine doit être confiée à des personnes physiques disposant de la compétence, de la formation et de l'autorité nécessaires, ainsi que du soutien requis pour l'exercer. Un utilisateur qui valide sans avoir les moyens de contester n'est pas une supervision. C'est une signature.
Le même article impose la conservation des journaux générés automatiquement par le système, pour une durée adaptée à sa destination et au minimum 6 mois. Il impose également, avant la mise en service d'un système à haut risque sur le lieu de travail, d'informer les représentants des travailleurs et les travailleurs concernés. Il oblige enfin à informer les personnes physiques lorsqu'elles sont soumises à un tel système pour des décisions qui les concernent.
Reste à savoir quels agents relèvent du haut risque. L'annexe III du règlement en dresse la liste, et elle recoupe précisément les usages que les entreprises automatisent en premier : la diffusion ciblée d'offres d'emploi, le filtrage des candidatures et l'évaluation des candidats, les décisions relatives aux conditions de travail, l'accès au crédit, l'accès aux services essentiels. Un agent qui trie des dossiers de candidature ne se situe pas dans une zone grise. Il se situe dans l'annexe.
Le RGPD ferme la porte que l'autonomie ouvre
L'agent autonome pose une question antérieure à l'AI Act. L'article 22 du règlement (UE) 2016/679, le règlement général sur la protection des données, ouvre à toute personne le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, profilage compris, dès lors que cette décision produit des effets juridiques la concernant ou l'affecte de manière significative de façon similaire. Les exceptions sont limitées à trois cas : la nécessité contractuelle, l'autorisation par le droit, le consentement explicite. Et même sous exception, la personne conserve le droit d'obtenir une intervention humaine du responsable du traitement, d'exprimer son point de vue et de contester la décision.
L'autonomie de l'agent est donc exactement ce que le droit vient encadrer. Plus l'agent décide seul, plus l'entreprise doit être en mesure de démontrer qu'un humain pouvait intervenir, et qu'il en avait réellement les moyens.
Au 9 décembre 2026, le logiciel devient un produit
Le troisième texte est le moins commenté et le plus structurant. La directive (UE) 2024/2853 du 23 octobre 2024, publiée au Journal officiel de l'Union européenne le 18 novembre 2024, remplace le régime de responsabilité du fait des produits défectueux hérité de 1985. Elle étend la notion de produit aux logiciels et aux systèmes d'intelligence artificielle. Les États membres doivent l'avoir transposée au plus tard le 9 décembre 2026, date à partir de laquelle le nouveau régime s'applique aux produits mis sur le marché.
Le déplacement est important. Jusqu'ici, une décision d'agent contestée se réglait pour l'essentiel dans un débat contractuel entre l'entreprise et son fournisseur. Demain, le dommage causé par un logiciel défectueux relève d'un régime de responsabilité sans faute, avec une charge de la preuve allégée pour la victime. L'entreprise qui a mis l'agent en service se trouve en première ligne du recours, quitte à se retourner ensuite contre l'éditeur.
Un agent autonome ne dilue pas la responsabilité. Il la concentre sur celui qui l'a mis en service sans avoir écrit qui le surveille.
Olivier Indovino, IARH Consulting
Trois réflexes avant le premier agent
Le premier est un audit de qualification. Avant toute mise en service, établir par écrit si l'agent relève de l'annexe III. Cette qualification n'est pas une formalité de juriste : elle détermine l'intégralité du régime applicable, et elle sera la première pièce demandée en cas de contrôle. Une organisation qui ne sait pas répondre à cette question ne sait pas quelles obligations pèsent sur elle.
Le deuxième est la désignation nominative du superviseur. Pas une direction, pas un comité : une personne, avec la compétence, le temps et l'autorité de suspendre l'agent. Le test est simple. Si personne dans l'organisation ne peut arrêter l'agent dans l'heure, la supervision humaine n'existe pas, quel que soit ce qu'en dit la documentation.
Le troisième est la journalisation des décisions à impact. 6 mois est un plancher réglementaire, pas un objectif de gestion. Ce qui compte est de pouvoir reconstituer, pour une décision contestée, ce que l'agent a reçu en entrée, ce qu'il a produit, et qui l'a validé. Une organisation incapable de reconstituer cette chaîne ne pourra pas démontrer sa supervision, quelle que soit la qualité de ses intentions.
Ces trois réflexes n'ont rien de technique. Ils sont l'affaire de la direction générale, parce qu'ils répondent à trois questions de gouvernance : qui qualifie, qui supervise, qui répond. C'est l'objet d'un cadrage de gouvernance, à poser avant le premier agent plutôt qu'après le premier litige.