En clair · Gouvernance & décision IA

Nous n'avions pas prévu qu'elle se trompe.

Dessin de presse : une salle de crise où chacun désigne son voisin, pendant qu'un écran répète calmement une réponse fausse.
Visuel IARH Consulting · En clair : « Quatre questions. Aucune réponse. ». Illustration générée par intelligence artificielle.

En clair : je prends un sujet sérieux et je le dis crûment. La satire vise la situation et le discours, jamais les personnes. La version sourcée est juste ici.

802 dirigeants français ont été interrogés sur leur préparation à l'intelligence artificielle. Quatre chiffres en sont sortis. Ils se lisent comme un enchaînement logique, à condition de les prendre dans le bon ordre.

28 % estiment que l'IA impose de revoir l'organisation.

C'est le premier chiffre, et il explique tous les autres. On ne réorganise pas pour un outil. On installe un outil, et on continue.

75 % n'ont ni directeur des données, ni responsable de l'IA.

Ce qui se comprend : on ne recrute pas un responsable pour un sujet qui n'est pas organisationnel. La cohérence est parfaite. Elle est simplement construite sur une erreur de départ.

51 % n'ont défini aucune ligne rouge.

Aucun « jamais ». Aucun « pas sur ces données-là ». Aucun « pas sans relecture humaine ». Le champ est ouvert, ce qui est très pratique, jusqu'au jour où quelqu'un y entre.

60 % n'ont aucun protocole pour gérer une décision erronée prise ou assistée par une IA.

Traduisons ce que veut dire « aucun protocole ». Cela ne veut pas dire qu'il manque un document. Cela veut dire que le jour où le système se trompera sur un client, un candidat ou un salarié, quatre questions se poseront et qu'aucune n'aura de réponse.

Qui s'en aperçoit ? Le client. Il le fera savoir.

Qui arrête le système ? Personne, pendant 3 jours. Puis tout le monde, en même temps.

Qui répare ? Celui qui décroche le téléphone. Au cas par cas. Ce qui créera la deuxième difficulté, par-dessus la première.

Qui répond ? C'est la question qu'on se pose en réunion de crise, à 11 personnes, en regardant le plafond.

Il existe un moment idéal pour répondre à ces quatre questions, et ce n'est pas celui-là. Cela prend une page. Une page rédigée à froid, un mardi, sans incident en cours.

Le cinquième chiffre, celui qu'il faut montrer au comité d'audit : 60 % n'ont pas évalué leur dépendance à leurs fournisseurs d'IA.

Autrement dit, une part considérable d'entreprises françaises fonctionne aujourd'hui sur deux hypothèses jamais formulées : que le système ne se trompera pas, et que le fournisseur ne changera rien. Dites-les à voix haute dans une salle de conseil. Vous verrez le silence s'installer.

La bonne nouvelle est que rien de tout cela ne coûte d'argent. Un nom, une liste courte de ce qu'on ne confiera pas, et une page qui dit quoi faire quand ça rate.

La mauvaise est que rien de tout cela ne s'achète non plus. Il faut le décider.

Lire l'analyse complète, sourcée et sans ironie

Voir toutes les éditions « En clair »

Retour à tous les regards