Le médecin, l’IA et le manager : anatomie d’une coopération augmentée

l’IA  n'est pas qu’un outil.

C’est pratique, le mot “outil”.
Ça rassure.
Ça donne l’impression qu’il suffit de le poser sur un bureau, de former rapidement deux ou trois personnes, et d’attendre que la productivité fasse des petits.

Sauf que l’IA n’est pas seulement un outil.

C’est une influenceuse. Notamment quand elle est agentique.

Dès qu’un système influence une décision humaine, il ne doit plus être traité comme un simple logiciel mais comme le partenaire de prise de décision qu’il est devenu.

L’algorithme doit être pris en considération comme un acteur de la coopération décisionnelle.

La médecine offre aujourd’hui un terrain d’observation particulièrement précieux. Parce que le diagnostic médical ressemble, par certains aspects, à beaucoup de décisions managériales : il faut recueillir des informations imparfaites, les interpréter, hiérarchiser les risques, arbitrer sous contrainte, puis assumer une décision dont les conséquences peuvent être lourdes.

Or plusieurs études récentes montrent une chose assez fascinante : la question n’est finalement plus de savoir si l’IA est meilleure que l’humain.

La vraie question est : à quelles conditions l’humain et l’IA peuvent-ils prendre une meilleure décision ensemble ?

Et la réponse est moins confortable qu’on ne l’imagine.

Parfois, l’IA améliore la décision.
Parfois, elle ne change pas grand-chose.
Parfois, elle dégrade le raisonnement humain.

Ca part bien.

Coopérer avec une IA, ce n’est pas seulement l’utiliser

Une étude publiée en 2024 dans JAMANetwork Open a comparé les performances diagnostiques de médecins utilisant un grand modèle de langage, en l’occurrence GPT-4, avec celles de médecins utilisant uniquement leurs ressources habituelles. Les résultats sont particulièrement intéressants : Dans cette étude, l’accès à GPT-4 n’a pas significativement amélioré le raisonnement diagnostique des médecins par rapport aux ressources classiques. Plus troublant : GPT-4 utilisé seul a obtenu une performance supérieure aux deux groupes de médecins. Sur le papier, c’est tentant d’en conclure que l’IA est meilleure que le médecin.

En réalité cela montre surtout que la performance de l’outil ne se transforme pas automatiquement en performance de coopération.

Mais ce n’est pas le point le plus intéressant.

Le vrai enseignement est ailleurs : un outil très performant peut perdre une partie de sa valeur lorsqu’il est mal intégré au raisonnement humain.

Autrement répété : l’accès à l’IA ne crée pas automatiquement une coopération efficace.

Et c’est là que le parallèle avec l’entreprise devient évident.

Mettre une IA à disposition des managers, des RH ou des dirigeants ne suffit pas à créer une décision augmentée. Ce n’est pas parce qu’un manager peut demander à une IA de rédiger une synthèse, d’analyser une situation ou de proposer une option qu’il coopère réellement avec elle.

Il peut aussi :

• lui poser une mauvaise question ;
• accepter une réponse trop vite ;
• ignorer une bonne alerte parce qu’elle contredit la machine ;
• survaloriser une formulation bien écrite ;
• ou, plus simplement, utiliser l’IA comme une machine à confirmer ce qu’il pensait déjà.

Ce que cette étude médicale nous rappelle, c’est que l’IA ne remplace pas la méthode.
Elle la rend encore plus nécessaire.

Car une coopération efficace suppose au minimum trois choses :

D’abord, savoir ce que l’on demande à l’IA.
Une hypothèse ? Une reformulation ? Une contradiction ? Une analyse de risque ? Une vérification ? Ce n’est pas la même chose.

Ensuite, savoir ce que l’on accepte de l’IA.
Une suggestion n’est pas une décision. Une probabilité n’est pas une certitude. Une réponse bien formulée n’est pas forcément une réponse juste.

Enfin, savoir ce que l’on garde comme responsabilité humaine.
Et là, il faut être très clair : une décision assistée par IA reste une décision. Pas un tour de magie numérique.

En management, cela change beaucoup de choses.

Parce qu’un manager qui utilise l’IA pour préparer un feedback, analyser une situation conflictuelle, comparer deux candidatures internes ou structurer une décision RH ne fait pas seulement “gagner du temps”.

Il introduit un nouvel acteur dans son processus décisionnel.

Un acteur rapide, puissant, convaincant.
Mais qui ne connaît ni la culture de l’équipe, ni l’historique relationnel, ni les signaux faibles, ni les conséquences humaines réelles de la décision.

C’est donc au manager de tenir le cadre.

D’autant que c’est lui qui reste responsable de la décision finale, et de ses conséquences humaines.

La médecine nous donne ici une première leçon très utile :

La coopération humain/IA ne se décrète pas par l’accès à un outil. Elle se construit par une méthode.

Et cette méthode devient une compétence managériale à part entière.

Pas une compétence technique réservée aux experts data.
Pas un petit module e-learning à cocher entre la cybersécurité et les notes de frais.
Une vraie compétence de décision.

Savoir interroger.
Savoir douter.
Savoir contredire.
Savoir documenter.
Savoir assumer.

Bref : savoir manager l’IA.

Et c’est probablement là que commence la décision augmentée : non pas quand l’IA répond, mais quand l’humain sait quoi faire de la réponse.

Coopérer avec une IA, ce n’est pas lui faire confiance

On aime beaucoup dire qu’il faut “faire confiance” à l’IA.

Mais c’est probablement une très mauvaise façon de poser le sujet.

Parce qu’on ne coopère pas efficacement avec une IA en lui faisant confiance.
On coopère efficacement avec une IA en sachant jusqu’où lui faire confiance.

Et surtout, en sachant reconnaître le moment où il faut lui résister.

L’étude publiée dans JAMA en 2023 l’illustre très bien. Des cliniciens devaient poser des diagnostics sur des cas de patients hospitalisés pour insuffisance respiratoire aiguë. Lorsqu’ils recevaient l’aide d’un modèle d’IA standard, leur précision diagnostique augmentait légèrement. Mais lorsqu’ils recevaient les prédictions d’un modèle volontairement biaisé, leur précision chutait fortement : moins 11,3 points par rapport à leur niveau de base. Plus intéressant encore : les explications fournies avec les prédictions de l’IA ne suffisaient pas à neutraliser cet effet négatif.

Autrement dit : l’IA ne s’est pas contentée de se tromper.

Elle a entraîné les cliniciens dans son erreur.

Et c’est un point fondamental pour comprendre les risques de l’IA en entreprise.

Le danger n’est pas seulement que l’IA produise une réponse fausse.
Le danger, c’est que cette réponse fausse soit :

rapide,
plausible,
bien structurée,
rassurante,
et suffisamment convaincante pour déplacer le raisonnement humain.

Une erreur mal rédigée se repère assez vite.
Une erreur bien formulée, beaucoup moins.

Et c’est là que les ennuis commencent.

Parce que l’IA générative a une compétence redoutable : elle sait rendre les choses vraisemblables.

En management, ce mécanisme peut avoir des conséquences très concrètes.

Un manager demande à une IA de l’aider à rédiger un feedback difficile.
L’IA propose une formulation “ferme mais bienveillante”.
Le texte paraît équilibré.
Il est même plutôt élégant.

Sauf qu’il gomme peut-être un élément essentiel du contexte, transforme une difficulté ponctuelle en insuffisance générale ou introduit une ambiguïté disciplinaire.

Sur le moment, le gain semble immédiat : le manager a gagné du temps.
Mais la perte est différée : la décision devient plus difficile à expliquer, à assumer, à défendre.

Et là, nous ne sommes plus dans l’assistance.
Nous sommes dans la contamination décisionnelle.

C’est une expression un peu rude, mais elle dit bien ce qu’elle veut dire : l’IA n’a pas pris la décision à la place de l’humain, elle a modifié les conditions dans lesquelles l’humain a décidé.

C’est exactement pour cela que la formule “l’humain reste dans la boucle” ne suffit pas.

Elle est rassurante, oui.
Mais elle est incomplète.

Car un humain dans la boucle peut très bien :

valider trop vite,
ne pas comprendre le biais,
ne pas oser contredire l’outil,
confondre explication et justification,
ou considérer que la présence d’une IA donne une forme de neutralité à sa décision.

La question managériale n’est donc pas :“Peut-on faire confiance à l’IA ?" mais “Peut-on organiser une défiance utile ?”

Celle qui consiste à demander :

Qu’est-ce que l’IA n’a pas vu ?
Sur quelles données ou hypothèses repose sa réponse ?
Quel biais peut-elle introduire ?
Quel élément humain manque dans son raisonnement ?
Quelle conséquence juridique, sociale ou relationnelle cette proposition peut-elle produire ?
Et surtout : suis-je capable d’expliquer cette décision sans me cacher derrière l’outil ?

Car c’est bien là que se joue la souveraineté décisionnelle.

Un décideur ne perd pas sa souveraineté uniquement lorsqu’il délègue officiellement sa décision à une IA.
Il la perd aussi lorsqu’il reprend une recommandation sans la challenger.

Et en entreprise, c’est un vrai sujet de responsabilité.

Parce que le collaborateur, lui, ne subit pas “une recommandation algorithmique”.
Il subit une décision managériale.

Un feedback.
Une notation.
Une différence de traitement.

Et si cette décision est contestée, il ne suffira pas de dire :
“C’est l’IA qui me l’a suggéré.”

Manager, ce n’est pas transmettre une sortie machine.
Manager, c’est assumer un arbitrage humain, parfois défaillant, souvent imparfait, mais qui tend à l’équité.

La médecine nous donne ici une deuxième leçon précieuse :

Une coopération humain/IA efficace ne repose pas sur la confiance. Elle repose sur une capacité organisée à contredire l’outil.

Et cette capacité ne s’improvise pas.

Elle suppose de former les décideurs à lire une réponse d’IA non comme une réponse, mais comme une hypothèse.

Qu’on valide ou pas, mais qu’on doit nécessairement challenger, mettre à l’épreuve, rétro-corriger.

Coopérer avec une IA, ce n’est pas coopérer de la même manière pour tout le monde

Il y a une autre idée assez tenace dans les discours sur l’IA.

L’idée que l’outil serait le même pour tout le monde.
Donc que ses effets seraient, eux aussi, à peu près les mêmes.

Même accès.
Même logiciel.
Même abonnement.
Même interface.

Donc, en théorie : même type de coopération.

En théorie.

Dans la vraie vie, c’est un peu plus contrariant.

Une étude publiée dans Nature Medicine en 2024 a observé l’effet de l’assistance par IA sur 140 radiologues, confrontés à 15 tâches d’interprétation de radiographies thoraciques. 

Le résultat est particulièrement intéressant : l’IA n’a pas eu le même effet sur tous les professionnels. 

Certains radiologues ont vu leur performance s’améliorer. D’autres non. Et surtout, les caractéristiques habituelles, comme le niveau d’expérience, la spécialité ou la perception de l’IA, ne permettaient pas de prédire simplement qui bénéficierait réellement de l’assistance. 

Autrement dit : deux professionnels compétents, placés devant le même outil, ne deviennent pas deux professionnels coopérant de la même manière.

Et ça, pour le management, c’est fondamental.

Parce que l’une des grandes illusions de l’IA en entreprise sera de croire qu’un déploiement uniforme est nécessairement équitable.

On donne le même outil à tout le monde.
On ouvre les mêmes droits d’accès.
On organise la même démonstration.
On diffuse la même charte d’usage.

Et ensuite, on considère que le sujet est réglé.

Sauf que non.

Un manager va utiliser l’IA pour structurer son raisonnement.
Un autre pour déléguer son inconfort.
Un troisième pour confirmer son intuition.
Un quatrième pour produire plus vite des décisions qu’il ne documentait déjà pas très bien avant.

Même outil.
Effets très différents.

C’est là que l’IA devient un sujet d’équité décisionnelle.

Pas seulement parce qu’elle peut contenir des biais.
Mais parce qu’elle peut modifier différemment les capacités de décision des personnes qui l’utilisent : augmenter la rigueur de certains, renforcer les biais d’autres.
Encourager le doute chez un manager.
Ou lui donner, au contraire, une assurance disproportionnée.

L’IA ne s'agrège pas à un décideur neutre, mais à un humain.

Elle s'agrège à une histoire professionnelle, à une carte mentale spécifique : une façon de raisonner, un certain niveau de formation, de pratique, de conceptualisation.
À un rapport à l’autorité.
À une appétence au doute.
À une capacité plus ou moins grande à assumer une décision impopulaire.

Bref, elle s’ajoute à de l’humain.

Et l’humain, c’est rarement homogène.

C’est pourquoi la question “qui coopère avec l’IA ?” devient aussi importante que la question “quelle IA utilise-t-on ?”

Un outil d’aide à la décision n’a pas le même effet selon qu’il est utilisé par un professionnel formé à questionner ses propres biais ou par quelqu’un qui cherche simplement une validation rapide.

Il n’a pas le même effet selon que le décideur sait formuler un problème ou qu’il demande à l’IA de le faire à sa place.

Il n’a pas le même effet selon que l’organisation valorise la décision documentée ou la réponse immédiate.

Et c’est probablement là que beaucoup d’entreprises vont se tromper.

Elles vont former à l’outil.
Mais pas à l’effet de l’outil sur le décideur.

Elles vont expliquer les fonctionnalités.
Mais pas les risques d’influence.

Elles vont dire ce qu’on a le droit de faire avec l’IA.
Mais beaucoup moins ce que l’IA risque de faire à notre manière de décider.

Or c’est précisément le sujet.

Parce qu’une coopération augmentée n’est pas seulement une affaire de performance technique.
C’est une affaire de lucidité décisionnelle.

Un manager doit pouvoir se demander :

Est-ce que l’IA m’aide à mieux voir la situation ?
Ou est-ce qu’elle me donne surtout une formulation confortable ?

Est-ce qu’elle élargit mon raisonnement ?
Ou est-ce qu’elle organise élégamment mon biais initial ?

Est-ce qu’elle me pousse à documenter ma décision ?
Ou est-ce qu’elle me donne l’impression que la décision est déjà suffisamment justifiée ?

Est-ce qu’elle m’aide à assumer mon arbitrage ?
Ou est-ce qu’elle m’offre un paravent ?

Parce que c’est aussi cela, le risque.

C’est tout l’enjeu du management de l’IA.

Permettre aux décideurs de mieux coopérer avec l’outil, sans se dissoudre dedans.

L’IA n’augmente pas les professionnels de manière uniforme. Elle révèle et amplifie leurs méthodes de décision.

Et si l’on transpose cette leçon à l’entreprise, la conclusion est assez claire :

On ne peut pas piloter l’IA uniquement par des règles d’accès.
Il faut aussi piloter les conditions de coopération hybride entre la machine et l'humain. Et ça ne se résume pas à savoir prompter. 

Manager l’IA, c’est organiser la coopération décisionnelle

Finalement, ce que la médecine nous apprend est assez simple.

L’IA ne crée pas automatiquement de meilleure décision :elle crée une nouvelle configuration de décision.

Ce n’est pas la même chose.

Dans cette configuration, l’humain n’est plus exactement seul.
Mais il n’est pas non plus remplacé.

Il est influencé.

Ainsi surgit une nouvelle problématique :  “Comment organise-t-on la coopération entre un outil qui influence et un humain qui doit garder la tête froide ?”

Cela suppose de poser quelques questions complémentaires.

Qui décide réellement ?

C’est la première question.

Dans une décision assistée par IA, il est facile de dire que l’humain reste décideur.

Mais rester décideur, ce n’est pas seulement cliquer sur “envoyer”, reprendre une suggestion, ou signer un document généré par un outil.

Rester décideur, c’est être capable de dire :

• pourquoi cette recommandation a été retenue,
• pourquoi une autre a été écartée,
• quels éléments ont été vérifiés,
• quels risques ont été identifiés,
• et ce qui relève, au final, de son propre arbitrage.

Sinon, l’humain n’est pas vraiment dans la boucle.

Il est juste au bout de la chaîne.

Qui influence la décision ?

Une IA ne décide pas à la place de l’humain.

Mais elle l'influence.

Elle choisit un ordre de présentation.
Elle propose une formulation.
Elle met certains éléments en avant.
Elle en laisse d’autres en arrière-plan.
Elle donne parfois une cohérence apparente à une situation qui devrait rester discutée.

Or, en management, la façon dont une situation est formulée modifie déjà le regard.

Dire d’un collaborateur qu’il “manque d’autonomie” n’a pas le même effet que dire qu’il “n’a pas encore reçu les repères nécessaires pour exercer pleinement son autonomie”.

Dire qu’une équipe “résiste au changement” n’a pas le même effet que dire qu’elle “manque de visibilité sur les conséquences concrètes du changement”.

Dire qu’un salarié est “peu engagé” n’a pas le même effet que dire que “les signes d’engagement attendus n’ont pas été explicités”.

C’est pourquoi il faut apprendre à repérer ce que l’IA fait à notre lecture du réel.

Elle ne produit pas seulement du texte.
Elle produit une reconfiguration du réel.

Qui vérifie ?

Vérifier, ce n’est pas faire semblant de relire un texte parce qu’on sait bien qu’il faut dire qu’on l’a relu.

Vérifier, c’est contrôler les faits, les critères, les sources, les oublis, et anticiper les effets possibles.

C’est se demander :

• Est-ce exact ?
• Est-ce complet ?
• Est-ce proportionné ?
• Est-ce cohérent avec nos pratiques précédentes ?
• Est-ce explicable au collaborateur concerné ?
• Est-ce compréhensible par l’équipe ?
• Est-ce défendable si la décision est contestée ?

La vérification n’est pas une compétence technique. C’est une compétence managériale.

Elle oblige à remettre la décision dans son contexte humain, collectif, juridique et organisationnel.

Bref, dans la vraie vie de l’entreprise.

Qui explique ?

Une décision managériale ne vaut pas seulement par son résultat.

Elle vaut aussi par sa capacité à être expliquée, c’est-à-dire rattachée à des critères compréhensibles, à un cadre connu, à une logique identifiable.

Or une décision assistée par IA peut devenir difficile à expliquer si le manager ne sait plus très bien ce qui vient de lui, ce qui vient de l’outil, ce qui a été vérifié, et ce qui a été repris parce que “c’était bien formulé”.

Et c’est là que naît le risque d’injustice perçue.

Un collaborateur peut accepter une décision défavorable lorsqu’il en comprend les critères.
Il peut beaucoup plus difficilement accepter une décision qui semble sortir d’une boîte noire.

Même si cette boîte noire parle très poliment.

L’équité décisionnelle repose sur une exigence simple : une différence de traitement doit pouvoir être expliquée autrement que par une impression, une habitude, ou une recommandation opaque.

Avec l’IA, cette exigence devient encore plus forte.

Parce que plus la décision paraît objectivée par un outil, plus elle doit être rendue intelligible par un humain.

Qui assume ?

Assumer, c’est pouvoir dire :

“J’ai retenu cette option pour ces raisons.”
“J’ai écarté cette recommandation pour ces motifs.”
“J’ai identifié ce risque et j’ai choisi de le traiter ainsi.”
“J’ai vérifié ces éléments avant de décider.”

C’est moins spectaculaire qu’une démo d’IA générative. Mais c’est beaucoup plus robuste, et surtout, beaucoup plus protecteur.

Pour le collaborateur, l’équipe, l’entreprise. Et pour le manager lui-même.

Comme souvent, le droit n’est pas un empêcheur de décider en rond, c’est une boussole.

Il ne dit pas : “N’utilisez pas l’IA.”
Il rappelle simplement : “Ne perdez pas la trace de ce que vous avez décidé, pourquoi vous l’avez décidé, et dans quelles conditions.”

La coopération augmentée est une compétence humaine

La coopération humain/IA ne sera pas performante parce que l’IA est performante.

Elle sera performante si les décideurs savent coopérer avec elle.

Et coopérer, dans ce contexte, ce n’est pas obéir.
Ce n’est pas déléguer, ni recopier.
Ce n’est pas faire confiance les yeux fermés en ajoutant une petite phrase éthique à la fin du document.

Coopérer, c’est tenir sa place.

La médecine nous l’apprend à sa manière : le meilleur diagnostic ne vient pas forcément de l’humain seul, ni de l’IA seule, mais d’une coopération bien organisée entre les deux.

L’entreprise ferait bien d’écouter cette leçon.

Parce que demain, l'enjeu ne sera plus de savoir si on maîtrise telle ou telle IA à la mode, si on connait les derniers prompts en vogue ou les milliers d'usages possibles pour accélérer encore le temps décisionnel.

L'enjeu de demain sera de savoir qui a su conserver son intégrité décisionnelle ?

Ce contenu vous concerne ? ABM FORMATION accompagne les managers et leurs organisations via des diagnostics, des formations et des interventions sur mesure : site ABM FORMATION

Contact via le formulaire du blog, ou directement par email : annebilard@abmformation.fr