Le visage de l'IA n'est-il qu'un reflet de nous-mêmes — et que perdons-nous à nous y regarder ?

On répète souvent que l'intelligence artificielle pose des défis éthiques inédits au management. Cette affirmation mérite d'être nuancée : l'IA introduit bien des capacités nouvelles — la génération de contenus à grande échelle, la vitesse de traitement, l'autonomie croissante des agents. Mais le défi éthique fondamental qu'elle révèle, lui, est beaucoup plus ancien. Il concerne ce que les organisations font à elles-mêmes en construisant les outils auxquels elles finissent par se fier.

C'est cette question que je voudrais examiner ici, à travers un angle rarement mobilisé dans les débats sur l'IA en entreprise : celui de l'anthropologie des techniques et de la philosophie de la technique.

La prothèse parfaite

Le management contemporain ne demande plus à ses praticiens d'être des machines froides. La doctrine dominante exige aujourd'hui qu'ils soient à la fois rigoureux et attentifs, capables de décision rapide et d'écoute profonde. Cette double exigence est juste — et c'est précisément elle qui crée le piège.

Car lorsque les organisations déploient une intelligence artificielle pour assister ou accélérer la décision, elles n'y transfèrent pas une fonction abstraite. Elles y transfèrent la part d'elles-mêmes qu'elles savent le mieux formaliser : la logique procédurale, la pondération de critères, l'arbitrage entre variables mesurables. La part formalisable. Celle qui se laisse coder.

Le philosophe Bernard Stiegler appelait ce geste une extériorisation : nous déposons dans les artefacts techniques nos savoirs, nos mémoires, nos capacités de traitement. Ce n'est pas une pathologie — c'est constitutif de la relation humaine à la technique depuis les premiers outils. L'écriture a externalisé la mémoire. La calculatrice a externalisé l'arithmétique. L'IA externalise aujourd'hui certaines formes de jugement.

Ce qui change, c'est l'ampleur et la vitesse. Et c'est là qu'un premier réflexe narcissique entre en scène — non pas au sens clinique du terme, mais au sens le plus concret : l'organisation se reconnaît dans ce qu'elle a construit. Elle y voit une version d'elle-même enfin débarrassée de ses hésitations, de ses incohérences, de ses angles morts. Une prothèse qui fait mieux qu'elle ce qu'elle faisait imparfaitement. Ce reflet est séduisant. Et cette séduction est le début du problème.

Ce que l'anthropologie nous apprend

L'anthropologie de la technique a documenté depuis longtemps la tendance humaine à projeter sur les machines bien plus que des fonctions. On nomme les robots industriels, on parle à un assistant vocal, on attribue des intentions à un algorithme. Des travaux comme ceux de Lucy Suchman sur l'interaction humain-machine, ou de Bruno Latour sur les objets techniques comme révélateurs des réseaux sociaux qui les ont produits, montrent que cette projection n'est pas une anomalie irrationnelle. Elle est constitutive de la façon dont les humains habitent leurs outils.

Du golem médiéval à Frankenstein, des automates du XVIIIe siècle aux androïdes contemporains, la machine a toujours fonctionné comme une prothèse identitaire autant que fonctionnelle. Ce que l'époque actuelle ajoute, c'est que cette prothèse participe désormais activement aux décisions qui organisent la vie des personnes — recrutement, crédit, soin, stratégie. L'enjeu anthropologique n'est plus folklorique. Il est décisionnel.

La dépossession silencieuse

Il ne s'agit pas simplement de savoir si l'IA "remplace" les managers — cette question est largement stérile. Il s'agit de comprendre ce que la délégation fait progressivement aux compétences qui ne sont pas déléguées.

Stiegler nommait ce risque la prolétarisation : lorsqu'un artefact technique réalise durablement une activité à notre place, nous perdons non seulement la pratique de cette activité, mais la compétence même qui nous permettrait de la reprendre ou d'en évaluer l'exécution. Ce phénomène est bien documenté en ergonomie cognitive sous le nom d'automation bias : plus un système automatisé gère une fonction de façon apparemment fiable, moins le superviseur humain maintient la capacité de l'exercer seul ou de détecter l'erreur du système.

Appliqué au management, ce mécanisme prend une forme particulièrement silencieuse. La part irréductiblement située de la décision — le doute, l'attention au contexte singulier, la capacité à percevoir ce que les données ne disent pas, le raisonnement moral ancré dans une situation concrète et continuellement réinterprété — ne disparaît pas par choix délibéré. Elle s'atrophie par défaut, faute d'espace pour continuer à s'exercer. Le manager ne perd pas ses capacités d'un coup. Il cesse progressivement d'en avoir besoin — jusqu'au moment où la prothèse commet une erreur que lui seul aurait pu anticiper, et qu'il ne voit plus.

Pourquoi les organisations continuent malgré tout

On pourrait objecter : si la délégation appauvrit, pourquoi les organisations y recourent-elles de façon croissante ? La réponse est simple, et c'est précisément elle qui rend le phénomène difficile à enrayer.

Parce qu'elles y trouvent un bénéfice réel, immédiat, mesurable. La prothèse est plus rapide. Elle est plus cohérente à grande échelle. Elle produit des décisions traçables, auditables, défendables devant un comité. Elle réduit l'apparence d'arbitraire. Dans un contexte organisationnel où la décision doit se justifier autant que se prendre, ces avantages sont considérables.

Mais ce bénéfice a un coût invisible, parce qu'il s'accompagne d'un glissement que personne ne décide explicitement. Avant la prothèse, une bonne décision était une décision à la fois rapide, contextualisée, discutable — ouverte à la contradiction, à la révision, à l'appréciation d'une situation singulière. Après plusieurs années de délégation systématique, une bonne décision devient progressivement une décision conforme au système. Non pas parce que quelqu'un l'a décrété, mais parce que c'est désormais le seul type de décision que l'organisation sait encore produire et évaluer collectivement.

Ce glissement est plus profond que la perte de compétence. C'est une transformation de la norme décisionnelle elle-même. La prothèse ne retire pas seulement une capacité : elle reconfigure les critères mêmes par lesquels l'organisation juge ce qu'est une bonne décision. Et une fois cette reconfiguration accomplie, il n'y a plus personne en position de contester — parce que la contestation elle-même supposait une compétence que la délégation a progressivement rendue superflue.

Les biais comme traces de choix

Cette mécanique éclaire d'une façon nouvelle la question des biais algorithmiques, trop souvent présentés comme des défauts techniques à corriger — des anomalies dans un système par ailleurs neutre.

Un biais algorithmique n'est pas un bug. C'est la trace visible d'un choix de conception — et aucun choix de conception n'est neutre. Il porte en lui la vision du monde de ceux qui l'ont fait, leurs angles morts inclus, leurs représentations implicites de ce qu'est un "bon candidat", un "bon risque", une "bonne décision". Des travaux comme ceux de Safiya Umoja Noble sur les algorithmes d'oppression ou de Langdon Winner sur la politique des artefacts techniques le montrent avec précision : concevoir, c'est toujours choisir — et ce choix a des effets réels sur des personnes réelles.

Quand une organisation affirme qu'un système d'IA "a tranché objectivement", elle répète le même geste anthropologique que celui qui prêtait une volonté au golem : elle attribue à la prothèse une neutralité qu'aucune prothèse n'a jamais possédée, parce qu'aucune prothèse n'a jamais été conçue hors d'un contexte social, culturel et décisionnel situé.

Vers une humilité décisionnelle

Je ne plaide pas pour une méfiance généralisée envers l'IA en entreprise, ni pour un retour fantasmatique à un humain seul juge de tout. Je plaide pour un déplacement de posture, plus inconfortable mais plus honnête.

Admettre que déléguer une capacité à une prothèse n'est jamais un geste neutre. C'est un geste qui, s'il n'est pas activement surveillé, réduit progressivement l'espace où le jugement irréductiblement situé continue de s'exercer — jusqu'à ce que cet espace devienne insuffisant pour corriger ce que la prothèse ne peut pas voir d'elle-même.

Cette admission déplace la question centrale. Non plus "l'IA a-t-elle raison ?", mais : "qu'est-ce que nous cessons de savoir faire nous-mêmes, pendant que la prothèse fait ce que nous lui avons appris à faire ?"

Le vrai défi éthique de l'IA en entreprise n'est pas de savoir si la machine sera un jour assez intelligente. Ce n'est même pas de savoir si les organisations sauront reconnaître ce qu'elles ont progressivement externalisé.

C'est plus radical que cela.

Le danger est qu'elles oublient qu'elles décidaient autrement — avant que leurs prothèses ne leur apprennent ce qu'est une "bonne" décision.

À ce stade, la question n'est plus celle de la compétence perdue. C'est celle de la norme transformée. Et une norme transformée de l'intérieur, sans qu'aucune décision collective ne l'ait jamais sanctionnée, est infiniment plus difficile à questionner qu'une erreur à corriger.

Les technologies d'IA ne remplacent pas seulement des fonctions cognitives. Elles redéfinissent progressivement les capacités que les organisations jugent encore nécessaire de cultiver — et donc leur propre conception de ce qu'est juger.