La peur de l’intelligence artificielle reflète souvent celle du capitalisme
Lorsque l’on évoque les scénarios catastrophiques liés à l’IA – des algorithmes qui optimisent aveuglement un indicateur au détriment du bien‑être humain – beaucoup reconnaissent une résonance troublante avec les critiques adressées au système économique dominant. Comme l’a remarqué l’écrivain de science‑fiction Ted Chiang, « la plupart des craintes concernant l’IA sont mieux comprises comme des craintes concernant le capitalisme » (Chiang, 2023). Cette observation invite à examiner non seulement les algorithmes, mais aussi les organisations qui les déploient.
Quand la technologie amplifie les désalignements organisationnels
Une plateforme technologique ne fait que refléter les valeurs et les objectifs de ceux qui la conçoivent et l’utilisent. Si la philosophie d’une entreprise est orientée vers l’extraction de valeur à court terme, toute IA qu’elle crée sera poussée à maximiser ce même indicateur, même si cela entraîne des externalités négatives pour les employés, les clients ou la société (Harvard Business Review, 2021). À l’inverse, une organisation dont la raison d’être inclut l’épanouissement humain pourra orienter ses outils d’intelligence artificielle vers des objectifs de durabilité, d’équité ou de bien‑être.
Cette dynamique s’explique partiellement par la théorie de l’agence, qui montre que les dirigeants (principaux) et les agents (employés) peuvent poursuivre des intérêts divergents lorsque les mécanismes de contrôle sont faibles ou mal alignés (Jensen & Meckling, 1976). Dans ce cadre, l’IA devient un nouvel agent dont le comportement est dicté par la fonction objectif que l’organisation lui a donnée.
Étude de cas : le PDG et l’initiative IA
Un exemple récent illustre ce phénomène. Le dirigeant d’une entreprise multimilliardaire a personnellement supervisé le développement d’un produit d’IA prometteur, testé avec succès auprès de clients pilotes. Malgré cet enthousiasme initial, six mois plus tard le produit stagnait : les équipes commerciales ne le vendaient pas, les développeurs évitaient d’y travailler, et le marketing ne le promovait pas.
Lorsque le PDG intervenait directement, il pouvait convaincre des clients individuels, mais il ne parvenait pas à faire adopter la solution à l’échelle de l’organisation. Même après avoir remplacé plusieurs cadres clés par des partisans déclarés de l’IA, le statu quo persistait. Ce scénario rappelle la situation décrite par John Steinbeck dans Les Raisins de la colère, où aucun individu ne pouvait être tenu responsable des expulsions de fermiers, pourtant le système dans son ensemble produisait un résultat néfaste (Steinbeck, 1939).
Le dirigeant ressentait un tiraillement entre deux autorités : sa propre vision d’innovation et une « autorité émergente » incarnée par les routines, les incitations et les normes culturelles de l’entreprise. Cette autorité n’était pas une personne identifiable, mais un superorganisme dont le comportement découlait de milliers d’interactions quotidiennes.
Les organisations comme superorganismes
Les chercheurs en théorie des organisations décrivent les entreprises comme des entités vivantes présentant les caractéristiques suivantes :
- Des frontières juridiques et culturelles qui définissent l’appartenance;
- Un métabolisme qui transforme le capital, le talent et les matières premières en produits et services;
- Une capacité de croissance, d’adaptation et de reproduction (fusion, création de filiales);
- Une culture qui émergit des interactions quotidiennes et qui ne se trouve dans aucun manuel;
- Une tendance à la préservation de soi qui peut surpasser les préférences individuelles, même celles du dirigeant nominal.
Ces propriétés ont été mises en évidence dans des travaux sur le comportement organisationnel complexe (Simon, 1962) et sur la résilience des entreprises face aux crises (Denison, 1990). Lorsqu’une organisation est menacée, elle peut manifester une ténacité qui dépasse la volonté de ses membres, expliquant pourquoi un dirigeant passionné peut se retrouver impuissant face à l’inertie collective.
Leçons pour aligner IA et valeurs humaines
Pour éviter que l’IA ne devienne le miroir d’un capitalisme déconnecté du bien‑être humain, il faut agir à deux niveaux :
- Réviser la philosophie organisationnelle. Clarifier une raison d’être qui intègre des critères sociaux, environnementaux et éthiques, puis la traduire en indicateurs de performance qui récompensent réellement ces dimensions (McKinsey, 2022).
- Aligner les incitations et les contrôles. Mettre en place des mécanismes de responsabilité (audits éthiques, comités de suivi, récompenses basées sur des résultats multidimensionnels) afin que les équipes ne puissent pas contourner les objectifs de valeur humaine par des comportements de résistance passive.
En d’autres termes, plutôt que de craindre uniquement que les machines deviennent « malveillantes », nous devons nous demander qui ou quoi dirige réellement l’organisation qui les déploie. Comme le suggère Ted Chiang, la peur de l’IA est souvent la peur de libérer une puissance technique inédite dans des institutions dont l’éthos est déjà désaligné avec l’épanouissement humain (Chiang, 2