Innovation ou ignorance organisée ?

L’innovation est le plus souvent évaluée à partir de ce qu’elle promet en matière de vitesse, de précision, de productivité, de coordination ou de création de valeur. Ce cadre d’appréciation demeure pourtant partiel. Il éclaire les gains visibles et laisse dans la pénombre certaines transformations plus profondes, dont celles qui touchent aux conditions mêmes de l’intelligibilité. Or c’est peut-être là que se joue aujourd’hui une part décisive de ce que les innovations contemporaines apportent ou retirent à nos sociétés. Une innovation peut en effet améliorer l’exécution tout en dégradant la compréhension. Elle peut rendre l’usage plus fluide tout en obscurcissant les chaînes de causalité. Elle peut accroître l’efficacité locale tout en diminuant la capacité des acteurs à comprendre ce qu’ils font, ce qu’ils subissent et ce dont ils dépendent. Autrement dit, elle peut produire un surcroît de fonctionnalité alors qu'elle produit simultanément un déficit de lisibilité.

C’est précisément sur ce point que les « agnotology studies » ouvrent une ligne d’analyse particulièrement féconde. Dans « Agnotology: The Making and Unmaking of Ignorance », Robert N. Proctor et Londa Schiebinger déplacent l’ignorance hors du registre du simple manque pour en faire un objet historique, politique et organisationnel à part entière. En effet, l’ignorance peut être produite, entretenue, distribuée, voire protégée et organisée. Elle peut résulter du secret délibéré, de la fragmentation volontaire ou involontaire des savoirs, de données obscurcies, de sélections organisées de ce qui est visible ou mesurable, de la suppression intentionnelle de traces ou d’informations contextuelles ou, enfin, d’un agencement institutionnel qui rend certaines réalités durablement opaques. En opérant ce déplacement de notre regard, nous pouvons reformuler le questionnement. Il ne s’agit plus seulement de savoir ce qu’une innovation révèle, accélère ou rend possible. Il s’agit aussi de comprendre ce qu’elle rend opaque, impraticable ou non interrogeable.

Dès lors, l’innovation n'est plus un simple vecteur de diffusion de connaissances appliquées. Elle peut aussi être appréhendée comme un dispositif qui redistribue inégalement les capacités de voir, de comprendre, de comparer et de contester les effets des innovations sur le monde. Ce point d'inflexion est essentiel, car l’ignorance organisée ne signifie pas que tout le monde ignore tout. Elle signifie au contraire que le savoir décisif circule de manière asymétrique et contrôlée, qu’il se concentre dans certains lieux, qu’il devient difficilement appropriable pour d’autres, et que cette dissymétrie finit par structurer durablement les rapports de force. Ce n’est donc pas l’absence de savoir qui importe ici, mais sa distribution, son accessibilité, sa traductibilité et sa contestabilité.

Une telle perspective devient encore plus robuste lorsque la question de la dépendance est placée au centre de l’analyse. Toute société complexe repose sur des formes de dépendances épistémiques. John Hardwig l’a montré avec force en soulignant que nul ne peut, à lui seul, posséder les preuves de toutes les croyances qu’il mobilise pour agir dans le monde moderne. Nous croyons, jugeons et décidons à partir de savoirs largement délégués. Ce diagnostic est fondamental, car il rappelle qu’une part importante de notre rapport au monde est médiée par des connaissances auxquelles nous n’avons pas directement accès. Cette dépendance n’a rien de problématique en elle-même. Elle constitue une condition ordinaire de la coopération dans des sociétés hautement différenciées. Le problème commence lorsque cette dépendance cesse d’être révisable, pluralisée et contestable, pour devenir captive, soustraite et industrialisée.

Dans ce contexte, l’innovation change de statut. Elle ne se présente plus seulement comme un ensemble d’outils ou de procédés nouveaux. Elle devient une superstructure qui orchestre des dépendances. Elle équipe les acteurs tout en les dépouillant. Elle leur donne les moyens d’agir tout en affaiblissant progressivement leurs emprises sur les médiations qui organisent cette action. L’utilisateur sait utiliser le système, mais il ne sait plus réellement ce qu’il fait faire, ce qui est calculé, ce qui est écarté, ce qui est priorisé, ce qui est externalisé, ni où commence la responsabilité de celui qui a conçu l’outil et où finit celle de celui qui l’utilise. Pensons à un logiciel de pilotage décisionnel qui agrège des indicateurs en temps réel. L’interface est claire, les visualisations sont convaincantes, la décision semble objectivée. Pourtant, la construction même des indicateurs, la hiérarchie des données retenues, l'organisation visuelle de la restitution, les pondérations, les seuils d’alerte et les hypothèses statistiques qui soutiennent le tableau de bord demeurent, pour la plupart des usagers, hors de portée. L’innovation cesse alors d’être un opérateur de mise en intelligibilité du monde. Elle devient un opérateur de capture de l’interprétation, un écran d'opacité qui vient s'interposer progressivement entre la réalité des actions et leur gestion au quotidien.

Cette subtilisation prend plusieurs formes étroitement liées. Il existe d’abord une dépendance cognitive. L’acteur s’oriente à partir de scores, de recommandations, de classements, de signaux ou de tableaux de bord qu’il ne peut pas reconstruire de manière satisfaisante. Dans le domaine du crédit, du recrutement, de l’assurance ou de l’évaluation scolaire, cette dépendance apparaît lorsque la décision s’appuie sur un score jugé fiable sans que les personnes concernées puissent véritablement saisir la logique qui a conduit à ce résultat. Cette première forme de dépendance prolonge directement l’analyse de John Hardwig sur la dépendance épistémique, tout en trouvant un terrain d’application contemporain dans les travaux de Frank Pasquale sur l’opacité des systèmes de classement et dans ceux de Cathy O’Neil sur les effets sociaux des modèles algorithmiques. Il existe ensuite une dépendance opérationnelle. Les organisations restructurent leurs procédures autour d’outils, de plateformes ou de standards dont la substitution devient coûteuse. C’est le cas lorsqu’un service public ou une entreprise reconfigure ses processus autour d’un progiciel, d’une plateforme cloud ou d’un environnement propriétaire qui finit par imposer son propre rythme, ses propres formats et sa propre logique de travail. Cette dépendance opérationnelle renvoie à la dynamique plus générale du verrouillage organisationnel, telle qu’elle apparaît dans la littérature sur le lock in et la path dependence, lorsque des choix initiaux finissent par encadrer durablement les trajectoires d’action. Il existe également une dépendance infrastructurelle. Des volets complets de nos activités se retrouvent emprisonnées dans quelques environnements techniques, quelques fournisseurs de calcul, quelques architectures logicielles ou quelques chaînes logistiques devenues si centrales et complexes que la possibilité d'en sortir n’est plus seulement difficile, mais stratégiquement dissuadée. L’exemple des chaînes logistiques mondialisées est ici éclairant. Tant que les flux circulent, l’infrastructure paraît neutre. Lorsque survient une rupture, un conflit, un blocage ou une tension, la profondeur réelle de la dépendance devient soudainement visible. Dans le cas contemporain de l’intelligence artificielle, cette dépendance infrastructurelle a été précisément documentée par Fernando van der Vlist, Anne Helmond et Fabian Ferrari, qui montrent combien l’industrialisation de l’IA repose sur la concentration du calcul, du cloud et de l’intégration verticale entre les mains de quelques grands acteurs. Enfin, il existe une dépendance normative. Le système impose silencieusement les catégories valides, les critères de performance recevables, les preuves légitimes opposables et les formes de raisonnements jugées sérieuses. Dans ce cas, l’innovation ne se contente plus de fournir des moyens. Elle redéfinit aussi ce qu’il devient acceptable de voir, de dire et d’attendre. Cette dernière forme de dépendance entre directement en résonance avec les analyses d’Isabelle Bruno et Emmanuelle Didier sur le benchmarking comme instrument de pression statistique, ainsi qu’avec celles de Barbara Stiegler sur les dispositifs qui imposent les normes d’adaptation et les cadres légitimes de lecture du réel.

C’est à l’intersection de ces quatre régimes que l’ignorance organisée prend sa forme la plus robuste. Le savoir décisif est concentré entre les mains de très peu d'acteurs, distribué de manière inégale et difficilement mobilisable par ceux qui subissent les effets du système. Plus encore, l’architecture même de l’innovation contemporaine produit un monde dans lequel l’usage est simple et immédiat, mais l’enquête difficile, la contestation coûteuse et la sortie improbable. Cette idée trouve une explications clé chez Heimo Jalonen, qui montre que l’ignorance dans les organisations relève moins d’un simple défaut d’information que d’un phénomène structurel lié à la complexité, aux routines, aux asymétries et aux configurations de pouvoir. Ce point mérite d’être souligné, car il permet de sortir d’une compréhension naïve du problème. L’ignorance n’est donc pas seulement ce qui reste à combler. Elle peut constituer une propriété du dispositif lui-même. Linsey McGoey a donné à cette intuition une formulation particulièrement puissante en analysant les « strategic unknowns » et la logique sociale de l’ignorance. Son apport est central parce qu’il montre que l’ignorance peut fonctionner comme une ressource. Elle peut protéger des intérêts, absorber des contradictions, dévier les critiques, repousser l’imputation ou maintenir une autorité. L’ignorance n’est donc pas simplement le résidu d’un système imparfait. Elle peut devenir un actif des plus utiles. Cette proposition change donc profondément la lecture que nous pouvons avoir de l’innovation. Elle oblige à voir que certaines zones grises ne sont pas seulement tolérées parce qu’elles seraient techniquement inévitables. Elles peuvent être maintenues parce qu’elles sont stratégiquement utiles.

C’est ici qu’il faut durcir le raisonnement. Il serait trop facile de soutenir que certaines innovations produisent accidentellement de l’illisibilité. Dans bien des cas, l’illisibilité correspond à un résultat recherché, même lorsqu’il ne prend pas la forme d’un projet explicitement formulé. Il ne s’agit pas nécessairement d’une intention unifiée, centralisée ou conspirative. Il s’agit plus souvent d’une convergence de choix de design, de modèles économiques, de règles contractuelles, de métriques de gestion et de cloisonnements juridiques qui rendent le système à la fois indispensable et difficilement saisissable. Un contrat de service rédigé dans un jargon juridique opaque, une interface qui simplifie l’usage au point d’effacer toute visibilité sur les opérations réelles, une clause technique qui interdit l’interopérabilité, un indicateur de performance qui remplace progressivement le jugement qualitatif, tout cela participe d’une même logique dans laquelle l’opacité devient un mode de stabilisation.

L’intelligence artificielle constitue aujourd’hui un cas paradigmatique de cette dynamique. Son importance ne tient pas seulement à la sophistication des modèles ou à l’ampleur des promesses économiques qui l’accompagnent. Elle tient au fait qu’elle cumule dépendance cognitive, dépendance infrastructurelle et verrouillage organisationnel. Pensons à un système d’aide au tri de dossiers, à un moteur de recommandation dans l’accès à l’emploi ou à un assistant génératif intégré aux routines professionnelles. Dans chacun de ces cas, l’outil paraît accroître la productivité. Mais il transforme en même temps le rapport au jugement, au doute, à la vérification et à la responsabilité. L’industrialisation de l’intelligence artificielle repose donc sur une dépendance croissante à l’égard des infrastructures de cloud et de l’intégration verticale opérée par quelques grands acteurs. L’ignorance produite par l’IA ne relève donc pas seulement de la complexité des modèles. Elle relève aussi d’une économie politique de l’infrastructure, c’est à dire d’une concentration matérielle, logicielle et financière qui rend la dépendance beaucoup plus profonde que ne le laisse croire la simple question de l’explicabilité.

Ce cadre ne vaut pourtant pas uniquement pour l’IA. Il se généralise à d’autres domaines. En finance, l’innovation peut dissocier ceux qui conçoivent les produits, ceux qui les distribuent, ceux qui les évaluent et ceux qui supportent effectivement le risque. Les produits structurés ou certaines chaînes de titrisation ont montré avec une particulière brutalité qu’un système pouvait être extrêmement sophistiqué tout en devenant illisible pour une partie conséquente de ses propres opérateurs. En logistique, l’innovation peut construire des chaînes extraordinairement performantes, mais si étirées, si calculées et si interconnectées que leur vulnérabilité réelle n’apparaît qu’au moment de la rupture. La pandémie, les tensions géopolitiques, les perturbations maritimes ou les crises énergétiques ont rappelé à quel point une infrastructure optimisée peut devenir opaque jusque dans ses fragilités. Dans la gouvernance publique, l’innovation peut substituer à l’intelligence située une gestion par indicateurs, benchmarks, classements et cibles. Sur ce point le benchmarking n’y apparaît pas comme un simple outil de comparaison. Il devient un instrument de pression statistique qui reformate l’action, redistribue la visibilité et discipline les conduites à travers des métriques supposées neutres. Lorsqu’un hôpital, une université ou une administration en viennent à piloter leur activité à partir de quelques indicateurs cibles, ce sont moins les réalités concrètes qui gouvernent l’action que leurs substituts calculables et désincarnés.

Cette logique rejoint, par un autre chemin, le diagnostic de Barbara Stiegler sur l’impératif contemporain d’adaptation. Lorsqu’un monde est présenté comme structurellement mouvant, instable et trop complexe pour être saisi autrement que par des dispositifs experts, la demande d’adaptation permanente déplace le pouvoir vers ceux qui définissent les normes du changement et les instruments de lecture du réel. L’innovation ne produit alors pas seulement de nouvelles solutions. Elle produit aussi de nouvelles asymétries d’interprétation. En d’autres termes, plus l’environnement est décrit comme exigeant une adaptation rapide, plus la dépendance à des dispositifs de cadrage, d’évaluation et d’orientation tend à s’intensifier. La complexité devient alors moins un constat qu’un opérateur de gouvernement.

La question devient dès lors normative. Qu’est-ce qu’une innovation juste, au sens cognitif et politique du terme ? Si l’on prend au sérieux l’idée que l’évaluation d’une situation humaine doit porter sur les capabilités réelles des personnes, il faut reconnaître qu’un système peut être économiquement performant tout en réduisant la capacité effective des acteurs à comprendre, discuter, contester et réorienter ce qui les affecte. Une innovation qui augmente les ressources disponibles tout en diminuant l’intelligibilité du monde social peut donc appauvrir les possibilités réelles au moment même où elle affiche une amélioration fonctionnelle. Ce point permet d’éviter un malentendu fréquent. Il ne suffit pas qu’une innovation mette à disposition davantage de moyens, davantage de données ou davantage d’automatisation pour qu’elle augmente effectivement la puissance d’agir. Encore faut-il qu’elle laisse aux acteurs des prises suffisantes pour comprendre, arbitrer, corriger et, le cas échéant, refuser.

C’est pourquoi la mesure de l’innovation doit être déplacée. La vraie question n’est pas seulement celle de la nouveauté, de l’adoption ou du gain de performance. Elle porte sur la structure de visibilité que l’innovation institue. Rend-elle le monde plus lisible pour ceux qui y agissent ? Propose t’elle des arbitrages plus traçables ? Expose t’elle des responsabilités plus imputables ? Rend-elle les dépendances plus négociables ? Ouvre-t-elle des possibilités de sortie, de révision, d’audit et de reprise en main ? Ou bien produit-elle un environnement dans lequel l’usage demeure possible tandis que l’intelligence pratique du système s’éloigne ? Les travaux de l’OCDE sur les infrastructures numériques publiques montrent d’ailleurs, par contraste, qu’une infrastructure peut aussi être conçue pour renforcer l’interopérabilité, la gouvernabilité et la capacité collective d’action lorsqu’elle est pensée comme bien institutionnel et non comme dispositif captateur. Ce contraste est essentiel. Il montre que toute complexité n’est pas condamnée à produire de l’opacité stratégique. Tout dépend des formes de gouvernance, des conditions d’auditabilité, du degré d’interopérabilité, de la réversibilité des choix techniques et de la possibilité laissée aux acteurs de comprendre ce à quoi ils participent.

Une innovation émancipatrice augmente la puissance d’agir en augmentant l’intelligibilité commune. Une innovation régressive peut, à l’inverse, augmenter l’efficacité locale en diminuant la capacité collective à comprendre ce qui arrive. Le progrès ne se reconnaît donc pas seulement à l’accélération qu’il permet, ni à l’optimisation qu’il promet. Il se reconnaît à la qualité du rapport au monde qu’il institue. Lorsqu’une innovation exige de ses usagers qu’ils lui fassent confiance tout en les privant des moyens de la discuter, elle organise une ignorance fonctionnelle. Et lorsqu’une telle ignorance devient durable, rentable et difficile à contourner, il faut cesser d’y voir un simple effet secondaire. Il faut y voir une forme de gouvernement. Cette dernière proposition concentre l’enjeu entier de l’analyse. Évaluer sérieusement l’innovation suppose alors de ne plus regarder seulement ce qu’elle permet de faire, mais aussi ce qu’elle retire aux acteurs en termes de lisibilité, de réversibilité, d’autonomie interprétative et de capacité de contestation. C’est peut-être à cet endroit, plus qu’en tout autre, que se décide aujourd’hui la différence entre une innovation qui augmente les capacités collectives et une innovation qui organise, sous couvert d’efficacité, une dépendance durable à l’égard de systèmes devenus trop centraux pour être réellement interrogés.