L'innovation qui organise l'irresponsabilité !

L’innovation contemporaine a pris l’habitude de parler la langue de la responsabilité avec une aisance remarquable. Elle s’avance entourée de principes, de chartes, de cadres, de protocoles, d’instances de vigilance, comme si l’accumulation de ces médiations suffisait à convertir sa puissance en prudence et sa vitesse en discernement. Elle se veut éthique, durable, explicable, inclusive, gouvernée. Elle s’observe elle-même, se mesure, s’audite, se commente, et cette réflexivité affichée produit un effet de sérieux auquel il devient presque indécent de résister. Tout semble désormais prévu, ou du moins prévisible, et l’on pourrait croire, à écouter le vocabulaire qui l’accompagne, que l’innovation a enfin atteint l’âge de raison. C’est précisément dans ce moment d’auto-célébration normative que se loge le problème. Car jamais l’innovation n’a autant parlé de responsabilité, et rarement elle n’a autant contribué à déplacer hors d’atteinte les lieux d'exercice, de discussion, de contestation ou de réparation liés à cette responsabilité. Le point aveugle n’est donc plus l’absence de principes. Il est plus profond, plus embarrassant, plus structurel. Il tient au fait qu’une partie de l’innovation contemporaine ne manque pas de responsabilité comme on manquerait d’un supplément d’âme ou d’un garde-fou juridique. Elle produit au contraire, avec une grande cohérence, des dispositifs dans lesquels la responsabilité devient progressivement impraticable. Cette inflation des cadres de confiance, de risque et de supervision est aujourd’hui explicitement portée par des référentiels comme le NIST AI Risk Management Framework, par les lignes directrices européennes sur une IA digne de confiance, par la recommandation de l’OCDE sur l’intelligence artificielle de confiance et par la recommandation de l’UNESCO sur l’éthique de l’IA, qui convergent toutes vers un vocabulaire de robustesse, de supervision humaine, de traçabilité et de redevabilité.

Il faut bien prendre la mesure de ce déplacement, car il engage bien davantage qu’un débat sur la bonne gouvernance des technologies. Tant que l’on raisonne à l’intérieur du cadre habituel et convenu, la question de la responsabilité conserve une forme rassurante. Il suffirait de mieux concevoir, de mieux encadrer, de mieux superviser, de mieux expliquer. Elle serait alors une qualité additionnelle que l’on pourrait incorporer à des systèmes techniques de plus en plus puissants, comme on ajoute un module de sécurité ou de traçabilité à une infrastructure technique existante. Cette hypothèse a pour elle l’élégance des solutions scalables, administrables et gérables. Elle permet de multiplier les référentiels, les guides, les matrices de risque, les procédures d’évaluation. Elle donne aux organisations le sentiment flatteur qu’elles gouvernent ce qu’elles accélèrent. Mais tout ceci repose sur une illusion instrumentale. Elle suppose que la responsabilité se laisse aisément découper en exigences distinctes, puis réintroduire dans les systèmes sous forme de fonctionnalités normatives. Or la responsabilité n’est pas, de prime abord, une propriété technique. Ce n’est ni une couche logicielle, ni un indicateur, ni même un principe abstrait que l’on afficherait dans un document de cadrage. Elle engage une économie plus exigeante de l’action, dans laquelle il faut pouvoir situer une décision, nommer une instance comptable de ses effets, organiser la possibilité d’une réparation en cas de difficulté et maintenir ouverte une scène de contestation. Lorsqu’un système augmente la puissance d’agir tout en rendant incertaines ces quatre opérations, il ne devient pas « imparfaitement » responsable. Il se rend structurellement irresponsable. Les travaux récents sur l’accountability dans l’IA, notamment ceux de l’OCDE sur la gouvernance du risque tout au long du cycle de vie, vont d’ailleurs dans ce sens lorsqu’ils montrent que l’alignement de principes abstraits et de mécanismes effectifs demeure le nœud critique et l'angle mort des systèmes contemporains.

Cette description peut sembler excessive à ceux qui restent attachés à une lecture strictement orthodoxe des responsabilités humaines. Pourtant, c’est précisément cette lecture qu’il faut suspendre un moment. L’irresponsabilité dont il est ici question ne renvoie ni à une faute psychologique, ni à une intention malveillante, ni même à une négligence identifiable. Elle décrit une propriété inhérente aux agencements techniques contemporains. Un système devient irresponsable lorsque sa configuration distribue l’action d’une manière telle que personne n’en maîtrise véritablement la totalité. Dans ce contexte, chacun n’en détient qu’un fragment, l’ensemble produit des effets massifs, et au moment de répondre de ces effets, l’architecture elle-même disperse les possibilités de prises d'action. L’innovation cesse alors d’être un simple processus de création ou d’optimisation. Elle devient un mécanisme de désancrage normatif. Elle délie l’action de l’obligation de répondre par sophistication organisationnelle, par intensification technique, par fragmentation calculée ou simplement acceptée des chaînes de décision. Ce qui se présente comme un raffinement de la gouvernance peut alors fonctionner comme un art discret de l’évitement et, potentiellement, de la dissimulation. Cette lecture est renforcée par des travaux récents qui cherchent précisément à articuler explicabilité, responsabilité et contestabilité non comme vertus déclaratives, mais comme propriétés institutionnellement opératoires des systèmes. Cette intuition trouve d’ailleurs des formulations antérieures d’une grande précision. Lorsqu’Isabelle Bruno et Emmanuel Didier montrent que le benchmarking ne se réduit nullement à une procédure neutre d’évaluation, mais constitue une véritable technologie politique de mise en compétition généralisée, ils éclairent déjà une manière de gouverner par les indicateurs qui déplace la décision vers des instruments censés seulement la mesurer. Lorsque Isabelle Stengers critique la fast science, ce n’est pas seulement l’accélération des rythmes de production du savoir qu’elle met en cause, mais l’altération plus profonde des conditions dans lesquelles une communauté peut encore répondre de ses propres actes. Lorsque Bernard Stiegler analyse l’impératif d’adaptation, il désigne une forme de gouvernement par déstabilisation permanente dans laquelle les sujets sont sommés de suivre des dynamiques techniques qui excèdent leurs capacités d'appropriation. Et lorsque Van Offelen réhabilite la phronesis, elle rappelle qu’aucun appareillage de données, aucun empilement d’indicateurs, aucune sophistication instrumentale ne peut restituer à lui seul la prudence pratique d’un jugement situé. Autrement dit, bien avant que la question ne soit reformulée dans le vocabulaire contemporain de l’accountability, une partie de cette littérature avait déjà identifié le cœur du problème. Par conséquent l’innovation devient politiquement inquiétante lorsque les médiations qu’elle multiplie prétendent sécuriser l’action tout en rendant plus improbable la possibilité d’en répondre. Le problème n’est donc plus celui d’un déficit ponctuel d’éthique. Il est celui d’une transformation des milieux techniques et organisationnels dans lesquels la responsabilité cesse d’être un acte pour devenir un mot d’accompagnement.

C’est ici qu’il faut regarder d’un peu plus près ce que les grandes infrastructures techniques et organisationnelles font aux espaces de décision. Dans les récits convenus de l’innovation, décider demeure une opération simple. Une organisation choisit, un concepteur arbitre, un responsable valide, un utilisateur applique. Cette représentation a pour elle la clarté des schémas fonctionnels, mais elle ne décrit plus grand-chose des systèmes réellement en place. Dans les architectures contemporaines, la décision n’est presque jamais localisable. Elle résulte d’une succession d’ajustements de paramétrages, d'influences souvent infondées, de modèles établis, de contraintes réglementaires, d’arbitrages économiques, de procédures qualité, d’habitudes métiers et d’effets d’apprentissage dont aucun acteur ne détient à lui seul la pleine cohérence. Chacun intervient, peu ou prou, et cette pluralité peut d’abord passer pour un progrès, comme si la distribution du pouvoir rendait mécaniquement son action plus acceptable et démocratique. Il arrive pourtant qu’elle produise l’effet inverse. À mesure que les décisions se déploient dans des chaînes sociotechniques de plus en plus denses, elles se dérobent à l’attribution. L’acte délibéré cède la place à une émergence systémique. On continue de parler de choix, bien entendu, car il faut bien que quelqu’un signe, valide, assume en façade, mais ce geste terminal ne recouvre plus la réalité du processus. Il en clôt l’apparence administrative. Il n’en concentre plus la responsabilité substantielle. Les travaux de Stanford HAI sur l’état de l’IA en 2025, tout comme les analyses de l’OCDE sur l’usage de l’IA dans les fonctions régaliennes et administratives, documentent précisément cette montée en puissance de systèmes profondément intégrés dans la décision, sans que les régimes d’imputation aient progressé à la même vitesse. C’est aussi le point que mettent en lumière Ariel Conn et Ingvild Bode lorsqu’ils insistent, à propos des systèmes d’IA employés dans les domaines de défense, sur la nécessité d’établir très tôt dans le cycle de vie des dispositifs des formes de responsabilité humaine réellement traçables. Leur apport dépasse de loin ce seul champ. Il montre que plus la responsabilité est renvoyée vers l’aval, plus elle devient difficile à rétablir en amont lorsque le système est déjà inscrit dans des chaînes opérationnelles denses, distribuées et partiellement automatisées.

Le cas des systèmes algorithmiques rend cette mutation particulièrement visible, moins parce qu’ils seraient seuls en cause que parce qu’ils poussent à son point d’intensité maximal une logique déjà présente dans d’autres secteurs. Lorsqu’un modèle apprend à partir de corpus hétérogènes, qu’il est ajusté par des équipes différentes, intégré dans un environnement logiciel complexe, déployé dans une organisation elle-même soumise à des contraintes de marché, de conformité et de rendement, puis mobilisé par des opérateurs qui n’en comprennent qu’imparfaitement, voire pas du tout, le fonctionnement, la décision finale n’appartient plus vraiment à personne. Elle ne relève pas non plus d’une autonomie magique de la machine, fiction commode qui évite de penser la véritable question. Elle procède d’un assemblage dans lequel la normativité se déplace, se répartit et se stabilise parfois sous forme de sortie calculée, mais sans jamais redevenir pleinement saisissable par un sujet identifiable. L’innovation, à ce stade, ne se contente plus d’assister la décision. Elle en dissout le théâtre classique. Elle conserve les gestes de validation, les signatures, les chaînes hiérarchiques, mais le centre effectif de l’arbitrage s’est déplacé vers une zone dans laquelle l’action se produit sans que son auteur puisse aisément être isolé. Le langage de la responsabilité individuelle demeure alors en circulation, un peu comme un décor resté en place alors que la scène a changé de place. Cette difficulté est aujourd’hui au cœur des débats les plus récents sur la contestabilité. Catarina Moreira va jusqu’à soutenir qu’un système explicable mais non contestable reste, du point de vue démocratique, insuffisamment gouverné. Timothée Schmude et Mireia Yurrita prolongent cette réflexion en montrant, à partir du cas des systèmes publics, que l’explicabilité et la contestabilité ne poursuivent pas le même objet, même lorsqu’elles sont présentées comme complémentaires. La première peut rendre une décision intelligible. La seconde seule commence à rendre possible une correction effective sur cette décision.

À cette dissolution de la décision répond presque mécaniquement une fragilisation de la réparation. Il ne suffit pas, en effet, qu’un dommage advienne pour qu’une responsabilité soit politiquement ou juridiquement opératoire. Encore faut-il qu’il existe un chemin intelligible entre les faits observés et les instances capables d’en répondre. Or c’est précisément ce chemin que les technostructures contemporaines rendent de plus en plus sinueux. Lorsque les causes sont distribuées, lorsque les contributions s’additionnent sans jamais se laisser ramener à une source unique, lorsque les médiations techniques compliquent la reconstitution des séquences effectives, la réparation perd en consistance. Elle ne disparaît pas formellement. Elle s’épuise plutôt dans des procédures longues, fragmentées, coûteuses, dans lesquelles chacun peut démontrer qu’il n’est responsable qu’à proportion d’un segment, d’un paramètre, d’une interface, d’un jeu de données, d’une consigne, d’une mise à jour ou d’une interprétation locale. Cette fragmentation a d’ailleurs une élégance redoutable. Elle n’exonère jamais tout à fait. Elle répartit. Elle nuance. Elle contextualise. Elle objective. Bref, elle civilise le retrait. Ce n’est pas la négation brutale de la responsabilité qui s’y joue, mais sa dispersion méthodique. Et cette dispersion suffit souvent à la rendre inerte. Les nouvelles orientations de diligence raisonnable publiées par l’OCDE en 2026 insistent justement sur ce point, en cherchant à reconnecter l’action économique à des chaînes de responsabilité plus intelligibles, ce qui montre en creux combien le problème est désormais structurel.

Le droit, dans un tel contexte, se trouve confronté à une difficulté qui excède les ajustements terminologiques habituels. Les régimes juridiques modernes ont été largement construits pour traiter des chaînes causales relativement claires, ou du moins reconstituables avec un degré raisonnable de précision. Ils savent encore penser l’auteur, le préjudice, l’intention, la faute, parfois le risque. Ils peinent davantage lorsque l’action prend la forme d’un continuum sociotechnique dans lequel les effets émergent d’interdépendances multiples. Il ne s’agit pas de prétendre que le droit serait condamné à l’impuissance. Il s’agit de constater qu’une part croissante des dispositifs innovants s’inscrit à la limite de ses catégories usuelles, et que cette tension ouvre un espace propice à une irresponsabilité structurelle. Plus le système est complexe, plus la reconstitution des responsabilités demande des moyens rares. Plus elle demande des moyens rares, plus la réparation devient socialement sélective. Plus elle devient socialement sélective, plus l’innovation peut continuer à produire ses effets sous couvert de conformité générale. Une innovation véritablement irresponsable n’est donc pas seulement celle qui cause des dommages. C’est celle qui organise le monde dans lequel ces dommages auront peu de chances d’être traités comme des torts imputables. L’entrée en application progressive de l’AI Act européen, depuis août 2024 avec plusieurs paliers en 2025 et 2026, traduit d’ailleurs une tentative explicite de réencastrer juridiquement des obligations de gouvernance, de transparence, d’évaluation du risque et de supervision humaine dans des chaînes de valeur devenues trop opaques pour les catégories juridiques classiques. Mais cette réintégration juridique, pour importante qu’elle soit, ne résout pas à elle seule le problème du désajustement entre puissance technique et prise normative. Elle en atteste plutôt l’ampleur. Plus les institutions se sentent obligées de multiplier les points de contrôle, plus elles reconnaissent implicitement que les mécanismes ordinaires d’imputation ne suffisent plus. En ce sens, le droit contemporain ne corrige pas seulement un excès de l’innovation. Il tente de refermer après coup un écart que l’architecture même des dispositifs n’a cessé d’ouvrir.

Reste une dimension plus décisive encore, parce qu’elle détermine silencieusement toutes les autres. Pour qu’une responsabilité demeure vivante, il faut que le système puisse être contesté. Il faut qu’existe un « dehors » depuis lequel des acteurs peuvent interroger les finalités, en suspendre les effets, exiger des comptes, ralentir leur déploiement, reformuler les critères ou refuser son évidence. Sans cette possibilité, la décision se fige en nécessité et la réparation se réduit à la gestion résiduelle des dégâts. Or l’innovation contemporaine excelle à produire des environnements qui neutralisent progressivement la contestation. Elle y parvient de plusieurs manières. D’abord, en se présentant comme la réponse rationnelle à des problèmes posés d’avance, ce qui permet de renvoyer toutes les objections vers l’ignorance, la peur ou l’archaïsme. Ensuite en saturant l’espace critique d’un langage technique si dense que la discussion des finalités s’efface derrière l’expertise des moyens. Enfin en intégrant à ses propres dispositifs les formes de critiques qu’elle peut absorber, de telle sorte que l’opposition tolérée renforce en réalité la légitimité de l’ensemble. On discute alors des garde-fous, des seuils, des paramètres, rarement de la direction même du processus. La contestation survit certes, mais dans un périmètre déjà administré et limité par ce qu’elle prétend discuter. Les recherches publiées en 2025 sur la contestabilité des systèmes explicables ainsi que les travaux consacrés aux besoins informationnels et procéduraux des sujets de décisions algorithmiques convergent justement vers cette idée simple et sévère. Mireia Yurrita montre avec précision qu’une contestation digne de ce nom suppose bien autre chose qu’une information minimale sur le fonctionnement d’un système. Elle suppose des ressources compréhensibles, des voies procédurales identifiables, des interlocuteurs repérables et des possibilités réelles de révision. Comprendre ne suffit donc pas. Il faut également pouvoir opposer, corriger, contester et obtenir recours.

C’est ici que l’inflation contemporaine des discours sur l’explicabilité mérite d’être regardée avec davantage de froideur. Expliquer un système est devenu l’un des gestes obligés de toute innovation soucieuse de paraître responsable et banquable. L’intention affichée est claire et, quelquefois, légitime. Il s’agirait de rendre l’action technique intelligible, de permettre l’audit, de restaurer une confiance fondée sur la compréhension. Pourtant l’explication ne vaut pas encore contestation, pas plus que la visibilité d’un mécanisme ne garantit la possibilité de l’infléchir ou d'en discuter les conséquences et les finalités. Il peut même arriver que l’effort d’explication produise paradoxalement une pacification de la critique par saturation ou neutralisation informationnelle! À force de détailler les procédures, les seuils, les variables et les modèles, on donne le sentiment que tout a été pensé, que la maitrise est totale, et l’on substitue à la question sociétale des finalités un examen technique de la cohérence. La scène critique se déplace alors d’une interrogation sur ce qu’il convient de faire à une évaluation de la manière dont cela a été réalisé. Le système paraît ouvert parce qu’il est décrit. Il reste pourtant extrêmement fermé parce que ses orientations fondamentales ne sont plus remises en jeu. Le débat européen sur la standardisation de l’AI Act et sur les futurs codes de pratique sur la transparence du contenu généré par l’IA montre bien cette tension entre formalisation utile et risque de réduction de la question politique à un problème de conformité technique.

Si l’on considère tous ces déplacements de sens, une vision plus nette commence à apparaître. L’innovation irresponsable ne désigne pas une catégorie accidentelle de projets mal gouvernés. Elle renvoie à un régime plus vaste dans lequel la puissance d’agir se déploie à travers la dissolution des lieux de décision, l’affaiblissement des voies de réparation et la neutralisation des possibilités de contestation. Cela peut emprunter des formes différentes. Elle peut se loger dans la dilution décisionnelle qui fait circuler la responsabilité sans jamais la laisser se fixer. Elle peut passer par la délégation machinique qui confie à des systèmes automatisés le soin d’arbitrer à la place d’acteurs désormais cantonnés au paramétrage ou à la surveillance de second rang. Elle peut s’incarner dans le gouvernement métrique lorsque les indicateurs se substituent insensiblement au jugement et que la performance devient la seule rationalité capable d’ordonner l’action. Elle peut encore procéder de l’accélération systémique, lorsque la compression des temporalités rend impossible toute délibération un peu consistante et transforme l’urgence factice en mode ordinaire de gouvernement. Elle peut enfin résider dans l’adaptation imposée, lorsque les individus, les métiers, les institutions ou les territoires sont sommés de se reconfigurer sans cesse pour suivre des dynamiques, souvent exclusivement commerciales, qu’ils n’ont ni choisies ni véritablement comprises. Dans chacune de ces figures, ce qui est en jeu n’est jamais uniquement un défaut local de gouvernance. C’est une transformation des conditions mêmes dans lesquelles une société peut encore demander à quelqu’un de répondre de ce qu’il fait. Les analyses de l’OCDE sur le management algorithmique au travail, ainsi que les rapports de 2025 et 2026 sur l’usage public de l’IA, donnent à cette intuition une matérialité empirique de plus en plus difficile à contourner. La dilution décisionnelle nourrit alors la fragilité de la réparation. Le gouvernement métrique banalise la délégation machinique. L’accélération systémique réduit d’avance la possibilité même d’une contestation instruite. L’adaptation imposée incite à intérioriser comme nécessité ce qui procède d’un choix politico-financier. Les formes d’irresponsabilités innovantes s’additionnent, se renforcent, se relaient et se verrouillent mutuellement. C’est cette combinatoire qui rend certains systèmes particulièrement difficiles à réformer, non parce qu’ils seraient invulnérables, mais parce qu’ils déplacent en permanence le point depuis lequel une reprise en main humaine pourrait s’exercer.

Cette transformation explique le paradoxe qui se dessine aujourd’hui avec une netteté croissante. Plus les dispositifs de responsabilité se multiplient, plus la responsabilité effective semble difficile à exercer. Les cadres se densifient, les chartes prolifèrent, les comités se réunissent, les obligations documentaires s’étoffent, les audits s’accumulent. Nous pourrions nous en réjouir si cette prolifération ne coïncidait pas avec une intensification symétrique des mécanismes d’irresponsabilité. La situation n’a rien d’anecdotique. Elle dit quelque chose de très profond sur l’état présent de la rationalité innovatrice. Celle-ci n’abandonne pas la responsabilité, bien au contraire. Elle la prend en charge institutionnellement avec un sérieux croissant. Mais elle la prend en charge de telle manière qu’elle devient souvent une propriété plutôt qu’une capacité des acteurs concernés. On bâtit des cathédrales de responsabilité au moment même où l’on désarme les sujets, les collectifs et parfois les institutions qui devraient pouvoir répondre, résister ou réparer. La responsabilité devient un climat organisationnel, un horizon de conformité, une ambiance normative. Elle perd son ancrage dans la conflictualité du monde vécu. Les publications les plus récentes de l’OCDE, de la Commission européenne, de l’UNESCO et de Stanford HAI convergent sur ce point sans toujours en tirer toutes les conséquences. Cette discordance donne au présent une tonalité particulière. L’époque adore les preuves de sérieux qui la dispensent de modifier ses trajectoires. Elle raffine les mécanismes de surveillance normative tout en laissant intacte l’économie profonde de dispositifs qui produisent de l’opacité, de la dépendance et de l’hétéronomie. Elle perfectionne les formes de réponses symboliques au moment même où s’amenuisent les capacités de réponse effective. Ce n’est pas un accident de parcours. C’est un style de gouvernement des innovations.

Il faut sans doute reconnaître ici l’un des traits les plus singuliers de l’époque. L’innovation ne se contente plus de transformer les moyens de l’action. Elle reconfigure la grammaire même par laquelle une société distingue ce qui a été décidé de ce qui s’est produit, ce qui doit être réparé de ce qui doit simplement être absorbé, ce qui peut être contesté de ce qui doit être accepté comme allant de soi. En ce sens, le problème n’est pas seulement technologique. Il est politique, institutionnel, anthropologique. Il touche à la manière dont un collectif demeure capable d’articuler puissance et obligation, efficacité et redevabilité, invention et justice. Dès lors, la question pertinente n’est plus de savoir comment ajouter un peu de responsabilité à des systèmes qui, par construction, en dissolvent les conditions. Elle consiste à se demander quelles formes d’innovations peuvent encore préserver des points de décision identifiables, des voies de réparation effectives, des espaces de contestation réels et des temporalités compatibles avec l’exercice du jugement. La tâche est plus exigeante qu’une simple amélioration de la conformité. Elle suppose de renoncer à l’idée flatteuse selon laquelle toute puissance technique mérite d’être poursuivie pourvu qu’elle soit ensuite encadrée. Certaines formes d’innovations ne posent pas seulement des problèmes nouveaux. Elles déplacent hors de portée les moyens mêmes de les traiter. La phase actuelle de mise en œuvre de l’AI Act, la montée en puissance des standards harmonisés annoncés pour 2026, et la publication de guides de diligence raisonnable pour l’IA montrent bien que les institutions elles-mêmes cherchent désormais moins à célébrer l’innovation qu’à tenter de la réancrer dans des formes minimales d’obligation.

C’est pourquoi l’innovation irresponsable ne doit pas être analysée comme une anomalie marginale, encore moins comme une formule polémique destinée à troubler, le temps d’un essai, l’enthousiasme ambiant. Elle constitue une catégorie critique nécessaire pour décrire des systèmes qui réussissent précisément parce qu’ils dissolvent ce qui permettrait d’en répondre. Leur efficacité n’est pas extérieure à leur irresponsabilité. Elle en est souvent la condition. Plus un dispositif accélère, plus il évite les temps de délibération. Plus il distribue les opérations, plus il rend l’imputation difficile. Plus il s’entoure d’indicateurs, plus il réduit la place du jugement. Plus il intègre des procédures d’explication, plus il peut donner l’impression que la critique a déjà eu lieu. Le système fonctionne, et cette réussite même devient l’argument de sa légitimité. Il délivre des résultats, optimise, fluidifie, anticipe, classe, recommande, automatise, et chaque gain ainsi obtenu accroît un peu plus l’embarras de ceux qui voudraient rouvrir la question de ses finalités. L’innovation devient alors irresponsable non parce qu’elle ignorerait ses effets, mais parce qu’elle se donne les moyens de continuer d'avancer malgré l’impossibilité croissante d’en répondre de manière intelligible et contestable.

Il faut donc consentir à une conclusion plus sévère que celles auxquelles la littérature consensuelle sur l’innovation responsable nous a accoutumés. Toutes les innovations ne se valent pas, et certaines ne sauraient être corrigées par un simple supplément de vigilance. Elles sont bâties sur une économie et une financiarisation dans lesquelles la décision se dissout, la réparation se fragilise et la contestation s’épuise avant même d’avoir trouvé sa voie. Ce n’est pas qu’elles seraient moralement condamnables en bloc, ni qu’il faudrait opposer à toute dynamique technique une prudence mélancolique. C’est plus précis et plus inquiétant. Elles altèrent les conditions par lesquelles une société peut encore se rendre présente à ses propres actes. Tant que ce point restera dissimulé sous la prolifération rassurante des cadres, des promesses et des dispositifs de conformité, l’innovation pourra continuer à se dire responsable avec le plus grand sérieux du monde, tout en effaçant, avec la même rigueur, les lieux permettant l'exercice de cette responsabilité.

L’irresponsabilité innovante ne se réduit donc nullement au seul champ de l’intelligence artificielle, même si celui-ci en fournit aujourd’hui la scène la plus visible et la plus médiatisée. Les mêmes mécanismes se laissent observer, sous des formes diverses, dans la finance automatisée, dans la logistique pilotée par indicateurs temps réel, dans les architectures de plateforme, dans certaines formes de gouvernances publiques assistées par score, dans l’organisation du travail par management algorithmique et jusque dans les régimes contemporains de recherche et d’évaluation scientifique. Partout où l’action est distribuée de façon telle que la décision devient introuvable, que la réparation devient improbable et que la contestation est rabattue sur une demande d’ajustement local, on retrouve les linéaments de cette même configuration. C’est d’ailleurs ce qui donne à la notion son intérêt théorique. Elle ne décrit pas un abus sectoriel. Elle permet de penser une mutation transversale du rapport entre innovation, pouvoir et obligation. Sous cet angle, la question n’est déjà plus de savoir si l’innovation doit être responsable. Cette affirmation appartient désormais au mobilier ordinaire des discours de légitimation. La question est de savoir si certaines architectures d’innovation demeurent encore compatibles avec une société capable d’imputer, de réparer et de contester. Tout le reste, pour reprendre la langue désormais familière des cadres de gouvernance, relève surtout de la documentation d’un problème que l’on préfère ne pas adresser.