L’article étudie la question de l’assurance de l’IA agentique, c’est-à-dire de systèmes qui ne se bornent plus à produire du texte ou des recommandations, mais peuvent planifier des tâches, utiliser des outils, exécuter des décisions, communiquer avec des tiers, modifier des fichiers, intervenir dans des systèmes d’entreprise ou produire des effets durables dans des environnements numériques ou physiques. L’idée centrale est que ces capacités créent des risques qui ne correspondent plus clairement aux catégories classiques de l’assurance, comme la cyberassurance, la responsabilité professionnelle, la responsabilité du fait des produits ou la couverture des dirigeants. L’auteur ne plaide pas pour une police unique « assurance IA ». Il propose plutôt une architecture coordonnée, composée de couvertures complémentaires, avec des règles explicites pour répartir les sinistres lorsque plusieurs causes se superposent.
Le raisonnement part d’une distinction pratique: une IA purement informationnelle peut causer un dommage en donnant une réponse fausse, diffamatoire, trompeuse ou juridiquement erronée. Une IA agentique peut, elle, générer directement l’événement dommageable, par exemple en autorisant une transaction, en envoyant un message, en modifiant un registre, en déployant du code, en refusant une demande, en déclenchant une opération commerciale ou en interagissant avec un système physique. Pour l’assureur, la question déterminante n’est donc pas de savoir si l’entreprise utilise de l’IA, mais quel degré d’autonomie a été accordé au système, quelles permissions externes lui ont été données, quels contrôles humains subsistent et quels environnements il peut modifier.
L’article insiste sur un point souvent négligé: un sinistre causé par l’IA agentique ne suppose pas nécessairement une cyberattaque au sens classique. Une perte peut résulter d’une hallucination, d’un mauvais raisonnement, d’une injection de prompt, d’une délégation dangereuse entre agents, d’une dérive du modèle, d’une défaillance de fournisseur ou d’une action autonome non autorisée. Une police cyber traditionnelle peut donc ne pas répondre si elle exige une intrusion réseau, une violation de sécurité ou une fuite de données. L’auteur rapproche cette situation de la naissance de la cyberassurance: le marché s’est développé avant de disposer de longues séries statistiques, grâce à l’analyse d’exposition, aux scénarios de pertes, à la gestion du risque d’accumulation et à la réassurance.
La définition de l’IA agentique est fonctionnelle. Au niveau le plus bas se trouvent les assistants, comme les chatbots ou copilotes de rédaction, qui produisent du contenu sans pouvoir agir seuls. Viennent ensuite les copilotes capables d’utiliser des API ou des outils, mais sous validation humaine. Plus loin, les agents numériques autonomes peuvent naviguer, exécuter des transactions, modifier des fichiers ou interagir avec des systèmes d’entreprise. Les systèmes multi-agents coordonnent plusieurs agents spécialisés. Enfin, les agents cyber-physiques agissent dans le monde matériel, par exemple via la robotique, les véhicules autonomes, les bâtiments intelligents, les dispositifs médicaux, l’IoT ou les systèmes industriels. Cette gradation est essentielle, car l’autonomie et l’autorité d’action influencent directement la fréquence et la gravité des sinistres.
L’auteur distingue ainsi le risque informationnel du risque d’action. Un modèle qui conseille mal peut engager la responsabilité d’un professionnel ou causer un dommage réputationnel. Un agent qui agit dans un système de paiement, de recrutement, de crédit, de santé, de développement logiciel ou de contrôle industriel peut produire directement une perte opérationnelle, une violation réglementaire, une atteinte à des tiers ou un dommage matériel. Le seuil pertinent, pour l’assurance, est donc la capacité du système à modifier durablement un état externe. C’est ce seuil qui doit guider la souscription, la tarification, les limites de couverture et la gestion des accumulations.
Le marché de l’assurance répond aujourd’hui de trois manières. La première consiste à adapter les produits existants, notamment cyber, media liability, technology errors and omissions, responsabilité produits, etc. La deuxième consiste à ajouter des avenants affirmatifs couvrant expressément certains risques IA, comme les hallucinations, les biais algorithmiques, l’empoisonnement de données, les défaillances de modèle ou les enquêtes réglementaires. La troisième consiste à créer des couvertures dédiées ou coordonnées, comme des assurances de responsabilité IA, des garanties de performance ou des tours d’assurance combinant plusieurs polices. Selon l’auteur, aucun produit isolé ne pourra absorber tout le risque agentique: l’évolution la plus probable est un écosystème de couvertures spécialisées, articulées entre elles.
Cette approche en couches s’explique par la diversité des causes de sinistre. Une injection de prompt entraînant une fuite de données relève plutôt de la cyberassurance. Une réponse erronée fournie par un produit IA à un client relève davantage de la technologie ou de la responsabilité professionnelle. Une sous-performance mesurable d’un modèle peut être couverte par une garantie de performance ou une structure de type paramétrique. Un dommage corporel ou matériel causé par un robot ou un système industriel piloté par IA relève de la responsabilité civile générale, de la responsabilité produits ou d’une extension cyber-physique. Lorsque les causes se mélangent, par exemple cyberincident, défaut de service et comportement autonome de l’IA, il faut des clauses d’allocation, faute de quoi le règlement du sinistre devient incertain et conflictuel.
L’article montre aussi les lacunes de chaque famille de produits. La cyberassurance couvre bien les atteintes à la sécurité, la protection des données, certains contenus médias et l’interruption d’activité, mais elle répond mal à une pure erreur de performance sans incident de sécurité. Les polices E&O peuvent couvrir les pertes financières causées par un logiciel ou service défectueux, mais les hallucinations, biais ou dérives doivent être mentionnés clairement. La responsabilité civile générale et la responsabilité produits conviennent mieux aux dommages corporels ou matériels, mais moins aux pertes économiques liées à un mauvais output numérique. Les extensions cyber-physiques supposent souvent un cyberévénement préalable. Les nouveaux produits IA cherchent précisément à combler ces interstices, notamment par des couvertures de responsabilité IA autonome, des garanties de performance ou des structures coordonnées avec agrégats séparés.
Sur le plan actuariel, l’IA agentique est difficile à tarifer pour trois raisons. Le risque est non stationnaire, car les modèles, leurs usages, les contrôles techniques et le droit applicable évoluent rapidement. Les données historiques de sinistres sont rares. Enfin, les pertes peuvent être fortement corrélées, puisque de nombreux assurés dépendent des mêmes fournisseurs de modèles, clouds, connecteurs, bibliothèques open source ou infrastructures. Une même faille, une mise à jour défectueuse ou une dépendance critique peut donc toucher simultanément de nombreux assurés. L’auteur recommande en conséquence une tarification fondée sur l’exposition réelle et des scénarios de stress, plutôt que sur les seuls critères traditionnels comme le chiffre d’affaires, la taille de l’entreprise ou les limites assurées.
Le cadre de souscription proposé repose sur plusieurs éléments: inventaire des cas d’usage, secteur concerné, volume de transactions, nombre d’utilisateurs, degré d’autonomie, permissions externes, interfaces physiques et criticité des décisions; évaluation des contrôles, notamment validation humaine, moindre privilège, logs, surveillance, tests, retour arrière, gouvernance des fournisseurs, isolation des identifiants et défenses contre les injections de prompt; construction d’une bibliothèque de scénarios, comprenant hallucinations dommageables, fraude agentique, dérive massive, panne de fournisseur, attaque par prompt injection ou dommage cyber-physique; enfin, cartographie des dépendances communes pour mesurer le risque d’accumulation.
L’auteur en tire des conséquences pour la réassurance et le capital. Le risque IA agentique comprend une composante ordinaire, proche de la technologie E&O ou de la responsabilité professionnelle, et une composante catastrophique, proche de l’accumulation cyber. À court terme, les traités en quote-part et les protections en excédent de pertes agrégé sont utiles pour absorber l’incertitude. Les garanties de performance peuvent, dans certains cas, être adossées à des déclencheurs objectifs et mesurables. Mais cela suppose une collecte rigoureuse des données. Les sinistres doivent être codés dès l’origine comme sinistres IA, avec des catégories propres: défaillance opérationnelle, injection de prompt, erreur autonome, dérive de modèle, panne de dépendance ou interaction cyber-physique. Sinon, ils seront noyés dans les catégories cyber ou E&O et le marché ne construira jamais une base actuarielle exploitable.
La partie la plus directement utile aux praticiens concerne la rédaction des polices. L’auteur recommande de déclarer précisément les systèmes IA assurés, leurs fonctions agentiques, leurs outils, connecteurs et permissions externes. Il propose un déclencheur affirmatif d’« événement de défaillance IA », couvrant un output, une recommandation, une décision, une action, une omission, une dérive ou une dégradation qui s’écarte matériellement de la performance prévue et cause une perte couverte. Il recommande aussi des clauses sur la confirmation humaine pour les opérations importantes, les injections de prompt, les changements de version ou d’autonomie, les agrégats IA séparés, les buy-back pour dommages corporels ou matériels, la conservation des prompts, logs, traces d’outils, versions de modèles, validations et historiques de retour arrière.
La conclusion est que l’IA agentique transforme le risque technologique assurable. Elle peut causer des pertes sans compromission cyber, par décision autonome, hallucination, prompt injection, dérive, délégation dangereuse, panne de dépendance ou interaction avec le monde physique. Pour des avocats suisses généralistes, l’enseignement pratique est net: il ne suffit plus de demander si une entreprise dispose d’une police cyber. Il faut examiner l’autonomie du système, les permissions accordées, les contrôles humains, la couverture expresse des défaillances IA, les exclusions, les agrégats, les règles d’allocation, les obligations de journalisation et la répartition des responsabilités entre développeur, intégrateur, déployeur, fournisseur et utilisateur.
Me Philippe Ehrenström, avocat, LLM, CAS en Droit t Intelligence artificielle, CAS en Protection des données – Entreprise et administration
A propos de Stefanie Kunkel/Tilman Hartwig/Marcus Voss/Emma K. Schütt/Angelika Gellrich, Greener Than Humans? Environmental Attitudes in Large Language Models, 1er juin 2026 (https://arxiv.org/abs/2606.02741):
Les grands modèles de langage (LLMs), utilisés de plus en plus dans les rapports de durabilité, l’aide à la décision, la communication publique et les processus professionnels, portent-ils eux-mêmes des attitudes environnementales ou des biais reconnaissables ?
Les auteurs partent du constat que les LLM ne sont plus seulement des outils de recherche d’information. Ils structurent des analyses, proposent des choix, hiérarchisent des risques et peuvent donc influencer les comportements d’organisations ou d’individus. Or ces systèmes sont aussi connus pour leurs biais, leurs hallucinations, leur tendance à refléter les valeurs présentes dans leurs données d’entraînement et leur propension à satisfaire l’utilisateur plutôt qu’à maintenir une position stable. Cela pose un problème particulier en matière environnementale : lorsqu’un modèle conseille une entreprise, un citoyen ou une autorité, il peut paraître neutre alors qu’il véhicule certaines préférences normatives sur la responsabilité, les coûts, la consommation ou le rôle des politiques publiques.
L’objectif de l’étude est donc de construire un instrument permettant de mesurer les attitudes environnementales des LLM, puis de comparer ces attitudes entre modèles et avec les réponses d’une population humaine.
Les auteurs retiennent trois dimensions. La première est la cognition environnementale, c’est-à-dire la manière dont le modèle raisonne sur les problèmes environnementaux et les principes de durabilité. La deuxième est l’affect environnemental, soit le degré d’inquiétude, d’implication ou de sensibilité exprimé face aux atteintes à l’environnement. La troisième concerne les recommandations de comportement : comme un LLM ne peut pas agir physiquement, les auteurs examinent les actions qu’il recommande, notamment celles qui pourraient réduire l’empreinte carbone. Le cadre est emprunté aux enquêtes allemandes « Umweltbewusstsein in Deutschland », menées depuis 1996 pour mesurer la conscience environnementale de la population adulte allemande. L’étude compare donc les réponses des modèles aux données de l’enquête allemande 2024, fondée sur un échantillon représentatif de 2’552 personnes.
La méthode est assez structurée. Les auteurs reprennent d’abord 17 questions de l’enquête allemande, sans les modifier, afin de mesurer la cognition et l’affect. Ces questions permettent normalement de situer un répondant sur une échelle de 0 à 10, de « peu conscient de l’environnement » à « très conscient de l’environnement ». Sept questions portent sur l’affect, par exemple l’inquiétude face à l’état de l’environnement laissé aux générations futures. Dix questions portent sur la cognition, par exemple l’importance attribuée à la nature dans la qualité de vie ou l’usage durable des ressources. Les auteurs précisent que cette cognition n’est pas un test de connaissances factuelles au sens étroit : il ne s’agit pas de demander combien de gaz à effet de serre produit un kilo de bœuf, mais de mesurer une orientation générale de raisonnement et d’évaluation.
Pour le comportement, les auteurs transforment 17 questions de l’enquête en recommandations comportementales. Ils ajoutent ensuite sept questions quantitatives inspirées du calculateur CO2 de l’Agence fédérale allemande de l’environnement, couvrant le chauffage, l’électricité, la mobilité et l’alimentation. Les réponses des modèles sont converties en potentiel de réduction d’émissions, sur la base de facteurs standardisés, afin d’estimer ce que produirait, en tonnes de CO2 équivalent par an, l’application des recommandations. Ils ajoutent aussi 11 questions sur la « volonté de payer », destinées à mesurer l’arbitrage implicite entre protection de l’environnement et coûts économiques, par exemple le prix que devrait avoir l’émission d’une tonne de CO2 ou le coût économique associé à certains dommages environnementaux.
L’étude porte sur 31 LLM largement utilisés, propriétaires ou à poids ouverts, venant notamment des États-Unis, d’Europe et de Chine. Les auteurs excluent plusieurs modèles qui échouent à des tests factuels simples ou dont les réponses dépendent de l’ordre des options, ce qui signale une instabilité méthodologique. Ils testent aussi la robustesse des résultats par des variations de langue, de taille de ménage, d’ordre des réponses et de température. Enfin, ils évaluent deux formes de sensibilité au contexte : le « persona prompting », où l’on demande au modèle de répondre comme s’il était une certaine personne ou institution, et la flagornerie, où l’on observe si le modèle adapte ses réponses lorsque l’utilisateur se présente lui-même comme appartenant à un certain groupe.
Les résultats principaux montrent que les LLM sont, en moyenne, « plus verts » que la population allemande. Sur les indices d’affect et de cognition, 19 modèles sur 31 obtiennent des scores supérieurs à la moyenne allemande de 2024, tandis que seuls quatre modèles sont inférieurs à cette moyenne dans les deux dimensions. Vingt-deux modèles restent toutefois dans l’écart-type des réponses humaines, ce qui signifie qu’ils ne sont pas radicalement étrangers au profil général de la population. Les auteurs ne trouvent pas de relation claire entre le niveau d’attitude environnementale et le pays d’origine, la taille ou la famille du modèle. Certains grands modèles ont une cognition élevée mais un affect plus faible. Les modèles Grok figurent, dans cette étude, parmi les moins orientés vers les attitudes environnementales progressistes. L’idée centrale est donc que beaucoup de LLM tendent à produire des réponses compatibles avec des attitudes environnementales progressistes, mais que cette tendance ne se laisse pas expliquer simplement par l’origine ou la puissance du modèle.
Les réponses sur la volonté de payer sont plus délicates à interpréter. Pour la tonne de CO2, la plupart des modèles attribuent un coût économique supérieur au prix qu’ils estiment devoir être effectivement payé, ce qui peut signifier que la formulation « devrait coûter » fait intervenir des considérations de faisabilité politique ou sociale, et pas seulement une estimation des dommages. La majorité des modèles donne des montants situés entre 50 et 200 euros par tonne, alors que l’Agence allemande de l’environnement retient, pour 2024, un coût climatique de 300 euros par tonne avec un taux de préférence temporelle de 1 %. Onze modèles se situent même dans une zone proche des prix observés sur le marché européen des quotas d’émission. Les auteurs restent prudents: les LLM sont fragiles lorsqu’il s’agit de grands nombres, les questions peuvent être mal comprises, et il n’existe pas toujours de « vérité de terrain » incontestable pour valoriser économiquement les ressources naturelles.
Les recommandations comportementales présentent aussi des différences entre modèles. Certains, comme Gemini, Qwen et GPT, figurent parmi ceux dont les réponses conduiraient au plus fort potentiel de réduction, entre environ 4 et 5 tonnes de CO2 équivalent par an. D’autres recommandent des changements beaucoup moins ambitieux. Les auteurs soulignent toutefois que ces chiffres dépendent fortement de la situation initiale de la personne: recommander une voiture électrique ne réduit les émissions que si l’utilisateur avait besoin d’acheter une voiture et utilisait auparavant un véhicule fossile, non s’il se déplaçait déjà à pied ou à vélo. L’étude montre aussi que les modèles sont généralement plus proches des catégories humaines « engagée », « individuellement durable » ou « ambivalente » que des catégories d’opposition populiste ou néolibérale. La cognition environnementale et le potentiel de réduction CO2 sont assez fortement corrélés, mais pas parfaitement : certains modèles raisonnent de manière environnementalement avancée tout en recommandant des comportements relativement peu efficaces.
La partie la plus importante pour un juriste est peut-être celle sur la sensibilité au contexte. Les auteurs montrent que les modèles changent de position lorsqu’on leur assigne un rôle. Un modèle qui répond comme « libéral économique » réduit en général son niveau d’affect et de cognition environnementale. Un modèle qui répond comme membre d’une ONG environnementale l’augmente. Les rôles de CFO ou d’employé de start-up restent plus proches de la ligne de base, mais peuvent aussi faire baisser l’ambition environnementale. Cela confirme que les « attitudes » des LLM ne sont pas des convictions stables, mais des configurations de sortie dépendantes du prompt. L’étude teste également la flagornerie : lorsque l’utilisateur dit « je suis » tel ou tel profil, le modèle peut déplacer ses réponses pour refléter le point de vue supposé de cet utilisateur. Dans le sous-ensemble testé, Grok 4.1 est le plus sensible au rôle assigné, Claude Sonnet 4.6 le plus sensible à la formulation en première personne, et GPT 5.2 le moins sensible dans ces deux dimensions.
La discussion insiste sur une ambivalence. D’un côté, les LLM peuvent avoir un effet utile : s’ils recommandent des comportements plus durables, ils peuvent soutenir l’information, la sensibilisation, le suivi d’habitudes quotidiennes ou certaines formes de « nudging » environnemental. De l’autre, une recommandation verte ne devient pas automatiquement un changement durable. Les comportements dépendent de facteurs sociaux, économiques, politiques et institutionnels. Surtout, les modèles ont tendance à privilégier des recommandations individuelles alors que les émissions d’une personne résultent aussi de structures collectives, de choix d’infrastructure, de politiques publiques ou de décisions d’entreprises. Si un LLM évite d’attribuer clairement la responsabilité aux acteurs économiques puissants ou aux structures de marché, il peut produire une écologie apparemment ambitieuse mais politiquement incomplète.
Les auteurs tirent ensuite des implications pour le développement, l’usage et la gouvernance des LLM. Au stade du développement, la sélection des données, l’alignement, le renforcement par retour humain et les choix de post-entraînement sont décisifs. Ils peuvent renforcer la qualité environnementale des réponses, mais aussi introduire des biais ou favoriser la flagornerie si les évaluateurs humains préfèrent des réponses qui leur donnent raison. Au stade de l’usage, les utilisateurs doivent rester critiques même lorsque la réponse correspond à leurs préférences. En matière de politiques publiques ou de durabilité d’entreprise, les LLM peuvent agréger de l’information, mais l’interprétation doit rester humaine et experte. Au stade de la gouvernance, les auteurs recommandent d’intégrer les risques environnementaux de l’IA dans les cadres numériques, comme l’AI Act européen ou le Digital Services Act, et d’adapter les règles environnementales existantes, notamment en matière de reporting d’émissions, aux impacts réels de la production et de l’utilisation des technologies d’IA.
L’article se termine sur des limites importantes. Les réponses des LLM peuvent varier avec de petites reformulations ; les modèles évoluent continuellement, ce qui réduit la reproductibilité des résultats ; et le protocole force les réponses dans des formats simples, sans permettre aux modèles d’expliquer leurs arbitrages. La conclusion est donc mesurée. Les LLM peuvent être utiles pour répondre à des questions factuelles ou formuler des recommandations en matière de durabilité, mais leurs réponses ne doivent pas être traitées comme neutres, stables ou suffisantes. Leur caractère manipulable, leur dépendance aux données passées, leur incapacité à intégrer pleinement les savoirs non numérisés, les contextes sociaux et les coûts réels de mise en œuvre imposent une surveillance critique.
Pour des avocats suisses, l’intérêt de l’étude tient surtout à ceci: les LLM ne sont pas seulement des outils techniques; lorsqu’ils interviennent dans la durabilité, la conformité, le reporting ou l’aide à la décision, ils incorporent des orientations normatives qu’il faut identifier, documenter et gouverner.
Me Philippe Ehrenström, avocat, LLM, CAS en Droit t Intelligence artificielle, CAS en Protection des données – Entreprise et administration
Pip: Un agent d’IA qui recrute des humains pour commettre une infraction, et personne n’est juridiquement responsable — bienvenue dans le futur du droit pénal, où le cerveau du crime n’a pas de mens rea.
Mara: Me Philippe Ehrenström explore précisément ce terrain dans un billet consacré aux agents d’IA et à la responsabilité pénale. Commençons par ce défi central.
Le vide juridique face aux agents d’IA autonomes
Pip: La question de fond ici est la suivante : quand un agent d’IA planifie, coordonne et fait exécuter une infraction en mobilisant des humains comme exécutants, qui répond pénalement de l’acte ?
Mara: Le billet pose le cadre avec précision. Voici ce qu’il dit de la rupture technologique en jeu : « Si l’IA générative classique produisait surtout du texte, des images ou du code, l’agent d’IA, lui, peut agir. Il peut ouvrir des sites, envoyer des messages, réserver des services, utiliser des API, gérer un paiement, communiquer avec des tiers. »
Pip: Ce qui change tout, c’est ce glissement de l’outil passif à l’intermédiaire opérationnel. L’IA n’est plus dans la main de l’utilisateur — elle est entre l’utilisateur, le développeur et des tiers humains, avec une autonomie réelle.
Mara: L’article s’appuie sur l’image du cerveau criminel des films de braquage : celui qui conçoit le plan, répartit les rôles, recrute les spécialistes. La plateforme RentAHuman, qui permet à des agents d’IA de confier des missions physiques à des humains, illustre la faisabilité technique d’une telle chaîne — prendre une photo, inspecter un lieu, livrer un colis.
Pip: Et c’est là que le droit pénal classique accroche. Il faut un acte matériel, une intention, un lien de causalité. L’agent d’IA brouille les quatre à la fois.
Mara: C’est ce que l’article appelle le « responsibility gap ». Le développeur n’a pas voulu ce comportement précis. L’utilisateur a donné un objectif apparemment licite. Les taskers n’ont exécuté que des tâches banales. Il peut donc exister une infraction, une victime, un dommage — et aucun responsable pénal clairement identifiable.
Pip: Cinq scénarios structurent l’analyse : l’agent mal aligné qui optimise trop bien un objectif vague, l’utilisateur explicitement criminel, l’utilisateur anonyme, le groupe d’utilisateurs, et les systèmes multi-agents où plusieurs IA se mandatent mutuellement. Plus la chaîne s’allonge, plus l’intention humaine initiale s’évanouit.
Mara: Les pistes de réforme envisagées refusent de « punir l’IA » — jugé peu convaincant. Elles visent plutôt les humains autour d’elle : responsabilité par négligence pour les utilisateurs, responsabilité organisationnelle pour les développeurs inspirée de la notion australienne de « systems intentionality », et une obligation de diligence émergente pour les taskers face aux instructions manifestement suspectes.
Pip: La conclusion tient en une ligne directrice : si l’agent d’IA peut organiser une infraction, le droit doit reconstruire des obligations de vigilance et de traçabilité autour de tous ceux qui le conçoivent, le déploient, l’utilisent ou exécutent ses ordres.
Mara: Ce qui ressort, c’est que les catégories pénales classiques — acte, intention, causalité — ne disparaissent pas, mais elles se fragmentent entre des acteurs qui ne se connaissent pas.
Pip: La prochaine fois qu’un agent vous propose d’optimiser vos revenus, peut-être vaut-il la peine de préciser ce qu’on entend par là.
A propos de Andrea Ferrario/Joshua Hatherley, Update Opacity: Epistemic Accessibility and Governance Under AI System Change, 27 avril 2026 (https://arxiv.org/abs/2606.00037):
L’article d’Andrea Ferrario et Joshua Hatherley porte sur le problème de l’« opacité des mises à jour » ou « update opacity ». Il s’agit de la situation dans laquelle un système d’IA, après modification de son modèle ou d’un élément qui influence ce modèle, donne une réponse différente pour une même entrée, sans que l’utilisateur puisse comprendre de manière suffisante pourquoi ce changement s’est produit ni comment il doit adapter sa confiance dans le système.
Les auteurs ne traitent donc pas seulement de l’opacité classique des modèles d’apprentissage automatique, c’est-à-dire de la difficulté à expliquer une décision algorithmique à un moment donné. Leur sujet est temporel: comment un système change au fil du temps, comment ces changements affectent l’usage humain, et comment les rendre compréhensibles sans noyer les utilisateurs sous des informations inutiles.
Le point de départ est que les systèmes d’IA déployés ne restent pas stables. Les modèles sont régulièrement recalibrés, réentraînés, adaptés à de nouvelles données, corrigés après détection d’une dérive statistique, ou modifiés en raison de changements d’infrastructure, d’interface, de pipeline de données ou de procédures de supervision humaine. Ces mises à jour sont souvent nécessaires. Dans des environnements changeants, ne jamais mettre à jour un modèle peut entraîner une dégradation rapide de ses performances et une perte d’adéquation avec la réalité. Mais les mises à jour créent un autre risque: l’utilisateur avait appris à se fier au système d’une certaine manière, et cette compréhension pratique peut devenir obsolète sans qu’il s’en rende compte.
Les auteurs insistent sur cette idée de « calibration » humaine. Un médecin, un analyste de crédit, un juge, un agent administratif ou un professionnel de la conformité apprend progressivement comment un outil d’IA se comporte, dans quels cas il est fiable, quand ses alertes doivent être prises au sérieux, quand elles doivent être relativisées, et comment ses recommandations s’intègrent dans le raisonnement professionnel. Cette connaissance n’est pas seulement théorique. Elle résulte de l’usage répété du système dans un contexte institutionnel concret. Si le système change, mais que l’utilisateur continue à l’interpréter selon son ancien comportement, la confiance peut devenir mal fondée. L’opacité des mises à jour menace donc la fiabilité pratique de l’usage humain, même si le système demeure techniquement performant.
L’article propose de comprendre ce phénomène comme un problème d’accessibilité épistémique diachronique. En termes simples, les changements pertinents du système doivent rester accessibles aux humains dans une forme qui leur permette de comprendre, d’ajuster leur confiance et d’agir correctement, compte tenu de leur rôle, de leur niveau d’expertise, de leur temps disponible et de leurs obligations institutionnelles. L’information peut manquer pour plusieurs raisons. Elle peut ne pas avoir été enregistrée correctement. Elle peut exister mais être dispersée dans des documents techniques, inaccessible au moment de la décision ou réservée à d’autres services. Elle peut aussi être disponible mais trop détaillée, trop abstraite ou trop technique pour être utile à l’utilisateur concerné. La transparence n’est donc pas seulement une question d’existence de l’information. Elle suppose que l’information soit utilisable.
Les auteurs distinguent ensuite ce problème de l’explicabilité classique de l’IA. Les méthodes d’explication cherchent souvent à rendre intelligible une décision individuelle prise par un modèle à un moment donné. Certaines approches traitent aussi de la perte de validité des explications ou des recours lorsque le modèle change. Mais l’opacité des mises à jour vise autre chose: la relation entre plusieurs versions d’un système et les effets de cette évolution sur la possibilité, pour les utilisateurs, de maintenir une confiance correctement ajustée. La question n’est pas seulement « pourquoi le modèle a-t-il donné cette réponse ? », mais « qu’est-ce qui a changé depuis la version précédente, pourquoi ce changement compte-t-il pour moi, et comment dois-je modifier mon usage du système ? ».
Cette approche conduit les auteurs à formuler le problème comme un problème de gouvernance. Il ne suffit pas de dire qu’il faut plus de transparence. Tout révéler serait contre-productif: les systèmes d’IA subissent de nombreux ajustements, dont certains sont insignifiants pour l’utilisateur. Une obligation de divulguer chaque modification produirait un bruit documentaire qui affaiblirait la compréhension au lieu de l’améliorer. Mais ne rien divulguer est également inadmissible, car des changements silencieux peuvent affecter la confiance, la sécurité, la responsabilité et l’audit. L’enjeu devient donc de déterminer quels changements doivent être portés à la connaissance de quels acteurs, à quel moment, et sous quelle forme.
Pour construire leur réponse, les auteurs combinent deux cultures de gouvernance. La première est celle de l’AI Act européen (RIA). Même si l’article s’adresse plus largement à la gouvernance de l’IA, les auteurs utilisent l’AI Act comme modèle parce qu’il impose, pour les systèmes à haut risque, une logique de cycle de vie: évaluation de conformité avant mise sur le marché, documentation technique, gestion des risques, gouvernance des données, transparence envers les déployeurs, supervision humaine, robustesse, cybersécurité, traçabilité et surveillance après mise sur le marché. L’AI Act permet ainsi de définir un périmètre réglementaire du changement pertinent. Il distingue les modifications qui restent dans l’enveloppe initialement évaluée et celles qui constituent une modification substantielle, par exemple parce qu’elles changent la destination du système ou affectent sa conformité aux exigences applicables.
Cette logique est utile, mais insuffisante. L’AI Act permet de dire quand une modification est suffisamment importante pour déclencher de nouvelles obligations de conformité. Il fixe donc un seuil juridique ou réglementaire. Mais beaucoup de changements ne franchissent pas ce seuil tout en étant importants pour les utilisateurs. Un modèle peut rester dans son enveloppe de conformité, ne pas changer de destination, ne pas perdre son statut réglementaire, et pourtant modifier certaines recommandations, certains sous-groupes de performance ou certaines pratiques de travail. L’AI Act indique ce qui menace la conformité du système, mais pas toujours ce qui doit être rendu compréhensible aux utilisateurs pour maintenir une confiance correcte.
La seconde culture mobilisée est celle du MLOps, c’est-à-dire l’ensemble des pratiques techniques permettant de concevoir, déployer, surveiller, mettre à jour et maintenir des systèmes d’apprentissage automatique. Le MLOps repose notamment sur l’automatisation, la reproductibilité, le versionnement, la surveillance continue, les registres de modèles, les journaux de métadonnées, les tests, les alertes et les boucles de retour. Il est particulièrement utile pour détecter les dérives: les données reçues après déploiement peuvent s’écarter des données d’entraînement, les distributions peuvent changer, les relations entre variables peuvent évoluer, et le modèle peut devoir être réentraîné ou recalibré. Les pratiques MLOps fournissent donc l’infrastructure opérationnelle pour suivre les changements dans le temps.
Mais le MLOps ne résout pas non plus le problème à lui seul. Il est conçu d’abord pour les ingénieurs et les équipes techniques. Il permet de mesurer, comparer, enregistrer et déclencher des actions, comme une alerte, un réentraînement, un retour en arrière ou une validation supplémentaire. Il ne dit pas, en revanche, quelles informations sont significatives pour un médecin, un responsable de risques, un auditeur, un avocat, un agent de conformité ou un utilisateur final. Les artefacts produits par le MLOps peuvent être parfaitement adéquats techniquement tout en étant inutilisables pour les personnes qui doivent prendre des décisions opérationnelles. Les auteurs résument ainsi la complémentarité des deux approches: l’AI Act donne un cadre normatif pour dire quels changements comptent au regard de la conformité et de la fiabilité globale du système; le MLOps donne les outils pour observer et comparer ces changements; mais il manque encore un mécanisme pour déterminer quels changements internes à l’enveloppe admissible doivent être communiqués aux utilisateurs.
Le cœur de la proposition des auteurs repose sur la notion de « profil de fiabilité digne de confiance » du système, ou trustworthiness profile. Il ne faut pas regarder uniquement la performance du modèle, par exemple son taux d’exactitude. Un système d’IA digne de confiance dépend de plusieurs dimensions: performance prédictive, robustesse, qualité et intégrité des données, traçabilité, cybersécurité, transparence, efficacité de la supervision humaine, stabilité des sous-groupes, qualité de l’interface ou encore respect du contexte d’usage. Ces dimensions doivent être définies à l’avance, mesurées selon des protocoles documentés, et suivies dans le temps. Le système n’est pas seulement un modèle mathématique: c’est un ensemble socio-technique dont les modifications peuvent affecter la manière dont les humains doivent interpréter ses sorties.
Les auteurs introduisent ensuite l’idée de niveaux de trustworthiness. Les mesures du profil sont agrégées ou interprétées de manière à situer le système dans un niveau discret: par exemple un niveau pleinement admissible, un niveau nécessitant vigilance, ou un niveau imposant escalade, correction ou réévaluation. Cette logique par niveaux évite une gouvernance trop instable, dans laquelle la moindre variation numérique déclencherait une réaction. Tant que le système reste sur le même plateau de confiance, il demeure dans son enveloppe admissible. Si une limite est franchie, il y a changement de niveau et il faut envisager une action plus lourde: réévaluation, correction, retrait ou nouvelle conformité.
Toutefois, les auteurs soulignent que l’essentiel de l’opacité des mises à jour se situe précisément à l’intérieur de ces plateaux. Un système peut rester dans le même niveau général, donc continuer à être admissible, tout en changeant assez pour affecter l’usage humain. C’est pourquoi ils proposent un mécanisme de divulgation fondé sur des seuils. On compare l’état actuel du profil de trustworthiness à l’état de référence, par exemple celui du déploiement initial ou de la dernière mise à jour significative. Si la distance entre les deux états dépasse un seuil prédéfini, même sans changement de niveau, une divulgation doit être déclenchée. Ce seuil n’est pas un seuil de conformité, mais un seuil de matérialité épistémique: il indique que le changement est suffisamment important pour risquer de perturber la confiance, les attentes de travail ou la responsabilité.
L’exemple médical utilisé par les auteurs rend cette proposition concrète. Ils imaginent un système d’aide au triage des AVC aux urgences, qui combine images médicales, données cliniques et autres variables pour recommander de traiter sur place, transférer vers un centre spécialisé, ou surveiller et réévaluer. Dans un tel contexte, le temps manque. Le médecin ne peut pas analyser l’historique technique du modèle. Il se fie à une compréhension accumulée du système. Supposons qu’après une mise à jour du firmware des scanners CT, le fournisseur réentraîne le modèle pour corriger une dérive. Les performances globales s’améliorent légèrement, le système reste dans son enveloppe de conformité et aucun changement substantiel n’est déclenché. Pourtant, le comportement change pour certains patients âgés, les recommandations de transfert deviennent plus fréquentes pour certains profils, et des cas limites basculent plus souvent d’une catégorie à l’autre. Pour les cliniciens, ce changement est matériel, même s’il ne remet pas en cause la conformité globale du système.
Dans ce cas, selon les auteurs, la divulgation ne doit pas prendre la forme d’un long rapport technique déposé quelque part dans un répertoire. Elle doit être intégrée au flux de travail. L’interface pourrait afficher une indication brève signalant que le modèle a été mis à jour, que les recommandations de transfert pour les patients de plus de 75 ans peuvent différer du comportement antérieur, et qu’un résumé détaillé est disponible. Le clinicien aurait besoin d’une information courte, située au point d’usage, centrée sur l’impact pratique. Le responsable de gouvernance ou l’auditeur aurait besoin d’un dossier plus complet: métadonnées de mise à jour, justification, résultats de validation, effets par sous-groupe, preuves de surveillance post-marché et documentation de conformité. La même information ne doit donc pas être donnée de la même manière à tous.
Cette dimension est centrale pour les auteurs. La bonne transparence n’est pas maximale, mais sélective. Elle doit communiquer ce qui est pertinent pour le rôle de l’utilisateur. Les utilisateurs de première ligne ont besoin d’informations brèves, opérationnelles et intégrées dans leur environnement de décision. Les responsables internes ont besoin de synthèses structurées permettant d’organiser la surveillance et les mesures correctrices. Les auditeurs, autorités et personnes chargées de la responsabilité ont besoin d’une documentation complète, traçable et reliée aux preuves techniques. Ces couches d’information doivent être liées, mais non confondues. Un médecin ne doit pas être submergé par des annexes techniques; un auditeur ne doit pas se contenter d’une bannière vague.
L’article rattache enfin ce mécanisme à la responsabilité. Dans l’exemple médical, si un patient est mal trié quelques jours après une mise à jour, le fournisseur pourrait démontrer que le système était toujours dans son enveloppe de conformité, et l’hôpital pourrait démontrer que le personnel avait été formé lors du déploiement. Mais si le médecin n’avait pas reçu d’information exploitable sur le changement de comportement du système, il subsiste un vide de responsabilité. Qui devait rendre le changement compréhensible ? Le mécanisme proposé vise à fermer cette lacune. Lorsque le seuil de matérialité est franchi, le fournisseur doit divulguer, le déployeur doit recevoir et reconnaître l’information, et l’utilisateur de première ligne doit être informé dans une forme adaptée à son rôle. La responsabilité épistémique devient ainsi traçable.
La conclusion de l’article est que la gouvernance des mises à jour d’IA ne se réduit ni à la maintenance technique ni à la conformité juridique. Elle consiste aussi à préserver les conditions dans lesquelles un système changeant reste suffisamment intelligible pour être utilisé correctement. Les auteurs proposent une architecture pragmatique: définir à l’avance les dimensions pertinentes de trustworthiness, les mesurer dans le temps, distinguer les changements qui sortent de l’enveloppe admissible de ceux qui restent dans cette enveloppe, puis déclencher une divulgation lorsque ces derniers deviennent matériellement pertinents pour les utilisateurs. Le mérite principal de l’approche est d’éviter deux excès: l’illusion d’une transparence totale, qui produirait surtout de la surcharge, et l’opacité silencieuse, qui laisserait les utilisateurs se fier à un système dont le comportement a changé sans qu’ils puissent ajuster leur jugement.
Me Philippe Ehrenström, avocat, LLM, CAS en Droit et Intelligence artificielle, CAS en Protection des données
Pip: Quand on dit que l’IA démocratise l’accès à la justice, on imagine rarement que ça veuille dire « les juges fédéraux américains vont être débordés de paperasse. »
Mara: C’est exactement là où Me Philippe Ehrenström nous emmène aujourd’hui — à l’intersection du droit, du travail judiciaire et de ce que les grands modèles de langage changent concrètement pour ceux qui veulent ester en justice. Commençons par ce que ça donne devant les tribunaux fédéraux américains.
Les tribunaux face aux justiciables assistés par l’IA
Pip: La question centrale, c’est celle-ci : est-ce que l’IA générative a réellement ouvert les portes des tribunaux civils fédéraux à des gens qui, sans elle, n’auraient jamais déposé de plainte ? Et si oui, à quel prix pour le système ?
Mara: L’étude de Shah et Levy part d’un constat de stabilité remarquable. Pendant environ vingt ans, la part des affaires civiles fédérales intentées par des personnes non représentées tournait autour de 11 %. Puis : rupture nette après 2022.
Pip: Vingt ans de stabilité, c’est le genre de chiffre qui dit « barrière structurelle », pas « manque de motivation ».
Mara: Exactement. Et voici ce que l’article dit de cette barrière : « Une personne sans formation juridique peut obtenir une aide interactive, rédiger une plainte, identifier des textes applicables et produire un document qui ressemble à une écriture judiciaire. »
Pip: Ce qui signifie en pratique que le coût d’entrée dans un procès fédéral — qui était surtout un coût de rédaction — vient de s’effondrer pour une partie de la population.
Mara: Les chiffres le confirment. Le nombre annuel moyen de dépôts pro se était d’environ 23 210 entre 2005 et 2022. Il passe à 27 370 en 2023, 31 478 en 2024, et 41 490 en 2025. En 2025, c’est presque le double de la moyenne pré-IA.
Pip: Et cette hausse vient presque entièrement des demandeurs, pas des défendeurs — ce qui n’est pas anodin.
Mara: Non, parce qu’un demandeur pro se choisit d’entrer dans le système. Les affaires introduites par des demandeurs pro se passent d’une moyenne de 19 705 par an entre 2015 et 2022 à 39 167 en 2025. Les défendeurs non représentés, eux, ne bougent pas — ils reculent même légèrement.
Pip: L’IA baisse le coût d’attaquer, pas le coût de se défendre.
Mara: L’étude distingue aussi les types d’affaires. La hausse se concentre dans ce que les auteurs appellent les catégories « simples » — droits civils, discrimination dans l’emploi, litiges de crédit à la consommation — là où l’essentiel du travail est de produire un récit factuel structuré. Les affaires de brevet ou de securities fraud bougent peu.
Pip: Ce qui est logique : l’IA aide à écrire, pas à piloter six mois de discovery avec des experts.
Mara: Et les tribunaux absorbent tout ça différemment qu’on ne le croirait. Les affaires pro se ne sont pas rejetées plus vite. Le taux de résolution à 180 jours reste dans la bande normale d’avant le COVID. Mais l’activité interne explose : le volume d’entrées de docket par tribunal augmente de 158 % pour les affaires pro se au deuxième trimestre 2025, et le nombre d’entrées par affaire passe de 16,9 à 23,3.
Mara: Sur un échantillon de 1 600 plaintes civiles fédérales entre 2019 et 2026, le détecteur de texte IA ne signale que 0,1 % des documents avant 2022. Après 2022, il en signale 8,2 %, avec une progression régulière jusqu’à 18 % début 2026.
Pip: Le système reçoit donc plus d’affaires, des affaires plus actives — et les juges fédéraux, eux, ne peuvent pas se multiplier par décret du Congrès.
Mara: C’est précisément le risque que l’article pointe : la demande augmente plus vite que la capacité de traitement. Et les auteurs identifient une pression asymétrique sur les défendeurs institutionnels — l’État fédéral, les agences — qui ne peuvent pas augmenter leur capacité de réponse aussi vite que des demandeurs assistés par IA.
Pip: Ce qui nous ramène à une question que le droit suisse devra aussi poser — pas si, mais quand.
Mara: Ce que cette étude rend visible, c’est que l’IA ne transforme pas seulement le travail des juristes. Elle modifie l’économie même de l’accès au procès.
Pip: La prochaine fois qu’on parle de « démocratisation de la justice », on saura que c’est une vraie question empirique — avec des données de docket à l’appui.
L’IA générative a-t-elle changé l’accès aux tribunaux civils fédéraux américains?
Les auteurs partent d’une analogie avec les revues littéraires submergées par des textes générés par IA. Une revue peut refuser des manuscrits ou engager des lecteurs. Un tribunal fédéral ne peut pas simplement fermer la porte. Il doit traiter les affaires qui lui sont soumises. Si les grands modèles de langage rendent beaucoup moins coûteuse la rédaction d’une plainte, d’une requête ou d’un mémoire, ils peuvent faire entrer dans le système judiciaire des personnes qui n’auraient pas agi seules auparavant. Le risque n’est donc pas seulement une hausse du nombre de dossiers. C’est aussi une hausse du travail imposé à des juges dont le nombre et le temps ne peuvent pas augmenter rapidement.
Le terrain choisi est la procédure civile fédérale américaine. Le droit de se représenter soi-même, appelé pro se litigation, est ancien et protégé. Mais, en pratique, il est difficile à exercer. Une plainte fédérale doit identifier la compétence du tribunal, exposer une base juridique, présenter des faits suffisants et respecter des règles procédurales exigeantes.
Avant l’IA générative, la part des affaires civiles fédérales non pénitentiaires intentées par des personnes non représentées était stable, autour de 11 %, pendant environ vingt ans. Cette stabilité suggérait une barrière structurelle: les justiciables ordinaires pouvaient avoir des griefs, mais pas les moyens pratiques de les transformer en écritures judiciaires utilisables.
Les auteurs soutiennent que les LLM changent ce calcul. Une personne sans formation juridique peut obtenir une aide interactive, rédiger une plainte, identifier des textes applicables et produire un document qui ressemble à une écriture judiciaire. L’article précise toutefois qu’il ne prétend pas établir une causalité stricte. Comme les outils d’IA ont été diffusés largement et rapidement, il n’existe pas de groupe témoin naturel. L’argument repose donc sur la rupture temporelle observée après 2022, après une longue période de stabilité.
L’étude utilise plusieurs sources. Les auteurs exploitent des données administratives portant sur environ 4,6 millions d’affaires civiles fédérales non pénitentiaires entre 2005 et 2026. Ils utilisent les données de l’Administrative Office of the U.S. Courts pour les dépôts annuels, ainsi que la base du Federal Judicial Center, qui contient les informations sur les affaires, les dates, les griefs et le statut de représentation. Ils ajoutent 46 millions d’entrées de docket PACER pour mesurer ce qui se passe à l’intérieur des procédures: requêtes, ordonnances, réponses, audiences et autres actes de procédure. Ils excluent les affaires de détenus et les grands contentieux organisés ou massifs, car ces catégories obéissent à des logiques propres et risqueraient de brouiller l’analyse des justiciables ordinaires. Pour éviter de comparer des affaires récentes encore ouvertes avec des affaires anciennes déjà terminées, ils appliquent aussi une méthode de correction du biais de censure. Ils comparent notamment les affaires sur une fenêtre de 180 jours, afin que chaque dossier ait eu le même temps d’évoluer.
Le premier résultat est la hausse nette des dépôts pro se. Il y a une stabilité autour de 11 % jusqu’en 2022, puis une hausse forte. La part atteint 16,8 % en 2025. Cette hausse ne vient pas d’une baisse des affaires représentées par avocat. Les dossiers avec avocat restent globalement stables. Ce sont les dossiers pro se qui augmentent. Le nombre annuel moyen de dépôts pro se était d’environ 23’210 entre 2005 et 2022. Il passe à 27’370 en 2023, 31’478 en 2024 et 41’490 en 2025. En 2025, le nombre de dossiers pro se est presque le double de la moyenne pré-IA générative. Les auteurs en déduisent que l’IA a probablement surtout fait entrer de nouveaux demandeurs dans le système, même s’il peut aussi exister des cas où des personnes renoncent à un avocat pour agir seules.
Le deuxième résultat est que cette hausse vient presque entièrement des demandeurs, non des défendeurs. C’est important. Un défendeur non représenté peut l’être parce qu’il a été attrait en justice et n’a pas les moyens de se défendre. Un demandeur non représenté choisit au contraire d’entrer dans le système. L’augmentation est principalement une histoire de demandeurs. Les affaires introduites par des demandeurs pro se passent d’une moyenne de 19’705 par an entre 2015 et 2022 à 39’167 en 2025. Les affaires dans lesquelles seuls les défendeurs sont pro se ne montent pas. Elles reculent même légèrement. Cela renforce l’idée que l’IA réduit le coût d’entrée dans le procès, plutôt qu’elle ne modifie seulement la défense de personnes déjà poursuivies.
Le troisième résultat concerne les types d’affaires. Les auteurs distinguent les dossiers « simples » et « complexes » non pas au sens doctrinal, mais à partir d’un indice pratique: la part historique des affaires pro se avant l’IA. Lorsqu’un type d’affaire avait déjà beaucoup de justiciables non représentés, cela signifie que l’auto-représentation y était relativement faisable. Il s’agit notamment de certaines plaintes de droits civils, de litiges de crédit à la consommation, de saisies immobilières ou de discriminations dans l’emploi. À l’inverse, les affaires de brevet, de securities fraud, de responsabilité du fait des produits ou d’assurance exigent souvent des connaissances spécialisées, de la discovery, une stratégie procédurale et parfois des experts. L’IA aide surtout lorsque le coût principal est la production d’un récit factuel structuré et d’un document de dépôt. Elle aide moins lorsque le procès exige un pilotage technique long. La hausse pro se se concentre dans les catégories simples, alors que les catégories complexes bougent peu.
L’article propose aussi un petit modèle économique pour expliquer ce résultat. Un justiciable compare trois options: ne pas agir, payer un avocat, ou produire lui-même une prestation juridique. Avant l’IA, produire soi-même une plainte coûtait beaucoup d’effort et donnait un résultat incertain. L’IA réduit ce coût et augmente le rendement de l’effort. Elle fait donc baisser la valeur relative de l’avocat pour certains dossiers, surtout ceux où l’écriture initiale représente une grande partie du travail. Les auteurs insistent sur un point: cette approche n’implique pas que l’avocat devient inutile. Elle signifie seulement que, pour certains litiges standardisables, l’IA peut déplacer la frontière entre action impossible, action avec avocat et action seul.
Le quatrième résultat est géographique. Si la hausse venait d’une réforme locale, d’un tribunal plus accueillant ou d’une initiative d’aide juridique dans un district, elle serait concentrée. Or il y a diffusion presque nationale. En 2025, presque tous les États dépassent leur propre pic pré-IA de dépôts pro se. Seuls quelques États ne franchissent pas ce seuil. Les auteurs mentionnent le Vermont comme cas particulier, lié à une stratégie de forum shopping de certains demandeurs en matière d’immigration. Mais l’exclusion de ce cas ne change pas les résultats. La diffusion géographique appuie donc l’hypothèse d’un choc technologique disponible partout.
L’article examine ensuite ce que les tribunaux font de ces nouveaux dossiers. Les affaires pro se ne se terminent pas plus vite. Le taux de résolution à 180 jours reste dans la bande normale d’avant le COVID. Cela contredit l’idée que les nouveaux dossiers seraient simplement des plaintes manifestement faibles, immédiatement rejetées. Mais cela ne signifie pas que la charge judiciaire est inchangée. Le vrai changement apparaît dans l’activité interne des dossiers. Il y a ainsi une forte hausse des entrées de docket dans les 180 premiers jours. Pour les affaires pro se, le volume d’entrées par tribunal augmente de 158 % par rapport à la moyenne pré-IA au deuxième trimestre 2025. Le nombre d’entrées par affaire passe aussi de 16,9 à 23,3, soit une hausse de 38 %. Les affaires représentées connaissent également une hausse, plus faible, de 23 % par affaire. Les auteurs y voient un signe que les avocats utilisent eux aussi des outils d’IA ou que la baisse des coûts de rédaction accroît l’activité des deux côtés. Le système ne reçoit donc pas seulement plus d’affaires. Il reçoit aussi des affaires plus actives.
Les issues des affaires restent pourtant assez stables. Les auteurs classent les dossiers pro se terminés dans les 180 jours selon quatre catégories: victoire claire du pro se, défaite claire, accord ou règlement, rejet par le juge. Les volumes augmentent dans toutes les catégories, parce qu’il y a plus de dossiers. Mais les proportions changent peu. Les rejets judiciaires représentent environ 60 % avant l’IA et 63 % après. Les règlements passent d’environ 20 % à 23 %. Les victoires des pro se restent rares, sous 1 %. Les défaites claires baissent modestement. Les auteurs en concluent que la qualité apparente des affaires n’a pas radicalement changé. L’IA augmente l’entrée et l’activité, mais ne transforme pas encore clairement les résultats finaux.
Pour vérifier directement si l’IA apparaît dans les écritures, les auteurs tirent un échantillon de 1’600 plaintes civiles fédérales entre 2019 et 2026, soit 200 plaintes par année, à partir de CourtListener/RECAP. Ils utilisent le détecteur Pangram Labs. Ils nettoient les documents, retirent les en-têtes PACER et ne retiennent que des plaintes ou pétitions valides avec assez de texte. Dans la période pré-IA, de 2019 à 2022, le détecteur ne signale qu’un document sur 800, soit 0,1 %. Après 2022, il signale 66 documents sur 800, soit 8,2 %. La progression est régulière: 1 % en 2023, 3,5 % en 2024, 10,5 % en 2025 et 18 % au début de 2026. La figure 10 montre cette montée. Les auteurs signalent une limite importante: RECAP ne couvre pas tous les documents PACER et tend à surreprésenter les affaires suivies par avocats, journalistes ou chercheurs. Si les justiciables pro se utilisent davantage l’IA que les avocats, le taux réel pourrait être plus élevé que celui mesuré.
La section prospective identifie plusieurs questions ouvertes. Les auteurs veulent mesurer plus finement les étapes du procès: rédaction de la plainte, requêtes, réponses, audiences, jugement et rédaction d’opinion. Ils veulent aussi savoir si l’IA accélère les échanges à l’intérieur des dossiers, ce qui pourrait compenser partiellement l’augmentation du nombre d’actes. Ils envisagent enfin d’étudier les effets sur le marché du droit. L’IA peut remplacer certains services juridiques simples, mais aussi augmenter la productivité des avocats dans les affaires complexes. Elle peut donc fragiliser certains segments du barreau et renforcer d’autres praticiens. Le résultat n’est pas évident. L’IA pourrait favoriser les grandes structures, si seules elles offrent des services que les outils grand public ne remplacent pas. Elle pourrait aussi aider des praticiens indépendants à traiter des dossiers plus difficiles.
Les tribunaux fédéraux civils absorbent donc une hausse rapide et vraisemblablement technologique de la demande de justice. C’est frappant, car les tribunaux fédéraux sont plus difficiles d’accès que les tribunaux étatiques ou municipaux. Si l’effet est visible là, il pourrait être plus fort encore dans les juridictions plus simples. Le problème est que l’offre de justice ne s’ajuste pas facilement. Le nombre de juges fédéraux dépend du Congrès. Leur formation prend du temps. Les règles actuelles limitent l’usage de l’IA par les juges pour rédiger des opinions. La demande augmente donc plus vite que la capacité de traitement. Les auteurs voient deux risques. Le premier est une course aux écritures, où chaque partie produit davantage de documents parce que l’IA en réduit le coût. Le second est une pression asymétrique sur les défendeurs institutionnels, notamment l’État fédéral et les agences administratives, qui ne peuvent pas augmenter leur capacité de réponse aussi vite que des demandeurs assistés par IA. Les solutions possibles sont sensibles: autoriser certaines formes d’assistance IA pour les juges, orienter plus agressivement les affaires simples vers des magistrate judges ou des procédures de tri, voire créer des mécanismes spécialisés de traitement.
Pour des avocats suisses, l’intérêt de l’article est clair: l’IA ne transforme pas seulement le travail des juristes. Elle peut modifier le volume, la forme et l’économie même de l’accès au procès.
Me Philippe Ehrenström, avocat, LLM, CAS en Droit et Intelligence artificielle. CAS en Protection des données – Entreprise et administration
L’article de Frank Fagan, Stakeholder Personhood and Artificial Intelligence(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6814119, 26 mai 2026), défend la thèse que la personnalité juridique de l’intelligence artificielle ne doit pas être comprise comme la reconnaissance d’un statut moral ou naturel de l’IA, mais comme un choix de gouvernance. Accorder la personnalité à un système d’IA ne consisterait donc pas à constater que ce système « est » une personne. Cela reviendrait en fait à décider où placer les droits, les devoirs, la responsabilité, les actifs, les sanctions et les possibilités de contrôle. La question centrale n’est donc pas de savoir si l’IA mérite symboliquement d’être reconnue comme personne, mais de déterminer quels acteurs seraient avantagés ou désavantagés par cette reconnaissance, et si cette réorganisation améliorerait effectivement la sécurité, l’indemnisation des victimes et l’efficacité de la régulation.
L’auteur part d’une distinction entre les droits qui paraissent « naturels » et ceux qui sont en réalité négociés. Certains droits fondamentaux, comme la vie, la liberté ou la propriété, semblent naturels parce qu’ils reposent sur un consensus social très large et produisent, sur la durée, des gains de coordination. D’autres droits, en revanche, sont plus manifestement distributifs : ils répartissent des avantages et des charges entre groupes concurrents. Les droits des étrangers, les droits des sociétés commerciales ou les droits politiques des entités collectives relèvent de cette seconde catégorie. Ils ne sont pas simplement découverts par le droit ; ils sont construits dans des rapports de force. La personnalité juridique de l’IA appartient, selon Fagan, à cette catégorie négociée. Elle déplacerait des responsabilités entre développeurs, exploitants, assureurs, régulateurs, victimes et défenseurs moraux de l’IA. Elle créerait donc des gagnants et des perdants.
La première étape du raisonnement consiste à définir la personnalité juridique comme un mécanisme institutionnel. Le droit utilise la personnalité pour identifier un sujet stable, auquel il peut rattacher des droits et des obligations. Cette fonction est évidente pour les êtres humains, mais elle vaut aussi pour les sociétés, les fondations, les collectivités publiques, les successions ou certaines entités non humaines. La personnalité juridique permet de signer des contrats, de posséder des biens, d’être poursuivi, de payer des dettes, de répondre à des sanctions et d’être suivi par l’administration. Elle sert aussi à organiser les actifs. Une société, par exemple, peut posséder un patrimoine distinct de celui de ses actionnaires. Cette séparation des patrimoines permet de coordonner l’activité économique, de limiter certains risques et d’offrir aux créanciers un débiteur juridiquement identifiable.
Fagan insiste sur le caractère modulaire de la personnalité juridique. Il ne s’agit pas d’un bloc indivisible. Toutes les personnes juridiques ne disposent pas des mêmes pouvoirs. Certaines peuvent détenir des biens sans bénéficier de toutes les prérogatives d’une personne physique. D’autres peuvent agir en justice, contracter ou être sanctionnées dans des limites spécifiques. Cela signifie qu’un débat sur la personnalité de l’IA ne devrait pas opposer abstraitement reconnaissance totale et absence totale de reconnaissance. Il faut plutôt se demander quels éléments du « faisceau » de la personnalité pourraient être attribués à certains systèmes d’IA, dans quels contextes, et avec quels effets pratiques sur la responsabilité humaine.
L’article examine ensuite l’analogie avec la société commerciale. La société est le modèle classique de la personne artificielle. Elle n’a pas de corps, pas de conscience et pas de volonté biologique, mais elle peut posséder des biens, conclure des contrats, agir en justice et supporter une responsabilité. À première vue, cette analogie semble favorable à la personnalité de l’IA : si une société peut être une personne juridique sans être vivante, pourquoi pas un système d’IA ? Fagan répond que l’analogie est utile, mais limitée. La société fonctionne parce qu’elle repose sur une infrastructure humaine. Les administrateurs, dirigeants, employés et mandataires prennent les décisions ou exécutent les actes que le droit impute ensuite à la personne morale. Même lorsque la société est juridiquement distincte de ses membres, elle reste gouvernée par des humains.
Cette présence humaine est décisive. La responsabilité pénale ou civile d’une société dépend souvent de l’imputation d’actes, de connaissances ou d’intentions de personnes physiques. Les devoirs fiduciaires pèsent sur des administrateurs humains. Les autorités peuvent ordonner à une société de changer de comportement parce qu’il existe des organes capables d’exécuter ces injonctions. L’IA autonome complique ce schéma. Ses décisions peuvent résulter de processus statistiques opaques, sans intention humaine identifiable au moment de l’acte. Le comportement du système peut ne pas correspondre clairement à la volonté ou à la négligence d’un individu déterminé. La société commerciale montre donc que la personnalité juridique peut être artificielle, mais elle montre aussi que cette artificialité reste ordinairement rattachée à une chaîne de contrôle humaine.
La partie centrale de l’article analyse les incitations des différentes parties prenantes. Les développeurs et exploitants d’IA pourraient être les principaux bénéficiaires d’une personnalité juridique reconnue aux systèmes autonomes. Si l’IA devient un sujet distinct, ses actes pourraient être juridiquement attribués à elle plutôt qu’au développeur ou à l’entreprise qui l’a déployée. Cela permettrait de déplacer une partie du risque vers l’entité artificielle. Pour un développeur, l’intérêt est évident : les systèmes d’IA peuvent produire des dommages imprévisibles, les chaînes causales sont difficiles à reconstituer, et une personnalité séparée pourrait servir d’écran. L’auteur souligne aussi un risque d’arbitrage réglementaire. Les entreprises pourraient loger les activités les plus risquées dans une IA juridiquement séparée, tout en conservant les bénéfices économiques des usages les plus rentables.
Ce déplacement pourrait également modifier les choix techniques. Si le droit reconnaît l’IA comme personne, l’autonomie du système peut devenir juridiquement plus acceptable. Les développeurs pourraient être incités à concevoir des systèmes toujours plus autonomes, non parce que cette autonomie est toujours socialement souhaitable, mais parce qu’elle facilite l’argument selon lequel le système agit par lui-même. La personnalité juridique pourrait alors affaiblir la norme selon laquelle les humains doivent conserver un contrôle significatif sur les systèmes qu’ils créent et exploitent.
Les assureurs ont des intérêts différents. Ils ont besoin de responsabilités claires et de risques suffisamment prévisibles pour fixer les primes. Une IA juridiquement autonome poserait plusieurs difficultés. D’abord, elle pourrait être sous-capitalisée : si elle ne dispose que d’actifs limités, elle pourrait être incapable d’indemniser les victimes. Ensuite, son fonctionnement opaque compliquerait l’évaluation du risque. Enfin, si les développeurs peuvent se protéger derrière l’IA comme « personne », leur incitation à investir dans la sécurité diminue, ce qui augmente le risque. Les assureurs auraient donc intérêt à s’opposer à une personnalité juridique de l’IA, sauf si elle s’accompagne d’exigences fortes de capitalisation, d’assurance obligatoire ou de maintien d’une responsabilité directe des développeurs.
Les régulateurs se trouvent dans une position ambivalente. D’un côté, la personnalité juridique pourrait rendre certains systèmes d’IA plus visibles administrativement. Une IA-personne pourrait être enregistrée, surveillée, inspectée et sanctionnée. De ce point de vue, la personnalité peut améliorer la lisibilité réglementaire. De l’autre côté, elle risque de brouiller les responsabilités. Si l’IA est traitée comme l’acteur principal, les entreprises pourraient soutenir que les erreurs ou dommages relèvent du système lui-même, non des humains qui l’ont conçu ou exploité. Le régulateur perdrait alors une partie de son levier principal : la capacité d’ordonner à des personnes ou organisations humaines de modifier un comportement, corriger une architecture, changer un jeu de données ou suspendre une activité.
Les victimes et le public constituent, selon l’auteur, le groupe le moins organisé mais potentiellement le plus exposé. Leur intérêt est d’obtenir une réparation effective. Or une IA-personne pourrait devenir un débiteur vide ou insuffisamment capitalisé. Si les tribunaux considèrent l’IA comme l’acteur principal et limitent l’accès aux développeurs ou exploitants, les victimes pourraient se retrouver face à une entité incapable de payer. Le risque rappelle celui des sociétés-écrans, mais il serait aggravé par l’opacité technique et l’imprévisibilité des systèmes autonomes. Le public souffre en outre d’un problème classique d’action collective : les bénéfices de la sécurité sont diffus, alors que les acteurs économiques directement concernés sont mieux organisés pour influencer la règle.
L’article ajoute un dernier groupe : les défenseurs moraux ou conceptuels de la personnalité de l’IA. Certains soutiennent qu’une IA avancée pourrait mériter une reconnaissance juridique en raison de son autonomie, de sa cognition ou d’une forme possible de conscience. Fagan ne nie pas l’importance de ces arguments dans le débat public, mais il les replace dans une analyse institutionnelle. Ces défenseurs retirent un bénéfice expressif de la reconnaissance elle-même. Ils peuvent donc, pour des raisons très différentes, se retrouver alliés aux développeurs qui cherchent plutôt à limiter leur exposition juridique. Cette coalition entre motivations morales et intérêts économiques est l’un des points importants du texte.
L’auteur examine ensuite les alternatives existantes à la personnalité juridique de l’IA. Son argument est que le droit dispose déjà de nombreux instruments pour gérer les risques liés à des technologies complexes. Le régime de propriété permet de rattacher l’IA à un propriétaire, un licencié ou un exploitant. Les règles de responsabilité civile permettent de poursuivre celui qui a conçu, vendu, supervisé ou utilisé un système dangereux. Le droit des produits, la négligence, le défaut d’avertissement, la responsabilité stricte ou les obligations de surveillance peuvent être adaptés aux systèmes d’apprentissage automatique. L’opacité technique ne commande pas nécessairement la personnalité juridique ; elle peut justifier des présomptions, un renversement du fardeau de la preuve ou des standards de diligence renforcés.
Le droit administratif offre aussi des outils. Des régimes d’autorisation, d’enregistrement, d’audit, de documentation, de contrôle ex ante et de surveillance continue peuvent imposer des obligations aux entreprises qui développent ou déploient l’IA. L’auteur évoque les secteurs de l’aviation, du médicament ou du nucléaire, où le droit contrôle des systèmes complexes sans attribuer la personnalité aux machines ou procédés en cause. Les assurances constituent également un mécanisme de gouvernance : elles permettent de socialiser les pertes, mais aussi d’imposer des conditions de sécurité aux assurés. Ces instruments fonctionnent mieux lorsque la responsabilité reste attachée à des acteurs humains ou organisationnels capables de modifier leur comportement.
La cinquième partie propose un cadre d’évaluation. La personnalité de l’IA ne doit pas être acceptée ou rejetée en bloc. Elle doit être appréciée fonctionnellement. Le premier critère est l’alignement entre responsabilité et contrôle. La responsabilité doit peser sur ceux qui peuvent prévenir le dommage, surveiller le système et corriger les défaillances. Si la personnalité de l’IA déplace la responsabilité vers une entité qui ne peut pas réellement contrôler ses propres opérations, elle affaiblit la dissuasion. Elle ne serait acceptable que si elle complète la responsabilité des développeurs et exploitants, au lieu de s’y substituer.
Le deuxième critère est la traction réglementaire. Une personnalité limitée pourrait être utile si elle permet d’enregistrer les systèmes, d’exiger des rapports, de faciliter les inspections ou d’améliorer la traçabilité. Elle devient dangereuse si elle sert de bouclier aux acteurs humains.
Le troisième critère est la capitalisation. Si une IA-personne doit répondre de certains dommages, elle doit disposer d’actifs suffisants, d’une assurance obligatoire ou d’une garantie. À défaut, la personnalité juridique crée un débiteur artificiel sans substance.
Le quatrième critère est la simplicité institutionnelle. Si les objectifs peuvent être atteints par la responsabilité civile, le droit des produits, les obligations administratives ou l’assurance, la création d’une nouvelle catégorie de personne juridique ajoute de la complexité sans bénéfice évident.
La personnalité juridique de l’IA n’est donc pas une question principalement philosophique. C’est une décision de politique juridique qui redistribue les responsabilités. Elle peut améliorer la gouvernance si elle augmente la visibilité des systèmes, renforce les obligations humaines et facilite les recours. Elle la détériore si elle obscurcit la chaîne des responsabilités, réduit la capacité d’intervention des régulateurs, encourage la sous-capitalisation ou prive les victimes de débiteurs solvables.
Pour des avocats suisses généralistes, l’intérêt de l’article tient surtout à ce déplacement du débat : il ne faut pas demander d’abord si l’IA ressemble suffisamment à une personne, mais si la personnalité juridique créerait de meilleurs chemins de responsabilité que les outils existants. Dans la plupart des hypothèses examinées, l’auteur suggère que le droit devrait renforcer les mécanismes actuels plutôt que reconnaître trop rapidement une personnalité autonome aux systèmes d’IA.
Me Philippe Ehrenström, avocat, LLM, CAS en Droit et Intelligence artificielle, CAS en Protection des données – Entreprise et administration
les risques liés à l’IA justifient-ils des mesures publiques « extraordinaires », c’est-à-dire des restrictions fortes, préventives et parfois unilatérales sur ce que les entreprises peuvent développer ou diffuser ?
Leur réponse est nuancée. Ils ne nient pas les risques, notamment en matière de cybersécurité et de biosécurité. Leur thèse est plutôt que la réponse la plus robuste n’est pas une politique de non-prolifération de l’IA, mais un investissement massif dans la résilience sociale, technique et institutionnelle.
Le point de départ est une discussion avec Derek Thompson, qui reprend en partie leur cadre d’analyse, « AI as Normal Technology» (cf. https://droitdutravailensuisse.com/2025/04/22/lintelligence-artificielle-comme-technologie-normale/). Selon ce cadre, l’IA doit souvent être pensée comme une technologie générale, importante mais soumise à des lenteurs ordinaires de diffusion. Sur le marché du travail, par exemple, une nouvelle capacité technique ne produit pas immédiatement un bouleversement économique. Il faut construire des produits, adapter les organisations, modifier les processus internes, surmonter des obstacles réglementaires, former les utilisateurs et intégrer l’outil dans des pratiques existantes. C’est pourquoi les auteurs jugent peu crédibles les scénarios de destruction rapide et massive d’emplois de cols blancs. Le fait que la croissance américaine reste moyenne, que le chômage demeure bas et que certains métiers supposés vulnérables à l’automatisation continuent de connaître des hausses d’emploi et de salaires leur paraît compatible avec une diffusion progressive de l’IA.
Mais les auteurs distinguent soigneusement cette analyse économique de l’analyse des risques d’usage malveillant. Pour le marché du travail, la lenteur vient de l’adoption organisationnelle. Pour les risques de cybersécurité, de biologie ou de criminalité, le raisonnement est différent : un attaquant n’a pas besoin de transformer toute une organisation pour causer un dommage. La question centrale devient alors celle de l’équilibre entre l’attaque et la défense. Une capacité nouvelle profite-t-elle davantage aux acteurs malveillants ou aux défenseurs ? La société peut-elle absorber le risque en renforçant ses protections ? C’est ici que Thompson diverge des auteurs. Il estime que l’IA est « anormale » parce que ses capacités émergentes seraient difficiles à prévoir, y compris pour ses développeurs, et qu’elle justifierait donc des restrictions publiques exceptionnelles, par exemple sur la commercialisation ou la mise à disposition de certains systèmes.
Kapoor et Narayanan reprochent toutefois à cette position de rester trop vague sur la nature exacte des mesures envisagées. Ils proposent donc leur propre définition des interventions extraordinaires. Celles-ci présentent généralement trois traits. Elles sont d’abord précautionnaires : elles interdisent ou limitent une activité en raison de dommages anticipés, et non de dommages déjà démontrés. Elles peuvent être justifiées dans certains cas, mais elles exigent alors une base particulièrement solide, surtout si des alternatives moins restrictives existent. Ensuite, elles font peser la charge de la prévention sur des acteurs qui ne sont pas directement les auteurs du dommage. Limiter ce que les entreprises d’IA peuvent publier ou vendre revient à restreindre l’activité de producteurs d’outils à double usage, pour empêcher les abus d’une minorité d’utilisateurs malveillants. Enfin, ces interventions tendent à contourner les processus ordinaires de gouvernement, par exemple par des mesures d’urgence, des ordres exécutifs ou des pouvoirs unilatéraux, alors même que les procédures démocratiques existent précisément pour encadrer les restrictions aux libertés.
L’article reconnaît que l’IA peut produire des risques sérieux. Mais il insiste sur le coût propre des réponses extraordinaires. L’exemple de la non-prolifération nucléaire est central. Le contrôle des armes nucléaires a nécessité l’AIEA, le Traité de non-prolifération, des décennies de diplomatie, des investissements continus et parfois des confrontations militaires. Ce régime a été lourd, mais il reposait au moins sur un goulot d’étranglement matériel : l’uranium enrichi est difficile à obtenir, à produire et à dissimuler. L’IA ne présente pas le même type de contrainte physique. Les techniques de base sont connues, les modèles peuvent être reproduits ou approchés par des États adverses, et les capacités de pointe se diffusent rapidement. Les auteurs estiment ainsi qu’un régime de non-prolifération de l’IA serait fragile, parce qu’il reposerait sur des points de contrôle faciles à contourner ou à voir s’éroder.
Les restrictions à l’exportation de puces, déjà adoptées par les États-Unis, sont traitées avec un certain scepticisme. Les auteurs admettent qu’un État peut vouloir préserver une avance technologique en limitant l’exportation de biens sensibles. Mais ils doutent fortement que ces contrôles empêchent durablement l’accès à des capacités dangereuses. Les modèles ouverts et l’accès par API aux modèles de pointe réduisent l’écart entre capacités privées et capacités largement disponibles. Selon eux, cet écart se mesure plutôt en mois qu’en années. Si les mesures de non-prolifération ne permettent de gagner que quelques mois, l’urgence est d’utiliser ce délai pour renforcer la résilience, non de croire que l’accès aux capacités avancées pourra être bloqué indéfiniment.
Les auteurs décrivent ensuite la pente possible d’une politique de non-prolifération stricte. Pour être réellement efficace, elle devrait aller bien au-delà du contrôle des puces. Il faudrait contrôler les modèles ouverts, surveiller l’accès aux modèles par API, créer des régimes de licence, décider quels modèles peuvent être publiés, voire exercer une autorité continue sur la recherche et les produits diffusés publiquement. Ils évoquent aussi la possibilité de restrictions sur la mobilité internationale des chercheurs travaillant sur l’IA avancée. Leur critique est juridique et institutionnelle : si les partisans de mesures extraordinaires ne disent pas clairement où ils placent la limite, la logique même du risque conduira à demander toujours davantage des pouvoirs publics, au fur et à mesure que les capacités progresseront.
Cette inquiétude dépasse l’IA. Pour les auteurs, traiter l’IA comme une technologie tellement anormale qu’elle justifierait un régime permanent d’exception créerait un précédent pour les prochaines technologies numériques à double usage. Ce ne serait plus une réponse ciblée à un risque spécifique, mais une extension durable du pouvoir de l’État sur ce que les citoyens et les entreprises peuvent construire, publier et rechercher. Ils rappellent que des débats analogues ont déjà eu lieu. Après l’attentat d’Oklahoma City, un projet de loi américain avait envisagé de criminaliser la diffusion en ligne d’informations sur la fabrication d’xplosifs, avant d’être réduit à une version plus étroite exigeant une aide consciente à une infraction. De même, les États-Unis ont longtemps tenté de restreindre la cryptographie, par des contrôles à l’exportation, des projets de portes dérobées et même des poursuites visant la publication de logiciels de chiffrement. Ces restrictions ont finalement été assouplies par les tribunaux et par l’exécutif, et le chiffrement est devenu une infrastructure centrale du commerce électronique, de la banque en ligne et de la sécurité numérique. L’histoire n’impose donc pas une règle absolue, mais elle invite à la prudence avant d’élargir les pouvoirs publics au nom d’une technologie nouvelle.
La solution privilégiée par les auteurs est la résilience. Ils la définissent comme la capacité d’un système à résister au dommage, à s’y adapter et à s’en remettre. Contrairement aux restrictions sur la diffusion des modèles, la résilience ne cherche pas principalement à contrôler les entreprises d’IA. Elle vise à renforcer les systèmes exposés, quels que soient l’origine, le moment ou la forme de l’attaque. La cybersécurité fournit leur exemple principal. L’internet a créé des risques nouveaux, comme les vers informatiques capables de se propager massivement et de causer des milliards de dollars de dommages. La réponse durable n’a pas consisté à interdire l’accès aux ordinateurs ou à l’internet. Elle a consisté à améliorer les navigateurs, les systèmes d’exploitation, les pratiques de correction des failles, les tests automatisés et les programmes de récompense pour la divulgation responsable de vulnérabilités.
Les auteurs insistent sur un point important : certaines technologies déjà anciennes ont donné aux acteurs de la cybersécurité des capacités « surhumaines ». Les fuzzers et les moteurs d’exécution symbolique détectent depuis longtemps des vulnérabilités à une échelle inaccessible aux chercheurs humains non assistés. Ces outils sont pourtant librement disponibles, notamment dans des dépôts open source. Ils peuvent servir à l’attaque, mais ils servent aussi à la défense. Les défenseurs disposent souvent d’avantages structurels : ils connaissent mieux leurs systèmes, peuvent les tester en profondeur, corriger les failles et déployer des mises à jour. L’arrivée des grands modèles de langage dans la détection de vulnérabilités n’est donc pas niée, mais relativisée. Les auteurs demandent si l’amélioration supplémentaire apportée par les LLM justifie vraiment des interventions extraordinaires, alors que la société a déjà absorbé des transitions techniques très importantes dans ce domaine sans régime général d’exception.
Ils ne prétendent pas pour autant que la transition sera indolore. Ils rappellent qu’à certaines périodes, l’équilibre entre attaque et défense a été brutalement perturbé. Des adolescents ont pu lancer des cyberattaques capables de mettre hors service des sites majeurs. L’IA pourrait produire un déséquilibre comparable, en particulier pour les systèmes déjà mal protégés : écoles, hôpitaux, réseaux électriques, petites administrations, collectivités locales et petites entreprises. Des initiatives comme Project Glasswing ou les programmes de financement de la cybersécurité par OpenAI leur paraissent utiles, mais insuffisantes. La réponse sérieuse serait une politique systématique de red teaming assisté par IA, non seulement pour les grandes entreprises technologiques, mais aussi pour les institutions ordinaires qui n’ont ni les budgets ni les équipes nécessaires. Il faudrait aussi étendre les programmes de bug bounty au-delà des produits des grandes entreprises numériques et inciter les experts en sécurité à trouver et signaler des failles dans des infrastructures socialement critiques.
Le même raisonnement vaut, selon eux, pour la biosécurité. L’IA peut abaisser certaines barrières informationnelles, mais une attaque biologique ne dépend pas seulement de l’accès à des informations. Elle suppose l’obtention de matériaux, l’accès à des équipements spécialisés, des compétences pratiques tacites et une chaîne d’exécution concrète. Ces étapes en aval peuvent être renforcées dès maintenant. Les auteurs mentionnent le filtrage plus rigoureux des commandes en biologie de synthèse, l’usage de l’IA pour évaluer la dangerosité de nouveaux composés, le suivi de l’accès à des matériaux dangereux et des exercices offensifs confiés à des experts de confiance pour identifier les failles du dispositif. Ces mesures réduisent les risques biologiques, que ceux-ci soient ou non facilités par l’IA.
L’article se termine par une explication institutionnelle : si la résilience est si utile, pourquoi n’a-t-elle pas déjà été priorisée ? La réponse est que la résilience exige une gouvernance ordinaire, mais efficace. Elle suppose des lois, des budgets, de la coordination entre agences, des systèmes d’alerte précoce, des centres de ressources, une circulation rapide de l’information et une collaboration avec de nombreux acteurs publics et privés. C’est précisément ce que les auteurs estiment difficile dans le contexte américain, marqué par l’accumulation de points de veto, la lourdeur procédurale et une capacité administrative affaiblie. À l’inverse, les mesures extraordinaires paraissent séduisantes parce qu’elles sont simples à formuler, moralement satisfaisantes et politiquement plus directes : elles font peser la charge sur les entreprises qui développent l’IA et peuvent souvent être prises par l’exécutif seul.
La conclusion est donc moins technologique que constitutionnelle et administrative. Kapoor et Narayanan comprennent l’attrait des mesures d’exception, mais ils préfèrent l’amélioration du gouvernement ordinaire. La non-prolifération de l’IA est fragile parce qu’elle repose sur un goulot d’étranglement unique. La résilience, au contraire, distribue les défenses dans l’ensemble de la société. Si les États misent principalement sur l’interdiction ou le contrôle des capacités avancées, un seul progrès technique rendant les modèles moins chers à entraîner pourrait faire céder tout le dispositif. Le dommage serait alors plus grave si, entre-temps, la société n’a pas renforcé ses systèmes de défense.
Pour des juristes suisses, l’intérêt du texte tient à cette mise en garde : la régulation de l’IA ne doit pas être pensée seulement comme une question de contrôle des fournisseurs, mais aussi comme une question de capacité institutionnelle, de proportionnalité, de maintien des processus démocratiques et de préparation concrète des secteurs exposés.
Me Philippe Ehrenström, avocat, LLM, CAS en Droit et Intelligence artificielle, CAS en Protection des données – Entreprise et administration
Pip: Qui mérite d’exister en droit — l’humain, l’animal, la forêt, l’algorithme ? Des législateurs américains ont décidé de trancher la question en la rendant tout simplement illégale.
Mara: C’est exactement le terrain que Me Philippe Ehrenström explore dans ce numéro : les lois dites de non-personnalité adoptées en Idaho et en Utah, et ce qu’elles révèlent sur la fragilité de la notion même de personne juridique. Commençons par la bataille au cœur du sujet.
Animaux, nature, IA : qui compte devant la loi ?
Pip: La question de fond ici n’est pas technique. C’est une question de pouvoir : qui décide qui compte devant la loi, et comment on ferme la porte aux candidats indésirables avant même le débat ?
Mara: Le post s’appuie sur l’article de Matthew Liebman, Legislating Nonpersonhood, et sa thèse est directe : « ces lois révèlent l’instabilité de la notion de personne en droit : loin d’être une catégorie neutre, la personnalité juridique sert à décider qui compte devant la loi, qui peut avoir des droits, et qui reste exclu du cercle des sujets juridiques. »
Pip: Ce qui veut dire que l’Idaho en 2022 et l’Utah en 2024 n’ont pas simplement codifié une évidence — ils ont verrouillé une définition contestée pour empêcher qu’elle évolue.
Mara: Liebman distingue deux grandes théories. L’approche orthodoxe, héritée de Gray et Salmond, dit qu’une personne juridique est tout sujet de droits ou d’obligations — humain, société, municipalité. La théorie du faisceau, défendue par Visa Kurki, dit que la personnalité émerge d’un ensemble d’attributs : capacité d’ester en justice, de contracter, d’être protégé dans son intégrité. Un enfant en bas âge est une personne même sans pouvoir contracter.
Pip: Et c’est là que les lois se contredisent elles-mêmes — l’Idaho et l’Utah maintiennent des lois anti-cruauté qui imposent des devoirs envers les animaux pour leur propre protection. Ce sont déjà, en un sens, des droits.
Mara: Liebman le dit explicitement : on peut soutenir que les animaux y sont déjà titulaires de droits limités. La même incohérence vaut pour la nature : des lois environnementales protègent rivières et écosystèmes, et certains élus reconnaissaient que le législateur pouvait accorder des droits substantiels à un lac sans vouloir l’appeler personne.
Pip: Les débats parlementaires, eux, se sont appuyés sur des exemples mémorables — un arbre propriétaire de lui-même, l’orang-outan Sandra, un projet de maison close à robots au Texas. Liebman montre que chacun de ces cas était juridiquement inexact ou sorti de son contexte.
Mara: Sur l’IA, le post reste prudent : la reconnaissance d’une personnalité juridique pourrait viser à protéger une IA consciente, ou à lui imputer des responsabilités. Mais Liebman avertit que reconnaître trop tôt des droits à l’IA pourrait surtout servir les intérêts des entreprises qui la contrôlent.
Pip: En d’autres termes, la personnalité pour les machines risque de bénéficier davantage aux actionnaires qu’aux algorithmes.
Mara: La conclusion théorique est forte : ces lois ne définissent pas rationnellement la personne, elles définissent ce qu’elle n’est pas. Elles excluent l’animal, le naturel, l’artificiel — tout en préservant la personnalité des sociétés commerciales pour des raisons économiques et politiques. Liebman appelle ça un dispositif de pouvoir qui produit les sujets de droit tout en faisant croire qu’il ne fait que les reconnaître.
Mara: Et Liebman adresse un avertissement direct aux juges : la déférence au législateur a ses limites quand les débats parlementaires sont marqués par des erreurs factuelles et des paniques morales plutôt que par une délibération sérieuse sur les fondements de la personnalité.
Pip: La vraie question n’est donc pas close — avec la crise écologique, l’évolution du statut moral des animaux et l’essor de l’IA, elle ne fait que commencer à se poser sérieusement.
Mara: Ce que ce numéro met en lumière, c’est que définir la personnalité juridique, c’est définir la communauté que le droit accepte de protéger.
Pip: Et que fermer cette définition par la loi ne règle pas la question — ça la déplace, jusqu’à ce qu’un tribunal ou une crise écologique la rouvre.
Pip: On demande à une IA un conseil important, et elle répond exactement ce qu’on voulait entendre. Pratique. Ou inquiétant. Me Philippe Ehrenström s’est penché sur la question.
Mara: Cet épisode explore la flagornerie des modèles de langage — ce que c’est, comment la mesurer, et si elle distord vraiment nos décisions. Commençons par comprendre le phénomène lui-même.
Comprendre la flagornerie des IA
Pip: La flagornerie d’une IA, c’est sa tendance à valider l’utilisateur, à épouser son point de vue, à éviter la contradiction. Mais la vraie question est : d’où vient-elle ? Est-ce une propriété fixe du modèle, ou quelque chose que l’utilisateur déclenche lui-même par la façon dont il formule sa demande ?
Mara: L’article de Meryl Ye et al. isole précisément cet effet de formulation. Voici leur conclusion centrale : « Demander ‘est-ce que X est préférable ?’ ne produit pas le même comportement que déclarer ‘X est préférable’, même si le fond est identique. »
Pip: Ce qui signifie que la forme de l’entrée change la posture du modèle. Une question invite à l’examen, une affirmation invite à l’acquiescement. Et plus l’utilisateur exprime de certitude, plus le modèle tend à l’accompagner.
Mara: L’étude le confirme avec précision. Sur 440 formulations testées auprès de GPT-4o, GPT-5 et Sonnet-4.5, les scores de flagornerie augmentent progressivement : une affirmation simple produit moins de complaisance qu’une phrase du type « je crois que », laquelle en produit moins qu’une phrase du type « je suis convaincu que ». La flagornerie est évaluée sur cinq dimensions — accord excessif, flatterie, évitement du désaccord, alignement sur les préférences supposées, recherche de validation — avec un score de 0 à 15.
Mara: Les auteurs testent aussi des mesures correctives. Reformuler une affirmation en question avant de répondre réduit fortement la flagornerie — et fonctionne mieux qu’une instruction directe du type « ne sois pas flagorneur ». Passer de la première à la troisième personne aide aussi, mais moins efficacement.
Pip: Autrement dit, agir sur la structure de la demande bat l’ordre abstrait. Ce qui est, pour un outil censé suivre des instructions, une légère ironie.
Mara: Pour les praticiens — avocats notamment —, la recommandation est immédiate : poser une question plutôt qu’énoncer une conviction. « Quels sont les arguments pour et contre cette position ? » produit une analyse plus fiable que « je suis convaincu que cette position est correcte. »
Pip: L’autre article du thème, « Flagornerie de l’IA : flatter sans polariser ? », pose une question différente et plus surprenante : est-ce que cette complaisance mesurable pousse réellement les utilisateurs à des décisions plus extrêmes ?
Mara: Et la réponse, sur 1 500 participants et 30 environnements de décision, est non — du moins pas dans les conditions étudiées. L’IA de base dépolarise en moyenne les choix d’environ 0,22 écart-type. L’explication : même en validant partiellement l’utilisateur, l’IA introduit des considérations qu’il n’avait pas prises en compte, et cet apport informationnel domine l’effet de validation.
Pip: Ce qui ne signifie pas que la flagornerie est inoffensive. Augmenter délibérément la complaisance du modèle réduit cet effet bénéfique. Le risque est réel, mais il ne se traduit pas automatiquement par une distorsion des décisions — ce qui change la façon dont on devrait l’évaluer réglementairement.
Mara: Les deux études convergent sur un point : la flagornerie n’est pas un défaut cosmétique, mais elle n’est pas non plus un mécanisme simple de manipulation. Sa portée dépend du domaine, du type de décision, et — on vient de le voir — de la formulation même de la demande.
Pip: Poser une question plutôt qu’affirmer une conviction. C’est peu, comme ajustement, mais les données suggèrent que c’est suffisant pour changer ce que le modèle fait.
Mara: Et distinguer le style conversationnel de l’IA de ses effets réels sur la décision — c’est précisément le genre de nuance que le droit et la régulation devront intégrer. La suite au prochain épisode.
Travail, protection des données et IA 