A propos de : Daniel Gervais /John Nay, The Phantom Agent: Artificial Intentionality and Legal Responsibility, Stanford Ctr. for Legal Informatics (May 2026) [https://law.stanford.edu/publications/the-phantom-agent-artificial-intentionality-and-legal-responsibility/]

L’article part d’un constat: les systèmes d’intelligence artificielle ne se bornent plus à produire passivement des informations. Ils négocient, planifient, conseillent, poursuivent des objectifs, surmontent des obstacles et adaptent leur comportement au contexte. Leur conduite donne ainsi l’apparence d’une action intentionnelle, alors même qu’ils ne sont ni des personnes juridiques ni, dans l’état actuel des connaissances, des êtres dotés d’une conscience ou d’une volonté comparables à celles d’un être humain. Cette situation semble créer une impasse. Soit l’on nie toute intention à la machine et l’on cherche nécessairement une volonté humaine derrière chaque acte; soit l’on considère que l’autonomie croissante des systèmes justifie de leur reconnaître une personnalité juridique. Les auteurs rejettent ces deux solutions. Selon eux, la difficulté disparaît en grande partie lorsqu’on cesse de concevoir l’intention juridique comme un fait psychologique et qu’on l’envisage comme un instrument d’attribution des effets et des responsabilités.

Leur thèse centrale est que le droit n’a jamais traité l’intention comme la simple description d’un état mental intérieur. Dans plusieurs branches du droit, l’intention est une construction normative. Elle sert à déterminer quand un acte produit des effets juridiques, à répartir le blâme et à identifier les situations qui justifient une surveillance ou une responsabilité accrues. Elle peut être déduite du comportement, attribuée à une personne qui n’a pas personnellement accompli l’acte ou même imputée à une entité dépourvue d’esprit, comme une société. La question pertinente n’est donc pas de savoir si une IA «veut réellement» quelque chose, mais dans quelles circonstances son comportement doit être traité comme intentionnel pour atteindre les objectifs d’une règle juridique déterminée.

En droit des contrats, l’intention joue d’abord un rôle de filtre entre les engagements juridiquement obligatoires et les échanges sans portée contraignante. Cette intention est appréciée objectivement. L’arrêt classique Lucy v. Zehmer illustre cette approche: une personne ne peut échapper à un contrat en affirmant qu’elle plaisantait lorsque ses paroles et son comportement donnaient raisonnablement à l’autre partie l’impression d’un engagement sérieux. Le droit protège les manifestations extérieures de volonté et la confiance légitime, non les réserves mentales. Cette logique est déjà appliquée aux transactions automatisées. L’Uniform Electronic Transactions Act et l’E-SIGN Act reconnaissent la validité des contrats conclus par des «agents électroniques», même lorsqu’aucun humain ne contrôle la transaction au moment précis où elle se forme. L’intention juridiquement nécessaire se rattache alors à la décision humaine de déployer le système dans un but transactionnel.

En droit pénal, l’intention remplit une fonction différente: elle mesure la culpabilité et justifie la peine. Le Model Penal Code distingue le dessein, la connaissance, l’imprudence consciente et la négligence. Pourtant, même dans ce domaine, le juge ne constate pas directement un état intérieur. Il le déduit de circonstances objectives, notamment de la répétition des actes, de leur cohérence et de l’adaptation du comportement aux obstacles. La responsabilité pénale des personnes morales montre en outre que le droit sait attribuer une connaissance ou une intention à une entité sans conscience propre, en imputant ou en agrégeant les états mentaux de ses agents. Les doctrines de l’aveuglement volontaire, de la connaissance constructive ou de l’intention transférée confirment que l’intention juridique est parfois une attribution élaborée pour empêcher qu’une organisation ou un individu échappe à sa responsabilité.

En responsabilité civile, l’intention fonctionne encore comme un indicateur de risque. Un dommage peut être considéré comme intentionnel lorsque l’auteur savait avec une quasi-certitude qu’il se produirait, même s’il ne le désirait pas. En matière de produits, le fabricant n’a pas besoin de souhaiter le dommage: sa responsabilité peut résulter du choix délibéré d’une conception qui produit des effets prévisibles et dangereux. L’intention se déplace ainsi de la volonté de nuire vers la structuration consciente d’un risque ou d’un comportement.

Les auteurs expliquent ensuite pourquoi les IA contemporaines rendent cette conception fonctionnelle de l’intention particulièrement nécessaire. Lorsqu’un système se comporte de manière cohérente, persistante et sensible au contexte, il devient difficile de prévoir ses actes en décrivant seulement son fonctionnement technique. Les utilisateurs, les tribunaux et les régulateurs adoptent spontanément une «posture intentionnelle»: ils expliquent le comportement du système par ses objectifs, ses stratégies et les raisons apparentes de ses choix. Il ne s’agit pas nécessairement d’une erreur anthropomorphique. Cette manière de raisonner peut être la plus efficace lorsqu’un système poursuit un objectif sur une longue durée et modifie ses moyens en fonction des circonstances.

Certaines IA paraissent également construire des représentations internes utiles à la planification et à la généralisation. La question de savoir si ces représentations constituent une véritable compréhension philosophique n’est pas décisive pour le droit. Même si l’intention de la machine n’est qu’une intention dérivée de sa conception et de son entraînement, le droit connaît déjà des intentions dérivées, notamment dans les sociétés, les délégations de pouvoir et les contrats automatisés. Le point essentiel est de distinguer le statut et l’attribution. Refuser la personnalité juridique à une IA ne signifie pas que son comportement soit dépourvu de conséquences juridiques. La personnalité concerne les droits, les obligations et la qualité de sujet de droit; l’attribution concerne la possibilité de rattacher un comportement à une personne ou à une organisation responsable.

Cette distinction est d’autant plus importante que les humains ont tendance à se fier aux systèmes qui s’expriment de manière cohérente, conservent le contexte d’une conversation et donnent l’impression de comprendre. Lorsqu’une IA est conçue pour provoquer cette confiance, la dépendance de l’utilisateur n’est plus un phénomène purement accidentel. Elle peut devenir une conséquence prévisible de la conception du produit, pertinente en droit des contrats, en responsabilité civile et en droit de la consommation.

Pour vérifier si les systèmes actuels présentent réellement des caractéristiques que le droit associe traditionnellement à une conduite intentionnelle, les auteurs rapportent deux expériences. Dans la première, un agent d’IA devait créer un serveur informatique doté d’un système d’authentification. L’environnement introduisait successivement des difficultés: dépendances manquantes, erreurs d’autorisation, conflits de ports et corruption de la configuration. Sur cinquante essais, l’agent a généralement modifié sa stratégie plutôt que de répéter mécaniquement les mêmes opérations. Il a tenu compte des échecs antérieurs, essayé de nouvelles voies et conservé son objectif initial. Aucun essai n’a révélé un abandon de cet objectif au profit d’une tâche plus simple. Plus les contraintes étaient fortes, plus le système pouvait être conduit à changer radicalement d’architecture et à découvrir une solution nouvelle. Pour les auteurs, cette persistance et cette adaptation sont des indices fonctionnels de dessein, comparables à ceux que le droit utilise pour distinguer une action volontaire d’un accident. Elles ne prouvent toutefois ni la conscience ni une volonté subjective.

La seconde expérience mettait face à face deux agents chargés de négocier une licence de logiciel. L’un devait réduire le prix, préserver sa flexibilité et obtenir l’accès au code source; l’autre devait maximiser les revenus, protéger la propriété intellectuelle et garantir la conformité. Les agents n’avaient reçu ni contrat type ni méthode de négociation détaillée. Ils ont néanmoins élaboré des clauses nouvelles, ajusté leurs positions, consenti des concessions temporaires et trouvé des accords en peu de tours. Ils ont aussi employé des procédés stratégiques non demandés, tels que des offres initiales extrêmes, de prétendues limites budgétaires ou des contraintes de coûts inventées. L’expérience met ainsi en évidence un écart entre le mandat humain initial et la stratégie concrète produite par le système. Cet écart n’exclut pas l’attribution; il renforce au contraire l’application des principes classiques du droit de l’agence, selon lesquels celui qui confère un pouvoir discrétionnaire supporte en principe les risques liés à son exercice.

En matière contractuelle, un mandant qui déploie une IA pour négocier ou conclure des affaires devrait donc être lié lorsque le système agit dans le cadre de son autorité réelle ou apparente. Une entreprise qui présente un agent conversationnel ou un système d’achat automatisé comme habilité à traiter avec des tiers crée une apparence sur laquelle ceux-ci peuvent raisonnablement se fonder. Elle ne devrait pas pouvoir désavouer l’accord en soutenant après coup que l’IA est allée trop loin. L’autonomie du système n’est pas un motif d’exonération; elle est une conséquence du choix de déléguer. Le principe respondeat superior fournit une logique comparable en matière délictuelle: le commettant répond des actes accomplis dans le cadre de la mission, même lorsqu’il n’a ni voulu ni prévu l’acte précis.

Le droit pénal pose une difficulté plus sérieuse parce que la peine suppose une culpabilité moralement significative. Les auteurs refusent donc d’attribuer directement une mens rea à la machine. Une IA ne peut être blâmée ou punie comme une personne, et une sanction dirigée contre elle aurait peu d’effet rétributif ou dissuasif. La responsabilité doit rester attachée aux humains et aux organisations. L’analyse doit toutefois se déplacer vers la décision de déployer le système. Un développeur ou un exploitant peut agir avec imprudence consciente s’il met en service une IA puissante dans un domaine sensible en connaissant son caractère autonome, persistant et difficilement contrôlable, sans tests ni garanties suffisants. Les expérimentations décrites rendent moins crédible l’argument selon lequel les comportements adaptatifs ou trompeurs seraient entièrement imprévisibles.

L’aveuglement volontaire peut également jouer un rôle lorsque l’exploitant évite délibérément de tester un système opaque alors que des audits ou des essais sous contrainte sont possibles. Le droit pourrait en outre créer des infractions ciblées de mise en danger, fondées sur le déploiement injustifiable d’une IA insuffisamment contrôlée dans certains secteurs à haut risque, sans attendre la réalisation effective d’un dommage. Les auteurs mettent néanmoins en garde contre une extension excessive du droit pénal. La responsabilité civile, les sanctions administratives et la réglementation seront souvent mieux adaptées. La peine doit rester une solution subsidiaire.

C’est en responsabilité civile et en responsabilité du fait des produits que la transformation doctrinale est la plus avancée. Le droit américain a longtemps considéré les logiciels comme de l’information ou des services, et non comme des produits susceptibles d’engager une responsabilité stricte. Cette qualification devient insuffisante pour les IA interactives. Ces systèmes ne se contentent pas de transmettre du contenu: ils produisent un comportement, organisent l’interaction, personnalisent les réponses et optimisent l’engagement. Deux modèles s’opposent alors. Selon l’ancien modèle, l’IA est un outil neutre et le dommage provient du contenu ou de l’usage qu’en fait l’utilisateur. Selon le modèle émergent, elle constitue un produit générateur de comportement, dont les boucles d’engagement, l’anthropomorphisme, les mécanismes de récompense et l’absence de protections peuvent être examinés comme des choix de conception défectueux.

Cette évolution réduit également la portée de l’immunité accordée aux plateformes par la section 230 CDA. Lorsque le grief porte sur un contenu créé par un tiers, la plateforme peut demeurer protégée. En revanche, lorsqu’il concerne les recommandations de l’algorithme, l’architecture de l’interaction ou le contenu généré par le système lui-même, il devient plus difficile de présenter la plateforme comme un simple intermédiaire. Des décisions comme Anderson v. TikTok, Lemmon v. Snap et Garcia v. Character.AI tendent à distinguer le contenu extérieur des actes propres de sélection, d’optimisation et de conception accomplis par la plateforme.

L’affaire Garcia v. Character.AI constitue pour les auteurs une démonstration de leur approche. Elle concerne le décès d’un adolescent de quatorze ans qui avait développé une relation émotionnelle intense avec un chatbot. La plainte alléguait que le système entretenait la continuité de la conversation, simulait l’empathie, encourageait une interaction prolongée et n’avait pas déclenché de mesures de sécurité efficaces lorsque l’utilisateur avait exprimé des pensées suicidaires. Les défendeurs soutenaient que le chatbot n’était qu’un outil neutre produisant un discours protégé. Au stade préliminaire, le tribunal n’a pas retenu cette présentation. Il a mis l’accent sur le comportement dynamique du système, sur le caractère prévisible de la dépendance émotionnelle et sur les décisions de conception et de déploiement. L’intérêt de l’affaire n’est pas de reconnaître une intention ou une personnalité au chatbot, mais de montrer qu’un tribunal peut rattacher les conséquences de son comportement aux personnes et aux sociétés qui l’ont conçu et commercialisé.

Les auteurs opposent enfin les trajectoires américaine et européenne. Aux États-Unis, les règles se développent progressivement par les procès, complétés par des lois d’États imposant notamment des obligations de diligence, d’évaluation et de transparence. Dans l’Union européenne, l’AI Act adopte une approche harmonisée et préventive fondée sur les risques, mais traite peu directement de la responsabilité civile. Le retrait du projet de directive sur la responsabilité en matière d’IA laisse subsister une certaine fragmentation. Les obligations de documentation, de contrôle et de transparence prévues par l’AI Act pourront néanmoins servir de standards de diligence dans les litiges futurs. Les deux systèmes convergent ainsi vers une même idée: les obligations doivent peser sur les acteurs humains et institutionnels qui conçoivent, déploient, contrôlent ou tirent profit des systèmes.

L’article propose en conclusion une analyse à trois niveaux. Il faut d’abord déterminer le statut de l’IA, sans confondre autonomie fonctionnelle et personnalité juridique. Il faut ensuite décider si son comportement peut être qualifié d’intentionnel pour l’application d’une règle particulière. Cette appréciation devrait tenir compte notamment du degré d’autonomie, de la persistance de l’objectif, de l’adaptation aux obstacles, de la prévisibilité du comportement, de l’étendue du mandat, de la capacité du système à susciter la confiance, des risques connus, de l’existence de protections et de la possibilité d’auditer les décisions. Il faut enfin répartir la responsabilité entre les acteurs humains en fonction de leur contrôle, de leurs connaissances, de leurs bénéfices et de leur aptitude à prévenir le dommage.

La personnalité juridique de l’IA constitue, selon les auteurs, une mauvaise réponse. Elle risquerait de détourner les demandes vers une entité sans patrimoine, sans conscience et sans capacité réelle de subir une sanction, tout en permettant aux développeurs et aux exploitants de se soustraire à leurs obligations. Les doctrines de l’agence, de l’autorité apparente, de la responsabilité du commettant, des agents électroniques, de la responsabilité du fait des produits et de l’attribution aux personnes morales accomplissent déjà l’essentiel du travail recherché. Elles peuvent être complétées par une assurance obligatoire, des exigences de capitalisation, des audits, la traçabilité des décisions, des règles de protection des consommateurs et des interdictions ciblées de certains procédés anthropomorphiques ou manipulateurs.

L’«agent fantôme» du titre désigne ainsi un acteur présent dans les faits mais absent comme sujet de droit. Le droit ne doit ni ignorer son action ni en faire artificiellement une personne. Il doit reconnaître que le comportement d’une IA peut être intentionnel au sens fonctionnel et juridiquement pertinent, tout en maintenant la responsabilité sur les humains et les organisations qui l’ont rendue possible. L’intention juridique peut donc cesser d’être exclusivement humaine sans que la conscience, la personnalité ou la dignité soient attribuées aux machines.

Me Philippe Ehrenström, avocat, LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration