A propos de Anna Moraiti, The Recognition of Legal Personhood for Autonomous AI Systems, in : Herwig C.H. Hofman/Elif Biber/Zahra Yusigli (éds), AI in European Law, Baden-Baden, Nomos, 2026, pp. 135-157 (Luxembourg Legal Studies) :

L’article d’Anna Moraiti examine la question de savoir si certains systèmes d’intelligence artificielle autonomes pourraient recevoir une personnalité juridique et, surtout, devenir des sujets de responsabilité pénale.

Le point de départ est le problème classique de l’imputation. Plus les systèmes d’IA deviennent complexes, autonomes et opaques, plus il peut être difficile de relier un dommage à une action ou à une omission déterminée d’un concepteur, d’un fabricant, d’un exploitant ou d’un utilisateur. D’où l’idée, défendue par certains auteurs, de considérer l’IA elle-même comme un sujet de droit pénal. Moraiti soutient cependant que le parallèle souvent établi avec la responsabilité pénale des personnes morales est trompeur. L’autonomie technique ne suffit pas à fonder la responsabilité pénale, qui suppose une aptitude beaucoup plus exigeante à comprendre le bien et le mal, à réfléchir sur les raisons d’agir et à pouvoir choisir autrement.

L’auteure commence par préciser les notions utilisées. Il n’existe pas de définition universelle de l’IA. Elle s’intéresse principalement aux systèmes fondés sur l’apprentissage automatique, capables d’identifier des régularités dans de grandes quantités de données et d’adapter leur fonctionnement en fonction de l’expérience acquise. Leur autonomie doit être conçue comme une question de degré : elle dépend notamment de leur capacité d’adaptation, d’apprentissage, d’action sans intervention humaine et de substitution à l’être humain.

Moraiti distingue également l’IA « forte », encore hypothétique et comparable à une intelligence générale humaine ou supérieure, de l’IA « faible » ou spécialisée qui existe aujourd’hui. Son analyse concerne cette seconde catégorie, notamment les systèmes robotiques susceptibles d’agir dans le monde physique et de porter atteinte à la vie ou à l’intégrité corporelle, tels que véhicules autonomes, robots de soins ou robots humanoïdes.

La première thèse discutée est celle de la responsabilité pénale directe de l’IA. Des robots peuvent provoquer des dommages graves : accident industriel, violences commises par un robot policier ou pénitentiaire, erreur d’un robot de soins ayant des conséquences mortelles. La question devient alors de savoir si un système qui évalue plusieurs options et choisit celle qui maximise un objectif peut être lui-même puni lorsque ce choix viole la loi. Le principal défenseur de cette approche est Gabriel Hallevy. Selon lui, il serait possible d’ajouter les « machines pensantes délinquantes » aux deux catégories traditionnelles de sujets pénaux que sont les personnes physiques et les personnes morales. Il estime que les catégories existantes du droit pénal pourraient déjà s’appliquer à certaines IA spécialisées.

Hallevy adopte notamment une conception très large de l’acte pénalement pertinent : un mouvement matériel dans le monde extérieur pourrait constituer un acte, qu’il procède de l’autonomie de la machine ou de l’intervention d’un opérateur. Une omission serait également concevable si une obligation d’agir était imposée au système. Pour l’élément subjectif, il considère que les capteurs d’une IA lui permettent de percevoir son environnement, d’effectuer des évaluations et d’adopter un comportement orienté vers un but ; ces opérations pourraient constituer un équivalent artificiel de l’intention. De même, une machine pourrait, selon lui, prendre un risque déraisonnable et donc adopter un comportement analogue à la négligence humaine. L’apprentissage automatique serait par ailleurs comparable à l’expérience par laquelle les personnes intériorisent progressivement certaines règles. Quant à la peine, Hallevy reconnaît qu’une IA ne peut ni souffrir ni être intimidée. La rétribution et la dissuasion seraient donc largement privées d’objet. En revanche, la réhabilitation pourrait consister à modifier le système pour améliorer ses décisions et l’incapacitation à empêcher qu’il cause de nouveaux dommages.

Moraiti critique cette construction. Elle considère notamment que Hallevy rapproche trop rapidement l’apprentissage statistique de l’intelligence humaine. Les humains ne se contentent pas de tirer des régularités de l’expérience : ils peuvent comprendre des concepts généraux et des principes abstraits puis les appliquer à des situations concrètes différentes. Cette distinction devient fondamentale lorsque l’on compare l’IA à la personne morale.

Le premier problème du parallèle avec les sociétés est le risque d’une imputation vide. Certes, le droit pourrait techniquement créer une « personnalité électronique », éventuellement en imputant à l’IA les états mentaux de ses concepteurs ou utilisateurs, comme certains systèmes imputent les actes et intentions des employés à une société. Mais la personne morale est constituée d’êtres humains. Lorsqu’une sanction frappe une entreprise, elle touche indirectement les personnes qui en sont membres, la dirigent ou bénéficient de son activité. Selon la conception agrégative de la personne morale, la société représente une organisation stable d’individus dont les comportements et interactions forment une collectivité. Rien de véritablement comparable n’existe pour une IA. Un système artificiel n’est pas la personnification d’un groupe organisé de personnes : il résulte souvent de la coopération diffuse de sociétés, programmeurs, fournisseurs et utilisateurs différents.

La difficulté dite des « nombreuses mains » est ainsi plus grande encore avec l’IA qu’avec l’entreprise. Attribuer la responsabilité pénale au système lui-même pourrait même produire un résultat pervers : les personnes qui ont conçu, contrôlé ou exploité le système pourraient se protéger derrière la responsabilité de la machine. L’innovation destinée à combler un déficit de responsabilité risquerait donc de créer un nouvel écran entre le dommage et les responsables humains.

Le deuxième problème est plus fondamental : reconnaître une responsabilité pénale à l’IA pourrait transformer la nature même du droit pénal. Pour Moraiti, la personne pénalement responsable n’est pas simplement une entité dont le comportement peut être causalement relié à un dommage. Elle doit être capable de comprendre le caractère illicite de son comportement, la portée de la règle pénale et les raisons qui justifient celle-ci. Les systèmes actuels peuvent disposer d’informations sur leur environnement ou leur propre fonctionnement, mais ils ne possèdent pas les capacités de réflexion et de contrôle nécessaires pour comprendre la signification normative de la transgression. De plus, leurs comportements résultent à la fois de choix de programmation et des évolutions issues de l’apprentissage automatique ; ils ne constituent donc pas davantage une véritable collectivité comparable à une personne morale.

Les partisans de la responsabilité pénale de l’IA invoquent essentiellement deux objectifs. Le premier est pratique : personnifier les systèmes faciliterait leur intégration dans la société et permettrait de répondre aux inquiétudes suscitées par leurs comportements imprévisibles. Le second est la volonté de garantir qu’un responsable puisse toujours être désigné, même lorsque les preuves ne permettent pas d’identifier une personne humaine coupable. Ces préoccupations sont légitimes, mais elles ne justifient pas, selon Moraiti, de sacrifier le principe de culpabilité. Le risque serait de transformer le droit pénal en simple instrument de gestion des risques, de conformité ou d’indemnisation. Or le droit pénal, parce qu’il constitue la forme la plus forte de coercition étatique, doit simultanément protéger les intérêts fondamentaux des individus et les protéger contre l’arbitraire de l’État. Son adaptation aux nouvelles technologies est nécessaire, mais elle ne devrait pas faire disparaître ses catégories essentielles.

L’auteure examine ensuite l’intelligence et la moralité des systèmes d’IA. Une IA peut indéniablement produire des effets ayant une signification morale. Une intelligence artificielle consciente, capable de rationalité, d’intention et de communication, pourrait un jour poser la question de la personnalité sous un angle différent. Mais cette hypothèse relève encore de l’AGI. Les systèmes actuels travaillent principalement à partir de probabilités et de corrélations. Ils peuvent accomplir des tâches extraordinairement complexes, mais ils ne comprennent pas littéralement la signification des données qu’ils manipulent. Leur intelligence peut néanmoins être reconnue dans un sens fonctionnel : ils sont capables d’adopter des comportements orientés vers un objectif et de s’adapter à certaines situations nouvelles. Ce niveau d’intelligence reste cependant inférieur à celui qu’exige la responsabilité pénale, qui suppose de pouvoir agir en réponse à de « bonnes » ou de « mauvaises » raisons.

Moraiti se tourne alors vers le droit civil, où la situation est différente. La personnalité juridique n’a pas nécessairement le même contenu dans toutes les branches du droit. Selon la « bundle theory » développée notamment par Visa Kurki, la personnalité juridique n’est pas un statut indivisible mais un ensemble de droits, pouvoirs, protections et obligations susceptibles d’être attribués séparément. Une entité peut ainsi bénéficier de certains attributs de la personnalité sans les posséder tous. Les attributs passifs comprennent par exemple la capacité de posséder des biens, d’être juridiquement lésé ou de faire valoir certains droits. Les attributs actifs comprennent notamment la capacité de contracter et de supporter certaines obligations.

Dans cette perspective, une personnalité civile limitée pourrait être attribuée à certaines IA non parce que les machines mériteraient une reconnaissance morale, mais parce que cette technique faciliterait une répartition efficace et équitable des risques. Une personnalité complète serait en revanche excessive, car elle impliquerait notamment que l’IA puisse posséder et administrer librement ses propres ressources. L’enjeu devient donc de déterminer précisément quels attributs juridiques doivent être conférés à quels types de systèmes.

Pour affiner cette approche, Moraiti reprend la typologie proposée par Anna Beckers et Günther Teubner. Ils distinguent d’abord les systèmes individuels, dans lesquels le risque provient de la décision autonome d’un programme déterminé ; ensuite les « hybrides numériques », dans lesquels humains et machines collaborent si étroitement qu’il devient impossible de séparer leurs contributions ; enfin les systèmes collectifs interconnectés, composés de multiples agents artificiels dont les interactions produisent des résultats systémiques imprévisibles. Cette classification permet d’adapter la responsabilité au type de risque plutôt que de créer un régime particulier pour chaque application de l’IA.

Pour les agents individuels utilisés, par exemple, afin de conclure des contrats au nom d’une personne, une personnalité limitée et un régime proche de la responsabilité du fait d’autrui peuvent permettre d’imputer les risques au principal. Pour les hybrides humain-machine, une capacité juridique distincte pourrait être reconnue à l’ensemble fonctionnel, tout en répartissant finalement la responsabilité entre les personnes qui contrôlent l’activité ou en bénéficient — opérateurs, propriétaires, fabricants ou fournisseurs. La victime aurait alors seulement à démontrer que le dommage provient du système hybride.

Pour les réseaux composés de multiples IA, en revanche, Beckers et Teubner écartent la personnalité juridique. Leur fonctionnement collectif ne permet plus d’identifier véritablement une décision, un acteur ou même un objectif commun. Lorsque causalité et prévisibilité deviennent pratiquement impossibles à établir, la réponse la plus appropriée pourrait être un mécanisme de mutualisation du risque, sous la forme de fonds sectoriels destinés à indemniser les victimes. Moraiti rapproche cette idée des mécanismes employés pour certains risques environnementaux ou financiers, tout en envisageant ces fonds comme une solution subsidiaire, notamment lorsque l’assurance privée ne couvre pas le dommage.

La conclusion est donc nuancée. L’analogie entre sociétés et IA peut paraître séduisante parce que les unes et les autres sont des structures puissantes, opaques et capables d’exercer d’importantes fonctions décisionnelles. Mais elle ne justifie pas la reconnaissance d’une responsabilité pénale des IA actuelles. Celles-ci ne sont ni des personnes humaines capables de comprendre la norme ni de véritables collectivités comparables aux personnes morales. Une personnalité civile fonctionnelle et limitée est en revanche concevable lorsqu’elle sert concrètement à répartir les risques et à faciliter l’indemnisation. Chaque branche du droit doit ainsi définir la personnalité de l’IA en fonction de ses propres finalités. Si une véritable intelligence générale dotée d’une capacité de réflexion et d’une autonomie morale devait un jour apparaître, l’analyse pourrait devoir être revue ; mais, pour Moraiti, cette question est aujourd’hui d’abord technologique avant d’être juridique.

Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et Intelligence artificielle, CAS en Protection des données – Entreprise et administration