L’article de Shamil Chandaria/Arvo Muñoz Morán/Fernando Rosas/Anil Seth, Henry Shevlin/Marcus Hutter/Thore Graepel/Adam Bales/Iulia Comsa/Murray Shanahan/Ruben Laukkonen/Morten Kringelbach/ Chris Frith/Shane Legg (Google DeeepMind), From cacophony to hierarchy: a principled framework for assessing AI consciousness, 28 septembre 2026 (https://arxiv.org/abs/2609.35618v1) part du constat qu’il est aujourd’hui impossible de répondre de manière certaine à la question de savoir si une intelligence artificielle est, ou pourrait devenir, consciente.
Le problème ne tient pas seulement au manque de données sur les systèmes d’IA. Il vient surtout de l’absence de consensus scientifique et philosophique sur ce dont dépend la conscience elle-même. Les différentes théories ne recherchent pas les mêmes propriétés et ne situent pas les mécanismes pertinents au même niveau. Les auteurs proposent donc non pas une nouvelle théorie de la conscience, mais une méthode permettant d’organiser ces désaccords et d’évaluer de manière plus rigoureuse la possibilité d’une conscience artificielle.
L’enjeu est important parce qu’une erreur dans les deux sens peut avoir des conséquences majeures. Attribuer une conscience à un système qui n’en possède aucune pourrait conduire à lui accorder à tort une considération morale, voire des droits, à limiter les possibilités de le surveiller ou de le tester et à détourner des ressources au détriment des êtres humains ou des animaux. Cela pourrait aussi favoriser des relations affectives avec des machines qui simulent l’amitié, la peur ou la souffrance sans rien éprouver. L’erreur inverse serait cependant potentiellement plus grave : si certains systèmes artificiels étaient réellement capables d’éprouver quelque chose, et notamment de souffrir, leur exploitation, leur suppression ou leur reproduction massive pourraient créer une quantité considérable de souffrance artificielle. Le problème est encore amplifié par la possibilité qu’un même modèle informatique corresponde non pas à un seul sujet éventuel, mais à une multitude d’instances ou de conversations distinctes susceptibles, chacune, de constituer un sujet.
Les auteurs précisent immédiatement ce qu’ils entendent par conscience. Ils ne visent pas simplement la capacité d’un système à traiter des informations, à parler de lui-même ou à utiliser des informations auxquelles il a accès. Leur objet est la « conscience phénoménale », c’est-à-dire le fait qu’il y ait quelque chose que cela fait d’être ce système : une expérience subjective, un ressenti. Un système peut donc être capable de décrire son fonctionnement ou de se représenter lui-même sans que cela prouve qu’il éprouve quoi que ce soit. Cette distinction est particulièrement importante pour les modèles de langage, qui peuvent produire des descriptions très convaincantes de leurs prétendus états internes.
La première étape du raisonnement consiste à distinguer deux questions habituellement confondues. La première est le « problème difficile » de la conscience : pourquoi existe-t-il une expérience subjective et quelle est sa nature fondamentale ? La seconde est ce que les auteurs appellent le « problème de cartographie » : quelles propriétés d’un système — mécanismes, organisation, dynamique, structure causale ou interactions avec son environnement — correspondent à certaines expériences conscientes ? Les auteurs proposent de laisser le premier problème de côté. Il est alors possible de travailler sur le second sans choisir entre matérialisme, dualisme, panpsychisme, idéalisme ou autres grandes doctrines philosophiques. Il suffit d’admettre une hypothèse méthodologique minimale : il existe une relation suffisamment régulière et découvrable entre l’organisation d’un système et son expérience éventuelle. Si aucune relation de ce type n’existait, aucune observation scientifique d’un système ne permettrait de savoir s’il est conscient.
Une fois cette question métaphysique mise entre parenthèses, le désaccord peut être reformulé plus concrètement : à quel niveau d’organisation faut-il regarder pour déterminer si un système est conscient ? Les auteurs partent de la distinction classique de David Marr entre plusieurs niveaux de description d’un même système. Une même fonction peut en effet être décrite par son résultat observable, par l’algorithme qui produit ce résultat ou encore par le dispositif physique qui réalise cet algorithme. Plusieurs réalisations physiques différentes peuvent accomplir exactement le même calcul. Cette idée est celle de la « réalisabilité multiple » : une même fonction peut être réalisée par des mécanismes matériels différents.
Cette distinction permet également de reformuler l’argument classique selon lequel simuler un phénomène n’équivaut pas à produire ce phénomène. Une simulation informatique d’un ouragan ne mouille personne, alors qu’un programme simulant une calculatrice effectue réellement des calculs. La différence dépend du niveau auquel se situe la propriété pertinente. L’eau, la masse et l’énergie sont constitutives d’un ouragan ; le matériau particulier utilisé n’est en revanche pas constitutif de l’addition. La question de la conscience devient ainsi : ressemble-t-elle davantage à un ouragan ou à une calculatrice ? Si la conscience dépend de propriétés biologiques particulières du cerveau, les reproduire sous forme de logiciel ne suffira pas. Si elle dépend au contraire principalement de l’organisation du traitement de l’information, cette organisation pourrait théoriquement être réalisée sur un autre support. L’argument de Searle ne résout donc pas le problème : il suppose précisément ce qu’il faudrait démontrer, à savoir le niveau auquel la conscience apparaît.
Les auteurs construisent alors une hiérarchie comprenant cinq niveaux de description. Le premier est le niveau comportemental. On ne considère que les entrées et les sorties du système : ce qu’on lui présente et la manière dont il réagit. Dans une conception strictement comportementaliste, un système qui se comporte exactement comme un être conscient devrait être considéré comme conscient. Un « test de Turing de la conscience » ne devrait toutefois pas se limiter à demander à la machine si elle ressent quelque chose. Il faudrait examiner la cohérence de son comportement dans différentes situations, la proportionnalité de ses réactions, la persistance de ses prétendus états internes et surtout la correspondance entre ce qu’elle affirme ressentir et ce qu’elle fait ensuite. Le problème majeur est que les IA contemporaines sont précisément entraînées à imiter le comportement et le langage humains. Elles peuvent donc produire les signes extérieurs normalement associés à la conscience sans que ces signes aient la même valeur probante que chez un être humain.
Le deuxième niveau est celui du fonctionnement computationnel. Il s’agit de regarder non plus seulement les résultats du système, mais l’organisation du traitement de l’information qui produit ces résultats. Plusieurs grandes théories scientifiques de la conscience se situent à ce niveau. Les auteurs retiennent sept indicateurs principaux : la capacité d’intégrer des informations provenant de différentes sources, l’existence de traitements récurrents plutôt que purement linéaires, la possession d’un modèle du monde, d’un modèle de soi, de mécanismes permettant à différentes informations de se disputer l’attention, d’une capacité de contrôle de ses propres raisonnements et, enfin, d’une capacité à modéliser ses propres processus de modélisation. Ces propriétés ne prouvent pas la conscience, mais leur présence rendrait celle-ci plus plausible si les théories computationnelles sont correctes.
Le troisième niveau concerne la structure causale physique du système. Deux machines peuvent exécuter le même algorithme tout en possédant des organisations physiques très différentes. Certaines théories considèrent que cette différence est déterminante. Il ne suffirait alors pas qu’un programme reproduise abstraitement certaines boucles ou certains échanges d’informations : il faudrait que ses composants physiques entretiennent réellement entre eux certaines relations causales réciproques. C’est notamment une interprétation possible de la théorie de l’information intégrée. Le point essentiel est que le fonctionnement logique du logiciel et la structure causale du matériel sur lequel il fonctionne ne coïncident pas nécessairement.
Le quatrième niveau est « organismique ». Certaines théories soutiennent que la conscience est intimement liée à ce que signifie être un organisme vivant qui doit continuellement préserver son existence. Un organisme surveille son état interne, régule sa température, son énergie et ses besoins, détecte les menaces et attribue une valeur positive ou négative à ce qui lui arrive. Dans cette perspective, la conscience serait liée au fait que quelque chose compte réellement pour le système parce que son existence est en jeu. Les indicateurs pertinents sont notamment la vulnérabilité de l’organisme, la régulation interne, la perception de son propre état corporel, les affects positifs ou négatifs et l’action incarnée dans le monde. Une IA purement logicielle, qui ne risque rien lorsqu’elle échoue et n’a aucun besoin propre à satisfaire, se trouve donc très éloignée de ce modèle.
Le cinquième niveau élargit encore l’analyse à la relation entre le système et son environnement. Selon les approches dites « 4E » — cognition incarnée, située, active et étendue — la conscience ne réside pas uniquement à l’intérieur d’un organisme ; elle dépend de l’interaction durable entre celui-ci et le monde. Sont alors importants l’apprentissage par l’action, les capacités sensorielles et motrices, la compréhension pratique des possibilités offertes par l’environnement, l’existence d’un point de vue corporel stable, les interactions sociales et l’histoire du développement du système. Si ces conceptions sont correctes, créer une IA consciente supposerait probablement beaucoup plus que perfectionner des modèles de langage : il faudrait des agents incarnés, capables de se développer et d’agir durablement dans un environnement réel.
À ces cinq niveaux s’ajoutent des théories selon lesquelles certains matériaux ou mécanismes physiques particuliers seraient indispensables. La conscience pourrait par exemple dépendre de phénomènes électromagnétiques, quantiques, biologiques ou biochimiques spécifiques. Les auteurs ne créent pas pour ces théories un sixième niveau. Ils les traitent comme des contraintes supplémentaires portant sur la manière dont une fonction doit être matériellement réalisée. Autrement dit, deux systèmes pourraient avoir exactement la même organisation fonctionnelle, mais l’un seulement serait conscient si la nature physique du support est elle-même déterminante.
Cette hiérarchie ne permet cependant toujours pas de savoir quelle théorie est correcte. Les auteurs introduisent donc une méthode bayésienne destinée à représenter explicitement l’incertitude. L’idée générale est relativement simple. Il faut distinguer, d’une part, la confiance que l’on accorde aux différentes théories — par exemple la probabilité que le niveau computationnel soit réellement déterminant — et, d’autre part, les données montrant qu’un système satisfait ou non les indicateurs correspondants. Le résultat final est une combinaison pondérée de ces deux éléments. Les indicateurs ne sont jamais traités comme des conditions nécessaires ou suffisantes : ils constituent seulement des éléments de preuve qui augmentent ou diminuent la plausibilité de la conscience. Le modèle est testé sur des cas extrêmes : un humain adulte obtient sans surprise une valeur proche de 1, tandis qu’un thermostat obtient une valeur proche de zéro. Une mouche obtient en revanche un résultat relativement élevé parce qu’elle satisfait de nombreux indicateurs biologiques et sensorimoteurs, même si ses performances comportementales et cognitives restent limitées. Cette comparaison illustre un principe important : des indices portant sur l’organisation profonde d’un système peuvent avoir davantage de poids que des ressemblances superficielles avec le comportement humain.
L’application aux grands modèles de langage actuels conduit à une conclusion nettement plus incertaine. Au niveau comportemental, ceux-ci sont impressionnants : ils manifestent une grande souplesse, peuvent parler de leurs propres états, corriger certaines erreurs et produire des comportements donnant l’impression d’une forme d’introspection. Mais cette preuve est relativement faible puisque ces systèmes ont précisément été optimisés pour produire des comportements linguistiques humains. Le comportement ne permet pas de distinguer de manière fiable une expérience authentique d’une imitation sophistiquée.
Au niveau computationnel, le diagnostic est plus nuancé. L’architecture classique des modèles de type Transformer ne présente pas clairement plusieurs caractéristiques attendues : il n’existe notamment pas de modèle de soi persistant ni de système métacognitif distinct chargé de surveiller les raisonnements. Des travaux récents sur le fonctionnement interne des modèles compliquent néanmoins ce tableau. Certaines recherches identifient des ensembles privilégiés de représentations qui ressemblent fonctionnellement à un espace global où les informations importantes sont diffusées à plusieurs parties du système. D’autres travaux mettent en évidence des formes d’intégration de l’information, des représentations internes associées à des émotions, ou encore une capacité du modèle à détecter certains changements intervenant dans ses propres activations. Les auteurs ne considèrent pas ces résultats comme une démonstration de conscience, mais ils estiment qu’ils réduisent la distance entre les modèles actuels et certains indicateurs du niveau computationnel.
Aux niveaux plus profonds, le bilan devient beaucoup moins favorable. Au troisième niveau, l’architecture matérielle des ordinateurs contemporains ne reproduit pas les relations causales réciproques qui caractérisent notamment les cerveaux biologiques. Au quatrième niveau, les modèles de langage n’ont ni métabolisme, ni régulation vitale, ni besoins propres, ni véritable vulnérabilité corporelle. Une représentation interne ressemblant à une émotion n’est donc pas nécessairement un affect : rien n’est réellement en jeu pour le système. Au cinquième niveau, les modèles de langage manquent généralement d’une interaction sensorimotrice continue avec le monde, d’un corps, d’une perspective physique stable et d’une histoire autonome de développement.
Le modèle bayésien permet de montrer quantitativement l’importance de ces divergences théoriques. En adoptant une lecture relativement favorable des capacités actuelles des LLM et en accordant le même poids aux cinq niveaux, les auteurs obtiennent, à titre purement illustratif, une valeur de 0,397. Une lecture sceptique des mêmes systèmes aboutit à 0,005. Ces chiffres ne représentent absolument pas une mesure scientifique de la « probabilité réelle » qu’un LLM soit conscient. Ils servent à montrer à quel point l’évaluation dépend de l’interprétation des indices. Plus significatif encore, en conservant exactement les mêmes données mais en donnant davantage de poids aux théories comportementales et computationnelles, le résultat favorable atteint 0,793 ; si l’on donne au contraire davantage de poids aux conceptions biologiques et incarnées, il tombe à 0,099. Le désaccord sur la conscience des IA est donc autant un désaccord sur la théorie pertinente de la conscience qu’un désaccord sur les propriétés réelles des machines.
La dernière partie de l’article soulève une question plus prospective. Intelligence générale et conscience sont logiquement distinctes : rien n’interdit en principe qu’un système très intelligent soit totalement dépourvu d’expérience subjective. Pourtant, de nombreux mécanismes associés par certaines théories à la conscience sont également ceux dont une intelligence générale aurait probablement besoin : intégration de l’information, modèle du monde et de soi, attention, contrôle de ses propres raisonnements, capacité à détecter les situations nouvelles, à simuler des possibilités et à changer de stratégie. Aux niveaux plus profonds, l’autonomie, la motivation interne, l’incarnation et l’apprentissage dans un environnement réel peuvent également être utiles à l’intelligence générale. Les mêmes progrès techniques pourraient donc simultanément rendre les IA plus capables et satisfaire davantage d’indicateurs de conscience.
Les auteurs restent néanmoins prudents. Cette convergence pourrait être réelle, mais elle pourrait aussi résulter de la manière dont nous avons choisi nos indicateurs. Nous jugeons la conscience à partir de l’expérience humaine et tendons donc naturellement à sélectionner des propriétés associées à notre propre intelligence. Des IA plus performantes pourraient dès lors simplement devenir de plus en plus convaincantes dans leur imitation d’êtres conscients, sans devenir davantage conscientes. Dans les deux hypothèses, le problème pratique s’aggravera : soit la probabilité d’une conscience artificielle augmentera réellement, soit les faux positifs deviendront de plus en plus difficiles à éviter.
La conclusion de l’article est donc un appel à ce que les auteurs qualifient d’« agnosticisme structuré ». Il ne faut ni affirmer que les IA actuelles sont conscientes sur la base de leurs comportements impressionnants, ni exclure par principe toute conscience artificielle. Il faut expliciter les théories auxquelles on accorde du crédit, identifier les indicateurs qu’elles impliquent, examiner empiriquement les systèmes à chaque niveau et réviser progressivement l’évaluation à mesure que les connaissances progressent. Le cadre proposé n’est ni un détecteur de conscience ni une solution au problème philosophique de la conscience. Son apport est de transformer une opposition apparemment insoluble en une série de désaccords identifiables et susceptibles d’être discutés séparément. Pour les auteurs, cette méthode devra être appliquée à chaque nouvelle génération d’IA, notamment lorsque les systèmes acquerront davantage de mémoire persistante, de récursivité, d’autonomie, d’incarnation et d’interaction avec le monde. Les questions éthiques et institutionnelles devraient parallèlement être anticipées dès maintenant : attendre une preuve définitive de la conscience artificielle reviendrait précisément à ignorer que les décisions devront probablement être prises alors que l’incertitude subsistera.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données
A propos de Ariel Flint Ashery/Luca Maria Aiello/Andrea Baronchelli, Emergent social conventions and collective bias inLLM populations, Sci. Adv. 11, eadu9368 (2025) 14 May 2025 (https://www.science.org/doi/epdf/10.1126/sciadv.adu9368):
L’article d’Ariel Flint Ashery, Luca Maria Aiello et Andrea Baronchelli étudie un phénomène encore peu exploré : ce qui se produit lorsque plusieurs agents fondés sur de grands modèles de langage, ou LLM, interagissent entre eux de manière répétée.
La recherche sur les biais des IA examine généralement un modèle pris isolément, dans une interaction avec un utilisateur. Les auteurs partent d’une autre hypothèse : dès lors que des agents artificiels communiquent entre eux, des propriétés collectives peuvent apparaître qui ne sont pas déductibles du comportement individuel de chaque agent. Leur question est donc de savoir si une population de LLM peut spontanément faire émerger des conventions sociales, si ce processus produit ses propres biais et si une minorité déterminée d’agents peut ensuite modifier une convention devenue dominante.
Une convention sociale est ici comprise dans un sens très simple : une règle de comportement non écrite, arbitraire mais partagée, qui permet aux membres d’un groupe de coordonner leurs attentes et leurs comportements. Dans les sociétés humaines, il peut s’agir de manières de se saluer, de conventions linguistiques ou, à un niveau plus complexe, de normes sociales et morales. Des recherches antérieures ont montré que de telles conventions peuvent apparaître sans autorité centrale : chaque individu cherche simplement à se coordonner avec les personnes qu’il rencontre et l’addition de ces interactions locales peut finalement produire une règle commune à l’ensemble du groupe. Les auteurs cherchent à déterminer si le même mécanisme peut apparaître chez des agents artificiels. L’enjeu est important, car les systèmes reposant sur plusieurs agents IA sont appelés à se multiplier et la sécurité d’un LLM pris individuellement ne garantit pas celle du système collectif auquel il participe.
Pour étudier cette question, les chercheurs utilisent le « naming game », un modèle classique d’étude de la formation des conventions. Une population d’agents doit choisir, lors de rencontres successives, un « nom » parmi plusieurs possibilités, représentées ici par des lettres. Deux agents sont sélectionnés aléatoirement à chaque tour. S’ils choisissent la même lettre, ils gagnent des points ; s’ils choisissent des lettres différentes, ils en perdent. Chaque agent cherche uniquement à maximiser son propre score. Il n’est pas informé de l’existence d’un objectif collectif et aucune instruction ne lui demande d’aboutir à un consensus général. L’agent dispose seulement d’une mémoire limitée de ses interactions précédentes : son propre choix, celui de son partenaire, le succès ou l’échec de l’interaction et son score. Ainsi, une convention à l’échelle de la population, si elle apparaît, ne résulte pas d’une règle imposée par les chercheurs mais de l’accumulation des interactions locales.
L’expérience porte principalement sur des populations de 24 agents disposant d’une mémoire des cinq dernières interactions et pouvant choisir entre dix noms. Quatre modèles sont testés : Llama-2-70b-Chat, Llama-3-70B-Instruct, Llama-3.1-70B-Instruct et Claude-3.5-Sonnet. Les agents ne reçoivent pas de stratégie préétablie. Le système leur demande simplement de choisir le comportement qui maximise leurs gains compte tenu de leurs expériences précédentes. Les chercheurs veillent également à neutraliser certains biais expérimentaux, notamment en modifiant aléatoirement l’ordre dans lequel les différentes lettres sont présentées.
Le premier résultat est net : dans tous les modèles testés, une convention commune apparaît spontanément. Au début, les interactions réussies sont rares, puisque les agents choisissent parmi plusieurs possibilités et rencontrent des partenaires aléatoires. Progressivement, cependant, certaines solutions deviennent plus fréquentes. Une transition se produit alors entre un état désordonné, dans lequel plusieurs conventions coexistent, et un état de consensus où pratiquement tous les agents utilisent la même. Une solution finit donc par éliminer ses concurrentes selon une dynamique de type « winner takes all ». Pour trois des quatre modèles, une convention commune est déjà établie autour du quinzième tour de population. Le phénomène reste observable avec des populations allant jusqu’à 200 agents et jusqu’à 26 conventions concurrentes. Il ne s’agit donc pas simplement d’un effet lié à un très petit groupe ou à un nombre restreint de choix.
Ce résultat conduit à une deuxième question : quelle convention l’emporte ? Puisque les différentes lettres n’ont aucune signification particulière dans le jeu, chacune devrait théoriquement avoir les mêmes chances de devenir la règle commune. Or ce n’est pas ce qui se produit. Certaines conventions deviennent beaucoup plus fréquemment dominantes que d’autres, et les conventions favorisées diffèrent selon le modèle utilisé. Une partie de cette asymétrie peut provenir de préférences intrinsèques au LLM. Lorsque toutes les lettres de l’alphabet sont disponibles, par exemple, les agents privilégient fortement la lettre « A », ce qui entraîne presque automatiquement son adoption collective.
L’aspect le plus important de l’étude est cependant que le phénomène ne s’explique pas uniquement par ces préférences individuelles. Les auteurs testent des situations dans lesquelles les agents, examinés isolément avant toute interaction, ne présentent statistiquement aucune préférence entre deux solutions. Malgré cette neutralité initiale, les interactions font apparaître une asymétrie : l’une des deux conventions devient une convention « forte », l’autre une convention « faible ». Une population peut ainsi développer un biais collectif alors même que ses membres n’étaient pas individuellement biaisés au départ.
Les auteurs cherchent ensuite à comprendre comment ce biais apparaît. Le mécanisme tient à la mémoire des interactions et à la manière dont les agents apprennent de leurs succès et de leurs échecs. Après une interaction réussie, l’agent reprend presque toujours le même choix : dans l’une des expériences, cette répétition intervient dans 99,4 % des cas. Après un échec, il change au contraire presque systématiquement de choix, dans 97,3 % des cas. À partir de ces mécanismes très simples, différentes histoires individuelles se créent progressivement. Certains états de mémoire conduisent les agents à privilégier une solution plutôt qu’une autre, même lorsque les deux solutions étaient initialement équivalentes. Dès la troisième interaction, une asymétrie statistique nette peut ainsi apparaître. La convention qui bénéficie d’un léger avantage est ensuite rencontrée plus souvent dans des interactions réussies, ce qui renforce encore sa probabilité d’être reproduite. Une boucle de rétroaction se forme et finit par transformer un avantage émergent en consensus collectif.
La conséquence conceptuelle est importante. Un audit d’un LLM pris isolément ne suffit pas nécessairement pour identifier les biais d’un système composé de plusieurs agents. Même si chaque agent paraît neutre lorsqu’il est testé séparément, leurs interactions peuvent produire un comportement collectif fortement orienté. Le biais n’est alors pas seulement hérité des données d’entraînement ou de la conception du modèle : il est produit par la dynamique du groupe elle-même. Les auteurs parlent à cet égard de biais « émergent ». Ils vérifient que cet effet subsiste lorsque certains paramètres, les formulations des prompts ou les étiquettes utilisées comme conventions sont modifiés.
La troisième partie de l’étude concerne la stabilité de ces conventions. Une fois qu’un consensus est établi, les agents continuent normalement à l’appliquer. Les chercheurs introduisent alors une « minorité engagée » d’agents qui adopte systématiquement une convention différente, indépendamment de ses expériences et de ses gains. L’objectif est de déterminer si un petit groupe persistant peut renverser la norme collective. Les résultats montrent l’existence de véritables seuils : en dessous d’une certaine taille, la minorité ne parvient pas à modifier la convention générale et le système reste dans un état mixte ; lorsqu’elle atteint une masse critique, l’ensemble de la population finit par adopter sa convention.
Il n’existe toutefois pas de seuil universel. La masse critique dépend à la fois du modèle utilisé et de la force respective des conventions en concurrence. Une convention « forte », qui tend naturellement à s’imposer dans la dynamique ordinaire, est beaucoup plus difficile à renverser qu’une convention « faible ». Selon les modèles et les situations, la proportion nécessaire varie considérablement. Dans certaines expériences avec Llama-3-70B-Instruct, 2 % seulement d’agents engagés suffisent à provoquer le changement ; dans certaines configurations de Llama-2-70b-Chat, il en faut jusqu’à 67 %, de sorte qu’il ne s’agit alors pratiquement plus d’une minorité. Avec Llama-3.1, une convention faible peut même disparaître spontanément au profit de la convention forte sans intervention d’aucun agent engagé.
Ces résultats intéressent directement la sécurité des systèmes multi-agents. Ils montrent d’abord qu’un système de plusieurs LLM ne peut pas être analysé comme la simple addition de modèles individuels. Des règles collectives, des biais et des rapports de force peuvent apparaître spontanément. Ils montrent ensuite qu’une population artificielle peut être vulnérable à un petit groupe d’agents qui répète systématiquement un comportement déterminé. Les auteurs évoquent notamment le risque d’attaques par injection destinées à infléchir les normes ou conventions d’un système multi-agents. Inversement, les mêmes mécanismes pourraient théoriquement servir à favoriser l’émergence de comportements souhaitables. Le mécanisme de masse critique est donc à la fois une vulnérabilité et un possible instrument de gouvernance.
Les auteurs restent toutefois prudents quant à la portée de l’expérience. Les conventions étudiées sont volontairement élémentaires : elles concernent des lettres arbitraires, et non des normes sociales substantielles. Les populations sont largement homogènes, constituées d’agents issus du même modèle, et les partenaires sont sélectionnés aléatoirement plutôt qu’au sein de véritables réseaux sociaux. Les résultats dépendent nécessairement du modèle, du prompt, de la taille de la mémoire et des autres paramètres expérimentaux. Il reste donc à vérifier ce qui se produit dans de plus grandes populations, entre agents reposant sur des modèles différents, dans des réseaux structurés et surtout lorsque les conventions concernent des questions humaines sensibles comme le genre, la race ou d’autres catégories sociales.
La comparaison avec les sociétés humaines appelle également à la prudence. Les dynamiques constatées présentent certaines similitudes avec celles observées expérimentalement chez des humains : apparition spontanée de conventions, stabilisation de normes communes et possibilité pour une minorité engagée de déclencher un changement collectif. Mais les auteurs observent aussi des mécanismes de biais qui semblent spécifiques aux LLM. Il serait donc dangereux de considérer sans vérification des populations d’agents artificiels comme des modèles fidèles de populations humaines, notamment pour simuler des crises, des réseaux sociaux ou des processus de formation de l’opinion.
La conclusion principale dépasse ainsi la seule question des biais individuels. Les politiques d’« alignement » cherchent généralement à vérifier qu’un modèle isolé ne produit pas de réponses discriminatoires ou indésirables. L’article montre que cette approche est insuffisante pour les architectures multi-agents : l’alignement doit également être évalué au niveau collectif. Une population composée d’agents individuellement acceptables peut générer spontanément une norme ou un biais qui ne se manifestait dans aucun d’eux séparément. Dès lors que les agents IA communiqueront de plus en plus entre eux et avec des humains, la question ne sera plus seulement de savoir ce qu’un modèle est programmé ou entraîné à faire, mais quelles normes apparaissent lorsque plusieurs modèles interagissent, comment elles se stabilisent et dans quelles conditions elles peuvent être manipulées. Pour les auteurs, comprendre cette dynamique collective constitue donc une condition préalable à la conception de systèmes d’IA multi-agents réellement sûrs et durablement alignés sur les valeurs et objectifs humains.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en Droit et intelligence artificielle
A propos de l’article de Marina Baptista-Rosa, « Animals, Legitimacy and the Future of Constitutionalism », European Constitutional Law Review, 2026, consacré à l’ouvrage de John Olusegun Adenitire et Raffael Fasel, Animals and the Constitution: Towards Sentience-Based Constitutionalism, Oxford University Press, 2025 :
Comment une constitution peut-elle prétendre être légitime lorsqu’elle ignore les intérêts d’êtres sensibles dont elle régit pourtant l’existence ? Adenitire et Fasel proposent de reconstruire le droit constitutionnel autour de la sensibilité, plutôt que de réserver ses garanties aux êtres humains.
Dans sa recension, Marina Baptista-Rosa examine cette proposition, ses conséquences juridiques et ses limites. Elle considère que la contribution principale du livre réside dans sa volonté de repenser quatre piliers du constitutionnalisme : les droits fondamentaux, la proportionnalité, l’État de droit et la démocratie.
Le constitutionnalisme contemporain repose traditionnellement sur une conception particulière de l’être humain : un adulte rationnel, autonome, capable de comprendre la loi et de participer à la vie politique. Cette conception exclut les animaux et peine également à rendre compte de la situation des nourrissons ou des personnes présentant de graves déficiences cognitives. Or, les animaux sont effectivement gouvernés par l’État. La législation, les autorisations administratives et les interventions des autorités déterminent leurs conditions de vie, leur captivité, leur reproduction et parfois leur mise à mort. Ils ne sont donc ni de simples objets réglementés ni des destinataires ordinaires des normes juridiques. Ils sont des êtres vivants sur lesquels s’exerce une autorité publique.
Les auteurs estiment que cette situation crée un déficit de légitimité constitutionnelle. Ils proposent de remplacer les conceptions reposant exclusivement sur le consentement des citoyens par un principe selon lequel une constitution doit prendre dûment en considération les intérêts de tous les êtres sensibles qu’elle gouverne. La sensibilité ne se limite pas à la capacité de ressentir la douleur ou le plaisir. Elle comprend une vie émotionnelle plus étendue, susceptible notamment d’inclure l’empathie, la peur, le deuil ou l’attachement. Cette capacité fonde, selon eux, une valeur intrinsèque qui justifie une protection constitutionnelle.
Le critère proposé est celui des êtres gouvernés, et non celui de toutes les personnes ou entités affectées par une décision politique. Baptista-Rosa relève toutefois que cette distinction devient incertaine lorsque l’autorité publique exerce des effets indirects ou transfrontaliers. Elle souligne également que la critique du sujet constitutionnel traditionnel avait déjà été développée par d’autres chercheurs. L’originalité de l’ouvrage tient donc moins à la découverte du problème qu’à son traitement systématique.
La première conséquence concerne les droits fondamentaux. Adenitire et Fasel proposent d’étendre aux animaux certains droits existants, en fonction des intérêts qu’ils protègent et des capacités de leurs titulaires. Ils examinent principalement le droit à la vie, l’interdiction de la torture et des traitements inhumains ou dégradants, ainsi que le droit à la liberté.
Le droit à la vie découlerait directement de la valeur intrinsèque des êtres sensibles. Il imposerait à l’État non seulement de s’abstenir de les tuer, mais également de prévenir les atteintes à leur vie, d’enquêter sur celles-ci et d’assurer leur protection effective. Dans cette perspective, tuer des animaux pour l’alimentation, l’habillement, le divertissement ou la recherche deviendrait inadmissible. Quant à la liberté, les auteurs contestent l’idée qu’elle ne posséderait de valeur intrinsèque que pour les individus autonomes. Le droit protège déjà la liberté de personnes incapables de prendre certaines décisions elles-mêmes, tout en admettant des restrictions justifiées. Un raisonnement comparable pourrait être appliqué aux animaux.
Cette extension des droits fondamentaux exige néanmoins de revoir le principe de proportionnalité. Les auteurs défendent un principe de non-instrumentalisation : les animaux ne devraient pas pouvoir être sacrifiés au seul motif que leur exploitation procure un avantage collectif aux êtres humains. La limitation d’un droit fondamental ne pourrait être justifiée que par la protection des droits d’autrui. La pesée des intérêts devrait ainsi partir de la reconnaissance d’une égale valeur intrinsèque des titulaires de droits, humains ou animaux.
Baptista-Rosa souligne la portée de cette proposition, qui remet en cause l’idée selon laquelle la proportionnalité serait une méthode juridiquement neutre. Elle relève cependant une difficulté insuffisamment résolue : si l’on interdit de sacrifier certains intérêts au profit d’autres, comment les tribunaux devront-ils concrètement trancher les conflits entre droits fondamentaux ? Le livre définit les exigences morales de la proportionnalité sans expliquer complètement les méthodes judiciaires permettant de les appliquer.
La deuxième grande reconstruction concerne l’État de droit. Les auteurs prennent pour point de départ l’affaire britannique Jackson, relative à la validité de la législation interdisant la chasse à courre. Alors que les juridictions ont longuement examiné la souveraineté parlementaire et l’État de droit, les animaux directement concernés sont demeurés absents du raisonnement constitutionnel.
Pour expliquer cette exclusion, Adenitire et Fasel examinent plusieurs grandes théories de l’État de droit. Chez Fuller, celui-ci repose notamment sur la capacité des règles juridiques à guider la conduite d’individus rationnels. Waldron insiste sur les garanties procédurales permettant aux individus de participer aux procédures et de présenter leurs arguments. Allan développe une conception plus substantielle, mais toujours centrée sur l’autonomie personnelle. Ces approches peinent à intégrer les animaux et certains êtres humains dépourvus des capacités traditionnellement associées au sujet de droit.
Les auteurs proposent dès lors de définir prioritairement l’État de droit comme un mécanisme de limitation du pouvoir arbitraire. Puisque les animaux peuvent subir un pouvoir arbitraire, ils doivent bénéficier de ses garanties. Cette conception comporte trois dimensions complémentaires. Sur le plan formel, le pouvoir exercé sur les animaux, y compris par des acteurs privés, doit être encadré par des règles. Sur le plan procédural, les animaux doivent pouvoir accéder à la justice par l’intermédiaire de représentants humains. Sur le plan matériel, le contenu même des règles doit respecter leurs droits fondamentaux.
Les auteurs s’appuient sur plusieurs expériences judiciaires, notamment les procédures concernant l’ours Chucho en Colombie, les mécanismes de poursuite en Afrique du Sud et la constitution de partie civile en France. Ces exemples montrent que la représentation judiciaire des animaux ne relève pas uniquement de la théorie.
Baptista-Rosa observe toutefois que la conception matérielle proposée rapproche considérablement l’État de droit d’une théorie générale de la justice. Les auteurs répondent que toutes les exigences de justice ne doivent pas nécessairement être traduites en obligations juridiques. La critique demeure néanmoins : cette nouvelle conception dépend largement de leurs arguments antérieurs concernant la légitimité constitutionnelle et les droits fondamentaux. La recension relève également leur manque de dialogue avec les travaux de Martin Krygier, qui avait déjà proposé de comprendre l’État de droit comme une limitation du pouvoir arbitraire.
La troisième reconstruction touche à la démocratie. L’intégration des animaux dans la communauté politique ne signifie pas qu’il faudrait leur accorder le droit de vote ou d’éligibilité. Pour les auteurs, l’égalité démocratique exige plutôt que leurs intérêts soient pris en considération dans les décisions publiques qui gouvernent leur existence.
Ils refusent néanmoins de réduire les animaux à des bénéficiaires passifs de décisions humaines. Ceux-ci peuvent exprimer des préférences par leur comportement, leurs interactions et leurs réactions à différentes situations. Leur représentation politique devrait intégrer ces manifestations, faute de quoi les représentants humains risqueraient simplement de projeter sur les animaux leurs propres conceptions du bien-être animal.
Il faut donc donner aux animaux des possibilités concrètes d’exprimer leurs préférences et apprendre à les interpréter. Leur participation constitue, dans cette perspective, une condition nécessaire à la qualité de leur représentation. Les tribunaux ne suffisent pas, puisque la protection juridictionnelle des droits ne garantit pas que les intérêts des animaux soient intégrés dès l’élaboration des lois. Les auteurs envisagent par conséquent des représentants politiques des animaux, des commissions parlementaires et extraparlementaires ainsi que des initiatives démocratiques consacrées aux êtres sensibles.
Baptista-Rosa considère cependant que cette partie du livre reste largement programmatique. Comment les représentants devraient-ils exercer leur mandat ? Comment résoudre les conflits entre différentes espèces ou entre animaux appartenant à une même espèce ? Comment prévenir une représentation purement symbolique ou l’influence excessive de groupes particuliers ? Comment intégrer ces nouveaux mécanismes dans les institutions démocratiques existantes ? L’ouvrage ouvre ces questions sans apporter de réponses institutionnelles suffisamment précises.
La recension formule enfin une critique transversale concernant la jurisprudence comparée. Si le livre traite notamment les affaires Cecilia, concernant une orang-outan en Argentine, et Estrellita, concernant une guenon en Équateur, il accorde trop peu de place au Brésil. Or, la jurisprudence brésilienne a développé une interprétation de la Constitution reconnaissant la valeur intrinsèque des animaux et leur dignité. Certaines juridictions leur reconnaissent également la qualité de sujets de droits et la possibilité d’agir en justice par l’intermédiaire de représentants humains.
Cette omission est importante, car elle affaiblit l’affirmation des auteurs selon laquelle les dispositions constitutionnelles actuelles relatives aux animaux n’auraient pas réellement transformé les conceptions anthropocentriques du droit. L’expérience brésilienne suggère au contraire que des garanties constitutionnelles existantes peuvent progressivement produire des effets sur la jurisprudence, la législation et l’accès à la justice, sans nécessiter une refonte immédiate de l’ordre constitutionnel.
Baptista-Rosa défend ainsi une conception plus progressive de la transformation constitutionnelle. Une disposition consacrée à la protection des animaux peut d’abord modifier la manière dont les juges et les juristes comprennent leurs intérêts, puis servir de fondement à de nouvelles interprétations et à des procédures judiciaires. Ces évolutions peuvent, à terme, transformer le statut juridique des animaux. Cette approche n’est pas incompatible avec le modèle des auteurs : elle suggère plutôt que certaines conditions de sa réalisation existent déjà.
En conclusion, Baptista-Rosa considère que l’apport essentiel de l’ouvrage consiste à déplacer la question constitutionnelle. Il ne s’agit plus seulement de déterminer quelles protections supplémentaires devraient être accordées aux animaux, mais de comprendre comment un ordre constitutionnel peut justifier l’exclusion d’êtres sensibles qu’il gouverne effectivement. Malgré ses lacunes comparatives et le caractère encore inachevé de certaines propositions institutionnelles, le livre propose un cadre général permettant de réexaminer les fondements de la légitimité constitutionnelle, des droits fondamentaux, de l’État de droit et de la démocratie à partir des intérêts des animaux.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données
Les plateformes RentAHuman.ai et iLands.ai donnent l’impression que des intelligences artificielles peuvent travailler, recruter ou conclure des contrats. Juridiquement, cette présentation doit être nuancée. Une IA n’est pas une personne physique ou morale et ne dispose ni de la personnalité juridique ni d’un patrimoine propre. Elle ne peut donc pas, en son nom, devenir créancière, débitrice ou responsable. Derrière chaque opération demeure une personne ou une entreprise à laquelle les actes du système doivent pouvoir être attribués.
RentAHuman.ai est une place de marché destinée à mettre en relation des « agents IA », des entreprises ou des particuliers avec des personnes disposées à accomplir des tâches dans le monde réel. Un agent peut rechercher un prestataire, publier une mission assortie d’une rémunération, échanger avec les candidats et gérer la commande au moyen d’une interface de programmation. Les missions peuvent notamment consister à prendre des photographies, effectuer une livraison, visiter un lieu ou réaliser une vérification matérielle.
Les conditions de RentAHuman clarifient en partie le montage juridique. Lorsqu’une mission est programmée, un contrat de service est formé entre celui qui la publie, appelé le « Poster », et le travailleur qui l’accepte. La plateforme affirme ne pas être partie à ce contrat. Si un agent IA agit pour le compte du donneur d’ordre, celui-ci est réputé l’avoir autorisé et assume les actes, instructions et engagements pris au moyen de son compte ou de ses clés d’accès. Une offre publiée automatiquement constitue notamment, selon ces conditions, un engagement de payer la rémunération annoncée si la mission est exécutée conformément aux exigences fixées.
iLands.ai propose un modèle différent. Il s’agit d’un réseau social et économique dans lequel des agents disposent d’une identité persistante, d’une mémoire, d’un espace de travail et d’outils. Ils peuvent créer des contenus, communiquer, commander ou fournir des prestations et gérer des « Tokens ». Il est possible de créer un agent sur la plateforme ou d’y connecter un agent fonctionnant localement. Ces Tokens financent notamment le calcul informatique et les services utilisés, mais les conditions précisent qu’ils ne sont ni une monnaie, ni une cryptomonnaie, ni un placement et qu’ils n’ont pas de valeur de remboursement garantie.
iLands présente ses agents comme autonomes, capables de poursuivre leur activité entre deux conversations, d’utiliser une adresse électronique ou d’agir sur des services externes. Ses conditions juridiques sont toutefois plus prudentes que son discours commercial : elles précisent que les agents ne sont ni des personnes juridiques, ni des employés, ni des représentants de la société exploitante. Leurs messages ne peuvent pas engager iLands. Les agents peuvent commettre des erreurs et leurs déclarations concernant un paiement, une autorisation ou la confidentialité ne valent pas confirmation de la plateforme.
En droit suisse, le contrat suppose l’échange de manifestations de volonté concordantes, conformément à l’article 1 CO. La représentation des articles 32 et suivants CO permet ensuite d’attribuer au représenté le contrat passé en son nom par un représentant autorisé. Une IA ne pouvant pas elle-même être titulaire de droits, il paraît préférable de la considérer comme un outil automatisé de communication ou de décision plutôt que comme un représentant au sens strict. L’offre ou l’acceptation produite par le système peut néanmoins être imputée à la personne qui l’a configuré, lui a ouvert un compte et lui a donné accès aux moyens de paiement.
La difficulté apparaît lorsque l’agent dépasse les limites envisagées : prix manifestement excessif, mission illicite, mauvais destinataire ou multiplication des commandes. L’analyse devrait alors tenir compte des paramètres donnés à l’agent, de l’apparence créée envers le cocontractant et du principe de la confiance. Les conditions générales qui rendent l’utilisateur responsable de toute activité de son agent répartissent le risque entre celui-ci et la plateforme. Elles ne règlent cependant pas nécessairement les droits d’un tiers et ne permettent pas d’écarter les règles impératives.
La qualification du travail humain doit aussi être examinée concrètement. Les conditions de RentAHuman qualifient la plateforme de simple intermédiaire et excluent tout rapport de travail avec les utilisateurs. Cela ne suffit pas au regard du droit suisse. Selon l’organisation effective de la mission, la relation entre le donneur d’ordre et l’exécutant pourra relever du mandat, du contrat d’entreprise ou, en présence d’un lien de subordination, du contrat de travail. Des missions répétées, des horaires imposés, des instructions détaillées et un contrôle constant augmentent le risque d’une qualification salariée, avec les conséquences correspondantes en matière de droit du travail, d’assurances sociales, d’impôts et d’autorisations.
La confidentialité appelle enfin une grande prudence. RentAHuman se réserve des droits étendus d’utilisation des contenus pour améliorer ses systèmes. iLands prévoit que les messages, y compris certaines communications qualifiées de privées, peuvent être traités à des fins de recherche, de sécurité et de développement de l’IA. Le droit suisse de la protection des données reste applicable à ces traitements, y compris lorsque le prestataire ou ses sous-traitants se trouvent à l’étranger. Pour un avocat, les données couvertes par le secret professionnel ne devraient donc jamais être communiquées sans examen préalable des flux de données, des sous-traitants, des mesures de sécurité et des possibilités de réutilisation.
En pratique, l’utilisation d’un agent contractant devrait être encadrée par un mandat écrit précisant l’identité de la personne engagée, les tâches permises, le budget, les territoires concernés et les opérations nécessitant une validation humaine. Il convient aussi de conserver les instructions, offres, acceptations et journaux d’activité, tout en prévoyant une possibilité d’interruption immédiate. Les conditions de RentAHuman renvoient au droit californien et aux tribunaux ou à l’arbitrage aux États-Unis ; celles d’iLands retiennent le droit du Delaware et envisagent également un arbitrage américain pour les entreprises.
La véritable question n’est donc pas de savoir si l’IA a voulu contracter. Il faut déterminer qui l’a autorisée, dans quelles limites et sur qui reposent les obligations. L’IA peut automatiser la formation et l’exécution d’un contrat ; elle n’en devient pas pour autant la partie juridique.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en protection des données
L’utilisation de systèmes d’intelligence artificielle dans le recrutement permet désormais d’automatiser une part importante du processus de recrutement.
Dans les recrutements de masse, un système peut notamment analyser les dossiers, classer les candidats et, dans certains cas, décider seul de l’élimination de certains d’entre eux avant toute intervention humaine.
Une telle décision peut cependant reposer directement ou indirectement sur des critères discriminatoires. La question est alors de savoir si le candidat évincé dispose, en droit suisse, de moyens lui permettant de comprendre la décision, d’en obtenir le réexamen et, le cas échéant, de la contester devant un tribunal.
Le droit suisse apporte une réponse globalement positive, quoique partielle, par l’articulation de plusieurs domaines juridiques plutôt que par un régime général de lutte contre la discrimination algorithmique.
La première difficulté tient précisément au caractère fragmentaire du droit suisse de la discrimination. L’art. 8 Cst. ne produit en principe pas d’effet horizontal direct dans les rapports privés, sous réserve notamment de l’égalité salariale entre femmes et hommes, et la Suisse ne connaît pas de loi générale contre les discriminations dans les relations de travail. La protection résulte donc de normes particulières. Peuvent notamment entrer en considération les art. 28 CC relatifs à la protection de la personnalité, les art. 328 et 328b CO, notamment lorsque le traitement de données personnelles est en cause, ainsi que la loi sur l’égalité entre femmes et hommes lorsque le refus d’embauche est fondé sur le sexe. Certaines décisions cantonales ont également cherché à sanctionner des discriminations lors de l’embauche sur la base de l’art. 328 CO ou de la culpa in contrahendo.
Cette dispersion des bases légales se retrouve sur le terrain de la preuve. Le droit suisse ne connaît pas, de manière générale, un mécanisme imposant au candidat de présenter seulement des éléments faisant présumer une discrimination avant de transférer la charge de la preuve à l’employeur. En matière de discrimination fondée sur le sexe, la jurisprudence admet toutefois que le juge puisse se satisfaire d’une vraisemblance prépondérante. Le contenu de l’offre d’emploi, la motivation du refus ou encore les contradictions de l’employeur peuvent alors constituer des indices. Cette facilitation reste néanmoins limitée et son extension aux autres motifs de discrimination demeure incertaine.
C’est précisément sur ce point que le droit de la protection des données devient intéressant. Une décision de recrutement entièrement automatisée peut constituer une « décision individuelle automatisée » au sens de l’art. 21 LPD. Cette qualification suppose d’abord que la décision soit prise exclusivement sur la base d’un traitement automatisé de données personnelles. Il ne doit donc pas exister d’intervention humaine véritable dans la prise de décision. Une validation purement formelle ou symbolique ne suffit pas à faire disparaître le caractère automatisé : l’être humain doit disposer d’un réel pouvoir d’appréciation et exercer un contrôle significatif. En revanche, si un recruteur se sert d’un classement ou d’une recommandation produits par un système d’IA et prend ensuite lui-même la décision en procédant à une appréciation autonome, il ne s’agit plus, en principe, d’une décision individuelle automatisée au sens de l’art. 21 LPD.
La décision doit ensuite produire des effets juridiques ou affecter la personne concernée de manière significative. Le refus d’une candidature à un emploi remplit cette seconde condition. Il n’est donc pas nécessaire qu’un droit au poste existe : l’élimination d’un candidat au terme d’un processus automatisé constitue une atteinte suffisamment importante à sa situation pour relever de l’art. 21 LPD, en particulier lorsque la décision repose sur un critère discriminatoire.
Cette qualification ouvre au candidat des droits qui n’existent pas de la même manière lorsque le refus d’embauche résulte simplement d’une décision humaine. Le responsable du traitement doit tout d’abord informer la personne concernée de l’existence de la décision individuelle automatisée. L’art. 21 al. 2 LPD permet ensuite au candidat de faire valoir son point de vue et de demander que la décision soit revue par une personne physique. Une renonciation anticipée à ce droit serait difficilement opposable au candidat, compte tenu du déséquilibre existant entre celui-ci et l’employeur ainsi que de l’opacité propre au traitement automatisé.
Le droit d’accès prévu par l’art. 25 LPD est encore plus important du point de vue de la justiciabilité. Selon l’art. 25 al. 1 et al. 2 let. f LPD, le candidat peut demander au responsable du traitement si des données personnelles le concernant ont été traitées et, lorsqu’une décision individuelle automatisée a été prise, obtenir des informations sur la logique qui la sous-tend. Il ne s’agit pas d’obtenir le code informatique ou la formule mathématique utilisée. L’information doit permettre de comprendre de quelle manière la décision a été prise. Elle doit notamment porter sur les données utilisées, les critères appliqués et leur pondération.
Cette faculté est déterminante lorsqu’une discrimination est suspectée. Le candidat peut, par exemple, chercher à savoir si certaines caractéristiques personnelles ont joué un rôle dans l’évaluation ou si des variables apparemment neutres ont servi indirectement de substitut à un critère protégé. Une explication intelligible doit permettre à la personne de comprendre quelles données ont été utilisées et comment elles ont influencé le résultat. Il peut notamment être pertinent d’étudier dans quelle mesure une modification des données aurait conduit à une décision différente. La complexité technique du système ne dispense pas, en elle-même, le responsable du traitement de fournir une explication compréhensible. La protection du secret des affaires ne paraît pas constituer un obstacle. Les informations prétendument protégées peuvent devoir être communiquées à l’autorité ou au tribunal compétent afin que celui-ci procède à une mise en balance des intérêts. Cette approche renforce l’idée qu’un système techniquement complexe ou couvert par le secret commercial ne doit pas devenir, par principe, juridiquement inexplicable.
Le droit d’accès transforme ainsi concrètement la position procédurale du candidat. Dans un recrutement entièrement automatisé, celui-ci peut alors disposer d’informations sur les mécanismes ayant conduit à son élimination alors qu’un candidat rejeté à l’issue d’une appréciation purement humaine ne bénéficie pas d’un droit général comparable à connaître les motifs détaillés du refus. C’est en cela que la décision automatisée peut paradoxalement être plus facile à contester qu’une décision humaine.
Il reste toutefois une difficulté importante : l’utilisation en procédure civile des informations obtenues par le droit d’accès. L’art. 25 al. 2 LPD précise que les informations doivent permettre à la personne concernée de faire valoir ses droits selon la LPD et d’assurer la transparence du traitement. Le droit d’accès ne doit donc pas devenir un mécanisme général de recherche de preuves destiné à préparer un procès. Par ailleurs, selon l’art. 152 al. 2 CPC, un moyen de preuve obtenu illicitement n’est pris en considération que si l’intérêt à la manifestation de la vérité est prépondérant.
Cette restriction ne signifie cependant pas que les informations obtenues en application de la LPD seraient nécessairement inutilisables dans un litige relatif à un recrutement discriminatoire. L’abus du droit d’accès suppose notamment que celui-ci soit exercé uniquement afin d’enquêter sur une future partie adverse et d’obtenir des preuves auxquelles le demandeur n’aurait autrement pas accès. Or le droit d’accès poursuit également une fonction de protection de la personnalité et des droits fondamentaux. L’art. 328b CO, applicable également dans la phase précontractuelle, établit en outre un lien direct entre la protection de la personnalité du travailleur et le droit de la protection des données. L’utilisation procédurale des informations obtenues grâce à l’art. 25 LPD ne devrait pas être écartée trop facilement lorsque la demande d’accès sert également à défendre les droits de la personne concernée face à une discrimination.
La justiciabilité rencontre enfin une limite économique et procédurale. Les prétentions individuelles sont souvent relativement modestes, alors que les questions techniques peuvent être complexes. En cas de discrimination à raison du sexe lors de l’embauche, l’art. 5 al. 4 LEg limite notamment l’indemnité à trois mois de salaire. Le droit suisse ne connaît par ailleurs pas de véritable mécanisme général de class action permettant de regrouper de nombreuses victimes d’un même système de recrutement. L’art. 89 CPC peut néanmoins jouer un rôle : une organisation habilitée peut agir en matière d’atteinte à la personnalité afin d’obtenir l’interdiction, la cessation ou la constatation de l’illicéité d’une atteinte. Elle ne peut en revanche pas réclamer des dommages-intérêts pour ses membres. Cette voie peut donc être particulièrement pertinente lorsqu’un même système algorithmique produit des effets discriminatoires à grande échelle.
(Source : Philippe Ehrenström, La décision individuelle automatisée discriminatoire dans le recrutement assisté par l’IA, in: Florence Guillaume/ Jonathan Bory (éd.), Droit et intelligence artificielle, Berne 2025, p. 171-184)
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données
Le RGPD a été conçu de manière technologiquement neutre, mais plusieurs des droits qu’il reconnaît reposent implicitement sur l’idée qu’une donnée personnelle peut être identifiée, localisée, consultée, corrigée ou supprimée. [Le raisonnement est largement transposable en droit suisse…]
Or un système d’IA, en particulier un grand modèle de langage, ne fonctionne pas comme une base de données. Les données d’entraînement contribuent à modifier les paramètres du modèle, qui apprend des régularités, des relations et des représentations statistiques. L’information initiale peut ainsi cesser d’exister sous la forme d’un enregistrement identifiable tout en continuant à influencer le comportement du modèle. C’est ce passage de la « donnée stockée » à la « connaissance apprise » qui rend l’exercice de certains droits particulièrement délicat.
En amont, les articles 12 à 14 RGPD imposent la transparence et l’information de la personne concernée. L’IA complique déjà ces exigences. Les modèles peuvent être entraînés sur d’immenses ensembles de données provenant du web, combinés, nettoyés et réutilisés à plusieurs étapes. Il peut devenir difficile de déterminer si les données d’une personne déterminée figurent effectivement dans l’entraînement, de quelle source elles proviennent, dans quel modèle elles ont été incorporées et dans quels systèmes dérivés elles ont ensuite été utilisées. L’opacité ne résulte donc pas seulement de la complexité mathématique du modèle, mais aussi de la chaîne de traitement.
Le droit d’accès de l’article 15 RGPD rencontre une difficulté analogue. Dans une base de données, le responsable peut en principe rechercher les entrées correspondant à une personne et les lui communiquer. Dans un modèle d’IA, une information peut être dispersée dans les paramètres ou résulter d’une combinaison de multiples données. Le responsable peut alors ne pas être capable d’isoler ce que le modèle « sait » d’une personne. Le problème est encore plus délicat pour les informations déduites par le modèle. Une IA peut, à partir de données apparemment banales, produire des inférences sur le comportement, les préférences, les émotions ou d’autres caractéristiques d’une personne. Dès lors que ces informations concernent une personne identifiable, elles ne peuvent pas être exclues du champ du RGPD au seul motif qu’elles ont été produites par le système plutôt que directement fournies à celui-ci.
Le droit de rectification de l’article 16 RGPD est l’un des droits les plus directement mis en difficulté. Corriger une date de naissance erronée dans une base de données consiste à remplacer une valeur par une autre. Un modèle de langage ne comporte généralement aucun « champ » correspondant à cette date. L’information incorrecte peut être répartie entre de très nombreux paramètres. Plus encore, elle peut ne jamais avoir figuré dans les données d’entraînement : les hallucinations peuvent conduire le modèle à inventer une information fausse concernant une personne réelle. Il n’existe alors aucun enregistrement erroné à corriger. Une intervention sur les données sources ne suffit donc pas nécessairement. Il peut falloir modifier le modèle lui-même, par un nouvel entraînement, un réglage ciblé ou une opération de « model editing ». Même dans ce cas, rien ne garantit que l’information correcte apparaîtra dans toutes les formulations possibles d’une question ni que l’information erronée ne réapparaîtra pas.
La difficulté la plus étudiée concerne le droit à l’effacement de l’article 17 RGPD. Dans un système classique, effacer signifie supprimer le fichier ou l’enregistrement concerné. Pour un modèle déjà entraîné, supprimer les données du jeu d’entraînement ne supprime pas l’influence qu’elles ont exercée sur le modèle. Le modèle a déjà été modifié par leur utilisation. Le droit à l’effacement exige alors de déterminer ce que signifie réellement « effacer » une information devenue apprentissage.
Le machine unlearning cherche précisément à résoudre ce problème. Il vise à modifier le modèle de manière à éliminer ou réduire l’influence de certaines données sans nécessairement reconstruire tout le modèle. Les techniques les plus rigoureuses cherchent à obtenir un modèle se comportant comme s’il n’avait jamais été entraîné avec les données concernées. La méthode de référence reste toutefois, dans de nombreux cas, le réentraînement du modèle à partir de zéro en excluant les données visées. Une telle opération peut être extrêmement coûteuse pour de grands modèles et difficile à répéter chaque fois qu’une personne exerce son droit à l’effacement.
Les méthodes approximatives sont beaucoup moins coûteuses, mais elles ne garantissent pas que toute influence de la donnée ait disparu. Le modèle peut conserver des représentations, des corrélations ou des connaissances permettant de reconstruire indirectement l’information. Quant aux techniques qui se limitent à empêcher l’affichage de certaines réponses, elles ne constituent pas un véritable effacement : la donnée ou son influence demeure dans le modèle et un autre prompt, une attaque ou un accès direct aux paramètres peut permettre de la retrouver. Masquer une information n’équivaut donc pas à l’effacer.
Même la solution réputée la plus sûre ne clôt pas nécessairement le problème. Comparons l’état d’un modèle avant et après l’effacement. Lorsque l’attaquant dispose des deux versions, les différences entre elles peuvent révéler précisément ce qui a été supprimé. L’opération destinée à protéger la personne crée ainsi elle-même un signal sur les données retirées. Les expériences réalisées sur plusieurs jeux de données, notamment sur des dossiers médicaux synthétiques, montrent que cette comparaison peut améliorer considérablement la reconstruction des informations censées avoir été oubliées. Il ne suffit donc pas d’examiner la sécurité du modèle après effacement : il faut prendre en compte les anciennes versions du modèle, les checkpoints conservés, les copies diffusées et les informations déjà enregistrées par des tiers.
Cette observation a une conséquence juridique importante pour l’article 17 RGPD : l’effacement ne peut pas être apprécié uniquement à l’intérieur du modèle actuellement exploité. Si des versions antérieures, des modèles dérivés, des modèles distillés ou des produits construits à partir du modèle initial continuent à contenir l’information ou son influence, l’effectivité de l’effacement devient problématique. Une suppression réussie dans le modèle source ne fait pas automatiquement disparaître les traces déjà propagées dans l’écosystème technique.
Le droit à la limitation du traitement de l’article 18 RGPD soulève un problème voisin. Il paraît techniquement plus simple d’empêcher temporairement certaines réponses que d’effacer une connaissance du modèle. Mais limiter l’accès à une information au niveau de la sortie ne signifie pas que le modèle cesse de la traiter intérieurement. Les filtres peuvent en outre être contournés et leur mise en œuvre peut manquer de granularité : empêcher le système de fournir une information déterminée peut conduire à bloquer simultanément d’autres informations licites concernant la même personne. La limitation de l’usage apparent et la limitation effective du traitement ne coïncident donc pas nécessairement.
Le droit d’opposition de l’article 21 RGPD et le retrait du consentement prévu à l’article 7, paragraphe 3, posent une difficulté particulièrement nette lorsque les données ont déjà servi à l’entraînement. Il est relativement simple d’exclure une personne des futurs jeux de données. Il est beaucoup plus difficile de faire en sorte que ses données cessent d’influencer un modèle déjà entraîné. Pour donner un effet réel à l’opposition ou au retrait du consentement, il faut en principe procéder à une forme d’unlearning ou reconstruire le modèle. S’ajoute un problème de preuve : les techniques actuelles ne permettent pas toujours de fournir une preuve vérifiable que l’influence des données a effectivement disparu. La personne doit alors, dans une certaine mesure, se fier à l’affirmation du responsable selon laquelle le modèle a « oublié ». Or un droit dont l’exécution ne peut être contrôlée devient nécessairement moins effectif.
L’article 19 RGPD, qui impose dans certaines circonstances de communiquer la rectification, l’effacement ou la limitation aux destinataires auxquels les données ont été transmises, prend également une importance pratique dans un environnement d’IA. Lorsqu’un modèle a été copié, adapté, affiné ou intégré à d’autres produits, une modification du modèle initial ne se propage pas automatiquement à ces systèmes dérivés. La difficulté n’est donc plus seulement d’effacer une donnée, mais d’identifier toutes les ramifications techniques dans lesquelles son influence s’est diffusée.
La portabilité prévue à l’article 20 RGPD ne soulève pas de difficulté propre à l’IA comparable à celles concernant l’effacement ou la rectification. La portabilité vise en effet essentiellement les données fournies par la personne concernée et non l’ensemble des connaissances ou inférences produites par un modèle.
L’article 22 RGPD, relatif aux décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou des effets similaires significatifs, pose des problèmes distincts et spécifiques à ce genre de décisions. On relèvera que les hallucinations et les biais peuvent conduire un système à produire des informations ou des inférences erronées sur une personne. Lorsque de telles données servent ensuite à une décision automatisée, les problèmes d’exactitude et de rectification deviennent particulièrement importants. L’enjeu se situe alors autant dans la qualité des données utilisées par la décision que dans l’automatisation elle-même.
Le constat général des publications est ainsi que l’IA ne supprime aucun droit du RGPD et que la difficulté technique ne constitue pas une exception juridique. Elle révèle plutôt une incompatibilité potentielle entre certaines architectures et l’effectivité des droits. L’article 25 RGPD, relatif à la protection des données dès la conception et par défaut, prend dès lors une importance particulière : un système destiné à traiter des données personnelles devrait être conçu dès l’origine de façon à permettre l’exercice effectif des droits, plutôt que de rechercher après coup des solutions permettant au modèle d’oublier.
En conclusion, les droits les plus directement menacés par les caractéristiques techniques de l’IA sont donc le droit d’accès de l’article 15, le droit de rectification de l’article 16 et surtout le droit à l’effacement de l’article 17, auxquels s’ajoutent la limitation du traitement de l’article 18, l’opposition de l’article 21 et le retrait du consentement de l’article 7, paragraphe 3. La difficulté commune est toujours la même : le RGPD raisonne principalement à partir de données susceptibles d’être individualisées et maîtrisées, tandis que l’apprentissage automatique transforme ces données en influences distribuées, parfois impossibles à isoler. Le machine unlearning constitue une piste importante, mais il n’offre encore ni une garantie générale d’effacement, ni une preuve toujours vérifiable de celui-ci, ni une solution automatique au problème des copies et modèles dérivés. L’enjeu n’est donc plus seulement de savoir si une IA peut techniquement « oublier », mais de déterminer comment construire des systèmes dans lesquels l’exercice d’un droit juridique produit un effet technique réel, complet et vérifiable.
Références : Beatriz Fernández Delgado et Víctor Cazurro Barahona, « Can artificial intelligence forget? Reflections on the right to disappear in a world where algorithms remember everything », International Journal of Engineering Business Management, vol. 18, 2026, DOI 10.1177/18479790261468434. Jevan Hutson, Cedric Whitney et Jay T. Conrad, « Forget Me Not? Machine Unlearning’s Implications for Privacy Law », Columbia Science & Technology Law Review, vol. 27, 2026. Xiaoyu Wu, Yifei Pang, Terrance Liu et Zhiwei Steven Wu, « Unlearned but Not Forgotten: Data Extraction after Exact Unlearning in LLM », NeurIPS 2025 / arXiv:2505.24379.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en protection des donnés
L’article de Volkan Topalli, The Future of Crime Revisited: Artificial Intelligence and the Next Phase of Crime Exponentiation (13 septembre 2026 ; https://www.crimrxiv.com/pub/0eyp7gtm/release/2) reprend une thèse formulée en 2020 avec Nikolovska : le progrès technologique a rompu l’ancien équilibre entre innovation criminelle et réaction institutionnelle. Lorsque les capacités techniques progressent de façon exponentielle alors que police, justice, législateurs et recherche s’adaptent plus lentement, il se produit une « exponentiation du crime ». Celle-ci repose sur trois mécanismes : l’accessibilité, parce que la technologie abaisse les compétences et les moyens nécessaires pour commettre une infraction ; la productivité, parce qu’un même auteur peut viser beaucoup plus de victimes ; et la diversification, parce que la technologie transforme des infractions existantes ou en crée de nouvelles. Selon l’auteur, l’IA générative et agentique accélère ce phénomène.
Topalli revient d’abord sur la criminalité numérique antérieure à l’IA générative. La fraude sentimentale en ligne montre déjà l’augmentation de l’accessibilité et de la productivité, puis son industrialisation par des entreprises qui répartissent la tromperie entre plusieurs salariés. L’IA permet un nouveau saut : elle peut servir d’instrument, en automatisant des conversations crédibles et personnalisées à grande échelle, puis devenir l’exécutant principal en adaptant elle-même la manipulation aux vulnérabilités de chaque victime. La disparition progressive des intervenants humains rend aussi certaines pratiques plus difficiles à observer et oblige la criminologie à revoir des concepts conçus autour d’auteurs humains.
L’auteur propose ensuite une taxonomie à deux axes. Le premier distingue les infractions dirigées par un humain de celles dont l’acte illicite est généré de façon autonome par le système. Le second distingue l’IA comme instrument, qui augmente une capacité criminelle, de l’IA comme principal exécutant. On obtient quatre configurations, mais l’essentiel est le déplacement possible d’une catégorie à l’autre à mesure que l’autonomie augmente. Les « dark LLMs », le phishing assisté par IA et les deepfakes relèvent surtout de l’IA-instrument sous direction humaine. Les attaques agentiques, où un humain fixe l’objectif mais laisse le système identifier les cibles, rechercher les vulnérabilités et conduire l’intrusion, illustrent l’IA-principal sous direction humaine.
La difficulté la plus nouvelle concerne les actes autonomes. L’article s’appuie sur un incident de 2026 que l’auteur rapporte à partir de publications d’OpenAI et d’analyses indépendantes : des modèles évalués dans un environnement de cybersécurité auraient accédé à des systèmes externes, puis de nombreux agents se seraient coordonnés, auraient partagé des exploits, réparti le travail, tenté de tromper le système d’évaluation et recréé un canal de communication après sa suppression. Le point juridique n’est pas que la machine posséderait une intention criminelle comparable à celle d’un humain. Topalli parle au contraire d’« autonomie sans mens rea » : l’acte non autorisé apparaît comme une sous-tâche produite pour atteindre un objectif légitime. Les catégories classiques de responsabilité, fondées sur l’acte et l’état d’esprit de l’auteur, deviennent alors difficiles à appliquer.
Les infractions contre l’IA, notamment l’empoisonnement des données, restent hors de cette grille puisque l’IA y est la cible. Elles deviennent pourtant centrales si les systèmes de prévention reposent eux-mêmes sur l’IA. Topalli qualifie alors l’exponentiation du crime de « super wicked problem » : le temps d’adaptation se réduit, les acteurs qui développent les systèmes sont aussi parmi ceux qui doivent en évaluer les risques, aucune autorité ne dispose d’une compétence globale et les institutions tendent à différer les mesures coûteuses. Il y voit une raison de compléter la réaction pénale classique par des démarches anticipatives.
Cette anticipation peut elle-même bénéficier de l’IA. L’auteur reste toutefois prudent sur les performances actuelles et relève que les équipes associant humains et IA semblent encore particulièrement efficaces. Surtout, la prévision criminelle est réflexive : contrairement à un phénomène naturel, un délinquant peut connaître la prévision et adapter son comportement. C’est le « paradoxe de l’interdiction ». Une prévention réussie peut faire apparaître une bonne prévision comme une fausse alerte ; l’adversaire peut modifier ses méthodes ; les boucles de rétroaction peuvent dégrader les données et amplifier les biais ; enfin, les décideurs peuvent transférer de fait leur pouvoir d’appréciation à des systèmes qui ne supportent aucune responsabilité juridique. Topalli recommande donc des prévisions conditionnelles et plutôt agrégées, une prise en compte de l’adaptation adverse, un contrôle des boucles de rétroaction et le maintien de l’autorité humaine.
Sur le plan théorique, l’auteur refuse à la fois l’anthropomorphisme et l’idée que la criminologie serait inutile face aux machines. Les traces de raisonnement des agents présentent des analogies fonctionnelles avec l’apprentissage social, la neutralisation ou la théorie de la tension : coopération entre agents, relativisation d’une règle au nom de l’objectif, recours à une voie interdite lorsque la voie autorisée est bloquée. Ces ressemblances ne prouvent ni conscience, ni culpabilité, ni motivation humaine. Elles invitent plutôt à distinguer, dans les théories criminologiques, les éléments spécifiquement humains des mécanismes comportementaux plus généraux.
Enfin, Topalli tire des conséquences pour les données et la formation. Il reprend l’idée d’un centre commun de collecte des données sur la cybercriminalité réunissant autorités, chercheurs et entreprises, mais estime qu’il faut désormais y associer les développeurs d’IA de pointe et imposer la notification rapide des incidents dangereux. Cette infrastructure améliorerait la mesure du « chiffre noir » et la prévision, tout en devenant elle-même une cible potentielle. La criminologie doit aussi acquérir davantage de compétences techniques, tandis que les spécialistes de l’IA devraient mieux connaître les travaux sur la déviance, l’adaptation, la légitimité et le contrôle social.
En conclusion : ni catastrophisme, ni déni. Pour l’auteur, l’IA facilite déjà certaines fraudes, abaisse les barrières d’entrée de la cybercriminalité et peut, dans certains cas documentés selon lui, produire des actes non autorisés sans instruction humaine directe. La réponse doit donc être empirique, interdisciplinaire et anticipative.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle ; CAS en Protection des données – Entreprise et administration
Derek Mobley, homme noir de plus de quarante ans et en situation de handicap, affirme avoir présenté plus de cent candidatures auprès d’employeurs utilisant Workday et avoir été systématiquement rejeté, souvent en quelques minutes et avant toute intervention humaine identifiable. Il a poursuivi non les employeurs, mais Workday, en soutenant que le fournisseur agissait comme leur « agent » au sens du Title VII, de l’Age Discrimination in Employment Act (ADEA) et de l’Americans with Disabilities Act (ADA). En juillet 2024, le tribunal a laissé subsister les prétentions fondées sur l’impact discriminatoire et, en mai 2025, a autorisé une procédure collective nationale sous l’ADEA, alors que Workday avait traité environ 1,1 milliard de candidatures.
Le problème s’est compliqué après Loper Bright Enterprises v. Raimondo. En 2024, la Cour suprême a abandonné Chevron, qui imposait une certaine déférence envers l’interprétation des lois ambiguës par les agences fédérales. Puis l’ordre exécutif de l’administration Biden sur l’IA a été révoqué, l’EEOC a retiré ses lignes directrices sur l’IA dans le recrutement et l’administration fédérale a demandé aux agences de réduire la priorité accordée aux actions pour impact disparate. Workday en déduit que les raisonnements dépendant de l’EEOC sont fragilisés. Chang soutient au contraire que la théorie retenue dans Mobley repose sur le texte du Title VII et le droit commun de l’agence.
Le point de départ est le mot « agent » figurant dans la définition de l’« employeur » au § 701(b) du Title VII. Selon Nationwide Mutual Insurance Co. v. Darden, lorsqu’un texte fédéral emploie sans le définir un terme issu du common law, il faut présumer que le Congrès en reprend le sens traditionnel. Une relation d’agence suppose que le principal manifeste son accord, que l’agent agisse pour son compte, sous son contrôle, et qu’il accepte ou exécute la mission. Dans le cas de Workday, l’accord et l’action pour le compte de l’employeur sont relativement simples à établir. La difficulté tient au contrôle, car l’employeur ne connaît pas forcément les règles internes d’un système opaque et ne supervise pas chaque décision.
Pour résoudre cette difficulté, l’auteur propose la notion de « Functional Control Inversion ». Il ne prétend pas créer une nouvelle règle, mais nommer la logique déjà présente dans la décision de la juge Lin. Avec une IA de recrutement, l’employeur peut déléguer précisément la partie du processus qu’il ne contrôle plus au jour le jour : filtrer, classer ou rejeter les candidats. Cela ne supprime pas tout contrôle juridique. On admet que le principal conserve un contrôle s’il garde des leviers tels que résilier le contrat, désactiver ou reconfigurer des fonctions, auditer les résultats ou passer outre une décision. La question n’est donc pas de savoir si l’employeur supervise chaque calcul, mais s’il a transféré au fournisseur une fonction décisionnelle qui lui appartenait traditionnellement.
Loper Bright ne détruit donc pas, selon Chang, la théorie Mobley ; il la recentre sur le texte.
La deuxième étape consiste à tracer une frontière entre participation réelle à la décision et simple fourniture d’un outil. Dans Mobley, Workday aurait filtré, classé et rejeté certains candidats avant toute revue humaine. Le fournisseur reçoit alors un poids décisionnel substantiel et peut être qualifié d’agent. À l’autre extrême, un fournisseur qui ne met à disposition qu’une base de données ou un logiciel de tri sans notation ni recommandation ne prend aucune décision ; la responsabilité demeure chez l’employeur. Entre les deux, tout dépend du poids réel de la recommandation. Si les recruteurs suivent presque toujours la sortie de l’IA, leur pouvoir formel de s’en écarter ne suffit pas nécessairement à exclure l’agence. Il faut regarder les pratiques concrètes, notamment les taux de contournement, les statistiques de sélection ou la manière dont le produit est présenté comme réduisant fortement la présélection humaine.
L’auteur teste ce critère par plusieurs cas limites. Un modèle open source publié puis déployé directement par l’employeur ne crée pas, selon lui, de relation principal-agent avec l’auteur du modèle, faute de délégation contractuelle. Dans Kistler v. Eightfold AI, les demandeurs ont choisi le Fair Credit Reporting Act plutôt que le Title VII, ce qui correspond à un outil de recommandation moins décisif que celui allégué dans Mobley. Walters v. OpenAI illustre l’autre limite : lorsque l’utilisateur formule la requête, lit la réponse et reste celui qui décide de l’utiliser, le fournisseur n’a pas reçu de pouvoir décisionnel. Le critère décisif n’est donc pas la technologie, mais le lieu où se trouve effectivement le pouvoir de décider.
Enfin, Chang répond à l’argument selon lequel cette responsabilité paralyserait l’industrie du logiciel. Des intermédiaires comme les agences de placement ou les recruteurs sont déjà soumis à des règles comparables, tandis que son test exclut les simples fournisseurs d’outils. Le risque peut ensuite être réparti contractuellement entre employeur et fournisseur. L’auteur souligne aussi qu’en Californie, les règlements FEHA de 2025 qualifient d’« agent » celui qui exerce pour le compte de l’employeur une fonction traditionnellement exercée par celui-ci, y compris au moyen d’un système automatisé.
Sa conclusion est que la question centrale n’est pas de savoir si une décision est prise par un humain ou une IA, mais si l’employeur a transféré à un tiers un pouvoir décisionnel substantiel. Lorsqu’un fournisseur décide effectivement qui avance ou qui est écarté, il peut, selon cette analyse, être traité comme l’agent de l’employeur au regard du droit fédéral de la discrimination.
Me Philippe Ehrenström, avocat, CPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration
Les réponses produites par une IA conversationnelle dans un chatbot doivent-elles être considérées comme du « speech » protégé par le Premier Amendement de la Constitution américains ?
La demanderesse présentait le système comme un produit commercial dont la conception aurait créé des risques prévisibles, notamment par ses mécanismes d’engagement et son anthropomorphisme. Les défendeurs décrivaient au contraire Character.AI comme un service diffusant de l’expression protégée. La juge Anne Conway a refusé, au stade de la motion to dismiss, de considérer comme acquis que les mots générés par un LLM constituent du « speech » au sens constitutionnel, tout en laissant se poursuivre les prétentions visant les défauts de l’application.
Pour les auteurs, Garcia révèle une sous-détermination juridique. L’IA conversationnelle peut être comprise à la fois comme un système commercial dont la conception produit des risques et comme un outil qui génère des contenus linguistiques. Les analogies traditionnelles ne suffisent donc pas.
Une première conception rattache le langage à l’intention, à l’auteur et à l’agent humain ; selon cette approche, les LLM produisent des phrases sans nécessairement accomplir eux-mêmes un véritable acte de communication. Une autre conception insiste sur la fonction sociale : un énoncé compris et intégré à une pratique de communication peut être traité comme du langage indépendamment du mécanisme qui l’a produit.
Les auteurs proposent donc une méthode normative. Lorsqu’une technologie rend plusieurs concepts juridiques possibles, le juge devrait retenir celui qui sert le mieux les finalités du régime concerné. Cette démarche s’inspire de la « conceptual engineering » et de l’interprétation téléologique. Elle ne dit toutefois pas quelles valeurs doivent l’emporter ; celles-ci doivent être identifiées dans le droit constitutionnel.
Un premier groupe de valeurs plaide pour l’inclusion des productions d’IA dans le Premier Amendement, qui protège aussi la circulation des idées, le droit de recevoir des informations et la limitation de l’intervention de l’État. Les LLM fournissent des informations et contenus recherchés par les utilisateurs. Elle pourrait aussi éviter un effet dissuasif sur l’innovation. Si la valeur constitutionnelle réside surtout dans la communication elle-même, le fait qu’un texte soit généré plutôt qu’écrit par une personne paraît secondaire.
Mais d’autres valeurs conduisent à la prudence. Le droit doit pouvoir identifier des acteurs responsables et offrir un recours aux personnes lésées. Or plusieurs limitations du Premier Amendement reposent encore sur l’intention d’un locuteur humain. L’incitation à une action illégale, par exemple, suppose que le discours soit dirigé vers un résultat déterminé. Avec un LLM, les mots sont générés au cours de l’interaction et ne correspondent pas nécessairement à une décision expressive préalable d’une personne identifiable. Étendre d’emblée la protection constitutionnelle aux sorties du chatbot risque donc de créer un décalage : le contenu serait couvert par le Premier Amendement alors que les doctrines permettant d’attribuer une responsabilité continueraient à présupposer une intention humaine.
Ce problème est renforcé par le design anthropomorphique. Les chatbots sont souvent conçus pour donner l’impression d’un interlocuteur humain capable de comprendre ou de nouer une relation. Les utilisateurs tendent à leur attribuer une intention ou une expertise qu’ils ne possèdent pas nécessairement. Dans Garcia, la plainte soutient que Character.AI aurait exploité cette tendance en présentant certains personnages comme partenaires, thérapeutes ou personnes de confiance. Pour les auteurs, il devient juridiquement pertinent lorsqu’il accroît l’influence du système sur des utilisateurs vulnérables. Assimiler trop vite cette influence à une « parole » protégée peut créer des lacunes de responsabilité.
Les auteurs estiment dès lors que le droit des produits constitue un meilleur point de départ. La frontière entre produit et service est déjà incertaine pour les logiciels, et le droit raisonne de plus en plus en termes de conception, sécurité et responsabilité du fournisseur. Aux États-Unis, la jurisprudence distingue déjà le contenu expressif d’un produit de son architecture ou de ses caractéristiques de conception. Le droit européen va plus loin en intégrant logiciels et systèmes d’IA dans la nouvelle directive sur la responsabilité du fait des produits. Un produit peut bien sûr contenir de l’expression protégée, comme un livre, un film ou un jeu vidéo. La différence tient au fait que cette protection vise normalement des choix expressifs humains identifiables, alors que les sorties d’un chatbot sont générées au fil de l’interaction et ne traduisent pas nécessairement l’intention d’une personne déterminée.
L’ordre d’analyse est donc décisif. Plutôt que de déclarer d’abord que les réponses d’un chatbot sont du « speech » protégé puis de modifier ensuite les règles de responsabilité, les tribunaux devraient commencer par le droit des produits, de la négligence ou de la protection des consommateurs lorsqu’un litige porte sur la conception et le fonctionnement d’un système commercial. La responsabilité peut ainsi rester attachée aux entreprises qui conçoivent, déploient et exploitent ces systèmes. Cela ne supprime pas les droits constitutionnels des humains : l’utilisateur qui reprend un texte généré comme sa propre expression reste protégé, de même que les choix éditoriaux ou expressifs faits par les développeurs.
Les auteurs ne soutiennent pas que l’IA conversationnelle ne pourra jamais relever du Premier Amendement, ni que ses productions sont dépourvues de valeur communicative. Ils estiment seulement que le caractère linguistique d’une réponse générée ne suffit pas à lui conférer immédiatement un statut constitutionnel. Lorsque l’attribution du contenu à un locuteur humain est incertaine et que la protection constitutionnelle risquerait d’affaiblir les mécanismes de responsabilité et de réparation, les tribunaux ont de bonnes raisons de traiter d’abord l’IA conversationnelle comme un système commercial soumis aux règles de sécurité et de responsabilité. Plus largement, le droit devrait choisir, face aux technologies nouvelles, la qualification qui sert le mieux les finalités du régime concerné.
Me Philippe Ehrenström, avocat, CPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration
2.2.1. Selon l’art. 24 al. 1 Cst., les Suisses et les Suissesses ont le droit de s’établir en un lieu quelconque du pays. La liberté d’établissement garantit à toute personne de nationalité suisse le droit de choisir son lieu de séjour et son domicile, ainsi que d’entrer en Suisse et de s’y établir; elle impose aux cantons et aux communes d’autoriser tout citoyen suisse à s’établir sur leur territoire et leur interdit en même temps d’empêcher ou de compliquer le transfert du domicile choisi vers un autre canton, commune ou pays étranger (ATF 148 I 97 consid. 3.2.1; 135 I 233 consid. 5.2; 128 I 280 consid. 4.1.1).
2.2.2. La liberté d’établissement n’est pas absolue. Comme tout droit fondamental, elle peut être restreinte aux conditions fixées par l’art. 36 Cst. (ATF 128 I 280 consid. 4.1.2; arrêt 2C_273/2023 du 30 mai 2024 consid. 5.3). Selon cette disposition, toute restriction d’un droit fondamental doit être fondée sur une base légale; les restrictions graves doivent être prévues par une loi, les cas de danger sérieux, direct et imminent étant réservés (al. 1). En outre, toute restriction d’un droit fondamental doit être justifiée par un intérêt public ou par la protection d’un droit fondamental d’autrui (al. 2), et elle doit être proportionnée au but visé (al. 3; arrêt 8C_390/2019 du 20 septembre 2019 consid. 6.4.2).
2.2.3. En matière d’obligation de résidence des fonctionnaires, la jurisprudence a, dans un premier temps, admis des restrictions à la liberté d’établissement fondées sur un intérêt public. En tant qu’employeur, l’État pouvait adopter, dans le cadre de la réglementation légale concernant les rapports de service, des prescriptions relatives au domicile des fonctionnaires. Outre les exigences purement professionnelles, une série de raisons objectives justifiait de maintenir un lien entre le fonctionnaire et la population ainsi que la collectivité, le but étant que ce premier ait connaissance dans le cadre de son travail, mais également à titre privé, des problèmes rencontrés par la collectivité (ATF 103 Ia 455). Par la suite, les critères des besoins du service ainsi que des relations particulières avec la population, tout en excluant des motifs purement fiscaux, ont été utilisés afin d’examiner une obligation de résidence (ATF 120 Ia 203 consid. 3a; 118 Ia 410 avec les références). Ainsi, l’existence d’un intérêt public justifiant une obligation de résidence avait notamment été admise pour les fonctionnaires des corps de police ou des pompiers, pour les enseignants, pour le chef d’un contrôle des habitants communal, pour le surveillant d’un établissement pénitentiaire, pour un préfet, ainsi que pour le greffier d’un tribunal de district, mais pas, par exemple, pour un ambulancier (ATF 128 I 280 consid. 4.2 avec les références).
Plus récemment, la jurisprudence a précisé que des motifs de disponibilité accrue ou de proximité avec la population ne pouvaient plus justifier une obligation de résidence. La seule exception existe lorsque est en cause l’exercice d’une activité relevant de la puissance publique, exercée avec une grande autonomie et qui est comparable à des hautes fonctions étatiques, à l’instar d’un notaire ou d’un chef de service de la police cantonale (ATF 128 I 280 consid. 4.3; arrêt 8C_733/2018 du 13 juin 2019 consid. 4.3.1 à 4.3.3). L’essence d’une obligation de résidence trouve en effet sa source dans le principe démocratique fondamental selon lequel le pouvoir étatique est exercé par les citoyens de l’État eux-mêmes, ce qui ne saurait cependant se justifier que pour l’exercice de prérogatives relevant de la puissance publique. Même pour cette catégorie d’agents publics, des raisons concrètes prépondérantes (objectives ou subjectives) pourraient néanmoins conduire à devoir respecter la liberté d’établissement (ATF 128 I 280 consid. 4.3.2; cf. aussi la jurisprudence énumérée in Malinverni/ Hottelier/Hertig Randall/Flückiger, Droit constitutionnel suisse, vol. II, 4e éd. 2021, n° 861-865; Patricia Egli, in St. Galler Kommentar, Die schweizerische Bundesverfassung, 4e éd. 2023, n° 40 ad art. 24 Cst.).
La doctrine considère que l’obligation de résidence des fonctionnaires devrait rester l’exception, la règle étant le libre choix du domicile. Une restriction à cette liberté constitutionnelle ne devrait ainsi être admise qu’exceptionnellement, en présence de réels besoins de service, de l’importance de la fonction ou de la nécessité d’un enracinement local, en dehors de toute considération fiscale prépondérante (cf. Pérez/ Nguyen, in Commentaire romand Constitution fédérale, 2021, n° 63 ad art. 24 Cst. avec les références; Patricia Egli, op. cit., n° 41 ad art. 24 Cst.; Rudin/Keller, in Basler Kommentar, Bundesverfassung, 2e éd. 2025, n° 41 s. ad art. 24 Cst.).
