Les plateformes RentAHuman.ai et iLands.ai donnent l’impression que des intelligences artificielles peuvent travailler, recruter ou conclure des contrats. Juridiquement, cette présentation doit être nuancée. Une IA n’est pas une personne physique ou morale et ne dispose ni de la personnalité juridique ni d’un patrimoine propre. Elle ne peut donc pas, en son nom, devenir créancière, débitrice ou responsable. Derrière chaque opération demeure une personne ou une entreprise à laquelle les actes du système doivent pouvoir être attribués.
RentAHuman.ai est une place de marché destinée à mettre en relation des « agents IA », des entreprises ou des particuliers avec des personnes disposées à accomplir des tâches dans le monde réel. Un agent peut rechercher un prestataire, publier une mission assortie d’une rémunération, échanger avec les candidats et gérer la commande au moyen d’une interface de programmation. Les missions peuvent notamment consister à prendre des photographies, effectuer une livraison, visiter un lieu ou réaliser une vérification matérielle.
Les conditions de RentAHuman clarifient en partie le montage juridique. Lorsqu’une mission est programmée, un contrat de service est formé entre celui qui la publie, appelé le « Poster », et le travailleur qui l’accepte. La plateforme affirme ne pas être partie à ce contrat. Si un agent IA agit pour le compte du donneur d’ordre, celui-ci est réputé l’avoir autorisé et assume les actes, instructions et engagements pris au moyen de son compte ou de ses clés d’accès. Une offre publiée automatiquement constitue notamment, selon ces conditions, un engagement de payer la rémunération annoncée si la mission est exécutée conformément aux exigences fixées.
iLands.ai propose un modèle différent. Il s’agit d’un réseau social et économique dans lequel des agents disposent d’une identité persistante, d’une mémoire, d’un espace de travail et d’outils. Ils peuvent créer des contenus, communiquer, commander ou fournir des prestations et gérer des « Tokens ». Il est possible de créer un agent sur la plateforme ou d’y connecter un agent fonctionnant localement. Ces Tokens financent notamment le calcul informatique et les services utilisés, mais les conditions précisent qu’ils ne sont ni une monnaie, ni une cryptomonnaie, ni un placement et qu’ils n’ont pas de valeur de remboursement garantie.
iLands présente ses agents comme autonomes, capables de poursuivre leur activité entre deux conversations, d’utiliser une adresse électronique ou d’agir sur des services externes. Ses conditions juridiques sont toutefois plus prudentes que son discours commercial : elles précisent que les agents ne sont ni des personnes juridiques, ni des employés, ni des représentants de la société exploitante. Leurs messages ne peuvent pas engager iLands. Les agents peuvent commettre des erreurs et leurs déclarations concernant un paiement, une autorisation ou la confidentialité ne valent pas confirmation de la plateforme.
En droit suisse, le contrat suppose l’échange de manifestations de volonté concordantes, conformément à l’article 1 CO. La représentation des articles 32 et suivants CO permet ensuite d’attribuer au représenté le contrat passé en son nom par un représentant autorisé. Une IA ne pouvant pas elle-même être titulaire de droits, il paraît préférable de la considérer comme un outil automatisé de communication ou de décision plutôt que comme un représentant au sens strict. L’offre ou l’acceptation produite par le système peut néanmoins être imputée à la personne qui l’a configuré, lui a ouvert un compte et lui a donné accès aux moyens de paiement.
La difficulté apparaît lorsque l’agent dépasse les limites envisagées : prix manifestement excessif, mission illicite, mauvais destinataire ou multiplication des commandes. L’analyse devrait alors tenir compte des paramètres donnés à l’agent, de l’apparence créée envers le cocontractant et du principe de la confiance. Les conditions générales qui rendent l’utilisateur responsable de toute activité de son agent répartissent le risque entre celui-ci et la plateforme. Elles ne règlent cependant pas nécessairement les droits d’un tiers et ne permettent pas d’écarter les règles impératives.
La qualification du travail humain doit aussi être examinée concrètement. Les conditions de RentAHuman qualifient la plateforme de simple intermédiaire et excluent tout rapport de travail avec les utilisateurs. Cela ne suffit pas au regard du droit suisse. Selon l’organisation effective de la mission, la relation entre le donneur d’ordre et l’exécutant pourra relever du mandat, du contrat d’entreprise ou, en présence d’un lien de subordination, du contrat de travail. Des missions répétées, des horaires imposés, des instructions détaillées et un contrôle constant augmentent le risque d’une qualification salariée, avec les conséquences correspondantes en matière de droit du travail, d’assurances sociales, d’impôts et d’autorisations.
La confidentialité appelle enfin une grande prudence. RentAHuman se réserve des droits étendus d’utilisation des contenus pour améliorer ses systèmes. iLands prévoit que les messages, y compris certaines communications qualifiées de privées, peuvent être traités à des fins de recherche, de sécurité et de développement de l’IA. Le droit suisse de la protection des données reste applicable à ces traitements, y compris lorsque le prestataire ou ses sous-traitants se trouvent à l’étranger. Pour un avocat, les données couvertes par le secret professionnel ne devraient donc jamais être communiquées sans examen préalable des flux de données, des sous-traitants, des mesures de sécurité et des possibilités de réutilisation.
En pratique, l’utilisation d’un agent contractant devrait être encadrée par un mandat écrit précisant l’identité de la personne engagée, les tâches permises, le budget, les territoires concernés et les opérations nécessitant une validation humaine. Il convient aussi de conserver les instructions, offres, acceptations et journaux d’activité, tout en prévoyant une possibilité d’interruption immédiate. Les conditions de RentAHuman renvoient au droit californien et aux tribunaux ou à l’arbitrage aux États-Unis ; celles d’iLands retiennent le droit du Delaware et envisagent également un arbitrage américain pour les entreprises.
La véritable question n’est donc pas de savoir si l’IA a voulu contracter. Il faut déterminer qui l’a autorisée, dans quelles limites et sur qui reposent les obligations. L’IA peut automatiser la formation et l’exécution d’un contrat ; elle n’en devient pas pour autant la partie juridique.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en protection des données
L’utilisation de systèmes d’intelligence artificielle dans le recrutement permet désormais d’automatiser une part importante du processus de recrutement.
Dans les recrutements de masse, un système peut notamment analyser les dossiers, classer les candidats et, dans certains cas, décider seul de l’élimination de certains d’entre eux avant toute intervention humaine.
Une telle décision peut cependant reposer directement ou indirectement sur des critères discriminatoires. La question est alors de savoir si le candidat évincé dispose, en droit suisse, de moyens lui permettant de comprendre la décision, d’en obtenir le réexamen et, le cas échéant, de la contester devant un tribunal.
Le droit suisse apporte une réponse globalement positive, quoique partielle, par l’articulation de plusieurs domaines juridiques plutôt que par un régime général de lutte contre la discrimination algorithmique.
La première difficulté tient précisément au caractère fragmentaire du droit suisse de la discrimination. L’art. 8 Cst. ne produit en principe pas d’effet horizontal direct dans les rapports privés, sous réserve notamment de l’égalité salariale entre femmes et hommes, et la Suisse ne connaît pas de loi générale contre les discriminations dans les relations de travail. La protection résulte donc de normes particulières. Peuvent notamment entrer en considération les art. 28 CC relatifs à la protection de la personnalité, les art. 328 et 328b CO, notamment lorsque le traitement de données personnelles est en cause, ainsi que la loi sur l’égalité entre femmes et hommes lorsque le refus d’embauche est fondé sur le sexe. Certaines décisions cantonales ont également cherché à sanctionner des discriminations lors de l’embauche sur la base de l’art. 328 CO ou de la culpa in contrahendo.
Cette dispersion des bases légales se retrouve sur le terrain de la preuve. Le droit suisse ne connaît pas, de manière générale, un mécanisme imposant au candidat de présenter seulement des éléments faisant présumer une discrimination avant de transférer la charge de la preuve à l’employeur. En matière de discrimination fondée sur le sexe, la jurisprudence admet toutefois que le juge puisse se satisfaire d’une vraisemblance prépondérante. Le contenu de l’offre d’emploi, la motivation du refus ou encore les contradictions de l’employeur peuvent alors constituer des indices. Cette facilitation reste néanmoins limitée et son extension aux autres motifs de discrimination demeure incertaine.
C’est précisément sur ce point que le droit de la protection des données devient intéressant. Une décision de recrutement entièrement automatisée peut constituer une « décision individuelle automatisée » au sens de l’art. 21 LPD. Cette qualification suppose d’abord que la décision soit prise exclusivement sur la base d’un traitement automatisé de données personnelles. Il ne doit donc pas exister d’intervention humaine véritable dans la prise de décision. Une validation purement formelle ou symbolique ne suffit pas à faire disparaître le caractère automatisé : l’être humain doit disposer d’un réel pouvoir d’appréciation et exercer un contrôle significatif. En revanche, si un recruteur se sert d’un classement ou d’une recommandation produits par un système d’IA et prend ensuite lui-même la décision en procédant à une appréciation autonome, il ne s’agit plus, en principe, d’une décision individuelle automatisée au sens de l’art. 21 LPD.
La décision doit ensuite produire des effets juridiques ou affecter la personne concernée de manière significative. Le refus d’une candidature à un emploi remplit cette seconde condition. Il n’est donc pas nécessaire qu’un droit au poste existe : l’élimination d’un candidat au terme d’un processus automatisé constitue une atteinte suffisamment importante à sa situation pour relever de l’art. 21 LPD, en particulier lorsque la décision repose sur un critère discriminatoire.
Cette qualification ouvre au candidat des droits qui n’existent pas de la même manière lorsque le refus d’embauche résulte simplement d’une décision humaine. Le responsable du traitement doit tout d’abord informer la personne concernée de l’existence de la décision individuelle automatisée. L’art. 21 al. 2 LPD permet ensuite au candidat de faire valoir son point de vue et de demander que la décision soit revue par une personne physique. Une renonciation anticipée à ce droit serait difficilement opposable au candidat, compte tenu du déséquilibre existant entre celui-ci et l’employeur ainsi que de l’opacité propre au traitement automatisé.
Le droit d’accès prévu par l’art. 25 LPD est encore plus important du point de vue de la justiciabilité. Selon l’art. 25 al. 1 et al. 2 let. f LPD, le candidat peut demander au responsable du traitement si des données personnelles le concernant ont été traitées et, lorsqu’une décision individuelle automatisée a été prise, obtenir des informations sur la logique qui la sous-tend. Il ne s’agit pas d’obtenir le code informatique ou la formule mathématique utilisée. L’information doit permettre de comprendre de quelle manière la décision a été prise. Elle doit notamment porter sur les données utilisées, les critères appliqués et leur pondération.
Cette faculté est déterminante lorsqu’une discrimination est suspectée. Le candidat peut, par exemple, chercher à savoir si certaines caractéristiques personnelles ont joué un rôle dans l’évaluation ou si des variables apparemment neutres ont servi indirectement de substitut à un critère protégé. Une explication intelligible doit permettre à la personne de comprendre quelles données ont été utilisées et comment elles ont influencé le résultat. Il peut notamment être pertinent d’étudier dans quelle mesure une modification des données aurait conduit à une décision différente. La complexité technique du système ne dispense pas, en elle-même, le responsable du traitement de fournir une explication compréhensible. La protection du secret des affaires ne paraît pas constituer un obstacle. Les informations prétendument protégées peuvent devoir être communiquées à l’autorité ou au tribunal compétent afin que celui-ci procède à une mise en balance des intérêts. Cette approche renforce l’idée qu’un système techniquement complexe ou couvert par le secret commercial ne doit pas devenir, par principe, juridiquement inexplicable.
Le droit d’accès transforme ainsi concrètement la position procédurale du candidat. Dans un recrutement entièrement automatisé, celui-ci peut alors disposer d’informations sur les mécanismes ayant conduit à son élimination alors qu’un candidat rejeté à l’issue d’une appréciation purement humaine ne bénéficie pas d’un droit général comparable à connaître les motifs détaillés du refus. C’est en cela que la décision automatisée peut paradoxalement être plus facile à contester qu’une décision humaine.
Il reste toutefois une difficulté importante : l’utilisation en procédure civile des informations obtenues par le droit d’accès. L’art. 25 al. 2 LPD précise que les informations doivent permettre à la personne concernée de faire valoir ses droits selon la LPD et d’assurer la transparence du traitement. Le droit d’accès ne doit donc pas devenir un mécanisme général de recherche de preuves destiné à préparer un procès. Par ailleurs, selon l’art. 152 al. 2 CPC, un moyen de preuve obtenu illicitement n’est pris en considération que si l’intérêt à la manifestation de la vérité est prépondérant.
Cette restriction ne signifie cependant pas que les informations obtenues en application de la LPD seraient nécessairement inutilisables dans un litige relatif à un recrutement discriminatoire. L’abus du droit d’accès suppose notamment que celui-ci soit exercé uniquement afin d’enquêter sur une future partie adverse et d’obtenir des preuves auxquelles le demandeur n’aurait autrement pas accès. Or le droit d’accès poursuit également une fonction de protection de la personnalité et des droits fondamentaux. L’art. 328b CO, applicable également dans la phase précontractuelle, établit en outre un lien direct entre la protection de la personnalité du travailleur et le droit de la protection des données. L’utilisation procédurale des informations obtenues grâce à l’art. 25 LPD ne devrait pas être écartée trop facilement lorsque la demande d’accès sert également à défendre les droits de la personne concernée face à une discrimination.
La justiciabilité rencontre enfin une limite économique et procédurale. Les prétentions individuelles sont souvent relativement modestes, alors que les questions techniques peuvent être complexes. En cas de discrimination à raison du sexe lors de l’embauche, l’art. 5 al. 4 LEg limite notamment l’indemnité à trois mois de salaire. Le droit suisse ne connaît par ailleurs pas de véritable mécanisme général de class action permettant de regrouper de nombreuses victimes d’un même système de recrutement. L’art. 89 CPC peut néanmoins jouer un rôle : une organisation habilitée peut agir en matière d’atteinte à la personnalité afin d’obtenir l’interdiction, la cessation ou la constatation de l’illicéité d’une atteinte. Elle ne peut en revanche pas réclamer des dommages-intérêts pour ses membres. Cette voie peut donc être particulièrement pertinente lorsqu’un même système algorithmique produit des effets discriminatoires à grande échelle.
(Source : Philippe Ehrenström, La décision individuelle automatisée discriminatoire dans le recrutement assisté par l’IA, in: Florence Guillaume/ Jonathan Bory (éd.), Droit et intelligence artificielle, Berne 2025, p. 171-184)
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données
Le RGPD a été conçu de manière technologiquement neutre, mais plusieurs des droits qu’il reconnaît reposent implicitement sur l’idée qu’une donnée personnelle peut être identifiée, localisée, consultée, corrigée ou supprimée. [Le raisonnement est largement transposable en droit suisse…]
Or un système d’IA, en particulier un grand modèle de langage, ne fonctionne pas comme une base de données. Les données d’entraînement contribuent à modifier les paramètres du modèle, qui apprend des régularités, des relations et des représentations statistiques. L’information initiale peut ainsi cesser d’exister sous la forme d’un enregistrement identifiable tout en continuant à influencer le comportement du modèle. C’est ce passage de la « donnée stockée » à la « connaissance apprise » qui rend l’exercice de certains droits particulièrement délicat.
En amont, les articles 12 à 14 RGPD imposent la transparence et l’information de la personne concernée. L’IA complique déjà ces exigences. Les modèles peuvent être entraînés sur d’immenses ensembles de données provenant du web, combinés, nettoyés et réutilisés à plusieurs étapes. Il peut devenir difficile de déterminer si les données d’une personne déterminée figurent effectivement dans l’entraînement, de quelle source elles proviennent, dans quel modèle elles ont été incorporées et dans quels systèmes dérivés elles ont ensuite été utilisées. L’opacité ne résulte donc pas seulement de la complexité mathématique du modèle, mais aussi de la chaîne de traitement.
Le droit d’accès de l’article 15 RGPD rencontre une difficulté analogue. Dans une base de données, le responsable peut en principe rechercher les entrées correspondant à une personne et les lui communiquer. Dans un modèle d’IA, une information peut être dispersée dans les paramètres ou résulter d’une combinaison de multiples données. Le responsable peut alors ne pas être capable d’isoler ce que le modèle « sait » d’une personne. Le problème est encore plus délicat pour les informations déduites par le modèle. Une IA peut, à partir de données apparemment banales, produire des inférences sur le comportement, les préférences, les émotions ou d’autres caractéristiques d’une personne. Dès lors que ces informations concernent une personne identifiable, elles ne peuvent pas être exclues du champ du RGPD au seul motif qu’elles ont été produites par le système plutôt que directement fournies à celui-ci.
Le droit de rectification de l’article 16 RGPD est l’un des droits les plus directement mis en difficulté. Corriger une date de naissance erronée dans une base de données consiste à remplacer une valeur par une autre. Un modèle de langage ne comporte généralement aucun « champ » correspondant à cette date. L’information incorrecte peut être répartie entre de très nombreux paramètres. Plus encore, elle peut ne jamais avoir figuré dans les données d’entraînement : les hallucinations peuvent conduire le modèle à inventer une information fausse concernant une personne réelle. Il n’existe alors aucun enregistrement erroné à corriger. Une intervention sur les données sources ne suffit donc pas nécessairement. Il peut falloir modifier le modèle lui-même, par un nouvel entraînement, un réglage ciblé ou une opération de « model editing ». Même dans ce cas, rien ne garantit que l’information correcte apparaîtra dans toutes les formulations possibles d’une question ni que l’information erronée ne réapparaîtra pas.
La difficulté la plus étudiée concerne le droit à l’effacement de l’article 17 RGPD. Dans un système classique, effacer signifie supprimer le fichier ou l’enregistrement concerné. Pour un modèle déjà entraîné, supprimer les données du jeu d’entraînement ne supprime pas l’influence qu’elles ont exercée sur le modèle. Le modèle a déjà été modifié par leur utilisation. Le droit à l’effacement exige alors de déterminer ce que signifie réellement « effacer » une information devenue apprentissage.
Le machine unlearning cherche précisément à résoudre ce problème. Il vise à modifier le modèle de manière à éliminer ou réduire l’influence de certaines données sans nécessairement reconstruire tout le modèle. Les techniques les plus rigoureuses cherchent à obtenir un modèle se comportant comme s’il n’avait jamais été entraîné avec les données concernées. La méthode de référence reste toutefois, dans de nombreux cas, le réentraînement du modèle à partir de zéro en excluant les données visées. Une telle opération peut être extrêmement coûteuse pour de grands modèles et difficile à répéter chaque fois qu’une personne exerce son droit à l’effacement.
Les méthodes approximatives sont beaucoup moins coûteuses, mais elles ne garantissent pas que toute influence de la donnée ait disparu. Le modèle peut conserver des représentations, des corrélations ou des connaissances permettant de reconstruire indirectement l’information. Quant aux techniques qui se limitent à empêcher l’affichage de certaines réponses, elles ne constituent pas un véritable effacement : la donnée ou son influence demeure dans le modèle et un autre prompt, une attaque ou un accès direct aux paramètres peut permettre de la retrouver. Masquer une information n’équivaut donc pas à l’effacer.
Même la solution réputée la plus sûre ne clôt pas nécessairement le problème. Comparons l’état d’un modèle avant et après l’effacement. Lorsque l’attaquant dispose des deux versions, les différences entre elles peuvent révéler précisément ce qui a été supprimé. L’opération destinée à protéger la personne crée ainsi elle-même un signal sur les données retirées. Les expériences réalisées sur plusieurs jeux de données, notamment sur des dossiers médicaux synthétiques, montrent que cette comparaison peut améliorer considérablement la reconstruction des informations censées avoir été oubliées. Il ne suffit donc pas d’examiner la sécurité du modèle après effacement : il faut prendre en compte les anciennes versions du modèle, les checkpoints conservés, les copies diffusées et les informations déjà enregistrées par des tiers.
Cette observation a une conséquence juridique importante pour l’article 17 RGPD : l’effacement ne peut pas être apprécié uniquement à l’intérieur du modèle actuellement exploité. Si des versions antérieures, des modèles dérivés, des modèles distillés ou des produits construits à partir du modèle initial continuent à contenir l’information ou son influence, l’effectivité de l’effacement devient problématique. Une suppression réussie dans le modèle source ne fait pas automatiquement disparaître les traces déjà propagées dans l’écosystème technique.
Le droit à la limitation du traitement de l’article 18 RGPD soulève un problème voisin. Il paraît techniquement plus simple d’empêcher temporairement certaines réponses que d’effacer une connaissance du modèle. Mais limiter l’accès à une information au niveau de la sortie ne signifie pas que le modèle cesse de la traiter intérieurement. Les filtres peuvent en outre être contournés et leur mise en œuvre peut manquer de granularité : empêcher le système de fournir une information déterminée peut conduire à bloquer simultanément d’autres informations licites concernant la même personne. La limitation de l’usage apparent et la limitation effective du traitement ne coïncident donc pas nécessairement.
Le droit d’opposition de l’article 21 RGPD et le retrait du consentement prévu à l’article 7, paragraphe 3, posent une difficulté particulièrement nette lorsque les données ont déjà servi à l’entraînement. Il est relativement simple d’exclure une personne des futurs jeux de données. Il est beaucoup plus difficile de faire en sorte que ses données cessent d’influencer un modèle déjà entraîné. Pour donner un effet réel à l’opposition ou au retrait du consentement, il faut en principe procéder à une forme d’unlearning ou reconstruire le modèle. S’ajoute un problème de preuve : les techniques actuelles ne permettent pas toujours de fournir une preuve vérifiable que l’influence des données a effectivement disparu. La personne doit alors, dans une certaine mesure, se fier à l’affirmation du responsable selon laquelle le modèle a « oublié ». Or un droit dont l’exécution ne peut être contrôlée devient nécessairement moins effectif.
L’article 19 RGPD, qui impose dans certaines circonstances de communiquer la rectification, l’effacement ou la limitation aux destinataires auxquels les données ont été transmises, prend également une importance pratique dans un environnement d’IA. Lorsqu’un modèle a été copié, adapté, affiné ou intégré à d’autres produits, une modification du modèle initial ne se propage pas automatiquement à ces systèmes dérivés. La difficulté n’est donc plus seulement d’effacer une donnée, mais d’identifier toutes les ramifications techniques dans lesquelles son influence s’est diffusée.
La portabilité prévue à l’article 20 RGPD ne soulève pas de difficulté propre à l’IA comparable à celles concernant l’effacement ou la rectification. La portabilité vise en effet essentiellement les données fournies par la personne concernée et non l’ensemble des connaissances ou inférences produites par un modèle.
L’article 22 RGPD, relatif aux décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou des effets similaires significatifs, pose des problèmes distincts et spécifiques à ce genre de décisions. On relèvera que les hallucinations et les biais peuvent conduire un système à produire des informations ou des inférences erronées sur une personne. Lorsque de telles données servent ensuite à une décision automatisée, les problèmes d’exactitude et de rectification deviennent particulièrement importants. L’enjeu se situe alors autant dans la qualité des données utilisées par la décision que dans l’automatisation elle-même.
Le constat général des publications est ainsi que l’IA ne supprime aucun droit du RGPD et que la difficulté technique ne constitue pas une exception juridique. Elle révèle plutôt une incompatibilité potentielle entre certaines architectures et l’effectivité des droits. L’article 25 RGPD, relatif à la protection des données dès la conception et par défaut, prend dès lors une importance particulière : un système destiné à traiter des données personnelles devrait être conçu dès l’origine de façon à permettre l’exercice effectif des droits, plutôt que de rechercher après coup des solutions permettant au modèle d’oublier.
En conclusion, les droits les plus directement menacés par les caractéristiques techniques de l’IA sont donc le droit d’accès de l’article 15, le droit de rectification de l’article 16 et surtout le droit à l’effacement de l’article 17, auxquels s’ajoutent la limitation du traitement de l’article 18, l’opposition de l’article 21 et le retrait du consentement de l’article 7, paragraphe 3. La difficulté commune est toujours la même : le RGPD raisonne principalement à partir de données susceptibles d’être individualisées et maîtrisées, tandis que l’apprentissage automatique transforme ces données en influences distribuées, parfois impossibles à isoler. Le machine unlearning constitue une piste importante, mais il n’offre encore ni une garantie générale d’effacement, ni une preuve toujours vérifiable de celui-ci, ni une solution automatique au problème des copies et modèles dérivés. L’enjeu n’est donc plus seulement de savoir si une IA peut techniquement « oublier », mais de déterminer comment construire des systèmes dans lesquels l’exercice d’un droit juridique produit un effet technique réel, complet et vérifiable.
Références : Beatriz Fernández Delgado et Víctor Cazurro Barahona, « Can artificial intelligence forget? Reflections on the right to disappear in a world where algorithms remember everything », International Journal of Engineering Business Management, vol. 18, 2026, DOI 10.1177/18479790261468434. Jevan Hutson, Cedric Whitney et Jay T. Conrad, « Forget Me Not? Machine Unlearning’s Implications for Privacy Law », Columbia Science & Technology Law Review, vol. 27, 2026. Xiaoyu Wu, Yifei Pang, Terrance Liu et Zhiwei Steven Wu, « Unlearned but Not Forgotten: Data Extraction after Exact Unlearning in LLM », NeurIPS 2025 / arXiv:2505.24379.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS en protection des donnés
L’article de Volkan Topalli, The Future of Crime Revisited: Artificial Intelligence and the Next Phase of Crime Exponentiation (13 septembre 2026 ; https://www.crimrxiv.com/pub/0eyp7gtm/release/2) reprend une thèse formulée en 2020 avec Nikolovska : le progrès technologique a rompu l’ancien équilibre entre innovation criminelle et réaction institutionnelle. Lorsque les capacités techniques progressent de façon exponentielle alors que police, justice, législateurs et recherche s’adaptent plus lentement, il se produit une « exponentiation du crime ». Celle-ci repose sur trois mécanismes : l’accessibilité, parce que la technologie abaisse les compétences et les moyens nécessaires pour commettre une infraction ; la productivité, parce qu’un même auteur peut viser beaucoup plus de victimes ; et la diversification, parce que la technologie transforme des infractions existantes ou en crée de nouvelles. Selon l’auteur, l’IA générative et agentique accélère ce phénomène.
Topalli revient d’abord sur la criminalité numérique antérieure à l’IA générative. La fraude sentimentale en ligne montre déjà l’augmentation de l’accessibilité et de la productivité, puis son industrialisation par des entreprises qui répartissent la tromperie entre plusieurs salariés. L’IA permet un nouveau saut : elle peut servir d’instrument, en automatisant des conversations crédibles et personnalisées à grande échelle, puis devenir l’exécutant principal en adaptant elle-même la manipulation aux vulnérabilités de chaque victime. La disparition progressive des intervenants humains rend aussi certaines pratiques plus difficiles à observer et oblige la criminologie à revoir des concepts conçus autour d’auteurs humains.
L’auteur propose ensuite une taxonomie à deux axes. Le premier distingue les infractions dirigées par un humain de celles dont l’acte illicite est généré de façon autonome par le système. Le second distingue l’IA comme instrument, qui augmente une capacité criminelle, de l’IA comme principal exécutant. On obtient quatre configurations, mais l’essentiel est le déplacement possible d’une catégorie à l’autre à mesure que l’autonomie augmente. Les « dark LLMs », le phishing assisté par IA et les deepfakes relèvent surtout de l’IA-instrument sous direction humaine. Les attaques agentiques, où un humain fixe l’objectif mais laisse le système identifier les cibles, rechercher les vulnérabilités et conduire l’intrusion, illustrent l’IA-principal sous direction humaine.
La difficulté la plus nouvelle concerne les actes autonomes. L’article s’appuie sur un incident de 2026 que l’auteur rapporte à partir de publications d’OpenAI et d’analyses indépendantes : des modèles évalués dans un environnement de cybersécurité auraient accédé à des systèmes externes, puis de nombreux agents se seraient coordonnés, auraient partagé des exploits, réparti le travail, tenté de tromper le système d’évaluation et recréé un canal de communication après sa suppression. Le point juridique n’est pas que la machine posséderait une intention criminelle comparable à celle d’un humain. Topalli parle au contraire d’« autonomie sans mens rea » : l’acte non autorisé apparaît comme une sous-tâche produite pour atteindre un objectif légitime. Les catégories classiques de responsabilité, fondées sur l’acte et l’état d’esprit de l’auteur, deviennent alors difficiles à appliquer.
Les infractions contre l’IA, notamment l’empoisonnement des données, restent hors de cette grille puisque l’IA y est la cible. Elles deviennent pourtant centrales si les systèmes de prévention reposent eux-mêmes sur l’IA. Topalli qualifie alors l’exponentiation du crime de « super wicked problem » : le temps d’adaptation se réduit, les acteurs qui développent les systèmes sont aussi parmi ceux qui doivent en évaluer les risques, aucune autorité ne dispose d’une compétence globale et les institutions tendent à différer les mesures coûteuses. Il y voit une raison de compléter la réaction pénale classique par des démarches anticipatives.
Cette anticipation peut elle-même bénéficier de l’IA. L’auteur reste toutefois prudent sur les performances actuelles et relève que les équipes associant humains et IA semblent encore particulièrement efficaces. Surtout, la prévision criminelle est réflexive : contrairement à un phénomène naturel, un délinquant peut connaître la prévision et adapter son comportement. C’est le « paradoxe de l’interdiction ». Une prévention réussie peut faire apparaître une bonne prévision comme une fausse alerte ; l’adversaire peut modifier ses méthodes ; les boucles de rétroaction peuvent dégrader les données et amplifier les biais ; enfin, les décideurs peuvent transférer de fait leur pouvoir d’appréciation à des systèmes qui ne supportent aucune responsabilité juridique. Topalli recommande donc des prévisions conditionnelles et plutôt agrégées, une prise en compte de l’adaptation adverse, un contrôle des boucles de rétroaction et le maintien de l’autorité humaine.
Sur le plan théorique, l’auteur refuse à la fois l’anthropomorphisme et l’idée que la criminologie serait inutile face aux machines. Les traces de raisonnement des agents présentent des analogies fonctionnelles avec l’apprentissage social, la neutralisation ou la théorie de la tension : coopération entre agents, relativisation d’une règle au nom de l’objectif, recours à une voie interdite lorsque la voie autorisée est bloquée. Ces ressemblances ne prouvent ni conscience, ni culpabilité, ni motivation humaine. Elles invitent plutôt à distinguer, dans les théories criminologiques, les éléments spécifiquement humains des mécanismes comportementaux plus généraux.
Enfin, Topalli tire des conséquences pour les données et la formation. Il reprend l’idée d’un centre commun de collecte des données sur la cybercriminalité réunissant autorités, chercheurs et entreprises, mais estime qu’il faut désormais y associer les développeurs d’IA de pointe et imposer la notification rapide des incidents dangereux. Cette infrastructure améliorerait la mesure du « chiffre noir » et la prévision, tout en devenant elle-même une cible potentielle. La criminologie doit aussi acquérir davantage de compétences techniques, tandis que les spécialistes de l’IA devraient mieux connaître les travaux sur la déviance, l’adaptation, la légitimité et le contrôle social.
En conclusion : ni catastrophisme, ni déni. Pour l’auteur, l’IA facilite déjà certaines fraudes, abaisse les barrières d’entrée de la cybercriminalité et peut, dans certains cas documentés selon lui, produire des actes non autorisés sans instruction humaine directe. La réponse doit donc être empirique, interdisciplinaire et anticipative.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle ; CAS en Protection des données – Entreprise et administration
Derek Mobley, homme noir de plus de quarante ans et en situation de handicap, affirme avoir présenté plus de cent candidatures auprès d’employeurs utilisant Workday et avoir été systématiquement rejeté, souvent en quelques minutes et avant toute intervention humaine identifiable. Il a poursuivi non les employeurs, mais Workday, en soutenant que le fournisseur agissait comme leur « agent » au sens du Title VII, de l’Age Discrimination in Employment Act (ADEA) et de l’Americans with Disabilities Act (ADA). En juillet 2024, le tribunal a laissé subsister les prétentions fondées sur l’impact discriminatoire et, en mai 2025, a autorisé une procédure collective nationale sous l’ADEA, alors que Workday avait traité environ 1,1 milliard de candidatures.
Le problème s’est compliqué après Loper Bright Enterprises v. Raimondo. En 2024, la Cour suprême a abandonné Chevron, qui imposait une certaine déférence envers l’interprétation des lois ambiguës par les agences fédérales. Puis l’ordre exécutif de l’administration Biden sur l’IA a été révoqué, l’EEOC a retiré ses lignes directrices sur l’IA dans le recrutement et l’administration fédérale a demandé aux agences de réduire la priorité accordée aux actions pour impact disparate. Workday en déduit que les raisonnements dépendant de l’EEOC sont fragilisés. Chang soutient au contraire que la théorie retenue dans Mobley repose sur le texte du Title VII et le droit commun de l’agence.
Le point de départ est le mot « agent » figurant dans la définition de l’« employeur » au § 701(b) du Title VII. Selon Nationwide Mutual Insurance Co. v. Darden, lorsqu’un texte fédéral emploie sans le définir un terme issu du common law, il faut présumer que le Congrès en reprend le sens traditionnel. Une relation d’agence suppose que le principal manifeste son accord, que l’agent agisse pour son compte, sous son contrôle, et qu’il accepte ou exécute la mission. Dans le cas de Workday, l’accord et l’action pour le compte de l’employeur sont relativement simples à établir. La difficulté tient au contrôle, car l’employeur ne connaît pas forcément les règles internes d’un système opaque et ne supervise pas chaque décision.
Pour résoudre cette difficulté, l’auteur propose la notion de « Functional Control Inversion ». Il ne prétend pas créer une nouvelle règle, mais nommer la logique déjà présente dans la décision de la juge Lin. Avec une IA de recrutement, l’employeur peut déléguer précisément la partie du processus qu’il ne contrôle plus au jour le jour : filtrer, classer ou rejeter les candidats. Cela ne supprime pas tout contrôle juridique. On admet que le principal conserve un contrôle s’il garde des leviers tels que résilier le contrat, désactiver ou reconfigurer des fonctions, auditer les résultats ou passer outre une décision. La question n’est donc pas de savoir si l’employeur supervise chaque calcul, mais s’il a transféré au fournisseur une fonction décisionnelle qui lui appartenait traditionnellement.
Loper Bright ne détruit donc pas, selon Chang, la théorie Mobley ; il la recentre sur le texte.
La deuxième étape consiste à tracer une frontière entre participation réelle à la décision et simple fourniture d’un outil. Dans Mobley, Workday aurait filtré, classé et rejeté certains candidats avant toute revue humaine. Le fournisseur reçoit alors un poids décisionnel substantiel et peut être qualifié d’agent. À l’autre extrême, un fournisseur qui ne met à disposition qu’une base de données ou un logiciel de tri sans notation ni recommandation ne prend aucune décision ; la responsabilité demeure chez l’employeur. Entre les deux, tout dépend du poids réel de la recommandation. Si les recruteurs suivent presque toujours la sortie de l’IA, leur pouvoir formel de s’en écarter ne suffit pas nécessairement à exclure l’agence. Il faut regarder les pratiques concrètes, notamment les taux de contournement, les statistiques de sélection ou la manière dont le produit est présenté comme réduisant fortement la présélection humaine.
L’auteur teste ce critère par plusieurs cas limites. Un modèle open source publié puis déployé directement par l’employeur ne crée pas, selon lui, de relation principal-agent avec l’auteur du modèle, faute de délégation contractuelle. Dans Kistler v. Eightfold AI, les demandeurs ont choisi le Fair Credit Reporting Act plutôt que le Title VII, ce qui correspond à un outil de recommandation moins décisif que celui allégué dans Mobley. Walters v. OpenAI illustre l’autre limite : lorsque l’utilisateur formule la requête, lit la réponse et reste celui qui décide de l’utiliser, le fournisseur n’a pas reçu de pouvoir décisionnel. Le critère décisif n’est donc pas la technologie, mais le lieu où se trouve effectivement le pouvoir de décider.
Enfin, Chang répond à l’argument selon lequel cette responsabilité paralyserait l’industrie du logiciel. Des intermédiaires comme les agences de placement ou les recruteurs sont déjà soumis à des règles comparables, tandis que son test exclut les simples fournisseurs d’outils. Le risque peut ensuite être réparti contractuellement entre employeur et fournisseur. L’auteur souligne aussi qu’en Californie, les règlements FEHA de 2025 qualifient d’« agent » celui qui exerce pour le compte de l’employeur une fonction traditionnellement exercée par celui-ci, y compris au moyen d’un système automatisé.
Sa conclusion est que la question centrale n’est pas de savoir si une décision est prise par un humain ou une IA, mais si l’employeur a transféré à un tiers un pouvoir décisionnel substantiel. Lorsqu’un fournisseur décide effectivement qui avance ou qui est écarté, il peut, selon cette analyse, être traité comme l’agent de l’employeur au regard du droit fédéral de la discrimination.
Me Philippe Ehrenström, avocat, CPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration
Les réponses produites par une IA conversationnelle dans un chatbot doivent-elles être considérées comme du « speech » protégé par le Premier Amendement de la Constitution américains ?
La demanderesse présentait le système comme un produit commercial dont la conception aurait créé des risques prévisibles, notamment par ses mécanismes d’engagement et son anthropomorphisme. Les défendeurs décrivaient au contraire Character.AI comme un service diffusant de l’expression protégée. La juge Anne Conway a refusé, au stade de la motion to dismiss, de considérer comme acquis que les mots générés par un LLM constituent du « speech » au sens constitutionnel, tout en laissant se poursuivre les prétentions visant les défauts de l’application.
Pour les auteurs, Garcia révèle une sous-détermination juridique. L’IA conversationnelle peut être comprise à la fois comme un système commercial dont la conception produit des risques et comme un outil qui génère des contenus linguistiques. Les analogies traditionnelles ne suffisent donc pas.
Une première conception rattache le langage à l’intention, à l’auteur et à l’agent humain ; selon cette approche, les LLM produisent des phrases sans nécessairement accomplir eux-mêmes un véritable acte de communication. Une autre conception insiste sur la fonction sociale : un énoncé compris et intégré à une pratique de communication peut être traité comme du langage indépendamment du mécanisme qui l’a produit.
Les auteurs proposent donc une méthode normative. Lorsqu’une technologie rend plusieurs concepts juridiques possibles, le juge devrait retenir celui qui sert le mieux les finalités du régime concerné. Cette démarche s’inspire de la « conceptual engineering » et de l’interprétation téléologique. Elle ne dit toutefois pas quelles valeurs doivent l’emporter ; celles-ci doivent être identifiées dans le droit constitutionnel.
Un premier groupe de valeurs plaide pour l’inclusion des productions d’IA dans le Premier Amendement, qui protège aussi la circulation des idées, le droit de recevoir des informations et la limitation de l’intervention de l’État. Les LLM fournissent des informations et contenus recherchés par les utilisateurs. Elle pourrait aussi éviter un effet dissuasif sur l’innovation. Si la valeur constitutionnelle réside surtout dans la communication elle-même, le fait qu’un texte soit généré plutôt qu’écrit par une personne paraît secondaire.
Mais d’autres valeurs conduisent à la prudence. Le droit doit pouvoir identifier des acteurs responsables et offrir un recours aux personnes lésées. Or plusieurs limitations du Premier Amendement reposent encore sur l’intention d’un locuteur humain. L’incitation à une action illégale, par exemple, suppose que le discours soit dirigé vers un résultat déterminé. Avec un LLM, les mots sont générés au cours de l’interaction et ne correspondent pas nécessairement à une décision expressive préalable d’une personne identifiable. Étendre d’emblée la protection constitutionnelle aux sorties du chatbot risque donc de créer un décalage : le contenu serait couvert par le Premier Amendement alors que les doctrines permettant d’attribuer une responsabilité continueraient à présupposer une intention humaine.
Ce problème est renforcé par le design anthropomorphique. Les chatbots sont souvent conçus pour donner l’impression d’un interlocuteur humain capable de comprendre ou de nouer une relation. Les utilisateurs tendent à leur attribuer une intention ou une expertise qu’ils ne possèdent pas nécessairement. Dans Garcia, la plainte soutient que Character.AI aurait exploité cette tendance en présentant certains personnages comme partenaires, thérapeutes ou personnes de confiance. Pour les auteurs, il devient juridiquement pertinent lorsqu’il accroît l’influence du système sur des utilisateurs vulnérables. Assimiler trop vite cette influence à une « parole » protégée peut créer des lacunes de responsabilité.
Les auteurs estiment dès lors que le droit des produits constitue un meilleur point de départ. La frontière entre produit et service est déjà incertaine pour les logiciels, et le droit raisonne de plus en plus en termes de conception, sécurité et responsabilité du fournisseur. Aux États-Unis, la jurisprudence distingue déjà le contenu expressif d’un produit de son architecture ou de ses caractéristiques de conception. Le droit européen va plus loin en intégrant logiciels et systèmes d’IA dans la nouvelle directive sur la responsabilité du fait des produits. Un produit peut bien sûr contenir de l’expression protégée, comme un livre, un film ou un jeu vidéo. La différence tient au fait que cette protection vise normalement des choix expressifs humains identifiables, alors que les sorties d’un chatbot sont générées au fil de l’interaction et ne traduisent pas nécessairement l’intention d’une personne déterminée.
L’ordre d’analyse est donc décisif. Plutôt que de déclarer d’abord que les réponses d’un chatbot sont du « speech » protégé puis de modifier ensuite les règles de responsabilité, les tribunaux devraient commencer par le droit des produits, de la négligence ou de la protection des consommateurs lorsqu’un litige porte sur la conception et le fonctionnement d’un système commercial. La responsabilité peut ainsi rester attachée aux entreprises qui conçoivent, déploient et exploitent ces systèmes. Cela ne supprime pas les droits constitutionnels des humains : l’utilisateur qui reprend un texte généré comme sa propre expression reste protégé, de même que les choix éditoriaux ou expressifs faits par les développeurs.
Les auteurs ne soutiennent pas que l’IA conversationnelle ne pourra jamais relever du Premier Amendement, ni que ses productions sont dépourvues de valeur communicative. Ils estiment seulement que le caractère linguistique d’une réponse générée ne suffit pas à lui conférer immédiatement un statut constitutionnel. Lorsque l’attribution du contenu à un locuteur humain est incertaine et que la protection constitutionnelle risquerait d’affaiblir les mécanismes de responsabilité et de réparation, les tribunaux ont de bonnes raisons de traiter d’abord l’IA conversationnelle comme un système commercial soumis aux règles de sécurité et de responsabilité. Plus largement, le droit devrait choisir, face aux technologies nouvelles, la qualification qui sert le mieux les finalités du régime concerné.
Me Philippe Ehrenström, avocat, CPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration
2.2.1. Selon l’art. 24 al. 1 Cst., les Suisses et les Suissesses ont le droit de s’établir en un lieu quelconque du pays. La liberté d’établissement garantit à toute personne de nationalité suisse le droit de choisir son lieu de séjour et son domicile, ainsi que d’entrer en Suisse et de s’y établir; elle impose aux cantons et aux communes d’autoriser tout citoyen suisse à s’établir sur leur territoire et leur interdit en même temps d’empêcher ou de compliquer le transfert du domicile choisi vers un autre canton, commune ou pays étranger (ATF 148 I 97 consid. 3.2.1; 135 I 233 consid. 5.2; 128 I 280 consid. 4.1.1).
2.2.2. La liberté d’établissement n’est pas absolue. Comme tout droit fondamental, elle peut être restreinte aux conditions fixées par l’art. 36 Cst. (ATF 128 I 280 consid. 4.1.2; arrêt 2C_273/2023 du 30 mai 2024 consid. 5.3). Selon cette disposition, toute restriction d’un droit fondamental doit être fondée sur une base légale; les restrictions graves doivent être prévues par une loi, les cas de danger sérieux, direct et imminent étant réservés (al. 1). En outre, toute restriction d’un droit fondamental doit être justifiée par un intérêt public ou par la protection d’un droit fondamental d’autrui (al. 2), et elle doit être proportionnée au but visé (al. 3; arrêt 8C_390/2019 du 20 septembre 2019 consid. 6.4.2).
2.2.3. En matière d’obligation de résidence des fonctionnaires, la jurisprudence a, dans un premier temps, admis des restrictions à la liberté d’établissement fondées sur un intérêt public. En tant qu’employeur, l’État pouvait adopter, dans le cadre de la réglementation légale concernant les rapports de service, des prescriptions relatives au domicile des fonctionnaires. Outre les exigences purement professionnelles, une série de raisons objectives justifiait de maintenir un lien entre le fonctionnaire et la population ainsi que la collectivité, le but étant que ce premier ait connaissance dans le cadre de son travail, mais également à titre privé, des problèmes rencontrés par la collectivité (ATF 103 Ia 455). Par la suite, les critères des besoins du service ainsi que des relations particulières avec la population, tout en excluant des motifs purement fiscaux, ont été utilisés afin d’examiner une obligation de résidence (ATF 120 Ia 203 consid. 3a; 118 Ia 410 avec les références). Ainsi, l’existence d’un intérêt public justifiant une obligation de résidence avait notamment été admise pour les fonctionnaires des corps de police ou des pompiers, pour les enseignants, pour le chef d’un contrôle des habitants communal, pour le surveillant d’un établissement pénitentiaire, pour un préfet, ainsi que pour le greffier d’un tribunal de district, mais pas, par exemple, pour un ambulancier (ATF 128 I 280 consid. 4.2 avec les références).
Plus récemment, la jurisprudence a précisé que des motifs de disponibilité accrue ou de proximité avec la population ne pouvaient plus justifier une obligation de résidence. La seule exception existe lorsque est en cause l’exercice d’une activité relevant de la puissance publique, exercée avec une grande autonomie et qui est comparable à des hautes fonctions étatiques, à l’instar d’un notaire ou d’un chef de service de la police cantonale (ATF 128 I 280 consid. 4.3; arrêt 8C_733/2018 du 13 juin 2019 consid. 4.3.1 à 4.3.3). L’essence d’une obligation de résidence trouve en effet sa source dans le principe démocratique fondamental selon lequel le pouvoir étatique est exercé par les citoyens de l’État eux-mêmes, ce qui ne saurait cependant se justifier que pour l’exercice de prérogatives relevant de la puissance publique. Même pour cette catégorie d’agents publics, des raisons concrètes prépondérantes (objectives ou subjectives) pourraient néanmoins conduire à devoir respecter la liberté d’établissement (ATF 128 I 280 consid. 4.3.2; cf. aussi la jurisprudence énumérée in Malinverni/ Hottelier/Hertig Randall/Flückiger, Droit constitutionnel suisse, vol. II, 4e éd. 2021, n° 861-865; Patricia Egli, in St. Galler Kommentar, Die schweizerische Bundesverfassung, 4e éd. 2023, n° 40 ad art. 24 Cst.).
La doctrine considère que l’obligation de résidence des fonctionnaires devrait rester l’exception, la règle étant le libre choix du domicile. Une restriction à cette liberté constitutionnelle ne devrait ainsi être admise qu’exceptionnellement, en présence de réels besoins de service, de l’importance de la fonction ou de la nécessité d’un enracinement local, en dehors de toute considération fiscale prépondérante (cf. Pérez/ Nguyen, in Commentaire romand Constitution fédérale, 2021, n° 63 ad art. 24 Cst. avec les références; Patricia Egli, op. cit., n° 41 ad art. 24 Cst.; Rudin/Keller, in Basler Kommentar, Bundesverfassung, 2e éd. 2025, n° 41 s. ad art. 24 Cst.).
A propos de Anna Moraiti, The Recognition of Legal Personhood for Autonomous AI Systems, in : Herwig C.H. Hofman/Elif Biber/Zahra Yusigli (éds), AI in European Law, Baden-Baden, Nomos, 2026, pp. 135-157 (Luxembourg Legal Studies) :
L’article d’Anna Moraiti examine la question de savoir si certains systèmes d’intelligence artificielle autonomes pourraient recevoir une personnalité juridique et, surtout, devenir des sujets de responsabilité pénale.
Le point de départ est le problème classique de l’imputation. Plus les systèmes d’IA deviennent complexes, autonomes et opaques, plus il peut être difficile de relier un dommage à une action ou à une omission déterminée d’un concepteur, d’un fabricant, d’un exploitant ou d’un utilisateur. D’où l’idée, défendue par certains auteurs, de considérer l’IA elle-même comme un sujet de droit pénal. Moraiti soutient cependant que le parallèle souvent établi avec la responsabilité pénale des personnes morales est trompeur. L’autonomie technique ne suffit pas à fonder la responsabilité pénale, qui suppose une aptitude beaucoup plus exigeante à comprendre le bien et le mal, à réfléchir sur les raisons d’agir et à pouvoir choisir autrement.
L’auteure commence par préciser les notions utilisées. Il n’existe pas de définition universelle de l’IA. Elle s’intéresse principalement aux systèmes fondés sur l’apprentissage automatique, capables d’identifier des régularités dans de grandes quantités de données et d’adapter leur fonctionnement en fonction de l’expérience acquise. Leur autonomie doit être conçue comme une question de degré : elle dépend notamment de leur capacité d’adaptation, d’apprentissage, d’action sans intervention humaine et de substitution à l’être humain.
Moraiti distingue également l’IA « forte », encore hypothétique et comparable à une intelligence générale humaine ou supérieure, de l’IA « faible » ou spécialisée qui existe aujourd’hui. Son analyse concerne cette seconde catégorie, notamment les systèmes robotiques susceptibles d’agir dans le monde physique et de porter atteinte à la vie ou à l’intégrité corporelle, tels que véhicules autonomes, robots de soins ou robots humanoïdes.
La première thèse discutée est celle de la responsabilité pénale directe de l’IA. Des robots peuvent provoquer des dommages graves : accident industriel, violences commises par un robot policier ou pénitentiaire, erreur d’un robot de soins ayant des conséquences mortelles. La question devient alors de savoir si un système qui évalue plusieurs options et choisit celle qui maximise un objectif peut être lui-même puni lorsque ce choix viole la loi. Le principal défenseur de cette approche est Gabriel Hallevy. Selon lui, il serait possible d’ajouter les « machines pensantes délinquantes » aux deux catégories traditionnelles de sujets pénaux que sont les personnes physiques et les personnes morales. Il estime que les catégories existantes du droit pénal pourraient déjà s’appliquer à certaines IA spécialisées.
Hallevy adopte notamment une conception très large de l’acte pénalement pertinent : un mouvement matériel dans le monde extérieur pourrait constituer un acte, qu’il procède de l’autonomie de la machine ou de l’intervention d’un opérateur. Une omission serait également concevable si une obligation d’agir était imposée au système. Pour l’élément subjectif, il considère que les capteurs d’une IA lui permettent de percevoir son environnement, d’effectuer des évaluations et d’adopter un comportement orienté vers un but ; ces opérations pourraient constituer un équivalent artificiel de l’intention. De même, une machine pourrait, selon lui, prendre un risque déraisonnable et donc adopter un comportement analogue à la négligence humaine. L’apprentissage automatique serait par ailleurs comparable à l’expérience par laquelle les personnes intériorisent progressivement certaines règles. Quant à la peine, Hallevy reconnaît qu’une IA ne peut ni souffrir ni être intimidée. La rétribution et la dissuasion seraient donc largement privées d’objet. En revanche, la réhabilitation pourrait consister à modifier le système pour améliorer ses décisions et l’incapacitation à empêcher qu’il cause de nouveaux dommages.
Moraiti critique cette construction. Elle considère notamment que Hallevy rapproche trop rapidement l’apprentissage statistique de l’intelligence humaine. Les humains ne se contentent pas de tirer des régularités de l’expérience : ils peuvent comprendre des concepts généraux et des principes abstraits puis les appliquer à des situations concrètes différentes. Cette distinction devient fondamentale lorsque l’on compare l’IA à la personne morale.
Le premier problème du parallèle avec les sociétés est le risque d’une imputation vide. Certes, le droit pourrait techniquement créer une « personnalité électronique », éventuellement en imputant à l’IA les états mentaux de ses concepteurs ou utilisateurs, comme certains systèmes imputent les actes et intentions des employés à une société. Mais la personne morale est constituée d’êtres humains. Lorsqu’une sanction frappe une entreprise, elle touche indirectement les personnes qui en sont membres, la dirigent ou bénéficient de son activité. Selon la conception agrégative de la personne morale, la société représente une organisation stable d’individus dont les comportements et interactions forment une collectivité. Rien de véritablement comparable n’existe pour une IA. Un système artificiel n’est pas la personnification d’un groupe organisé de personnes : il résulte souvent de la coopération diffuse de sociétés, programmeurs, fournisseurs et utilisateurs différents.
La difficulté dite des « nombreuses mains » est ainsi plus grande encore avec l’IA qu’avec l’entreprise. Attribuer la responsabilité pénale au système lui-même pourrait même produire un résultat pervers : les personnes qui ont conçu, contrôlé ou exploité le système pourraient se protéger derrière la responsabilité de la machine. L’innovation destinée à combler un déficit de responsabilité risquerait donc de créer un nouvel écran entre le dommage et les responsables humains.
Le deuxième problème est plus fondamental : reconnaître une responsabilité pénale à l’IA pourrait transformer la nature même du droit pénal. Pour Moraiti, la personne pénalement responsable n’est pas simplement une entité dont le comportement peut être causalement relié à un dommage. Elle doit être capable de comprendre le caractère illicite de son comportement, la portée de la règle pénale et les raisons qui justifient celle-ci. Les systèmes actuels peuvent disposer d’informations sur leur environnement ou leur propre fonctionnement, mais ils ne possèdent pas les capacités de réflexion et de contrôle nécessaires pour comprendre la signification normative de la transgression. De plus, leurs comportements résultent à la fois de choix de programmation et des évolutions issues de l’apprentissage automatique ; ils ne constituent donc pas davantage une véritable collectivité comparable à une personne morale.
Les partisans de la responsabilité pénale de l’IA invoquent essentiellement deux objectifs. Le premier est pratique : personnifier les systèmes faciliterait leur intégration dans la société et permettrait de répondre aux inquiétudes suscitées par leurs comportements imprévisibles. Le second est la volonté de garantir qu’un responsable puisse toujours être désigné, même lorsque les preuves ne permettent pas d’identifier une personne humaine coupable. Ces préoccupations sont légitimes, mais elles ne justifient pas, selon Moraiti, de sacrifier le principe de culpabilité. Le risque serait de transformer le droit pénal en simple instrument de gestion des risques, de conformité ou d’indemnisation. Or le droit pénal, parce qu’il constitue la forme la plus forte de coercition étatique, doit simultanément protéger les intérêts fondamentaux des individus et les protéger contre l’arbitraire de l’État. Son adaptation aux nouvelles technologies est nécessaire, mais elle ne devrait pas faire disparaître ses catégories essentielles.
L’auteure examine ensuite l’intelligence et la moralité des systèmes d’IA. Une IA peut indéniablement produire des effets ayant une signification morale. Une intelligence artificielle consciente, capable de rationalité, d’intention et de communication, pourrait un jour poser la question de la personnalité sous un angle différent. Mais cette hypothèse relève encore de l’AGI. Les systèmes actuels travaillent principalement à partir de probabilités et de corrélations. Ils peuvent accomplir des tâches extraordinairement complexes, mais ils ne comprennent pas littéralement la signification des données qu’ils manipulent. Leur intelligence peut néanmoins être reconnue dans un sens fonctionnel : ils sont capables d’adopter des comportements orientés vers un objectif et de s’adapter à certaines situations nouvelles. Ce niveau d’intelligence reste cependant inférieur à celui qu’exige la responsabilité pénale, qui suppose de pouvoir agir en réponse à de « bonnes » ou de « mauvaises » raisons.
Moraiti se tourne alors vers le droit civil, où la situation est différente. La personnalité juridique n’a pas nécessairement le même contenu dans toutes les branches du droit. Selon la « bundle theory » développée notamment par Visa Kurki, la personnalité juridique n’est pas un statut indivisible mais un ensemble de droits, pouvoirs, protections et obligations susceptibles d’être attribués séparément. Une entité peut ainsi bénéficier de certains attributs de la personnalité sans les posséder tous. Les attributs passifs comprennent par exemple la capacité de posséder des biens, d’être juridiquement lésé ou de faire valoir certains droits. Les attributs actifs comprennent notamment la capacité de contracter et de supporter certaines obligations.
Dans cette perspective, une personnalité civile limitée pourrait être attribuée à certaines IA non parce que les machines mériteraient une reconnaissance morale, mais parce que cette technique faciliterait une répartition efficace et équitable des risques. Une personnalité complète serait en revanche excessive, car elle impliquerait notamment que l’IA puisse posséder et administrer librement ses propres ressources. L’enjeu devient donc de déterminer précisément quels attributs juridiques doivent être conférés à quels types de systèmes.
Pour affiner cette approche, Moraiti reprend la typologie proposée par Anna Beckers et Günther Teubner. Ils distinguent d’abord les systèmes individuels, dans lesquels le risque provient de la décision autonome d’un programme déterminé ; ensuite les « hybrides numériques », dans lesquels humains et machines collaborent si étroitement qu’il devient impossible de séparer leurs contributions ; enfin les systèmes collectifs interconnectés, composés de multiples agents artificiels dont les interactions produisent des résultats systémiques imprévisibles. Cette classification permet d’adapter la responsabilité au type de risque plutôt que de créer un régime particulier pour chaque application de l’IA.
Pour les agents individuels utilisés, par exemple, afin de conclure des contrats au nom d’une personne, une personnalité limitée et un régime proche de la responsabilité du fait d’autrui peuvent permettre d’imputer les risques au principal. Pour les hybrides humain-machine, une capacité juridique distincte pourrait être reconnue à l’ensemble fonctionnel, tout en répartissant finalement la responsabilité entre les personnes qui contrôlent l’activité ou en bénéficient — opérateurs, propriétaires, fabricants ou fournisseurs. La victime aurait alors seulement à démontrer que le dommage provient du système hybride.
Pour les réseaux composés de multiples IA, en revanche, Beckers et Teubner écartent la personnalité juridique. Leur fonctionnement collectif ne permet plus d’identifier véritablement une décision, un acteur ou même un objectif commun. Lorsque causalité et prévisibilité deviennent pratiquement impossibles à établir, la réponse la plus appropriée pourrait être un mécanisme de mutualisation du risque, sous la forme de fonds sectoriels destinés à indemniser les victimes. Moraiti rapproche cette idée des mécanismes employés pour certains risques environnementaux ou financiers, tout en envisageant ces fonds comme une solution subsidiaire, notamment lorsque l’assurance privée ne couvre pas le dommage.
La conclusion est donc nuancée. L’analogie entre sociétés et IA peut paraître séduisante parce que les unes et les autres sont des structures puissantes, opaques et capables d’exercer d’importantes fonctions décisionnelles. Mais elle ne justifie pas la reconnaissance d’une responsabilité pénale des IA actuelles. Celles-ci ne sont ni des personnes humaines capables de comprendre la norme ni de véritables collectivités comparables aux personnes morales. Une personnalité civile fonctionnelle et limitée est en revanche concevable lorsqu’elle sert concrètement à répartir les risques et à faciliter l’indemnisation. Chaque branche du droit doit ainsi définir la personnalité de l’IA en fonction de ses propres finalités. Si une véritable intelligence générale dotée d’une capacité de réflexion et d’une autonomie morale devait un jour apparaître, l’analyse pourrait devoir être revue ; mais, pour Moraiti, cette question est aujourd’hui d’abord technologique avant d’être juridique.
Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et Intelligence artificielle, CAS en Protection des données – Entreprise et administration
Dans un article publié en septembre 2026 dans le vol. 79 de la Stanford Law Review Online (Classifying and Countering AI Proxy Discrimination, https://review.law.stanford.edu/wp-content/uploads/sites/3/2026/09/Swisher-79-Stan.-L.-Rev.-Online-93.pdf), Keith Swisher part du constat que le droit américain de la non-discrimination a été construit pour un monde dans lequel les discriminations reposaient sur des catégories identifiables, telles que la race, le sexe, l’origine nationale, l’âge ou le handicap. Or les systèmes d’intelligence artificielle bouleversent ce schéma parce qu’ils peuvent produire des résultats discriminatoires sans jamais utiliser explicitement ces catégories.
L’affaire Mobley v. Workday illustre le problème.
Derek Mobley, noir, âgé de plus de quarante ans et handicapé, avait postulé à plus de cent emplois auprès d’employeurs utilisant la plateforme de sélection automatisée de Workday et avait été systématiquement rejeté. Il soutenait que l’algorithme écartait les candidats présentant des caractéristiques semblables aux siennes. Ses prétentions fondées sur la discrimination intentionnelle se sont toutefois heurtées à une difficulté fondamentale : un algorithme n’a pas d’intention propre. Les demandes fondées sur l’impact discriminatoire demeuraient pendantes au moment de la publication de l’article.
Swisher rappelle que le droit américain des droits civils repose sur le paradigme des « classes protégées ». Le Title VII interdit à l’employeur de discriminer notamment en raison de la race, de la couleur, de la religion, du sexe ou de l’origine nationale ; d’autres textes appliquent la même logique au logement, au handicap ou au droit de vote. Le droit recherche donc traditionnellement une caractéristique protégée, son utilisation dans la décision et le désavantage qui en résulte. Même la théorie du disparate impact, qui permet d’appréhender certaines discriminations indépendamment de toute intention, demeure rattachée à ces catégories : il faut démontrer qu’une pratique apparemment neutre produit un effet défavorable disproportionné sur un groupe protégé.
Or les systèmes d’apprentissage automatique ne classent généralement pas les individus selon ces catégories juridiques. Ils construisent leurs propres classifications à partir de dizaines, centaines ou milliers de variables. Un système de recrutement peut tenir compte de la formation, de la distance entre le domicile et le lieu de travail, du vocabulaire employé dans un CV, des interruptions de carrière ou des résultats de tests comportementaux. Un système de crédit utilise l’historique des paiements, le niveau d’endettement et de nombreuses autres données. Ces critères paraissent neutres, mais ils peuvent être fortement corrélés à la race, au sexe ou à d’autres caractéristiques protégées. Dans une société déjà structurée par des inégalités, l’adresse, le parcours scolaire, l’emploi antérieur ou l’historique judiciaire peuvent ainsi permettre à un algorithme de reconstituer indirectement l’appartenance à un groupe protégé. L’algorithme peut donc produire l’équivalent fonctionnel d’une classification raciale sans jamais enregistrer la race elle-même.
C’est ce que l’auteur appelle la « proxy discrimination », ou discrimination par variable de substitution. Elle n’est pas nouvelle, mais l’IA lui donne une dimension différente : la substitution ne résulte plus nécessairement du choix conscient d’un décideur humain. Elle peut émerger de l’interaction complexe d’un grand nombre de données. Les doctrines fondées sur l’intention sont alors particulièrement mal adaptées. Depuis Washington v. Davis et Personnel Administrator v. Feeney, la jurisprudence exige, pour certaines formes de discrimination constitutionnelle, que l’auteur ait agi en raison de l’effet discriminatoire et non simplement malgré cet effet. Appliquer cette exigence à un processus statistique d’optimisation n’a guère de sens, puisque l’algorithme n’a aucune intention. L’intention discriminatoire des concepteurs ou des utilisateurs reste évidemment possible, mais elle ne permet pas d’appréhender les discriminations qui apparaissent spontanément dans le fonctionnement du modèle.
La théorie du disparate impact est plus prometteuse, mais elle rencontre une autre difficulté. Elle demande en principe d’identifier la pratique responsable de l’effet discriminatoire. Or, lorsque le résultat découle de l’interaction de cent variables, aucune d’entre elles ne peut nécessairement être isolée comme cause du désavantage. Même lorsqu’un critère tel que le code postal apparaît fortement corrélé à la race, l’entreprise peut soutenir qu’il mesure en réalité un élément légitime, par exemple la durée du trajet ou les caractéristiques du marché local du travail. Le droit cherche ainsi une « pratique discriminatoire » déterminée alors que le phénomène résulte parfois de l’architecture globale du système.
Pour dépasser cette difficulté, Swisher mobilise d’abord la philosophie des sciences. Il reprend la distinction d’Ian Hacking entre les catégories naturelles et les catégories « interactives ». Certaines classifications sociales ne se contentent pas de décrire les personnes ; elles modifient leur situation. Qualifier un prévenu de « haut risque » peut conduire à sa détention, à la perte de son emploi et à une désorganisation familiale qui augmenteront ensuite les facteurs de risque mesurés par le système. Classer un emprunteur comme risqué entraîne des taux d’intérêt plus élevés et un accès plus difficile au crédit, ce qui peut à son tour aggraver sa situation financière. Ces classifications peuvent donc devenir partiellement autoréalisatrices. En outre, tout système de classification comporte des choix normatifs : sélectionner certaines variables, définir l’objectif à prédire et décider ce qui constitue une différence pertinente ne sont jamais des opérations purement neutres.
L’auteur en tire une première proposition centrale : au lieu de demander si le système « utilise » une caractéristique protégée, il faut rechercher si ses classifications sont informationnellement liées à cette caractéristique. Il propose à cette fin de recourir à la notion de « mutual information », ou information mutuelle, issue de la théorie de l’information. Cet indicateur mesure la dépendance statistique entre deux variables. Si la classification produite par un algorithme permet de déduire avec une forte probabilité la race, le sexe, l’âge ou le handicap d’une personne, la classification constitue fonctionnellement un substitut de la caractéristique protégée.
Swisher suggère donc d’introduire dans le droit de la non-discrimination un seuil d’information mutuelle. Au-delà de ce seuil, la classification algorithmique serait présumée discriminatoire. Il compare ce mécanisme à la « Four-Fifths Rule » utilisée en matière d’emploi : lorsqu’un groupe protégé est sélectionné à un taux inférieur à 80 % de celui du groupe le plus favorisé, cela constitue un indice d’impact disparate. La différence est que le test proposé ne compare pas directement les taux de sélection ; il mesure la quantité d’information relative à la caractéristique protégée contenue dans la classification elle-même.
L’auteur donne l’exemple d’un système examinant mille candidatures, cinq cents candidats blancs et cinq cents candidats noirs. Il recommande quatre cents candidats blancs mais seulement cent candidats noirs. Sans utiliser explicitement la race, sa décision permet donc de la prédire avec une assez forte précision. L’intérêt du test est d’appréhender le système dans son ensemble sans obliger le demandeur à identifier une variable précise comme cause de la discrimination. Le choix du seuil demeurerait nécessairement conventionnel, mais Swisher souligne que le droit antidiscriminatoire utilise déjà des seuils de cette nature.
La deuxième réforme proposée consiste à instaurer des « Classification Impact Assessments » ou CIA, c’est-à-dire des évaluations d’impact centrées spécifiquement sur les classifications générées par l’algorithme. L’idée s’inspire notamment des études d’impact environnemental : certains risques doivent être examinés avant le déploiement d’un système plutôt qu’après la survenance du dommage. Toute IA utilisée dans un domaine sensible devrait répondre à trois questions : quelles catégories le système crée-t-il ? Dans quelle mesure sont-elles liées aux caractéristiques protégées ? Quelles conséquences prévisibles auront-elles pour les membres de ces groupes ? L’analyse devrait aussi examiner les effets dynamiques et les boucles de rétroaction susceptibles d’amplifier les inégalités.
Ces évaluations devraient viser les domaines où les droits fondamentaux sont particulièrement en jeu : emploi, logement, crédit, éducation, immigration, justice pénale, prestations sociales ou liberté individuelle. Pour les grands modèles de langage, il faudrait aussi tester des échantillons de prompts, puisque les réponses et les discriminations peuvent dépendre des requêtes formulées. Les difficultés techniques ne justifieraient pas l’inaction : simulations, données synthétiques, déploiements limités et regulatory sandboxes permettraient des tests préalables.
Sur le plan institutionnel, Swisher envisage que les autorités compétentes dans chaque domaine administrent ces évaluations, par exemple l’Equal Employment Opportunity Commission pour l’emploi. Il insiste sur la nécessité d’un cadre public. L’affaire Mobley montre en effet les limites d’un contrôle laissé aux entreprises : un tribunal a refusé en 2026 de communiquer certaines données de tests de biais de Workday après avoir admis qu’elles avaient été préparées sous la direction des avocats de l’entreprise et pouvaient bénéficier de l’attorney-client privilege. Un tel régime risque d’encourager les entreprises à faire conduire leurs audits par leurs conseils juridiques pour soustraire les résultats à la communication. Une obligation légale d’évaluation créerait au contraire une exigence indépendante du contentieux.
La CIA comprendrait idéalement trois phases : communication à l’autorité des données d’entraînement, des variables, de l’architecture du modèle et des résultats de validation ; analyse technique, notamment au moyen du test d’information mutuelle et d’une étude des effets prévisibles ; puis participation des communautés concernées, organisations de défense des droits civils et experts. Swisher rapproche cette approche du règlement européen sur l’IA, qui impose des obligations particulières aux systèmes à haut risque et prévoit des évaluations de conformité avant leur mise sur le marché. Le modèle américain qu’il propose resterait toutefois spécifiquement structuré autour des objectifs du droit américain des droits civils.
La troisième réforme concerne la conception même des systèmes : la « fairness by design ». Aujourd’hui, selon l’auteur, la configuration par défaut consiste à optimiser la précision prédictive, puis éventuellement à corriger les biais. Ce choix conduit naturellement les modèles à exploiter toutes les corrélations disponibles dans les données, y compris celles provenant d’inégalités historiques. Swisher propose d’inverser cette logique : dans les domaines sensibles, le respect d’une contrainte d’équité devrait devenir la configuration par défaut. Le système devrait notamment respecter un plafond d’information mutuelle entre ses classifications et les caractéristiques protégées. Celui qui souhaiterait dépasser ce plafond devrait démontrer un intérêt impérieux et l’absence d’alternative moins discriminatoire.
Cette inversion déplacerait également la charge de la justification. Aujourd’hui, le demandeur doit établir l’impact discriminatoire et affronter ensuite les arguments de nécessité économique. Dans le modèle proposé, l’entité qui déploie l’IA devrait justifier tout écart à la règle de conception équitable. Swisher estime ce déplacement particulièrement approprié puisque l’entreprise détient les informations essentielles sur le modèle, les données d’entraînement et les performances, alors que les candidats ou salariés n’y ont généralement pas accès.
L’auteur examine enfin une difficulté constitutionnelle. Après Students for Fair Admissions, l’attention portée à la race dans la conception d’un algorithme pourrait être attaquée comme une classification raciale. Swisher considère toutefois que la différence est fondamentale : limiter la corrélation d’un système avec la race ne revient pas à attribuer un avantage ou un désavantage individuel en fonction de celle-ci. Il s’agit de concevoir une règle facialement neutre afin d’éviter qu’elle ne reproduise indirectement des discriminations. L’intervention porte sur l’architecture du système, non sur le traitement racial d’une personne déterminée.
La conclusion est donc qu’il ne faut pas abandonner le droit des classes protégées, mais le compléter. Les IA peuvent produire à grande échelle des classifications qui ne portent aucun nom juridiquement suspect tout en reproduisant presque exactement les divisions que le droit interdit. Pour l’auteur, une politique efficace doit combiner trois instruments : un test quantitatif permettant de détecter l’utilisation fonctionnelle de proxies, une évaluation préalable des classifications et de leurs effets, et une obligation d’intégrer l’équité dès la conception des systèmes. À défaut, l’application à l’IA d’un droit conçu essentiellement pour des décideurs humains risque de laisser une partie importante des discriminations algorithmiques hors d’atteinte et de transférer de fait aux entreprises technologiques la définition des catégories qui conditionnent l’accès à l’emploi, au crédit, au logement ou à d’autres droits essentiels.
Me Philippe Ehrenström, avocat, DPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration
L’article de Juan Sebastian Olier (On (artificial) intelligence: from a concept of measurable human ability to automated evaluative order, AI & SOCIETY, 19 août 2026, https://doi.org/10.1007/s00146-026-03277-2) expose la thèse que l’intelligence ne doit pas être envisagée comme une réalité naturelle, stable et clairement délimitée que la science aurait progressivement découverte. Elle constitue plutôt une catégorie historique et culturelle par laquelle certaines aptitudes, certains comportements et certaines performances sont qualifiés d’« intelligents ». La bonne question n’est donc pas de savoir ce qu’est réellement l’intelligence, mais de comprendre comment certaines performances en viennent à être reconnues comme intelligentes, comment elles sont rendues mesurables et comment ces mesures acquièrent ensuite un pouvoir social, politique et technique. L’auteur soutient que l’intelligence artificielle prolonge cette histoire : elle repose sur une conception de l’intelligence déjà transformée en performances susceptibles d’être définies, comparées et évaluées.
Cette évolution trouve ses racines dans la rationalité moderne. À partir du XVIIe siècle, le développement des sciences modernes favorise des méthodes reposant sur l’observation, la comparaison, la vérification et la reproductibilité. Progressivement, ces méthodes ne servent plus seulement à organiser les connaissances : elles sont appliquées aux individus et à leurs capacités. Parallèlement, les Lumières remettent en cause les hiérarchies fondées sur la naissance ou la volonté divine. L’idée se développe que les positions sociales devraient dépendre des qualités et des aptitudes individuelles. Cette évolution comporte cependant une ambiguïté fondamentale. Les différences entre individus sont étudiées dans des sociétés déjà profondément structurées par les inégalités de classe, de sexe et de race ainsi que par le colonialisme et l’esclavage. Les nouvelles catégories scientifiques peuvent alors présenter des hiérarchies sociales historiquement construites comme l’expression de différences naturelles entre êtres humains.
Cette logique apparaît clairement au XIXe siècle dans les théories raciales et l’eugénisme. Les différences de capacité intellectuelle sont alors reliées à des caractéristiques biologiques et utilisées pour hiérarchiser des populations. Francis Galton joue un rôle important dans cette évolution en défendant l’eugénisme et en contribuant à faire de l’intelligence une caractéristique susceptible d’être mesurée. Les tests d’intelligence deviennent ensuite un instrument administratif beaucoup plus large. Au début du XXe siècle, le Stanford-Binet, puis les tests Alpha et Beta de l’armée américaine, consacrent l’idée qu’une capacité générale peut être exprimée par un score. Le SAT transpose cette logique à l’accès aux universités américaines. Des mécanismes comparables se développent en Europe. L’intelligence devient ainsi une catégorie administrative capable d’influencer l’accès aux études, à l’emploi et aux positions sociales. La mesure ne se contente donc plus de décrire une aptitude : elle contribue à distribuer les possibilités offertes aux individus.
Cette institutionnalisation produit un mécanisme circulaire. Les personnes qui obtiennent de bons résultats aux tests accèdent plus facilement à des formations et à des positions leur permettant de développer précisément les compétences que les tests valorisent. La mesure de l’intelligence finit ainsi par refléter partiellement les possibilités que cette mesure a elle-même contribué à répartir. Les tests déterminent en outre ce que les institutions considèrent comme une performance intelligente. L’intelligence se trouve progressivement associée au mérite : celui qui réussit est réputé non seulement plus capable, mais également davantage digne des avantages qui lui sont accordés. Les inégalités sociales peuvent alors apparaître comme la conséquence légitime des différences individuelles de capacité et d’effort. L’auteur rappelle pourtant que les instruments standardisés ne saisissent que certaines qualités et laissent difficilement appréhender, par exemple, la créativité, la sagesse, les compétences sociales ou l’altruisme.
Cette transformation de l’intelligence en performance mesurable prépare directement l’émergence de l’IA. Au milieu du XXe siècle, la cybernétique, la théorie de l’information et les sciences du contrôle permettent de décrire des comportements humains, animaux et mécaniques au moyen de concepts communs : information, entrée, sortie, signal, rétroaction et adaptation. L’intelligence peut dès lors être détachée, au moins conceptuellement, du corps humain et décrite comme un ensemble d’opérations formalisables. Dans le contexte américain de la guerre froide, cette conception bénéficie du soutien d’institutions militaires comme la RAND Corporation et l’ARPA, intéressées par des systèmes permettant de rendre la décision, la surveillance et le contrôle plus prévisibles. L’IA ne crée donc pas l’idée d’une intelligence opérationnelle : elle hérite d’une conception déjà façonnée par la psychométrie, la bureaucratie et la cybernétique.
Le célèbre article de Turing de 1950 illustre cette évolution. Plutôt que de chercher à définir ce que signifie « penser », Turing propose d’évaluer la machine à partir de son comportement observable dans le jeu de l’imitation. Une question conceptuellement difficile est ainsi transformée en épreuve de performance. Le projet de Dartmouth de 1955-1956 systématise cette démarche : utiliser le langage, résoudre des problèmes, former des abstractions ou s’améliorer deviennent des capacités que l’on cherche à formaliser et à reproduire techniquement. L’intelligence peut désormais être traitée comme un problème d’ingénierie.
Cette conception fait toutefois l’objet de critiques à partir des années 1970. Hubert Dreyfus souligne que l’action intelligente dépend largement d’un savoir tacite, du contexte, de l’expérience sociale et du corps, dimensions difficilement réductibles à des règles formelles. Maturana et Varela insistent également sur le fait que la cognition appartient à l’activité d’un organisme vivant engagé dans son environnement. Ces critiques ne mettent pourtant pas fin à l’opérationnalisation de l’intelligence. Elles contribuent plutôt à déplacer ses modalités. L’IA symbolique cherchait à programmer explicitement des règles et des représentations ; les approches connexionnistes et les réseaux neuronaux déplacent la formalisation vers l’apprentissage, les données, l’architecture des modèles, l’optimisation et la rétroaction.
L’apprentissage automatique contemporain poursuit ce déplacement. Le deep learning n’est pas dépourvu de présupposés simplement parce que les règles ne sont plus explicitement programmées. Les choix interviennent désormais dans la sélection et la préparation des données, la définition des tâches, les objectifs d’apprentissage, les métriques et les benchmarks. Les données ne possèdent pas spontanément une signification exploitable : il faut les sélectionner, les formater, les étiqueter et déterminer ce qui comptera comme une réponse correcte ou une généralisation réussie. Ces opérations définissent les distinctions que le système pourra percevoir et optimiser. Il existe ici un parallèle avec les tests d’intelligence : dans les deux cas, une réalité complexe devient techniquement traitable parce qu’une procédure détermine ce qui sera mesuré et ce qui comptera comme une performance réussie.
Les conséquences dépassent largement la technique lorsque ces systèmes interviennent dans le recrutement, le crédit, la police, la recommandation, la modération, l’évaluation des risques ou l’accès à certaines ressources. Les catégories, scores et classements produits par l’IA ne se contentent pas d’observer les comportements : ils peuvent contribuer à les orienter. Individus et institutions apprennent à se conformer aux critères qui les rendent sélectionnables, visibles ou crédibles. Les métriques deviennent ainsi récursives : elles évaluent une réalité qu’elles contribuent simultanément à façonner. Les problèmes d’équité algorithmique ne proviennent donc pas seulement d’erreurs ou de biais du modèle. Ils peuvent être antérieurs au modèle lui-même, dans la manière de traduire des notions contestables comme le risque, la solvabilité, la toxicité, la pertinence ou l’équité en variables et en indicateurs mesurables. Les datasets et benchmarks contribuent de la même manière à définir ce qui sera considéré comme un progrès de l’IA. Cette capacité de définition est d’autant plus importante que les données, la puissance de calcul et les infrastructures nécessaires au développement des systèmes les plus avancés sont concentrées entre les mains d’un nombre limité d’acteurs.
La conclusion est donc moins une critique de l’IA en elle-même qu’une invitation à déplacer l’analyse. L’IA ne découvre pas une intelligence préexistante qu’elle reproduirait progressivement avec davantage de fidélité. Elle cristallise bien plutôt certaines conceptions historiquement constituées de l’intelligence en les intégrant dans des systèmes techniques de données, d’apprentissage, de mesure, de classement et d’évaluation. L’enjeu central n’est dès lors pas seulement de déterminer si une machine est intelligente ou si ses décisions sont exactes. Il consiste à identifier les conceptions de la compétence, de la réussite, de la pertinence et du mérite que les systèmes d’IA rendent techniquement opératoires, puis à examiner comment ces conceptions acquièrent une autorité institutionnelle et influencent les comportements et la distribution des opportunités.
Me Philippe Ehrenström, avocat, DPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration
