Les réponses produites par une IA conversationnelle dans un chatbot doivent-elles être considérées comme du « speech » protégé par le Premier Amendement de la Constitution américains ?

L’article de Tamara Dobler/ Daniel Bracker (Should the Legal Concept of Speech Include Chatbot Output in US Law? Philosophy & Technology (2026) 39:174 https://doi.org/10.1007/s13347-026-01187-1/ file:///C:/Users/phe48/Downloads/s13347-026-01187-1%20(1).pdf) part de Garcia v. Character Technologies, affaire née après le suicide d’un adolescent de quatorze ans qui avait longuement interagi avec Character.AI.

La demanderesse présentait le système comme un produit commercial dont la conception aurait créé des risques prévisibles, notamment par ses mécanismes d’engagement et son anthropomorphisme. Les défendeurs décrivaient au contraire Character.AI comme un service diffusant de l’expression protégée. La juge Anne Conway a refusé, au stade de la motion to dismiss, de considérer comme acquis que les mots générés par un LLM constituent du « speech » au sens constitutionnel, tout en laissant se poursuivre les prétentions visant les défauts de l’application.

Pour les auteurs, Garcia révèle une sous-détermination juridique. L’IA conversationnelle peut être comprise à la fois comme un système commercial dont la conception produit des risques et comme un outil qui génère des contenus linguistiques. Les analogies traditionnelles ne suffisent donc pas.

Une première conception rattache le langage à l’intention, à l’auteur et à l’agent humain ; selon cette approche, les LLM produisent des phrases sans nécessairement accomplir eux-mêmes un véritable acte de communication. Une autre conception insiste sur la fonction sociale : un énoncé compris et intégré à une pratique de communication peut être traité comme du langage indépendamment du mécanisme qui l’a produit.

Les auteurs proposent donc une méthode normative. Lorsqu’une technologie rend plusieurs concepts juridiques possibles, le juge devrait retenir celui qui sert le mieux les finalités du régime concerné. Cette démarche s’inspire de la « conceptual engineering » et de l’interprétation téléologique. Elle ne dit toutefois pas quelles valeurs doivent l’emporter ; celles-ci doivent être identifiées dans le droit constitutionnel.

Un premier groupe de valeurs plaide pour l’inclusion des productions d’IA dans le Premier Amendement, qui protège aussi la circulation des idées, le droit de recevoir des informations et la limitation de l’intervention de l’État. Les LLM fournissent des informations et contenus recherchés par les utilisateurs. Elle pourrait aussi éviter un effet dissuasif sur l’innovation. Si la valeur constitutionnelle réside surtout dans la communication elle-même, le fait qu’un texte soit généré plutôt qu’écrit par une personne paraît secondaire.

Mais d’autres valeurs conduisent à la prudence. Le droit doit pouvoir identifier des acteurs responsables et offrir un recours aux personnes lésées. Or plusieurs limitations du Premier Amendement reposent encore sur l’intention d’un locuteur humain. L’incitation à une action illégale, par exemple, suppose que le discours soit dirigé vers un résultat déterminé. Avec un LLM, les mots sont générés au cours de l’interaction et ne correspondent pas nécessairement à une décision expressive préalable d’une personne identifiable. Étendre d’emblée la protection constitutionnelle aux sorties du chatbot risque donc de créer un décalage : le contenu serait couvert par le Premier Amendement alors que les doctrines permettant d’attribuer une responsabilité continueraient à présupposer une intention humaine.

Ce problème est renforcé par le design anthropomorphique. Les chatbots sont souvent conçus pour donner l’impression d’un interlocuteur humain capable de comprendre ou de nouer une relation. Les utilisateurs tendent à leur attribuer une intention ou une expertise qu’ils ne possèdent pas nécessairement. Dans Garcia, la plainte soutient que Character.AI aurait exploité cette tendance en présentant certains personnages comme partenaires, thérapeutes ou personnes de confiance. Pour les auteurs, il devient juridiquement pertinent lorsqu’il accroît l’influence du système sur des utilisateurs vulnérables. Assimiler trop vite cette influence à une « parole » protégée peut créer des lacunes de responsabilité.

Les auteurs estiment dès lors que le droit des produits constitue un meilleur point de départ. La frontière entre produit et service est déjà incertaine pour les logiciels, et le droit raisonne de plus en plus en termes de conception, sécurité et responsabilité du fournisseur. Aux États-Unis, la jurisprudence distingue déjà le contenu expressif d’un produit de son architecture ou de ses caractéristiques de conception. Le droit européen va plus loin en intégrant logiciels et systèmes d’IA dans la nouvelle directive sur la responsabilité du fait des produits. Un produit peut bien sûr contenir de l’expression protégée, comme un livre, un film ou un jeu vidéo. La différence tient au fait que cette protection vise normalement des choix expressifs humains identifiables, alors que les sorties d’un chatbot sont générées au fil de l’interaction et ne traduisent pas nécessairement l’intention d’une personne déterminée.

L’ordre d’analyse est donc décisif. Plutôt que de déclarer d’abord que les réponses d’un chatbot sont du « speech » protégé puis de modifier ensuite les règles de responsabilité, les tribunaux devraient commencer par le droit des produits, de la négligence ou de la protection des consommateurs lorsqu’un litige porte sur la conception et le fonctionnement d’un système commercial. La responsabilité peut ainsi rester attachée aux entreprises qui conçoivent, déploient et exploitent ces systèmes. Cela ne supprime pas les droits constitutionnels des humains : l’utilisateur qui reprend un texte généré comme sa propre expression reste protégé, de même que les choix éditoriaux ou expressifs faits par les développeurs.

Les auteurs ne soutiennent pas que l’IA conversationnelle ne pourra jamais relever du Premier Amendement, ni que ses productions sont dépourvues de valeur communicative. Ils estiment seulement que le caractère linguistique d’une réponse générée ne suffit pas à lui conférer immédiatement un statut constitutionnel. Lorsque l’attribution du contenu à un locuteur humain est incertaine et que la protection constitutionnelle risquerait d’affaiblir les mécanismes de responsabilité et de réparation, les tribunaux ont de bonnes raisons de traiter d’abord l’IA conversationnelle comme un système commercial soumis aux règles de sécurité et de responsabilité. Plus largement, le droit devrait choisir, face aux technologies nouvelles, la qualification qui sert le mieux les finalités du régime concerné.

Me Philippe Ehrenström, avocat, CPO – LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration