Emmanuel Vargas Penagos analyse les obligations juridiques découlant du droit de l’Union européenne en matière d’implication humaine dans les systèmes de modération de contenus en ligne (Platforms on the hook? EU and human rights requirements for human involvement in content moderation, Cambridge Forum on AI: Law and Governance (2025), 1, e23, 1–27, doi:10.1017/cfl.2025.3). L’étude se focalise sur l’interaction entre la législation secondaire de l’UE, en particulier le Digital Services Act (DSA), et les garanties offertes par les droits humains, notamment la liberté d’expression. L’auteur adopte une approche structurée, en répondant à quatre questions successives : les raisons de l’implication humaine dans la modération, les différentes formes que peut prendre cette implication, les exigences concrètes du droit de l’UE, et enfin, l’interprétation de ces normes à la lumière des principes issus des droits fondamentaux.

Dans un premier temps, l’article revient sur les raisons qui justifient l’implication humaine dans la modération de contenu. L’automatisation s’est développée comme réponse au volume écrasant d’informations diffusées en ligne, les plateformes ne pouvant matériellement pas assurer une surveillance exclusivement humaine. Toutefois, cette automatisation soulève plusieurs problèmes. D’un point de vue technique, les outils algorithmiques peinent à saisir le contexte, les subtilités linguistiques et culturelles, et s’avèrent peu fiables en cas de décalage entre les données d’entraînement et les contenus réels. D’un point de vue humain, les modérateurs exposés à des contenus traumatisants subissent une charge psychologique importante. Mais au-delà de ces considérations pratiques, des motifs éthiques et juridiques justifient la présence humaine : la nécessité de corriger les biais des systèmes, d’intervenir en cas de dysfonctionnement, d’assurer la responsabilité et la transparence des décisions, de protéger la dignité des personnes, et de permettre une réponse contextuelle aux situations complexes. Ces justifications sont soutenues par plusieurs acteurs internationaux qui insistent sur la nécessité de prévoir des mécanismes de révision humaine des décisions automatisées pour garantir les droits fondamentaux.

La deuxième partie de l’article explore les formes que peut prendre l’implication humaine dans les systèmes de modération. L’auteur distingue trois grandes catégories : l’intervention humaine à chaque étape de la décision (human-in-the-loop), la supervision humaine avec faculté d’arrêt (human-on-the-loop), et enfin une gouvernance humaine globale sur l’ensemble du processus (human-in-command). Ces catégories s’inscrivent dans des structures de modération très variées selon les plateformes. Certaines combinent des outils de détection automatisée avec des modérateurs spécialisés et des voies de recours internes et externes. D’autres reposent davantage sur des modérateurs bénévoles assistés par des outils simples. L’article souligne également que l’implication humaine peut intervenir à différents stades du cycle de modération : au moment de la conception des outils (formation et ajustement des algorithmes), dans la détection initiale, dans la prise de décision, dans l’examen des recours, ou encore dans le retour d’expérience servant à améliorer les modèles. Cette diversité rend difficile toute tentative d’uniformisation, et appelle une approche différenciée selon le contexte.

La troisième partie de l’étude expose les exigences concrètes du droit européen, en particulier celles issues du RGPD, du DSA et de législations sectorielles. L’article 22 du RGPD interdit en principe les décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou significativement similaires, sauf en cas s’exceptions prévues par le règlement et si des garanties appropriées sont prévues. Cette disposition s’applique aux décisions de modération de contenu, dans la mesure où celles-ci affectent les droits contractuels des utilisateurs ou la visibilité de leurs publications. Le DSA ne proscrit pas l’usage d’outils automatisés mais impose une série d’obligations encadrant leur utilisation : obligation de transparence, de diligence, d’objectivité et de non-discrimination dans la prise de décision, ainsi que la mise en place d’un mécanisme de réclamation interne non entièrement automatisé. L’intervention humaine est explicitement requise dans ce mécanisme de recours, qui doit être supervisé par un personnel qualifié. En parallèle, des instruments spécifiques viennent compléter ce cadre général. La directive sur le droit d’auteur impose une revue humaine des décisions de retrait de contenu fondées sur les droits d’auteur. Le règlement TERREG, en matière de lutte contre le terrorisme, exige que tout recours à des outils automatisés soit assorti de garanties adéquates, notamment une supervision humaine. Quant au European Media Freedom Act, il impose des garanties renforcées pour les contenus issus de médias professionnels, en prévoyant un droit de réponse préalable et un traitement prioritaire des recours, ce qui suppose implicitement une implication humaine qualifiée.

Enfin, l’auteur propose une lecture de ces exigences à la lumière des droits fondamentaux, notamment de l’article 10 CEDH relatif à la liberté d’expression. Le DSA s’inscrit dans une volonté de créer un environnement numérique sûr, prévisible et respectueux des droits. L’implication humaine est ici conçue comme une garantie procédurale essentielle à cet objectif. Cette garantie ne saurait se limiter à une formalité ou à un contrôle symbolique : elle doit se traduire par une organisation concrète des ressources humaines, tant en termes de nombre que de compétence et d’autorité décisionnelle. Trois principes guident cette approche.

Le premier est celui de la diligence. La mise en œuvre des mécanismes de modération doit répondre à un standard de prudence et de professionnalisme adapté à la taille et aux capacités de la plateforme. Cela implique un investissement proportionné dans la formation des modérateurs et dans l’amélioration continue des outils automatisés. Le deuxième principe est celui d’objectivité et de non-discrimination. Les décisions doivent être fondées sur des critères clairs, cohérents et appliqués de manière équitable, sans reproduire ou accentuer les biais sociaux ou culturels. L’intervention humaine est ici essentielle pour contextualiser les cas limites et garantir un traitement équitable. Enfin, le principe de responsabilité suppose que les décisions puissent être justifiées, contestées et révisées par un personnel qualifié, en dehors des seules procédures algorithmiques. L’implication humaine devient ainsi un vecteur de transparence, de redevabilité et de correction des erreurs systémiques.

En conclusion, l’article met en évidence que le droit européen n’impose pas une présence humaine constante dans tous les actes de modération, mais requiert que celle-ci soit organisée de manière ciblée, cohérente et juridiquement encadrée. Cette implication humaine doit être conçue non comme un simple garde-fou symbolique, mais comme un pilier essentiel de la protection des droits fondamentaux dans l’environnement numérique. Elle appelle à une gouvernance renouvelée de la modération, combinant efficacité technologique et garanties procédurales substantielles.

Me Philippe Ehrenström, avocat, LLM