A propos de Fernández Delgado B, Cazurro Barahona V. Can artificial intelligence forget? Reflections on the right to disappear in a world where algorithms remember everything. International Journal of Engineering Business Management. 2026;18. doi:10.1177/18479790261468434 :

Une intelligence artificielle peut-elle réellement « oublier » une information personnelle une fois que celle-ci a été intégrée dans son processus d’apprentissage ?

Les auteurs examinent cette question à partir du RGPD et de l’AI Act, en se concentrant sur le droit à l’effacement, le droit à l’oubli, le droit de rectification et le principe d’exactitude.

Leur thèse centrale est que le problème ne réside pas principalement dans une insuffisance du droit applicable. Le RGPD fournit déjà les droits et principes nécessaires. La difficulté vient du décalage entre ces exigences juridiques et l’architecture technique des systèmes d’IA générative, qui ne sont pas conçus pour localiser, corriger ou supprimer une information de la même manière qu’une base de données classique.

Les auteurs rappellent d’abord le contexte général. L’IA générative se diffuse extrêmement rapidement dans la santé, l’éducation, la justice, l’administration et la vie quotidienne. Cette évolution augmente considérablement les volumes de données personnelles utilisés, mais aussi la capacité des systèmes à produire de nouvelles informations concernant les individus. La question n’est donc plus seulement de savoir quelles données une organisation collecte, mais ce qu’un système peut apprendre, déduire ou reconstituer à partir de celles-ci. Dans l’Union européenne, le point de départ juridique reste l’article 8 de la Charte des droits fondamentaux, qui reconnaît la protection des données personnelles comme un droit autonome. Le RGPD et, désormais, le règlement européen sur l’intelligence artificielle constituent les deux principaux instruments applicables. Les auteurs cherchent précisément à déterminer si les droits consacrés par le RGPD peuvent demeurer effectifs lorsque les données sont absorbées dans un modèle d’IA et transformées en connaissances statistiques.

La littérature juridique connaît depuis longtemps le droit à l’effacement et le droit à l’oubli. Les auteurs insistent sur la distinction entre ces deux notions. L’effacement, au sens de l’article 17 RGPD, concerne principalement la suppression des données dans le cadre d’un traitement déterminé. Le droit à l’oubli vise davantage à limiter l’accessibilité publique de certaines informations, par exemple par le déréférencement d’un résultat dans un moteur de recherche.

Dans un système informatique traditionnel, l’application de ces droits repose sur une hypothèse relativement simple : la donnée peut être identifiée, localisée puis supprimée ou rendue inaccessible. Les systèmes d’apprentissage automatique remettent cette hypothèse en cause. Ils n’enregistrent pas nécessairement les informations sous la forme de fiches individualisées ; ils construisent des paramètres et des corrélations à partir de quantités considérables de données. Une information personnelle peut donc influencer le fonctionnement du modèle sans qu’il soit possible de montrer l’endroit précis où elle « se trouve ». Les travaux récents sur le « machine unlearning », c’est-à-dire les techniques destinées à faire désapprendre certaines informations à un modèle, montrent que des solutions sont envisagées, mais qu’elles ne garantissent pas encore un effacement complet et vérifiable.

Avant d’étudier les droits concernés, les auteurs examinent une question préalable : le RGPD s’applique-t-il réellement aux modèles d’IA eux-mêmes ? La question a été controversée. L’autorité de protection des données de Hambourg avait notamment défendu l’idée que les paramètres d’un modèle entraîné sur des données personnelles ne constituaient pas nécessairement eux-mêmes des données personnelles lorsqu’il n’était pas raisonnablement possible d’en extraire des informations concernant une personne identifiable. Les auteurs rejettent cette conception. Les données d’entraînement peuvent concerner des personnes identifiables et, surtout, les modèles peuvent reproduire, reconstruire ou déduire des informations relatives à des personnes réelles. Exclure les modèles du RGPD créerait ainsi une lacune importante : des informations fausses produites par une IA au sujet d’une personne, par exemple, pourraient échapper aux droits de rectification ou d’effacement. Les auteurs s’appuient notamment sur l’avis 28/2024 du Comité européen de la protection des données, selon lequel l’utilisation de données personnelles pour entraîner un modèle constitue bien un traitement soumis au RGPD, sauf si une anonymisation effective peut être démontrée. La capacité des modèles à reproduire ou reconstruire certaines données issues de leur entraînement renforce cette conclusion.

L’IA étend en outre considérablement le domaine des données susceptibles d’être considérées comme personnelles. Des comportements ordinaires, des habitudes de consommation, le sommeil, les gestes, les pauses dans la parole ou certains signaux physiologiques peuvent devenir des informations exploitables. Les systèmes peuvent également déduire des émotions, des intentions ou des comportements futurs. Les auteurs accordent une attention particulière aux neurodonnées, issues directement de l’activité cérébrale ou de signaux biométriques permettant d’inférer des états mentaux. Ces données touchent à une dimension particulièrement intime de la personne et soulèvent non seulement des questions de vie privée, mais aussi de liberté de pensée et d’autonomie cognitive.

Une fois l’applicabilité du RGPD admise, apparaît la difficulté essentielle. Le RGPD repose sur l’idée que les données personnelles peuvent être identifiées, corrigées ou supprimées. Or un grand modèle de langage transforme les informations utilisées lors de l’entraînement en structures statistiques diffuses. Supprimer le document initial contenant une information ne signifie donc pas nécessairement supprimer l’effet que cette information a produit dans le modèle. L’information est devenue un élément de son apprentissage. Les auteurs insistent néanmoins sur un point juridique fondamental : cette difficulté technique ne constitue pas une exception au RGPD. Le règlement est technologiquement neutre et aucune disposition n’exonère les systèmes d’IA de leurs obligations au motif qu’elles seraient difficiles à respecter. Si un traitement de données personnelles a lieu, les principes et droits du RGPD restent pleinement applicables.

Le droit à l’effacement de l’article 17 RGPD illustre directement cette tension. Dans un système classique, effacer signifie supprimer un fichier ou un enregistrement. Dans un modèle génératif, les données ont servi à produire des paramètres, des relations et des connaissances. Leur suppression à la source ne fait pas disparaître automatiquement leur empreinte sur le modèle. Le droit à l’oubli pourrait alors être réinterprété de manière plus fonctionnelle : plutôt que d’exiger que l’information disparaisse entièrement du modèle, il pourrait s’agir d’empêcher sa restitution ou sa diffusion dans les réponses produites. Mais cette solution rencontre elle aussi des difficultés, car les modèles généralisent et reconstruisent les informations. Bloquer une donnée particulière peut donc être techniquement difficile et modifier d’autres réponses légitimes du système.

Le même problème se rencontre avec le principe d’exactitude de l’article 5, paragraphe 1, lettre d, RGPD et le droit de rectification de l’article 16. Une IA générative ne se contente pas de reproduire les informations qu’elle reçoit : elle établit des liens, réalise des inférences et peut produire de nouvelles affirmations. Une donnée personnelle fausse peut donc provenir du modèle lui-même. C’est notamment le phénomène des « hallucinations », lorsque le système formule de manière plausible une information inexistante. Pour les auteurs, une information ainsi fabriquée au sujet d’une personne réelle relève néanmoins du droit de la protection des données. L’intéressé devrait pouvoir obtenir sa correction. Or il peut être impossible de modifier directement la connaissance interne ayant conduit à cette réponse. Ainsi, les droits à l’effacement et à la rectification rencontrent finalement la même difficulté : ils supposent que l’on puisse isoler l’information concernée, tandis que les modèles la diffusent dans leur structure d’apprentissage.

Cette situation donne une importance particulière à l’article 25 RGPD relatif à la protection des données dès la conception et par défaut. Selon les auteurs, les développeurs et responsables du traitement doivent concevoir leurs systèmes dès l’origine de manière à permettre l’exercice effectif des droits des personnes. Ils adoptent sur ce point une position exigeante : un système incapable de rectifier ou d’effacer certaines données personnelles, ou de garantir raisonnablement leur exactitude, ne devrait pas pouvoir invoquer sa propre architecture technique pour justifier cette impossibilité. Les droits fondamentaux constituent une condition préalable à la mise sur le marché d’une technologie et non un objectif que l’on pourrait tenter d’atteindre après son déploiement.

L’AI Act complète cette analyse sans remplacer le RGPD. Les deux règlements répondent à des objectifs différents mais complémentaires. Le RGPD réglemente le traitement des données personnelles et protège les personnes concernées. L’AI Act encadre la conception, la mise sur le marché et l’utilisation des systèmes d’IA en fonction notamment des risques qu’ils présentent. La protection des données fait partie des droits fondamentaux que l’AI Act entend préserver, particulièrement pour les systèmes à haut risque, auxquels s’appliquent des obligations renforcées de documentation, de traçabilité, de contrôle et de surveillance humaine. Les auteurs considèrent donc que l’AI Act ne réduit ni ne redéfinit les droits issus du RGPD : il présuppose leur respect.

Cette coexistence des deux règlements crée néanmoins une difficulté de gouvernance. Le RGPD raisonne principalement en termes de responsable du traitement et de sous-traitant. L’AI Act ajoute d’autres acteurs, notamment les fournisseurs, importateurs, distributeurs et déployeurs. Lorsqu’une personne demande l’effacement ou la rectification de ses données, plusieurs intervenants techniques peuvent donc devoir agir conjointement. Pour les auteurs, la question principale n’est pas tant de savoir à qui attribuer abstraitement la responsabilité que d’organiser une traçabilité et une coopération permettant de donner concrètement effet aux droits dans toute la chaîne de l’IA.

L’article élargit ensuite l’analyse à trois phénomènes qui montrent pourquoi cette problématique dépasse la seule technique de l’effacement : les hallucinations, les biais algorithmiques et les neurodonnées. Les hallucinations constituent une menace particulière pour le principe d’exactitude. Une IA peut créer une information fausse concernant une personne, par exemple lui attribuer un événement, une déclaration ou une caractéristique inexistante. Le problème est alors paradoxal : la personne dispose juridiquement d’un droit de rectification, mais l’information n’existe pas forcément comme donnée identifiable à corriger dans une base ; elle est le résultat d’un calcul génératif. Le droit existe donc formellement alors que son exercice concret devient difficile, voire impossible.

Le biais algorithmique soulève un problème voisin. Un modèle entraîné sur des données reflétant des inégalités sociales ou des préjugés peut reproduire ou renforcer ces biais dans des domaines tels que le recrutement, l’octroi de crédit ou la surveillance policière. Dans cette hypothèse, ce n’est pas nécessairement une donnée précise qui est erronée, mais une corrélation ou une inférence produite par le système. Pour les auteurs, le droit à la rectification ou à l’effacement devrait alors pouvoir porter sur ces conclusions algorithmiques. Une personne faussement associée à un profil de risque devrait pouvoir obtenir non seulement la suppression d’une donnée source, mais également la neutralisation de l’inférence défavorable qui en découle. Le problème est que cette « mémoire discriminatoire » réside dans le fonctionnement même du modèle. Les auteurs ajoutent qu’une corrélation statistiquement exacte n’est d’ailleurs pas nécessairement un critère juridiquement ou éthiquement acceptable pour prendre une décision.

Les neurodonnées constituent pour eux la limite la plus sensible. Lorsque l’IA traite des données permettant de déduire des émotions, intentions ou états mentaux, les principes de minimisation, de limitation des finalités et de consentement prennent une importance accrue. La question de l’effacement touche alors directement à l’autonomie intellectuelle de la personne : celle-ci devrait conserver le pouvoir de contrôler les informations tirées de son activité mentale et de décider si elles peuvent être conservées, corrigées ou supprimées. La protection des données rejoint ici la protection de la liberté de pensée et de ce que les auteurs qualifient de souveraineté sur l’identité cognitive.

Les données créées par une IA ou déduites par elle devraient être considérées comme des données personnelles dès lors qu’elles concernent une personne identifiée ou identifiable. Le fait que l’intéressé ne soit pas à l’origine de l’information ne la fait pas sortir du champ du RGPD. Une inférence incorrecte doit donc pouvoir faire l’objet d’une rectification. Mais une rectification effective ne devrait pas consister seulement à masquer ponctuellement une réponse : elle devrait neutraliser, dans la mesure du possible, la connaissance erronée incorporée au modèle.

La dernière partie de l’article examine les solutions possibles. Les auteurs évoquent d’abord les techniques déjà connues en protection des données : anonymisation, pseudonymisation, restriction du traitement, blocage de certaines utilisations et analyses d’impact. Ces mesures sont nécessaires et doivent être prévues dès la conception du système, mais elles restent insuffisantes lorsqu’une information personnelle a déjà influencé l’apprentissage d’un modèle. Bloquer sa restitution ne signifie pas que le modèle l’a effectivement oubliée.

Le « machine unlearning » constitue alors la piste technique la plus prometteuse. L’objectif est de permettre au modèle de supprimer l’influence de certaines données sans devoir procéder à un nouvel entraînement complet. Les auteurs restent prudents : les techniques disponibles sont encore expérimentales et il demeure difficile de démontrer qu’aucune trace de l’information supprimée ne subsiste dans le modèle. Elles pourraient néanmoins permettre progressivement de rapprocher l’architecture des systèmes des exigences de l’article 17 RGPD. Tant que ces techniques ne sont pas pleinement efficaces, elles ne sauraient toutefois constituer une excuse permettant de réduire la portée des droits existants.

Les auteurs ajoutent enfin un volet consacré à l’éducation numérique et à la responsabilité partagée. Puisqu’il est extrêmement difficile d’effacer certaines informations une fois qu’elles ont été intégrées à un système d’IA, la prévention devient essentielle. Les personnes doivent mieux comprendre les conséquences de la communication de leurs données, tandis que les pouvoirs publics, les entreprises et les développeurs doivent promouvoir une véritable culture de la protection des données. Les principes de minimisation, de transparence et de protection dès la conception doivent permettre de réduire dès l’origine la quantité d’informations qui pourront être incorporées aux systèmes.

La conclusion est donc moins celle d’un vide juridique que celle d’une crise d’effectivité. Le RGPD et l’AI Act forment, selon les auteurs, un ensemble globalement cohérent. Le problème est que certaines architectures d’IA ne permettent actuellement pas de respecter pleinement des droits conçus pour des systèmes dans lesquels les données pouvaient être localisées et modifiées. Cette incompatibilité ne devrait pas conduire à réduire le niveau de protection juridique, mais à renforcer la responsabilité des acteurs, le contrôle des autorités et le développement de solutions techniques permettant réellement la rectification et l’effacement. Les auteurs critiquent à cet égard une éventuelle tendance des autorités de protection des données à consacrer leurs ressources à des violations secondaires alors que les problèmes structurels posés par les grands systèmes d’IA peuvent concerner des millions de personnes. Ils anticipent que l’interaction entre IA et protection des données occupera durablement le droit européen et pourrait conduire soit à de nouvelles interprétations du RGPD, soit à des adaptations législatives ou à des instruments complémentaires.

Ce ne sont pas les droits fondamentaux qui doivent être adaptés aux limitations techniques de l’intelligence artificielle ; ce sont les systèmes d’IA qui doivent être conçus de manière compatible avec ces droits. Lorsque le droit exige qu’une information puisse être corrigée ou oubliée, la technique doit, à terme, rendre cette exigence réellement applicable.

Me Philippe Ehrenström, avocat, LLM, CAS en Droit et intelligence artificielle, CAS en Protection des données – Entreprise et administration