A propos de l’article de Helena Ward, Conversational AIs and Mnemonic Distortion, Philosophy & Technology, 2026 (https://link.springer.com/article/10.1007/s13347-026-01229-8):

Les progrès de l’intelligence artificielle permettent désormais de créer des agents conversationnels capables d’imiter une personne décédée. Ces systèmes, parfois appelés griefbots ou deadbots, reproduisent sa manière de parler, ses opinions, ses souvenirs et certains traits de sa personnalité. Ils permettent aux proches de poursuivre une forme de dialogue avec elle.

Helena Ward examine un paradoxe : ces technologies, conçues pour préserver la mémoire des morts, pourraient au contraire contribuer à la déformer, voire à la remplacer par une représentation artificielle. L’auteure appelle ce phénomène la « distorsion mémorielle ». Elle cherche à établir pourquoi ce risque existe, en quoi il constitue un préjudice particulier et comment la conception des systèmes pourrait le réduire.

Ward commence par expliquer le fonctionnement de ces agents, qu’elle désigne comme des « constructions interactives de la personnalité des défunts » (IPCD). Ils reposent généralement sur de grands modèles de langage entraînés à partir de correspondances, de messages, de journaux personnels ou d’enregistrements du défunt. Le système apprend à reproduire certaines caractéristiques de son expression et peut ensuite répondre à des questions inédites. Contrairement à un simple enregistrement, il ne se limite donc pas à restituer des propos réellement tenus. Il produit de nouvelles réponses, notamment sur des événements survenus après le décès. Ces agents peuvent servir à l’enseignement, au divertissement ou à la conservation d’un héritage intellectuel. L’étude s’intéresse principalement aux systèmes reproduisant une personne avec laquelle l’utilisateur entretenait une relation personnelle.

L’auteure reconnaît d’abord leurs avantages. La commémoration ne consiste pas seulement à conserver des informations sur une personne disparue. Elle permet également de préserver les souvenirs d’une relation et la place occupée par le défunt dans notre propre existence. Les photographies, les lettres et les enregistrements remplissent traditionnellement cette fonction. Les agents conversationnels y ajoutent une dimension interactive : ils peuvent rappeler des épisodes oubliés, reproduire un humour familier ou donner l’impression de retrouver certaines conversations. Leur disponibilité permanente facilite cette expérience. Ils pourraient ainsi contribuer à maintenir vivants des souvenirs qui, autrement, s’effaceraient progressivement.

Le problème tient cependant à leur fonctionnement. Même lorsqu’ils disposent d’une documentation abondante, ces systèmes peuvent attribuer au défunt des opinions, des sentiments ou des comportements qui ne correspondent pas aux siens. Ward distingue ici l’erreur factuelle de la représentation trompeuse. Une réponse peut être matériellement exacte mais déformer la pensée du défunt, notamment lorsqu’une déclaration authentique est replacée dans un contexte où son auteur ne l’aurait jamais utilisée. Inversement, une réponse fictive peut correspondre assez fidèlement à ses habitudes. Le véritable problème n’est donc pas uniquement la production d’informations fausses, mais l’attribution artificielle d’une perspective personnelle.

Deux mécanismes expliquent ces déformations. Le premier résulte d’une mauvaise utilisation des données disponibles. Le second apparaît lorsque le système invente une réponse faute d’informations pertinentes. Personne ne peut connaître avec certitude l’opinion qu’aurait exprimée un défunt sur une situation nouvelle. L’IA peut néanmoins produire une réponse convaincante. Cette difficulté ne disparaît pas nécessairement avec l’amélioration des modèles : les données personnelles demeurent fragmentaires et reflètent souvent une image soigneusement construite de l’individu. De plus, les modèles de langage produisent des réponses probables sans disposer des intentions de communication de la personne imitée. Ward précise toutefois qu’un outil de commémoration n’a pas besoin de restituer parfaitement une personnalité. Il doit surtout préserver les souvenirs qui comptent pour ses utilisateurs.

L’auteure introduit alors sa notion centrale de distorsion mémorielle. Il s’agit du processus par lequel des éléments produits par l’IA s’incorporent progressivement aux souvenirs authentiques, les modifient ou les remplacent. Le préjudice dépasse la simple désinformation. L’utilisateur peut perdre sa capacité à distinguer ce qu’il a effectivement vécu de ce que la machine lui a raconté. Il peut également remettre en question des souvenirs exacts ou modifier sa compréhension du caractère du défunt. Ward rapporte notamment le cas d’une utilisatrice dont la grand-mère artificielle décrit un épisode précis à partir d’une photographie. Incapable de retrouver ce souvenir, l’utilisatrice se demande si l’événement s’est réellement produit ou si le système l’a inventé. L’IA ne fournit donc plus simplement une information incertaine : elle intervient dans la construction même de la mémoire personnelle.

Ce risque est renforcé par ce que Ward appelle la confusion des frontières. Dans une conversation, les informations authentiques, les interprétations plausibles et les inventions sont présentées sous une même identité, avec le même langage et la même apparence de crédibilité. L’utilisateur ne dispose pas toujours des moyens nécessaires pour déterminer leur origine. Le fonctionnement interne des modèles rend cette vérification particulièrement difficile. La continuité apparente de la relation, entretenue par la capacité du système à se souvenir des échanges précédents, accentue encore cette confusion.

Ward reconnaît néanmoins que ces agents peuvent aussi transmettre des connaissances véritables. Lorsqu’ils retrouvent des documents authentiques inconnus de l’utilisateur, ils peuvent révéler des aspects de la vie ou de la pensée du défunt. Il serait donc excessif de considérer toutes leurs réponses comme dépourvues de valeur informative. Le problème apparaît lorsque la conception du système empêche l’utilisateur de distinguer les éléments documentés des constructions artificielles.

L’auteure franchit ensuite une étape normative. La distorsion mémorielle constitue un préjudice pour notre capacité à connaître et à comprendre le monde, mais elle peut également représenter un tort moral. Ce tort résulte notamment d’une conception technique qui expose prévisiblement l’utilisateur à des erreurs tout en lui dissimulant les moyens de les identifier. La commercialisation des systèmes accentue le problème lorsque leurs concepteurs promettent une reproduction « authentique » du défunt ou suggèrent qu’ils peuvent véritablement parler en son nom. De telles présentations créent des attentes que la technologie ne peut garantir.

Le préjudice est particulièrement important dans les relations intimes. Connaître une personne aimée ne consiste pas seulement à posséder des informations sur elle. Cette connaissance participe à la valeur de la relation elle-même. Déformer les souvenirs d’un conjoint, d’un parent ou d’un ami peut ainsi modifier non seulement l’image conservée du disparu, mais également la manière dont le survivant comprend son propre passé et son identité. Les souvenirs partagés contribuent en effet à définir ce que nous sommes.

Ward examine ensuite plusieurs objections. La mémoire humaine est naturellement reconstructive : nos souvenirs évoluent, et les conversations imaginaires avec les disparus ou les témoignages familiaux peuvent également les modifier. Pourquoi les agents artificiels seraient-ils plus problématiques ? Selon l’auteure, la différence tient au fait que l’IA ne parle pas simplement du défunt, mais prétend parler à sa place. Elle utilise la première personne, formule des opinions et donne des conseils comme si le disparu s’exprimait directement. Elle peut ainsi réduire la participation personnelle de l’utilisateur au travail d’interprétation et de souvenir. Contrairement à un proche qui raconte ses propres souvenirs, elle ne possède aucune autorité personnelle sur les expériences qu’elle invente.

Une deuxième objection repose sur la lucidité des utilisateurs. Ceux-ci savent généralement qu’ils discutent avec une machine et peuvent considérer l’échange comme un jeu d’imagination. Ward répond que cette connaissance ne protège pas nécessairement contre les effets psychologiques des conversations. Même en sachant qu’une réponse est artificielle, nous pouvons finir par associer les opinions exprimées à la personne disparue. La répétition des échanges peut affaiblir notre vigilance. Enfin, le risque demeure lorsque l’utilisateur recherche uniquement un sentiment de proximité, sans vouloir apprendre quelque chose : une conversation destinée à retrouver un humour familier peut produire des déclarations inédites qui influenceront ultérieurement ses souvenirs.

Pour limiter ces difficultés, Ward propose deux orientations techniques. La première consiste à développer des agents d’archives, qui ne répondent qu’à partir de documents authentiques et vérifiables. L’utilisateur devrait pouvoir consulter les sources utilisées et signaler les représentations erronées. Certains systèmes reposent déjà sur des réponses enregistrées du vivant de la personne, sans produire librement de nouveaux propos. La seconde orientation concerne les agents spéculatifs, destinés à imaginer ce qu’un défunt aurait pu penser. Ceux-ci devraient parler de la personne à la troisième personne, plutôt que de s’exprimer comme s’ils étaient elle. Ils pourraient proposer plusieurs interprétations argumentées, sans présenter leurs suppositions comme les véritables opinions du disparu. Cette distinction implique de renoncer à une partie du réalisme conversationnel pour mieux préserver l’autonomie de jugement de l’utilisateur.

En conclusion, Ward ne condamne pas les deadbots. Elle considère qu’ils peuvent enrichir les pratiques de commémoration et stimuler la réflexion sur les personnes disparues. Leur intérêt dépend toutefois d’une séparation claire entre les traces authentiques du passé et les productions nouvelles de l’IA. Sans cette distinction, la technologie risque de transformer progressivement ce qu’elle prétend conserver. La question n’est donc pas de savoir si une machine peut imiter les morts, mais de déterminer comment elle peut nous aider à nous souvenir d’eux sans substituer ses propres inventions à notre mémoire.

Me Philippe Ehrenström, avocat, DPO ; LLM, CAS en Droit et intelligence artificielle, CAS een protection des données