A propos de Milo Phillips-Brown (07 Jul 2026): Algorithmic Neutrality, Australasian, Journal of Philosophy, DOI: 10.1080/00048402.2026.2697031 –  lien : :  https://doi.org/10.1080/00048402.2026.2697031):

Milo Phillips-Brown part d’un constat : les algorithmes exercent certes un pouvoir croissant, mais les débats portent surtout sur leur équité et moins sur leur « neutralité ».

L’auteur pose trois questions : qu’est-ce que la neutralité algorithmique, est-elle possible, et quelle portée normative faut-il lui donner ?

Sa thèse est que la neutralité algorithmiqe, en elle-même, est un faux problème  : elle n’est ni bonne ni mauvaise, ni juste ni injuste ; les vraies questions concernent les valeurs qui influencent les résultats et le rôle qu’elles jouent.

Pour définir la neutralité, Phillips-Brown part de la neutralité scientifique. La science vise conceptuellement la vérité ; elle cesse d’être neutre lorsque des valeurs extérieures à cet objectif, par exemple des intérêts financiers ou politiques, interviennent dans ses pratiques centrales. Il généralise ce schéma : un système est neutre seulement si des valeurs extérieures à son but conceptuel n’interviennent pas dans la manière dont il accomplit ce but. Pour un moteur de recherche, ce but est la pertinence. Favoriser ses propres produits pour des raisons commerciales ou écarter certains résultats pour des raisons politiques compromet donc la neutralité. Ce « but » est constitutif : une entreprise peut rechercher le profit, mais la fonction d’un moteur de recherche reste de fournir des résultats pertinents.

La deuxième étape est l’argument d’impossibilité. La pertinence est multidimensionnelle. Une page peut être meilleure qu’une autre parce qu’elle traite davantage du sujet, mais moins bonne selon la notoriété du thème, sa similitude avec la requête ou la quantité d’informations fournies. Pour établir un classement global, il faut pondérer ces dimensions. Or la notion de pertinence ne fournit aucune pondération privilégiée. Elle sous-détermine donc le classement : lorsque deux pages sont meilleures selon des dimensions différentes, d’autres valeurs doivent intervenir. La neutralité absolue devient alors impossible.

L’auteur examine deux objections. Premièrement, l’objectif de l’utilisateur pourrait déterminer ce qui est pertinent. C’est parfois vrai, mais pas pour les recherches exploratoires, où la requête ne fixe pas une pondération unique. Deuxièmement, on pourrait choisir au hasard. Mais il faut encore décider entre quoi tirer au sort : un choix peut être neutre entre individus sans l’être entre groupes, ou inversement. Le hasard ne permet donc pas une neutralité générale.

Phillips-Brown précise ensuite la portée de cette impossibilité. Il distingue les valeurs extérieures qui « remplacent » la pertinence et celles qui la « complètent ». Elles la remplacent lorsqu’une page moins pertinente est classée au-dessus d’une page plus pertinente pour une raison externe, par exemple l’intérêt commercial de l’opérateur. Elles la complètent lorsque deux résultats ne sont pas comparables en pertinence et qu’une valeur extérieure les départage. Seul ce second phénomène est inévitable : des valeurs externes doivent compléter la pertinence dans les cas d’indétermination, mais rien n’oblige un moteur à sacrifier un résultat clairement plus pertinent.

La troisième étape est normative. La non-neutralité n’est pas nécessairement condamnable. Un moteur qui écarte certains contenus gravement nuisibles peut faire primer une valeur de protection sur la pertinence ; à l’inverse, favoriser ses propres produits pour accroître ses revenus peut être injuste. La bonne question n’est donc pas « l’algorithme est-il neutre ? », mais « quelle valeur extérieure intervient, et doit-elle compléter ou l’emporter sur le but du système ? ». Neutralité et équité sont ainsi distinctes : un système non neutre peut être équitable, et un système neutre pourrait être injuste.

L’auteur distingue ensuite neutralité globale et neutralité locale. La première exclut toute valeur extérieure et est impossible. La seconde exclut seulement une catégorie déterminée de valeurs, par exemple les préférences politiques ou les intérêts financiers de l’opérateur ; elle est possible. Mais même une neutralité politique locale ne garantit pas l’absence d’effets politiques. Le choix de pondérer fortement la « saillance », c’est-à-dire la visibilité d’un sujet, peut désavantager un petit parti ou une petite entreprise sans aucune intention partisane ou commerciale. Il faut donc examiner les effets des critères et pondérations.

Phillips-Brown reformule aussi la question du biais. Il distingue le biais qui fait primer une valeur extérieure sur le but du système et celui qui complète ce but lorsqu’il ne suffit pas à déterminer le résultat. Le premier n’est pas inévitable et peut être critiqué. Le second est inévitable dans les systèmes sous-déterminés ; il serait donc vain de reprocher abstraitement au système de devoir compléter son objectif, mais il reste pertinent de contester les valeurs choisies pour le faire.

Dans la dernière partie, le raisonnement est généralisé au-delà des moteurs de recherche. Un système algorithmique est neutre si des valeurs extérieures à son but ne jouent aucun rôle dans la production de ses résultats. Un algorithme de recrutement visant la « qualification » ne serait donc neutre que si aucune considération étrangère à celle-ci n’intervenait dans son classement. Mais la qualification est elle-même multidimensionnelle. D’autres systèmes comportent des seuils que leur but ne fixe pas, comme la définition d’un risque élevé dans la protection de l’enfance, ou combinent plusieurs objectifs, comme les outils de détention provisoire qui doivent pondérer risque de récidive et risque de fuite. Dans tous ces cas, le but du système ne suffit pas à déterminer entièrement le résultat : des choix de valeur sont nécessaires. L’auteur en conclut que la neutralité est impossible pour beaucoup de systèmes algorithmiques qui affectent les individus.

Pour les juristes, la conclusion est directe. Revendiquer la « neutralité » d’un système ne permet ni d’établir sa légitimité ni de répondre à une accusation de discrimination ou d’injustice. L’analyse doit plutôt identifier le but assigné au système, les endroits où ce but sous-détermine le résultat, les valeurs qui interviennent alors, la manière dont elles complètent ou écartent ce but, et les effets produits. La question centrale n’est donc pas de savoir si un algorithme est « sans valeurs », mais quelles valeurs il incorpore, à quel niveau, pour quelles raisons et avec quelles conséquences.

Me Philippe Ehrenström, avocat, DPO – LLM, CAS en Droit et Intelligence artificielle, CAS en Protection des données – Entreprise et administration