Tag Archives: biais

Les biais écologiques des IA

De nombreux LLM produisent des réponses plus favorables à l’environnement que la moyenne de la population allemande, tant dans leur sensibilité que dans leur raisonnement et leurs recommandations de réduction du CO2. Mais ces attitudes ne sont ni stables ni neutres: elles varient selon le prompt, le rôle attribué au modèle et le profil supposé de l’utilisateur. Les LLM peuvent donc soutenir des décisions plus durables, mais aussi refléter des biais, simplifier les responsabilités et privilégier des solutions individuelles. Leur usage en matière de durabilité exige transparence, contrôle critique et gouvernance. Lire la suite

Publié dans discrimination, droits fondamentaux, IA, intelligence artificielle, liberté d'expression, Libertés, Techno-labrador | Tagué , , , , , | Laisser un commentaire

Le biais d’auto-préférence des IA de recrutement

Un outil d’IA utilisé pour trier des CV peut favoriser les candidatures rédigées ou reformulées par le même modèle. À profil égal, le système ne juge donc pas seulement les compétences, mais aussi un style rédactionnel proche du sien. Les candidats utilisant le même modèle que l’évaluateur sont 23 % à 60 % plus souvent présélectionnés. Ce risque peut pénaliser les candidats sans accès au « bon » outil IA. Des mesures simples, comme des instructions plus strictes au modèle ou l’usage de plusieurs modèles, réduisent fortement ce biais. Lire la suite

Publié dans intelligence artificielle, recrutement | Tagué , , , , , | Laisser un commentaire

Evaluer les biais de l’intelligence artificielle : sortir de l’illusion métrique

Les benchmarks de biais en IA, comme BBQ, donnent des scores séduisants mais souvent trompeurs : ils effacent des inégalités réelles au nom de la neutralité et mesurent mal les biais qui surgissent dans des usages concrets. Un bon résultat ne garantit pas un comportement équitable en pratique. L’évaluation doit donc être contextualisée, construite avec les acteurs concernés, et porter sur les tâches réelles. Lire la suite

Publié dans discrimination, intelligence artificielle, Techno-labrador | Tagué , , , , , , | Un commentaire

Recrutement et promotion du personnel par l’intelligence artificielle?

Projet de loi régulant les automated employment decision tools (AEDT) à New York. Prévention des biais, définition de la décision automatique. Lire la suite

Publié dans Protection de la personnalité, Protection des données | Tagué , , , , , , , | Laisser un commentaire