Tag Archives: biais

Le biais d’auto-préférence des IA de recrutement

Un outil d’IA utilisé pour trier des CV peut favoriser les candidatures rédigées ou reformulées par le même modèle. À profil égal, le système ne juge donc pas seulement les compétences, mais aussi un style rédactionnel proche du sien. Les candidats utilisant le même modèle que l’évaluateur sont 23 % à 60 % plus souvent présélectionnés. Ce risque peut pénaliser les candidats sans accès au « bon » outil IA. Des mesures simples, comme des instructions plus strictes au modèle ou l’usage de plusieurs modèles, réduisent fortement ce biais. Lire la suite

Publié dans intelligence artificielle, recrutement | Tagué , , , , , | Laisser un commentaire

Evaluer les biais de l’intelligence artificielle : sortir de l’illusion métrique

Les benchmarks de biais en IA, comme BBQ, donnent des scores séduisants mais souvent trompeurs : ils effacent des inégalités réelles au nom de la neutralité et mesurent mal les biais qui surgissent dans des usages concrets. Un bon résultat ne garantit pas un comportement équitable en pratique. L’évaluation doit donc être contextualisée, construite avec les acteurs concernés, et porter sur les tâches réelles. Lire la suite

Publié dans discrimination, intelligence artificielle, Techno-labrador | Tagué , , , , , , | Un commentaire

Recrutement et promotion du personnel par l’intelligence artificielle?

Projet de loi régulant les automated employment decision tools (AEDT) à New York. Prévention des biais, définition de la décision automatique. Lire la suite

Publié dans Protection de la personnalité, Protection des données | Tagué , , , , , , , | Laisser un commentaire