Category Archives: discrimination

Recrutement et IA : la discrimination par proxy

Le droit américain de la non-discrimination repose sur des catégories protégées comme la race, le sexe ou le handicap. Or les systèmes d’IA peuvent discriminer sans utiliser directement ces critères, en s’appuyant sur des variables qui leur servent de substituts. K. Swisher, dans un article tout récent, propose trois réponses : mesurer statistiquement le lien entre les classifications algorithmiques et les catégories protégées, imposer des évaluations d’impact avant le déploiement des systèmes et intégrer l’équité dès leur conception. L’objectif est d’adapter le droit à des discriminations produites par des modèles sans intention humaine identifiable. Lire la suite

Publié dans discrimination, Droit US, IA, intelligence artificielle | Tagué , , , , , , , , | Laisser un commentaire

L’intelligence comme performance mesurable au temps de l’IA

L’intelligence n’est pas une réalité naturelle et stable, mais une notion historiquement construite. Les tests psychométriques ont transformé certaines aptitudes en performances mesurables, utilisées ensuite pour sélectionner, classer et distribuer des opportunités. L’IA prolonge cette logique : données, objectifs, métriques et benchmarks déterminent ce qui compte comme compétence ou réussite. Elle ne reproduit donc pas une intelligence « naturelle », mais cristallise des conceptions particulières de l’intelligence, susceptibles d’influencer les institutions, les comportements et les normes sociales. Lire la suite

Publié dans discrimination, droits fondamentaux, IA, intelligence artificielle, personnalité juridique, Philosophie | Tagué , , , | Laisser un commentaire

La neutralité algorithmique?

Revendiquer la « neutralité » d’un système ne permet ni d’établir sa légitimité ni de répondre à une accusation de discrimination ou d’injustice. L’analyse doit plutôt identifier le but assigné au système, les endroits où ce but sous-détermine le résultat, les valeurs qui interviennent alors, la manière dont elles complètent ou écartent ce but, et les effets produits. Lire la suite

Publié dans discrimination, droits fondamentaux, IA, intelligence artificielle | Tagué , , , | Laisser un commentaire

Podcast Episode 7: quand le robot devient un sujet moral

Si des êtres artificiels sentients existaient, leur créateur ne pourrait pas les modifier à volonté. Dès qu’une IA ou un robot devient un sujet capable d’expérience, il faut en principe respecter son individualité et sa continuité psychologique. Une intervention ne serait admissible qu’avec une justification forte, surtout pour prévenir un dommage à autrui, et devrait rester ciblée et proportionnée. Le consentement pourrait élargir cette marge, mais demeure difficile à établir ou même concevoir. Une modification rompant la continuité du sujet ne serait plus une correction, mais son élimination. Lire la suite

Publié dans Animaux, capacité de discernement, discrimination, droits fondamentaux, IA, intelligence artificielle, personnalité juridique, Philosophie, Podcasts, Robots | Tagué , , , | Laisser un commentaire

Droit du travail et intelligence artificielle

Quels sont les devoirs d’information de l’employeur qui utilise l’IA? Et vous cherchez un Guide pratique du contrat de travail par le prisme de la jurisprudence? Réjouissez-vous, le père Noël est passé au mois de juillet! Lire la suite

Publié dans Certificat de travail, Clause de non concurrence, congés, démission, Devoir de fidélité et diligence, discrimination, Fin des rapports de travail, Harcèlement psychologique/sexuel, Heures supplémentaires, IA, Incapacité de travail, intelligence artificielle, Interprétation du contrat, Licenciement abusif, Licenciement en temps inopportun, Licenciement immédiat, Litiges, contentieux, Plans sociaux, Protection de la personnalité, Protection des données, Qualification du contrat, Responsabilité du travailleur, Salaire, Temps de travail, Vacances | Tagué , , , | Laisser un commentaire

Les biais écologiques des IA

De nombreux LLM produisent des réponses plus favorables à l’environnement que la moyenne de la population allemande, tant dans leur sensibilité que dans leur raisonnement et leurs recommandations de réduction du CO2. Mais ces attitudes ne sont ni stables ni neutres: elles varient selon le prompt, le rôle attribué au modèle et le profil supposé de l’utilisateur. Les LLM peuvent donc soutenir des décisions plus durables, mais aussi refléter des biais, simplifier les responsabilités et privilégier des solutions individuelles. Leur usage en matière de durabilité exige transparence, contrôle critique et gouvernance. Lire la suite

Publié dans discrimination, droits fondamentaux, IA, intelligence artificielle, liberté d'expression, Libertés, Techno-labrador | Tagué , , , , , | Laisser un commentaire

Tarification algorithmique : repenser l’équité des prix

L’injustice des prix algorithmiques ne vient pas du fait que les prix diffèrent entre consommateurs, mais de l’asymétrie d’information créée par l’IA. Les entreprises fixent les prix à partir de données cachées et de prédictions, alors que les consommateurs ne peuvent ni comprendre, ni comparer, ni contester. Cette situation rompt l’équilibre contractuel classique. M. Grochowski propose trois garanties pour rétablir une forme d’équité : expliquer les facteurs du prix, fournir un prix de référence pour comparaison, et permettre d’exclure certaines données sensibles du calcul. Lire la suite

Publié dans discrimination, Droit US, intelligence artificielle, Protection des données | Tagué , , , , | Laisser un commentaire

L’utilisation de l’IA dans le recrutement en droit européen

Analyse de l’usage de l’IA dans le recrutement et des limites du cadre européen fondé sur le risque. L’IA de recrutement, malgré ses gains d’efficacité, peut renforcer les biais, accroître l’opacité et fragiliser les droits des candidats. Le RIA, centré sur la gestion des risques, reste insuffisant sans articulation forte avec le RGPD, le droit de la non-discrimination et des mécanismes collectifs. Une gouvernance efficace devrait intégrer participation, évaluations d’impact sur les droits fondamentaux et contrôle social afin de garantir une protection effective. Lire la suite

Publié dans discrimination, Droit collectif du travail, droit européen, droits fondamentaux, intelligence artificielle, Protection de la personnalité, Protection des données, RGPD | Tagué , , , , | Laisser un commentaire

Preuve en matière de discrimination : limites à la communication de données de tiers ?

Le droit à la preuve peut justifier la communication de documents contenant des données personnelles de tiers, notamment pour établir une discrimination. La communication n’est licite que si elle est indispensable et proportionnée. Le juge doit vérifier la nécessité des pièces, limiter leur périmètre et veiller au respect du RGPD, en particulier au principe de minimisation. Les données non utiles doivent être occultées et leur usage strictement encadré par le juge. Lire la suite

Publié dans discrimination, droit français, droits fondamentaux, Egalité femmes-hommers, intelligence artificielle, Procédure | Tagué , , , , | Laisser un commentaire

Régulation algorithmique et affaiblissement de l’Etat de droit – à propos de l’algorithmic rule by law

Lorsque l’administration applique le droit via des systèmes algorithmiques, cela entraîne des risques pour les mécanismes de l’Etat de droit. La traduction des règles en code n’est en effet pas neutre : elle fige des choix d’interprétation, déplace la discrétion vers l’amont, rigidifie l’application et peut amplifier des politiques injustes ou discriminatoires à grande échelle, avec opacité et de moindres voies de recours. Il faut donc traiter l’automatisation comme un choix normatif, renforcer contrôle, transparence, voies de contestation et contre-pouvoirs. Lire la suite

Publié dans discrimination, droit européen, intelligence artificielle, Libertés | Tagué , , , , | Laisser un commentaire