Dans la ville de New York, le projet de loi 144 s’appliquerait aux employeurs et aux agences pour l’emploi de la ville qui utilisent des « outils automatisés de décision en matière d’emploi » (automated employment decision tools ou AEDT) pour sélectionner des candidats à un emploi ou des employés pour des opportunités de promotion. La loi rendrait illégale l’utilisation d’un AEDT pour présélectionner des candidats ou des employés pour une décision d’emploi, sauf si  notamment (1) l’AEDT est soumis à un « audit de partialité » (bias audit) annuel par un « auditeur indépendant » avant son utilisation ; et (2) les résultats de l’audit de partialité le plus récent sont publiés sur le site Web de l’employeur ou de l’agence pour l’emploi. La loi a été promulguée en décembre 2021 et devait initialement entrer en vigueur le 1er janvier 2023, puis en avril 2023, mais le processus d’adoption n’est pas terminé.

Est encore notamment en discussion la définition de l’AETD. Le projet définit en effet une AEDT comme « tout processus informatique, dérivé de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle, qui émet un résultat simplifié, y compris un score, une classification ou une recommandation, qui est utilisé pour aider ou remplacer substantiellement la prise de décision discrétionnaire…. ».

La première version du projet a adopté une interprétation plus large de l’expression « aider ou remplacer substantiellement la prise de décision discrétionnaire » pour inclure les cas où l’utilisation d’un résultat simplifié pourrait « modifier » les conclusions tirées de la prise de décision humaine. La deuxième version adopte une approche plus étroite, en précisant qu’un « résultat simplifié » ne rentre dans la définition d’un AEDT que si le résultat est (1) le seul facteur dans une décision d’emploi, (2) l’un des multiples facteurs dans une décision d’emploi mais pesant plus lourd que les autres facteurs, ou (3) utilisé pour « annuler les conclusions dérivées d’autres facteurs, y compris la prise de décision humaine ». Cette dernière version, plus restrictive, a été critiquée car elle laisserait de côté un certain nombre d’AETD existant déjà.

(Source : Owen Davis, Keith Ybanez, NYC to Finalize Rules and Begin Regulating AI Employment Tools in Coming Months After Public Hearing, https://www.bytebacklaw.com/2023/02/nyc-to-finalize-rules-and-begin-regulating-ai-employment-tools-in-coming-months-after-public-hearing/, consulté le 1^er mars 2023)

Sur la décision individuelle automatisée en droit suisse et en droit européen, sur ce site : https://droitdutravailensuisse.com/2022/07/11/la-decision-individuelle-automatisee/)

Me Philippe Ehrenström, avocat, LLM, CAS, Genève et Onnens (VD)