Über: Philippe Ehrenström, La décision individuelle automatisée discriminatoire dans le recrutement assisté par l’intelligence artificielle, in : Florence Guillaume/ Jonathan Bory (éd.), Droit et intelligence artificielle, Bern 2025, S. 171–184 (https://staempflirecht.ch/fr/droit-et-intelligence-artificielle/ean-9783727225093)

Der Artikel analysiert die Diskriminierungsrisiken im Zusammenhang mit dem Einsatz künstlicher Intelligenz bei der Personalbeschaffung und untersucht die Instrumente, die das Schweizer Recht, ergänzt durch das europäische Recht zur KI und zum Datenschutz, den Bewerbern bietet.

Der Autor geht von der Feststellung aus, dass viele Arbeitgeber die Sortierung von Lebensläufen oder die Bewertung von Bewerbungen bereits automatisieren, indem sie sich auf Modelle stützen, die aus historischen Daten lernen und somit bestehende Diskriminierungen, beispielsweise aufgrund von Geschlecht, Herkunft, Alter oder Behinderung, reproduzieren oder sogar verstärken können.

Er erinnert zunächst an den Schweizer Rahmen für die Bekämpfung von Diskriminierung bei der Einstellung, der durch das Fehlen eines generellen Verbots im privaten Sektor gekennzeichnet ist. Der Schutz ergibt sich hauptsächlich aus der Achtung der Persönlichkeitsrechte und verschiedenen Sonderbestimmungen.

Der Artikel erinnert dann daran, dass die algorithmische Rekrutierung als „risikoreiches KI-System” eingestuft wurde, insbesondere wenn das Tool zur Entscheidung über den Zugang zu einer Stelle eingesetzt wird. Daraus ergibt sich ein erhebliches Risiko für die Persönlichkeitsrechte des Bewerbers.

Die Entscheidung, einen Bewerber allein auf der Grundlage einer von einem KI-System generierten Punktzahl abzulehnen, stellt eine automatisierte Einzelentscheidung dar. Die betroffene Person hat grundsätzlich das Recht, sich nicht ausschließlich einer solchen Entscheidung zu unterwerfen, die Intervention einer natürlichen Person zu verlangen und Informationen über die der Verarbeitung zugrunde liegende Logik, ihre Bedeutung und ihre voraussichtlichen Auswirkungen zu erhalten.

Diese Rechte eröffnen die Möglichkeit, die erhaltenen Informationen als Beweismittel in einem Gerichtsverfahren zu verwenden, um eine diskriminierende Ablehnung anzufechten. Der Artikel erörtert die Verfahrenswege und die besonderen Schwierigkeiten, die sich daraus im Schweizer Recht ergeben können.

Abschließend kommt der Autor zu dem Schluss, dass das Schweizer Datenschutzrecht einen wichtigen Hebel gegen diskriminierende automatisierte Einstellungsentscheidungen bietet, dass jedoch praktische Hindernisse bestehen bleiben und dass im Arbeitsrecht weiterhin umfassendere Überlegungen zu einem auf KI-Systeme zugeschnittenen Recht auf Nichtdiskriminierung erforderlich sind.

Me Philippe Ehrenström, Rechtsanwalt, LLM, CAS in Recht und Künstlicher Intelligenz