The Paradox of Automation as Anti-Bias Intervention

Ifeoma AJUNWA, “The Paradox of Automation as Anti-Bias Intervention”, 41 Cardozo Law Review (2020 Forthcoming).

http://dx.doi.org/10.2139/ssrn.2746078

L’article d’Ifeoma Ajunwa s’attaque à l’ « idée reçue » que la prise de décision automatisée permet de contrer les biais, le principe étant que retirer les humains du processus de prise de décision éliminera également les préjugés humains. L’auteure énonce toutefois le paradoxe suivant : dans certains cas, la prise de décision automatisée a permis de reproduire et d’amplifier les biais. Son article fournit une taxonomie des caractéristiques problématiques associées à la prise de décision algorithmique en tant qu’intervention anti-biais et affirme que ces caractéristiques sont en contradiction avec le principe fondamental de l’égalité des chances en matière d’emploi. L’article s’appuie sur deux volets de la recherche juridique : le droit des technologies et le droit du travail et de l’emploi (américain).

L’article préconise de repenser les cadres juridiques qui tiennent compte à la fois de la responsabilité des employeurs et des responsables des systèmes de recrutement algorithmiques qui, en tant que courtiers, ont l’obligation de diligence. L’article propose que le fait qu’un employeur ne vérifie pas et ne corrige pas le possible impact inégal de ses plateformes de recrutement automatisées pourrait servir de preuve ‘prima facie’ d’une intention discriminatoire, conduisant au développement de la doctrine de discrimination en soi. L’article envisage également d’autres approches qui iraient au-delà du droit du travail, telles que la possibilité pour les candidats à un emploi d’accéder au dossier d’informations consulté par les systèmes de recrutement automatisés pour prendre la décision d’emploi.

Francesca Musiani (CIS-CNRS)