Government Briefing Book: Emerging Technologies and Human Rights

Gretchen K. GREENE (editor), Government Briefing Book: Emerging Technologies and Human Rights, vol. 1, Août 2019.

https://drive.google.com/file/d/1xSFa1_RPTO-B2cyAiyefbEBkbcVBZrJe/view

Les décideurs et les gouvernements du monde entier, dans leurs rôles d’utilisateurs et de régulateurs, sont aux prises avec l’intelligence artificielle et d’autres technologies émergentes. L’auteure/coordinatrice de ce briefing book nous rappelle que dans ce contexte, si nous ne pouvons prédire de manière fiable quelles avancées scientifiques se produiront ou quelles nouvelles idées d’affaires vont gagner du terrain, nous pouvons essayer de comprendre ce qui se passe maintenant et penser des principes pour l’avenir. En ce faisant, elle rappelle, nous ne sommes pas contraints par les frontières. Les chefs de gouvernement se réunissent pour discuter de l’IA lors de réunions régionales, nationales et internationales, et le droit international des droits de l’homme fournit un cadre complet et langage commun pour ces conversations.

Dans ce contexte, le briefing book propose une collection de courtes contributions d’une page, destinées à donner une idée de nombre d’applications technologiques émergentes dans le domaine de l’IA, et de comment elles pourraient avoir un impact positif ou négatif sur les droits de l’homme. Ce projet a été inspiré par des conversations avec « plus de 100 membres de gouvernements autour du monde, des défenseurs des droits de l’homme, des ingénieurs, des scientifiques, des avocats et des universitaires. »

Francesca Musiani (CIS-CNRS)

The Paradox of Automation as Anti-Bias Intervention

Ifeoma AJUNWA, “The Paradox of Automation as Anti-Bias Intervention”, 41 Cardozo Law Review (2020 Forthcoming).

http://dx.doi.org/10.2139/ssrn.2746078

L’article d’Ifeoma Ajunwa s’attaque à l’ « idée reçue » que la prise de décision automatisée permet de contrer les biais, le principe étant que retirer les humains du processus de prise de décision éliminera également les préjugés humains. L’auteure énonce toutefois le paradoxe suivant : dans certains cas, la prise de décision automatisée a permis de reproduire et d’amplifier les biais. Son article fournit une taxonomie des caractéristiques problématiques associées à la prise de décision algorithmique en tant qu’intervention anti-biais et affirme que ces caractéristiques sont en contradiction avec le principe fondamental de l’égalité des chances en matière d’emploi. L’article s’appuie sur deux volets de la recherche juridique : le droit des technologies et le droit du travail et de l’emploi (américain).

L’article préconise de repenser les cadres juridiques qui tiennent compte à la fois de la responsabilité des employeurs et des responsables des systèmes de recrutement algorithmiques qui, en tant que courtiers, ont l’obligation de diligence. L’article propose que le fait qu’un employeur ne vérifie pas et ne corrige pas le possible impact inégal de ses plateformes de recrutement automatisées pourrait servir de preuve ‘prima facie’ d’une intention discriminatoire, conduisant au développement de la doctrine de discrimination en soi. L’article envisage également d’autres approches qui iraient au-delà du droit du travail, telles que la possibilité pour les candidats à un emploi d’accéder au dossier d’informations consulté par les systèmes de recrutement automatisés pour prendre la décision d’emploi.

Francesca Musiani (CIS-CNRS)