Études critiques sur l'intelligence artificielle – L'intelligence artificielle et ses conséquences vues par les sciences humaines et sociales

La revanche des neurones

Dominique CARDON, Jean-Philippe COINTET et Antoine MAZIÈRES, « La revanche des neurones. L’invention des machines inductives et la controverse de l’intelligence artificielle », Réseaux 5 (211), 2018, p. 173-220.

https://doi.org/10.3917/res.211.0173

L’excellent papier de Cardon, Cointet et Mazières constitue un point de départ incontournable pour tout chercheur intéressé à l’intelligence artificielle. Dans une quarantaine de pages denses d’idées et d’informations, les auteurs présentent une histoire complète et détaillée de la montée et la chute de différents courants de cette approche.

Remarquable dans l’article est l’effort de ne pas considérer l’intelligence artificielle comme un bloc unique, mais de séparer et opposer les différents écoles et techniques qui composent le monde de l’AI. Par cette approche comparative, les auteurs proposent une critique perçante de plus récents algorithmes de deep machine learning, en décrivant les points de force qui ont fini pour assurer leur succès, mais aussi les contraintes techniques et conceptuelles de cette approche.

Malgré la technicité de la matière et le niveau des détails offert par le papier (qui n’hésite pas à entrer dans les détails informatiques et logiques des différentes approches), l’argument des auteurs reste accessible à tout lecteur. Par une reconstruction passionnante de l’affrontement entre l’ « IA connexionniste » (qui caractérise les premières et les dernières années de cette technique) et l’ « IA symbolique » (dominant des années ’60 jusqu’à la moitié des années ’90), l’article offre une description poignante des enjeux et des idéologies de l’intelligence artificielle passée et présente.

Cerise sur le gâteau, le papier appuie son argument sur une combinaison très réussie de méthodes qualitatives (avec des vignettes ethnographiques et des extraits d’entretiens franchement marrants) et analyse scientométrique des publications dans la discipline.

Tommaso Venturini (CIS-CNRS)

What People Hate About Being Managed by Algorithms, According to a Study of Uber Drivers

Mareike MÖHLMANN and Ola HENFRIDSSON, “What People Hate About Being Managed by Algorithms, According to a Study of Uber Drivers”, Harvard Business Review, August 30, 2019.

https://hbr.org/2019/08/what-people-hate-about-being-managed-by-algorithms-according-to-a-study-of-uber-drivers

Les entreprises utilisent de plus en plus des algorithmes pour gérer leurs employés à distance. Appelée « gestion algorithmique », cette approche a été la plus largement adoptée par les entreprises de la gig economy. Par exemple, la société de téléphonie mobile Uber accroît considérablement son efficacité en gérant environ trois millions de travailleurs avec une application qui indique aux conducteurs quels passagers prendre et quel itinéraire emprunter.

Cette gestion présente également certains avantages pour les travailleurs indépendants : par exemple, les conducteurs d’Uber sont libres de décider quand et pour combien de temps ils souhaitent travailler et dans quelle région ils souhaitent travailler. Cependant, les recherches des auteures de cet article – qui résume une étude plus large – révèlent que la gestion algorithmique peut aussi être frustrante pour les travailleurs et que leur ressentiment peut les amener à adopter un comportement subversif susceptible de nuire gravement à leurs entreprises.

L’étude repose sur une multi-collecte de données, obtenues en interrogeant de manière informelle et formelle 34 conducteurs, en observant les conducteurs en action, en analysant plus de 1 000 messages de forum en ligne et en examinant la couverture médiatique d’Uber selon plusieurs vagues entre décembre 2015 et septembre 2018.

Les auteurs constatent que les pilotes Uber présentent trois plaintes cohérentes concernant le fait de travailler « pour des algorithmes » : l’état de surveillance constante, le peu de transparence par rapport à l’app et son fonctionnement, et la déshumanisation (manque de collègues avec qui socialiser, ou d’une ‘équipe’ à proprement parler).

Francesca Musiani (CIS-CNRS)

Government Briefing Book: Emerging Technologies and Human Rights

Gretchen K. GREENE (editor), Government Briefing Book: Emerging Technologies and Human Rights, vol. 1, Août 2019.

https://drive.google.com/file/d/1xSFa1_RPTO-B2cyAiyefbEBkbcVBZrJe/view

Les décideurs et les gouvernements du monde entier, dans leurs rôles d’utilisateurs et de régulateurs, sont aux prises avec l’intelligence artificielle et d’autres technologies émergentes. L’auteure/coordinatrice de ce briefing book nous rappelle que dans ce contexte, si nous ne pouvons prédire de manière fiable quelles avancées scientifiques se produiront ou quelles nouvelles idées d’affaires vont gagner du terrain, nous pouvons essayer de comprendre ce qui se passe maintenant et penser des principes pour l’avenir. En ce faisant, elle rappelle, nous ne sommes pas contraints par les frontières. Les chefs de gouvernement se réunissent pour discuter de l’IA lors de réunions régionales, nationales et internationales, et le droit international des droits de l’homme fournit un cadre complet et langage commun pour ces conversations.

Dans ce contexte, le briefing book propose une collection de courtes contributions d’une page, destinées à donner une idée de nombre d’applications technologiques émergentes dans le domaine de l’IA, et de comment elles pourraient avoir un impact positif ou négatif sur les droits de l’homme. Ce projet a été inspiré par des conversations avec « plus de 100 membres de gouvernements autour du monde, des défenseurs des droits de l’homme, des ingénieurs, des scientifiques, des avocats et des universitaires. »

Francesca Musiani (CIS-CNRS)

Les traducteurs doivent-ils redouter la concurrence de l’intelligence artificielle ?

Dimitri GARNCARZYK, « Les traducteurs doivent-ils redouter la concurrence de l’intelligence artificielle ? », The Conversation France, 17 mars 2019.

https://theconversation.com/les-traducteurs-doivent-ils-redouter-la-concurrence-de-lintelligence-artificielle-112098

Cet article, écrit par un enseignant-chercheur de l’Université Sorbonne Nouvelle, explore la « relation ambiguë entre le traducteur et l’IA traductive ». Selon l’auteur, les traducteurs sont des professionnels de l’écrit, mais ne sont pas, pour la plupart, des spécialistes de la traduction automatique : c’est à cause de cette relation asymétrique que d’après l’auteurs vient une partie importante de l’inconfort lié à l’IA. « Le robot s’invite dans le champ de compétence d’experts humains et semble y exceller, alors que les experts humains du domaine concerné se sentent, eux, souvent incompétents pour parler du robot. Dans ce cas, l’IA est pour eux une boîte noire ».

L’auteur évoque trois raisons à cause desquelles les acteurs « humains » de l’écrit pourraient/devraient s’inquiéter :

Si la créativité stylistique définit la spécificité d’un individu en champ littéraire, la machine peut imiter aisément ce genre de qualités ;
les performances du robot-écrivain sont bonnes au point qu’il pourrait remplacer un certain nombre d’acteurs humains de l’écrit ;
l’IA peut forger complètement ses citations et ses analyses, de façon vraisemblable/réaliste, mais ne sait pas vérifier ses sources et n’a pas de déontologie.

Dans le case de la traduction, l’auteur procède par ailleurs à une analyse de toutes les étapes où l’humain doit de nécessité se « ré-infiltrer » dans le processus automatisé, et conclut : « la compétence de la machine est, quand on ouvre la boîte noire, d’une nature différente de la compétence humaine ; et la performance de la machine repose, en dernière analyse, sur la compilation des produits de la compétence humaine. Le danger vient moins d’une concurrence existentielle immédiate d’une IA qui est très loin d’être généralisée que de décisions économiques… qui seront prises par des hommes. »

Francesca Musiani (CIS-CNRS)

The Paradox of Automation as Anti-Bias Intervention

Ifeoma AJUNWA, “The Paradox of Automation as Anti-Bias Intervention”, 41 Cardozo Law Review (2020 Forthcoming).

http://dx.doi.org/10.2139/ssrn.2746078

L’article d’Ifeoma Ajunwa s’attaque à l’ « idée reçue » que la prise de décision automatisée permet de contrer les biais, le principe étant que retirer les humains du processus de prise de décision éliminera également les préjugés humains. L’auteure énonce toutefois le paradoxe suivant : dans certains cas, la prise de décision automatisée a permis de reproduire et d’amplifier les biais. Son article fournit une taxonomie des caractéristiques problématiques associées à la prise de décision algorithmique en tant qu’intervention anti-biais et affirme que ces caractéristiques sont en contradiction avec le principe fondamental de l’égalité des chances en matière d’emploi. L’article s’appuie sur deux volets de la recherche juridique : le droit des technologies et le droit du travail et de l’emploi (américain).

L’article préconise de repenser les cadres juridiques qui tiennent compte à la fois de la responsabilité des employeurs et des responsables des systèmes de recrutement algorithmiques qui, en tant que courtiers, ont l’obligation de diligence. L’article propose que le fait qu’un employeur ne vérifie pas et ne corrige pas le possible impact inégal de ses plateformes de recrutement automatisées pourrait servir de preuve ‘prima facie’ d’une intention discriminatoire, conduisant au développement de la doctrine de discrimination en soi. L’article envisage également d’autres approches qui iraient au-delà du droit du travail, telles que la possibilité pour les candidats à un emploi d’accéder au dossier d’informations consulté par les systèmes de recrutement automatisés pour prendre la décision d’emploi.

Francesca Musiani (CIS-CNRS)