Intelligence artificielle et discrimination

La discrimination est définie en droit par l’article 225-1 du Code pénal, modifié par une loi du 18 novembre 2016, comme étant « toute distinction opérée entre les personnes physiques sur le fondement de leur origine, de leur sexe, de leur situation de famille, de leur grossesse, de leur apparence physique, de la particulière vulnérabilité résultant de leur situation économique, apparente ou connue de son auteur, de leur patronyme, de leur lieu de résidence, de leur état de santé, de leur perte d’autonomie, de leur handicap, de leurs caractéristiques génétiques, de leurs mœurs, de leur orientation sexuelle, de leur identité de genre, de leur âge, de leurs opinions politiques, de leurs activités syndicales, de leur capacité à s’exprimer dans une langue autre que le français, de leur appartenance ou de leur non-appartenance, vraie ou supposée, à une ethnie, une Nation, une prétendue race ou une religion déterminée[i]. »

L’article 225-2 du même code précise que la discrimination est punie de trois ans d’emprisonnement et de 45 000 euros d’amende lorsqu’elle se matérialise dans certaines situations. Il s’agit des cas où elle consiste à « refuser la fourniture d’un bien ou d’un service ; à entraver l’exercice normal d’une activité économique quelconque ; à refuser d’embaucher, à sanctionner ou à licencier une personne ; à subordonner la fourniture d’un bien ou d’un service à une condition fondée sur l’un des éléments visés à l’article 225-1 ou prévue à aux articles 225-1-1 ou 225-1-2 ; à subordonner une offre d’emploi, une demande de stage ou une période de formation en entreprise à une condition fondée sur l’un des éléments visés à l’article 225-1 ou prévue aux articles 225-1-1 ou 225-1-2 ; à refuser d’accepter une personne à l’un des stages visés par le 2° de l’article L.412-8 du code de la sécurité sociale[ii]. »

En principe, l’intelligence artificielle utilisée en matière de recrutement était initialement sensée permettre d’éviter les écueils discriminatoires parfois présents dans le cadre des entretiens d’embauche. On constate en effet une utilisation déjà conséquente et croissante de l’intelligence artificielle dans le monde du recrutement. Ce succès grandissant auprès des professionnels de ce milieu s’explique notamment par l’aide incontestable que procure les outils de recrutement intelligents aux recruteurs, en leur permettant par exemple de générer des liens entre des entreprises et des candidats présentant un profil recherché uniquement par un faible nombre de sociétés.

On peut citer comme exemple notoire le site français EasyRecrue, créé en 2013, qui a pour rôle de permettre la présélection de candidatures en proposant aux potentiels candidats de diffuser leurs propres vidéos de leur candidature qui seront visionnées en différé par les entreprises pouvant être intéressées. La particularité d’EasyRecrue est d’avoir intégré à cette procédure des algorithmes d’intelligence artificielle ayant la faculté de mener des études comparatives entre les différentes vidéos des candidats en analysant le comportement de ces derniers[iii].

Si l’on en croit le directeur technique d’HireVue, une entreprise américaine semblable à EasyRecrue, cette nouvelle technologie constitue un véritable frein à toute forme de discrimination à l’embauche. Loren Larsen explique ainsi, dans un entretien accordé au journal Le Figaro, que les entretiens effectués de manière différée par vidéo associés à un système d’intelligence artificielle impliquent « naturellement » l’essor d’une diversité plus importante dans le domaine du recrutement[iv].

Néanmoins, certains universitaires remettent en cause ce type d’affirmation et émettent certaines craintes relatives à l’hypothèse selon laquelle l’intelligence artificielle tendrait à reproduire, voire à accentuer les erreurs humaines en matière de discrimination. C’est le cas des chercheurs américains Joanna Bryson (Université de Bath), Aylin Caliskan et Arvind Narayanan (Université de Princeton), qui ont publié un article intitulé « Semantics derived automatically from language corpora contain human-like biases » paru le 14 avril 2017 dans l’hebdomadaire Science[v]. Dans leur publication, ces trois auteurs s’attachent à démontrer qu’il est tout à fait possible que l’intelligence artificielle reproduise des erreurs humaines. Pour ce faire, ils se fondent sur la technologie GloVe, qui permet d’effectuer des corrélations entre différents termes en fonction de leur utilisation principale[vi]. Par exemple, le mot « fleur » est mis en lien avec des mots relatifs au bonheur, tel que « liberté ». L’association entre les mots s’effectue ainsi par leur intégration à un champ lexical particulier.

Or, les chercheurs ont constaté que cette méthode conduisait irrémédiablement à l’application de discriminations d’ordre sexistes ou raciales, du fait de l’association effectuée entre des mots renvoyant à certaines catégories de la population avec des champs lexicaux péjoratifs. Par exemple, il est plus fréquent de trouver des associations de mots avec un champ lexical péjoratif pour des individus Noirs que pour des individus Blancs.

Malgré tout, les chercheurs ont bien précisé que l’intelligence artificielle n’est pas en elle-même discriminante, puisqu’elle ne fait dans ces cas-là qu’imiter les humains dans leurs travers.

 

[i] https://www.legifrance.gouv.fr/affichCodeArticle.do?cidTexte=LEGITEXT000006070719&idArticle=LEGIARTI000006417828&dateTexte=&categorieLien=cid

[ii] https://www.legifrance.gouv.fr/affichCodeArticle.do;jsessionid=164027AACDF766568D326DBABBCF87E1.tplgfr31s_3?idArticle=LEGIARTI000033975382&cidTexte=LEGITEXT000006070719&dateTexte=20171127&categorieLien=id&oldAction=&nbResultRech=

[iii] https://www.easyrecrue.com/fr/solutions-RH/Entretien-video-differe

[iv] http://www.lefigaro.fr/secteur/high-tech/2017/09/20/32001-20170920ARTFIG00208-l-intelligence-artificielle-la-promesse-d-un-recrutement-sans-prejuges.php

[v] http://science.sciencemag.org/content/356/6334/183.full

[vi] http://www.lemonde.fr/pixels/article/2017/04/15/quand-l-intelligence-artificielle-reproduit-le-sexisme-et-le-racisme-des-humains_5111646_4408996.html

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s