L’utilisation des intelligences artificielles se généralise dans de nombreux domaines et pour de multiples applications : s’agit-il d’une bonne nouvelle pour la diversité et l’inclusion ?
Après avoir abordé l’impact environnemental de l’IA en mars dernier dans cette synthèse de la conférence de Thomas Solignac, nous nous penchons aujourd’hui sur les impacts de l’IA sur les questions de diversité et d’inclusion. Car si la notion d’intelligence artificielle nous laisse penser qu’il s’agit d’une technologie dénuée de biais et de préjugés, il est assez facile de s’apercevoir qu’il n’en est rien.
Ainsi, lorsqu’on demande à l’IA générative MidJourney de nous générer tour à tour des images de CEO (pour Chief Executive Officer, président directeur général en anglais) puis de secretary (secrétaire en anglais), nous obtenons les résultats suivants :
Pour MidJourney, les CEO sont des hommes blancs, avec des coiffures et styles vestimentaires extrêmement semblables.
Les secrétaires sont à l’inverse des femmes blanches avec des préjugés de coiffure et de tenue vestimentaire également très prononcés (les lunettes semblent d’ailleurs être l’élément indispensable ! ).
Vous l’aurez compris, ce rapide exposé permet de mettre en évidence une réalité : les IA génératives actuelles étant entraînées sur les données existantes sur internet, elles ne font que reproduire les stéréotypes et préjugés de notre société, et tendent à exclure une partie de la population.
L’IA, problème ou solution pour faire avancer les sujets de diversité et d’inclusion ?
Pourtant, dans une enquête mondiale d’Indeed sur l’IA et son impact sur le recrutement, les personnes appartenant à des groupes sous représentés envisagent à la fois les impacts positifs et négatifs de l’IA. Ainsi par exemple, 35 % des personnes en situation de handicap pensent que l’IA aura un impact positif pour leur recrutement, contre 20 % qui pensent que l’impact sera négatif.
Ce qui explique cette perception à la fois négative et positive, c’est d’une part les nouveaux outils facilitant l’accessibilité qui émergent grâce à l’IA (retranscription, synthèse vocale, etc.), ainsi que les possibilités de création de contenu adapté (à différentes langues, contextes culturels, etc.).
Mais de l’autre côté, comme nous le montrions en introduction de cet article, l’IA va venir renforcer des biais existants contre ces groupes sous-représentés. Ceci est d’autant plus vrai que les professionnels de l’IA dans le monde sont peu issus de ces mêmes groupes : par exemple, seuls 22 % des professionnels de l’IA dans le monde sont des femmes, selon un rapport du forum économique mondial, repris dans cet article d’Hays sur le manque d’objectivité dans l’IA.
Comment utiliser l’IA de manière responsable pour plus de diversité et d’inclusion
Le premier réflexe à avoir est de se renseigner sur la politique de diversité et d’inclusion du fournisseur d’IA vers lequel vous comptez vous tourner : l’entreprise partage-t-elle des informations de manière transparente à ce sujet ? A quoi ressemblent les équipes techniques ? Si vous constatez qu’il s’agit de profils identiques, il faut peut-être questionner la prise en compte de ces sujets dans l’entreprise.
Le second point et sûrement le plus important est celui de conserver du lien humain et de ne pas tout faire reposer sur l’IA, afin de ne pas tomber dans des systèmes aberrants reproduisant à l’identique les biais du passé, comme cela avait été le cas chez Amazon en 2015 où l’algorithme de sélection des CV avait discriminé les femmes, suite à un entrainement sur les données historiques qui étaient en grande majorité constituées de profils masculins (vous pouvez retrouver sur cet article des Echos le détail de l’affaire de discrimination des CV féminins chez Amazon).
Le sujet de l’IA soulève énormément de questionnements, à juste titre. Nous serions ravis de connaître vos besoins d’informations à ce sujet pour vous proposer le contenu le plus pertinent possible !