![\"undefined\"](\"https:\/\/www.rbc.com\/fr\/wp-content\/uploads\/sites\/5\/2025\/03\/AI-Infographics1-FR.jpg\")
<\/p>\nDe la route que nous empruntons pour revenir \u00e0 la maison \u00e0 l’endroit que nous choisissons pour aller d\u00eener, nous avons tous nos pr\u00e9f\u00e9rences inh\u00e9rentes qui nous pr\u00e9disposent \u00e0 prendre des d\u00e9cisions particuli\u00e8res.<\/p>\n
M\u00eame si nous avons l’impression que nos choix sont rationnels, nous savons que ce n’est pas toujours le cas. Dans certains cas, nous ne sommes m\u00eame pas en mesure d’expliquer pourquoi nous pr\u00e9f\u00e9rons une option \u00e0 une autre.<\/p>\n
Si ce comportement est acceptable quand vient le temps de choisir entre un Coke et un Pepsi, la situation est autrement diff\u00e9rente lorsque nous demandons \u00e0 un syst\u00e8me d’intelligence artificielle (IA) de poser des jugements et de faire des pr\u00e9dictions qui portent \u00e0 cons\u00e9quence pour les humains.<\/p>\n
Comme les biais persistent dans tous les domaines de la soci\u00e9t\u00e9, il n’est pas surprenant qu’on en trouve aussi en IA.<\/p>\n
Il y a plus de 50 ans, l’informaticien Melvin Conway a constat\u00e9 que la structure interne des organisations exerce une forte influence sur les syst\u00e8mes qu’elles mettent sur pied. Cette observation, aujourd’hui connue comme la \u00ab loi de Conway \u00bb, se v\u00e9rifie \u00e9galement pour l’IA. Les valeurs des personnes qui d\u00e9veloppent des syst\u00e8mes ne sont pas seulement profond\u00e9ment enracin\u00e9es : elles sont aussi concentr\u00e9es.<\/p>\n
Au Canada, l’expertise en IA se polarise essentiellement autour de trois villes : Edmonton, Toronto et Montr\u00e9al. Chacune d’elles h\u00e9berge un pionnier de l’IA vers lequel ont converg\u00e9 les gens et les sources de financement.<\/p>\n
<\/p>\n
Sur le plan \u00e9conomique, cette concentration a suscit\u00e9 une comp\u00e9titivit\u00e9 accrue et agi comme un aimant attirant et retenant les meilleurs talents en IA.<\/p>\n
Et c’est efficace! \u00c0 l’Institut canadien de recherches avanc\u00e9es (CIFAR), plus de la moiti\u00e9<\/a> des titulaires de chaires de recherche ont \u00e9t\u00e9 recrut\u00e9s au Canada. Mais cette concentration soul\u00e8ve \u00e9galement des d\u00e9fis que le Canada et les autres centres mondiaux en IA tentent de relever.<\/p>\n Ces \u00ab tribus \u00bb de l’IA sont extr\u00eamement homog\u00e8nes, comme l’a constat\u00e9 Amy Webb<\/a>, futurologue et auteure. Les membres de ces regroupements ont fr\u00e9quent\u00e9 les m\u00eames universit\u00e9s, ils sont ais\u00e9s et fortement scolaris\u00e9s, et ce sont tr\u00e8s largement des hommes.<\/p>\n Cette constatation a \u00e9t\u00e9 confirm\u00e9e par le plus r\u00e9cent rapport mondial sur l’\u00e9cart entre les genres<\/a> publi\u00e9 par le Forum \u00e9conomique mondial, qui r\u00e9v\u00e8le que seulement 22 % des professionnels de l’IA \u00e0 l’\u00e9chelle mondiale sont des femmes. Au Canada, cette proportion n’est gu\u00e8re meilleure, avec 24 % de femmes.<\/p>\n Ce d\u00e9s\u00e9quilibre des genres est encore plus marqu\u00e9 lorsqu’on examine la constitution des cohortes de chercheurs en IA. Selon une \u00e9tude r\u00e9alis\u00e9e par Element AI<\/a>, on compte en moyenne neuf hommes pour chaque femme dans le secteur de la recherche en IA.<\/p>\n Mais surtout, la nature m\u00eame du d\u00e9veloppement de l’IA fait en sorte que les syst\u00e8mes d’IA apprennent ce que les donn\u00e9es leur donnent \u00e0 voir et h\u00e9ritent des biais inconscients de leurs cr\u00e9ateurs.<\/p>\n C’est ainsi que le d\u00e9s\u00e9quilibre entre hommes et femmes en IA trouve un \u00e9cho dans les syst\u00e8mes en cours de d\u00e9veloppement. Par exemple, un syst\u00e8me de reconnaissance visuelle qui avait \u00e9t\u00e9 entra\u00een\u00e9 \u00e0 partir d’un ensemble de donn\u00e9es associant la pr\u00e9paration des aliments 33 % plus souvent aux femmes qu’aux hommes a amplifi\u00e9 cette disparit\u00e9 pour la porter \u00e0 68 %<\/a>.<\/p>\n Les \u00ab tribus \u00bb de l’IA ont \u00e9galement, de fa\u00e7on pr\u00e9pond\u00e9rante, la peau blanche.<\/p>\n Dans un rapport publi\u00e9 en avril<\/a>, l’AI Now Institute r\u00e9v\u00e8le que seulement 2,5 % de l’effectif de Google et 4 % de celui de Facebook et de Microsoft ont la peau noire, et que les donn\u00e9es sur la pr\u00e9sence de membres de la communaut\u00e9 LGBTQ en IA sont inexistantes \u2013 une situation que l’organisme qualifie de \u00ab catastrophe sur le plan de la diversit\u00e9 \u00bb.<\/p>\n En tant que membres d’une soci\u00e9t\u00e9 multiculturelle, tous les Canadiens devraient se sentir interpell\u00e9s par le manque de diversit\u00e9 en IA.<\/p>\n Que ce soit dans le calcul des primes d’assurance, le maintien de l’ordre, la prestation de soins de sant\u00e9 ou le traitement des demandes d’admission dans les \u00e9coles, pour ne citer que ces exemples, cet enjeu devient chaque jour plus pressant, \u00e0 mesure que l’IA s’int\u00e8gre \u00e0 la trame de notre soci\u00e9t\u00e9.<\/p>\n Gartner pr\u00e9dit<\/a> qu’au cours des prochaines ann\u00e9es, 85 % des projets en IA produiront des r\u00e9sultats erron\u00e9s en raison des biais qui affectent les donn\u00e9es, les algorithmes et les \u00e9quipes qui en assurent la gestion.<\/p>\n Nous ne pouvons pas nous offrir le luxe d’\u00e9viter les discussions inconfortables sur le sexisme, le racisme et nos autres biais inconscients, ou sur les voies par lesquelles ces biais s’immiscent en IA.<\/p>\n Supposons par exemple qu’une entreprise m\u00e9dicale souhaite mettre au point un syst\u00e8me d’IA capable de d\u00e9terminer le meilleur plan de traitement pour les patients. Pour ce faire, l’entreprise doit d\u00e9finir son objectif. S’agit-il de minimiser le co\u00fbt des traitements? S’agit-il plut\u00f4t de maximiser les r\u00e9sultats th\u00e9rapeutiques pour les patients?<\/p>\n Si le but est de minimiser les co\u00fbts, l’algorithme pourrait conclure qu’une fa\u00e7on efficace d’y parvenir consiste \u00e0 recommander des traitements moins efficaces, s\u00e9lectionn\u00e9s en calculant le meilleur rapport \u00ab probabilit\u00e9 de succ\u00e8s\/prix \u00bb.<\/p>\n Lorsque des entreprises fixent des objectifs \u00e0 leurs syst\u00e8mes d’IA, que ce soit pour des traitements m\u00e9dicaux personnalis\u00e9s ou d’autres applications, ces d\u00e9cisions sont souvent fond\u00e9es sur des imp\u00e9ratifs commerciaux, et non pas sur des pr\u00e9occupations li\u00e9es \u00e0 l’\u00e9quit\u00e9 ou \u00e0 la discrimination.<\/p>\n Des biais peuvent \u00e9galement s’introduire par les m\u00e9thodes de collecte des donn\u00e9es. Si les donn\u00e9es recueillies ne sont pas repr\u00e9sentatives ou sont influenc\u00e9es par des pr\u00e9jug\u00e9s, il est possible d’introduire un biais racial alors m\u00eame qu’on a pris Par exemple, une recherche men\u00e9e par Centraide dans le Grand Toronto<\/a> a constat\u00e9 que les indicateurs d’in\u00e9galit\u00e9 et de race sont de plus en plus li\u00e9s aux codes postaux dans la r\u00e9gion de Toronto. Une organisation qui souhaiterait \u00e9viter l’identification raciale pourrait donc tout de m\u00eame produire des r\u00e9sultats d\u00e9ficients si elle utilisait les codes postaux comme donn\u00e9es d’entr\u00e9e.<\/p>\n Un autre probl\u00e8me est que tous les r\u00e9sultats produits par les syst\u00e8mes d’IA ne sont pas facilement explicables. Les entreprises veulent se doter de syst\u00e8mes qui produisent les pr\u00e9dictions les plus exactes possible, mais ces mod\u00e8les sont aussi les plus complexes et les plus difficiles \u00e0 comprendre.<\/p>\n M\u00eame les ing\u00e9nieurs<\/a> qui ont con\u00e7u les syst\u00e8mes qui nous sugg\u00e8rent de la musique ou qui choisissent les publicit\u00e9s les plus susceptibles de nous plaire ne peuvent expliquer compl\u00e8tement comment leurs mod\u00e8les produisent ces recommandations. Cette situation peut \u00eatre tol\u00e9rable lorsqu’elle concerne des listes de lecture recommand\u00e9es par Spotify, mais \u00e0 quel point serons-nous dispos\u00e9s \u00e0 accepter des conseils m\u00e9dicaux d’un syst\u00e8me fond\u00e9 sur l’IA?<\/p>\n C’est le d\u00e9fi que les chercheurs qui ont mis au point le syst\u00e8me Deep Patient ont tent\u00e9 de relever. Ce syst\u00e8me, entra\u00een\u00e9 \u00e0 partir de donn\u00e9es provenant de 700 000 patients, produisait de tr\u00e8s bonnes pr\u00e9dictions sur les malades, y compris le cancer du foie de stade I. Cependant, les chercheurs \u00e9taient incapables d’expliquer comment le syst\u00e8me en arrivait \u00e0 ces conclusions.<\/p>\n En l’absence d’explicabilit\u00e9, une \u00e9quipe m\u00e9dicale accepterait-elle d’intervenir sur la foi de ces pr\u00e9dictions? Les praticiens seraient-ils dispos\u00e9s \u00e0 changer des r\u00e9gimes de m\u00e9dication, \u00e0 administrer des traitements de chimioth\u00e9rapie ou \u00e0 pratiquer des interventions chirurgicales?<\/p>\n L’enjeu central n’est pas l’IA, mais la fa\u00e7on dont nous construisons les syst\u00e8mes d’IA.<\/p>\n Nous devons reconna\u00eetre la pr\u00e9sence des grands enjeux sociaux dans les donn\u00e9es humaines recueillies et les \u00e9liminer avant qu’ils ne soient int\u00e9gr\u00e9s au code des syst\u00e8mes. \u00c0 l’heure actuelle, la pr\u00e9sence des biais est souvent abord\u00e9e apr\u00e8s coup, comme un probl\u00e8me qui doit \u00eatre r\u00e9solu \u00e0 la fin du cycle de d\u00e9veloppement.<\/p>\n Au contraire, il faudrait int\u00e9grer des experts des questions sociales \u00e0 toutes les \u00e9tapes du cycle de d\u00e9veloppement pour qu’ils collaborent \u00e9troitement au travail des experts responsables du codage.<\/p>\n Nous devons traiter les syst\u00e8mes d’IA comme de nouveaux produits pharmaceutiques : leur faire subir des essais rigoureux pour comprendre leurs effets n\u00e9fastes potentiels et rep\u00e9rer tout biais qui pourrait en affecter les r\u00e9sultats, avant que ces syst\u00e8mes ne soient mis en application.<\/p>\n De plus, l’\u00e9valuation des syst\u00e8mes devrait se poursuivre apr\u00e8s leur lancement. Les syst\u00e8mes d’IA doivent \u00eatre surveill\u00e9s en continu et r\u00e9\u00e9valu\u00e9s \u00e0 intervalles r\u00e9guliers tout au long de leur cycle de vie. Une \u00e9tude<\/a> sur la demie-vie des donn\u00e9es m\u00e9dicales montre que la vie des donn\u00e9es cliniques est tr\u00e8s courte et que leur utilit\u00e9 d\u00e9cline tr\u00e8s rapidement. Apr\u00e8s \u00e0 peine quatre mois, un syst\u00e8me d’IA pourrait prendre des d\u00e9cisions fond\u00e9es sur des donn\u00e9es p\u00e9rim\u00e9es, entra\u00eenant des cons\u00e9quences graves pour la population.<\/p>\n Mais quelle que soit la peur qu’inspirent l’IA et son impact sur l’avenir de l’humanit\u00e9, toute solution possible pour att\u00e9nuer les biais et am\u00e9liorer les syst\u00e8mes d’IA exige une intervention humaine.<\/p>\n Les \u00ab syst\u00e8mes avec intervention humaine \u00bb \u2013 une expression technique d\u00e9signant des syst\u00e8mes qui ne sont pas enti\u00e8rement autonomes \u2013 sont fond\u00e9s sur une relation symbiotique entre les humains et l’IA. Ces syst\u00e8mes sont mis en \u0153uvre dans des contextes o\u00f9 le niveau de confiance est faible et les cons\u00e9quences des erreurs sont graves, par exemple en sant\u00e9.<\/p>\n Chaque fois que le niveau de certitude d’une d\u00e9cision est faible, le syst\u00e8me demande l’assistance d’un intervenant humain. Cet aspect est essentiel dans le secteur des soins de sant\u00e9, o\u00f9 des praticiens doivent interagir avec les r\u00e9sultats du syst\u00e8me. Leur participation accro\u00eet l’explicabilit\u00e9 des r\u00e9sultats et le niveau de confiance associ\u00e9 \u00e0 leur exploitation pour des gestes th\u00e9rapeutiques.<\/p>\n Chose certaine, des humains doivent se trouver au c\u0153ur du d\u00e9veloppement de l’IA.<\/p>\n Publi\u00e9e en d\u00e9cembre 2018, la D\u00e9claration de Montr\u00e9al pour un d\u00e9veloppement responsable de l’intelligence artificielle<\/a> expose un cadre \u00e9thique qui recommande l’\u00e9laboration de lignes directrices en mati\u00e8re d’IA afin de veiller \u00e0 ce que son d\u00e9veloppement \u00ab soit conforme \u00e0 nos valeurs humaines et porteur d’un v\u00e9ritable progr\u00e8s social \u00bb. Cette d\u00e9claration a \u00e9t\u00e9 sign\u00e9e par 45 organismes et 1 394 citoyens.<\/p>\n Plus t\u00f4t cette ann\u00e9e, le Conseil de l’Europe a adopt\u00e9 sa propre d\u00e9claration sur l’intelligence artificielle, qui presse les \u00c9tats d’assurer \u00ab l’\u00e9galit\u00e9 et la dignit\u00e9 de tous les \u00eatres humains en tant qu’agents moraux ind\u00e9pendants<\/a> \u00bb dans un monde qui s’appuie sur l’IA.<\/p>\n![\"undefined\"](\"https:\/\/www.rbc.com\/fr\/wp-content\/uploads\/sites\/5\/2025\/03\/AI-Infographics2-FR.jpg\")
<\/p>\n![\"undefined\"](\"https:\/\/www.rbc.com\/fr\/wp-content\/uploads\/sites\/5\/2025\/03\/AI-Infographics3-FR.jpg\")
<\/p>\n
\nla pr\u00e9caution d’\u00e9viter l’origine raciale comme facteur d’entr\u00e9e explicite.<\/p>\n