N<\/i>otre groupe de leadership avis\u00e9 examine les incidences soci\u00e9tales et \u00e9thiques de l’intelligence artificielle. Dans le cadre de cette s\u00e9rie d’entrevues, John Stackhouse discute avec Foteini Agrafioti, scientifique en chef de RBC et chef de Borealis AI, l’Institut de recherche en intelligence artificielle de RBC. Leur conversation a \u00e9t\u00e9 \u00e9dit\u00e9e afin de la raccourcir et d’en clarifier le contenu.<\/i><\/p>\nJohn : Pouvez-vous nous donner un exemple de secteur dans lequel vous avez constat\u00e9 l’existence de pr\u00e9jug\u00e9s en IA ?<\/h4>\n
Foteini : L’un des exemples les plus int\u00e9ressants \u00e0 mes yeux concerne les pr\u00e9jug\u00e9s li\u00e9s au sexe dans le moteur de traduction de Google. Je ne l’aurais pas remarqu\u00e9 imm\u00e9diatement auparavant, ce qui montre \u00e0 quel point notre compr\u00e9hension en la mati\u00e8re a \u00e9volu\u00e9. Je fais allusion ici \u00e0 la fa\u00e7on dont nous traduisions pr\u00e9c\u00e9demment les textes d’une langue \u00e0 une autre en \u00e9tablissant une correspondance mot \u00e0 mot, disons de l’anglais vers le fran\u00e7ais.<\/p>\n
Lorsque l’apprentissage machine s’est r\u00e9pandu, nous avons toutefois chang\u00e9 notre approche. Nous avons charg\u00e9 plusieurs longs textes en anglais et en fran\u00e7ais dans des r\u00e9seaux profonds, puis avons essentiellement command\u00e9 aux machines d’apprendre de quelle fa\u00e7on les deux langues correspondent. L’efficacit\u00e9 de la traduction a alors fait un bond spectaculaire, au-del\u00e0 de ce \u00e0 quoi la communaut\u00e9 scientifique s’attendait.<\/p>\n
Par contre, nous n’avions pas anticip\u00e9 que les documents int\u00e9graient des pr\u00e9jug\u00e9s quant \u00e0 la repr\u00e9sentation des sexes. Nous n’avions pas pr\u00e9vu non plus que les machines apprendraient et perp\u00e9tueraient ces pr\u00e9jug\u00e9s. Pour donner un exemple type de ce ph\u00e9nom\u00e8ne, imaginez que vous demandez \u00e0 la machine de traduire de l’anglais vers le fran\u00e7ais un texte dans lequel il est question d’une femme m\u00e9decin et d’un homme qui travaille comme infirmier. La machine confondra les sexes, car elle a appris que les m\u00e9decins sont majoritairement des hommes et que le personnel infirmier compte une majorit\u00e9 de femmes.<\/p>\n
Si on analyse le probl\u00e8me, on constate que les pr\u00e9jug\u00e9s existent d\u00e9j\u00e0 dans les donn\u00e9es. Ils sont int\u00e9gr\u00e9s aux donn\u00e9es r\u00e9elles recueillies par de vraies personnes sur de v\u00e9ritables individus.<\/p><\/div><\/div>\n
C’est un probl\u00e8me complexe. Si on analyse le probl\u00e8me, on constate que les pr\u00e9jug\u00e9s existent d\u00e9j\u00e0 dans les donn\u00e9es. Ils sont int\u00e9gr\u00e9s aux donn\u00e9es r\u00e9elles recueillies par de vraies personnes sur de v\u00e9ritables individus. Dans plusieurs cas, ces pr\u00e9jug\u00e9s rendent tout simplement compte de notre vie courante et de toutes les structures sociales qui existent pour pr\u00e9server l’int\u00e9grit\u00e9 de nos soci\u00e9t\u00e9s, pour le meilleur et, malheureusement, pour le pire. Ils ne r\u00e9sultent pas n\u00e9cessairement de l’action d’intervenants mal intentionn\u00e9s qui tirent les ficelles. Les gens de Google qui ont con\u00e7u le syst\u00e8me de traduction sont de bons \u00eatres humains. Ce ph\u00e9nom\u00e8ne n’est pas le fruit d’une action d\u00e9lib\u00e9r\u00e9e de leur part. Il r\u00e9sulte simplement des pr\u00e9jug\u00e9s int\u00e9gr\u00e9s \u00e0 la plus pr\u00e9cieuse ressource dont nous disposons.<\/p>\n
La premi\u00e8re \u00e9tape consiste donc \u00e0 \u00eatre sensibilis\u00e9 \u00e0 ce risque pr\u00e9existant. Nous ne devons pas tenir pour acquis que les donn\u00e9es constituent une entit\u00e9 objective, et je crois que les entreprises commencent \u00e0 admettre que c’est bien le cas. Nous devons reconna\u00eetre que l’IA est une technologie qui nous permet de transformer nos activit\u00e9s, mais nous expose aussi \u00e0 une toute nouvelle cat\u00e9gorie de risques. Nous sommes en mesure d’anticiper certains de ces risques, mais devons garder \u00e0 l’esprit que plusieurs d’entre eux peuvent nous prendre par surprise. En d’autres mots, disons que nous ne savons pas ce que nous ignorons, du moins pour l’instant. Jusqu’\u00e0 ce que nous soyons mieux inform\u00e9s en la mati\u00e8re, il est donc essentiel que nous disposions d’un plan de rechange concernant la fa\u00e7on dont nous allons anticiper et att\u00e9nuer ces risques.<\/p>\n
Foteini : Depuis toujours, la s\u00e9curit\u00e9 biom\u00e9trique est un domaine tr\u00e8s sensible. Par d\u00e9finition, les donn\u00e9es biom\u00e9triques comportent des \u00e9l\u00e9ments qui permettent d’identifier des individus et qui sont extr\u00eamement sensibles si leur confidentialit\u00e9 est compromise.<\/p>\n
L’IA a apport\u00e9 \u00e0 ce domaine un niveau d’exactitude sans pr\u00e9c\u00e9dent dans l’authentification des humains selon des param\u00e8tres biom\u00e9triques. La reconnaissance faciale en est un exemple. Dans le mode classique de fonctionnement des syst\u00e8mes d’identification biom\u00e9trique, la reconnaissance faciale ne pouvait produire des r\u00e9sultats positifs de fa\u00e7on uniforme que si l’expression faciale du sujet \u00e9tait toujours la m\u00eame. Pour assurer l’uniformit\u00e9 des donn\u00e9es, le sujet ne devait pas se faire pousser une barbe ni se maquiller.<\/p>\n
Maintenant, avec l’apprentissage profond, toute cette vuln\u00e9rabilit\u00e9 est tol\u00e9rable. M\u00eame si vous vous faites pousser la barbe ou changez votre coupe de cheveux, les syst\u00e8mes peuvent tout de m\u00eame vous reconna\u00eetre.<\/p>\n
En plus du caract\u00e8re sensible des donn\u00e9es, nous devons aussi nous soucier des pr\u00e9jug\u00e9s. Les syst\u00e8mes de donn\u00e9es sont affect\u00e9s par une sous-repr\u00e9sentation syst\u00e9mique de ce qu’on appelle les groupes ethniques. La technologie de reconnaissance est tr\u00e8s puissante, mais des incoh\u00e9rences dans le nombre de couleurs de peau rendent les algorithmes inefficaces pour certaines personnes ou font en sorte qu’ils choisissent syst\u00e9matiquement des origines ethniques particuli\u00e8res.<\/p>\n
\u00c0 San Francisco, les autorit\u00e9s municipales ont clairement mis la s\u00e9curit\u00e9 du public \u00e0 l'avant-plan, malgr\u00e9 les nombreuses applications utiles de la technologie. Il s'agit d'une d\u00e9cision extr\u00eamement importante.<\/p><\/div><\/div>\n
Foteini : En ce qui concerne la d\u00e9cision de la ville de San Francisco, ce type de dilemmes \u00e9thiques est un exemple des \u00e9l\u00e9ments qui doivent alimenter nos r\u00e9flexions, tant dans les secteurs public que priv\u00e9.<\/p>\n
En ce qui me concerne, il s’agit d’une d\u00e9cision louable et audacieuse, qui reconna\u00eet que la technologie pr\u00e9sente des risques et qu’on doit \u00e9viter de se lancer t\u00eate baiss\u00e9e dans son exploitation sans r\u00e9fl\u00e9chir aux abus potentiels qu’elle pourrait engendrer. Les autorit\u00e9s ont clairement opt\u00e9 pour la s\u00e9curit\u00e9 du public avant toute autre consid\u00e9ration, malgr\u00e9 les nombreuses applications utiles de cette technologie. La Ville a d\u00e9cid\u00e9 de prendre du recul et d’\u00e9tablir une limite \u00e0 ne pas franchir. C’est vraiment une d\u00e9cision d’une port\u00e9e monumentale.<\/p>\n
Foteini : Les syst\u00e8mes biom\u00e9triques offrent g\u00e9n\u00e9ralement des avantages en mati\u00e8re de s\u00fbret\u00e9 et de simplicit\u00e9 d’utilisation.<\/p>\n
Un cas tr\u00e8s int\u00e9ressant d’application de ces technologies s’est pr\u00e9sent\u00e9 il y a quelques ann\u00e9es en Ontario, o\u00f9 les exploitants de casinos ont mis en \u0153uvre des syst\u00e8mes de reconnaissance faciale pour rep\u00e9rer syst\u00e9matiquement les personnes pr\u00e9sentant des probl\u00e8mes de jeu et leur interdire l’acc\u00e8s aux \u00e9tablissements. Les individus concern\u00e9s devaient s’inscrire volontairement sur une liste d’exclusion, autorisant du m\u00eame coup le personnel de s\u00e9curit\u00e9 des casinos de l’Ontario de leur interdire l’acc\u00e8s s’ils se pr\u00e9sentaient dans l’un de ces \u00e9tablissements. Graduellement, cette liste est devenue extr\u00eamement volumineuse. Les agents de s\u00e9curit\u00e9 ne parvenaient pas \u00e0 m\u00e9moriser les visages de toutes les personnes \u00e0 refouler. La technologie de reconnaissance faciale a alors \u00e9t\u00e9 d\u00e9ploy\u00e9e comme outil potentiel pour reconna\u00eetre les personnes cibl\u00e9es et les emp\u00eacher d’acc\u00e9der aux casinos. Cette d\u00e9cision a soulev\u00e9 \u00e0 l’\u00e9poque un enjeu tr\u00e8s important en mati\u00e8re de protection des renseignements personnels, et je pense que le commissaire \u00e0 la protection de la vie priv\u00e9e a fait un travail remarquable pour d\u00e9terminer comment assurer le respect de la confidentialit\u00e9 dans ce contexte.<\/p>\n
Foteini : Eh bien, je veux croire qu’ils se soucient de ces questions. Je constate aussi qu’\u00e0 l’\u00e9chelle mondiale, la communaut\u00e9 scientifique exerce des pressions pour orienter g\u00e9n\u00e9ralement la conception, le d\u00e9ploiement et l’adoption de ces syst\u00e8mes. Mais si ce n’est pas le cas et qu’on se permet de faire ce qu’on veut, on dispose de bien plus qu’une simple avance. On gagne une tr\u00e8s grande longueur d’avance.<\/p>\n
Que penser de la possibilit\u00e9 d’acc\u00e9der aux donn\u00e9es, de mettre des syst\u00e8mes \u00e0 l’essai, de les d\u00e9ployer dans ces contextes r\u00e9els, d’obtenir de la r\u00e9troaction et d’isoler des syst\u00e8mes, sans aucune contrainte ni consid\u00e9ration pour les cons\u00e9quences n\u00e9fastes potentielles ? Si je disposais de telles conditions, avec la possibilit\u00e9 de d\u00e9ployer un syst\u00e8me de surveillance et d’en tirer des donn\u00e9es et des conclusions, je pourrais acqu\u00e9rir beaucoup plus de connaissances sur les m\u00e9thodes permettant de mettre au point de meilleurs syst\u00e8mes de surveillance.<\/p>\n
Foteini : Je tente g\u00e9n\u00e9ralement de voir le c\u00f4t\u00e9 positif des choses.<\/p>\n
L’une des grandes r\u00e9alisations de la communaut\u00e9 universitaire, particuli\u00e8rement dans les domaines de l’apprentissage machine et de l’informatique, a \u00e9t\u00e9 la mise sur pied d’exigences obligeant la r\u00e9alisation de tests et d’essais pour \u00e9talonner et \u00e9prouver tout nouveau syst\u00e8me d’apprentissage machine de pointe \u00e0 l’aide d’un jeu de donn\u00e9es public. Nous appliquons donc tous la m\u00eame norme. De plus, les scientifiques sont tenus de rendre des comptes \u00e0 ce sujet.<\/p>\n
Les pr\u00e9jug\u00e9s sont des probl\u00e8mes tr\u00e8s difficiles \u00e0 r\u00e9soudre. En outre, dans plusieurs cas, il n'est pas judicieux d'y chercher des solutions. Certains pr\u00e9jug\u00e9s ont des cons\u00e9quences positives.<\/p><\/div><\/div>\n
Foteini : Honn\u00eatement, c’est difficile. Je ne tiens pas \u00e0 \u00eatre pessimiste, mais c’est un probl\u00e8me tr\u00e8s difficile \u00e0 r\u00e9soudre.<\/p>\n
En outre, dans plusieurs cas, il n’est pas judicieux d’y chercher des solutions. Certains pr\u00e9jug\u00e9s ont des cons\u00e9quences positives.<\/p>\n
Foteini : Examinons par exemple les d\u00e9cisions que nous prenons lorsque nous conduisons un v\u00e9hicule. Je sais qu’on discute constamment de v\u00e9hicules autonomes responsables. Par contre, ce sont parfois les pr\u00e9jug\u00e9s humains qui nous \u00e9vitent des accidents, comme dans le cas d’un conducteur qui a tendance \u00e0 rouler sous la limite de vitesse quand le pav\u00e9 est mouill\u00e9 ou pour n\u00e9gocier un virage.<\/p>\n
Dans le secteur des valeurs mobili\u00e8res, on peut aussi imaginer un syst\u00e8me qui effectue des transactions de fa\u00e7on uniforme ou, \u00e0 l’inverse, un syst\u00e8me fond\u00e9 sur l’intuition particuli\u00e8re d’un sp\u00e9culateur extr\u00eame. C’est un domaine dans lequel un pr\u00e9jug\u00e9 peut \u00eatre utile.<\/p>\n
Ce qui est merveilleux, au Canada, c'est que la plupart des donn\u00e9es dont nous disposons sont intrins\u00e8quement tr\u00e8s diversifi\u00e9es.<\/p><\/div><\/div>\n
Foteini : Ce qui est merveilleux, au Canada, c’est que la plupart des donn\u00e9es dont nous disposons sont intrins\u00e8quement tr\u00e8s diversifi\u00e9es. Par exemple, si vous construisez la prochaine g\u00e9n\u00e9ration de syst\u00e8mes diagnostiques fond\u00e9s sur la technologie IRM et que vous utilisez des donn\u00e9es recueillies au Canada, il est fort probable que les diff\u00e9rents groupes ethniques y soient tr\u00e8s bien repr\u00e9sent\u00e9s. C’est notre avantage local.<\/p>\n
L’autre aspect qui nous distingue et fait partie des valeurs canadiennes est notre respect et notre tol\u00e9rance mutuels. Je crois aussi que nous appliquons une optique tr\u00e8s critique \u00e0 l’\u00e9gard des technologies issues de l’IA et de leurs effets potentiels sur notre soci\u00e9t\u00e9. Je pense que nous avons un degr\u00e9 de tol\u00e9rance moins \u00e9lev\u00e9 \u00e0 l’\u00e9gard des risques inh\u00e9rents \u00e0 leur int\u00e9gration dans nos vies. Nous sommes critiques \u00e0 leur \u00e9gard, et c’est une excellente attitude. Ce type de pressions est parfois n\u00e9cessaire pour inciter la communaut\u00e9 scientifique de m\u00eame que les entreprises \u00e0 prendre la bonne orientation lors du d\u00e9veloppement de nouvelles technologies.<\/p>\n
Foteini : Tr\u00e8s bien, merci.
\n\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"
John Stackhouse discute avec Foteini Agrafioti, scientifique en chef de RBC et chef de Borealis AI.<\/p>\n","protected":false},"author":209,"featured_media":3314,"parent":0,"menu_order":0,"template":"","meta":{"_acf_changed":false,"disable_focal_point":true,"featured_image_focal_point":{"x":0.5,"y":0.5},"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"rbc_tl_category":[90,97],"rbc_tl_tag":[99,95,100],"class_list":["post-3313","rbc_tl","type-rbc_tl","status-publish","has-post-thumbnail","hentry","rbc_tl_category-innovation","rbc_tl_category-les-innovateurs","rbc_tl_tag-innovation","rbc_tl_tag-intelligence-artificielle","rbc_tl_tag-technologie"],"acf":[],"yoast_head":"\n