Notre groupe de leadership avis\u00e9 examine les incidences soci\u00e9tales et \u00e9thiques de l’intelligence artificielle. Dans le cadre de cette s\u00e9rie d’entrevues, John Stackhouse interroge Elissa Strome, directrice de la Strat\u00e9gie pancanadienne en mati\u00e8re d’intelligence artificielle \u00e0 l’Institut canadien de recherches avanc\u00e9es (ICRA) sur la diff\u00e9rence que pourrait faire la diversit\u00e9. Leur conversation a \u00e9t\u00e9 \u00e9dit\u00e9e afin de la raccourcir et d’en clarifier le contenu.<\/i><\/p>\nJohn : L’IA remod\u00e8le la soci\u00e9t\u00e9 \u00e0 plusieurs \u00e9gards, pour le meilleur et pour le pire. Qu’est-ce qui vous pr\u00e9occupe le plus dans ce contexte ?<\/h4>\n
Elissa : \u00c0 l’heure actuelle, ce qui me pr\u00e9occupe le plus c’est le manque d’\u00e9quit\u00e9, de diversit\u00e9 et d’inclusion en IA, dans la forme qu’elle prend actuellement au gr\u00e9 de son d\u00e9veloppement dans le monde.<\/p>\n
Dans son Rapport mondial sur les talents en IA<\/a>, Element AI a \u00e9valu\u00e9 les param\u00e8tres d\u00e9mographiques des chercheurs en IA \u00e0 l’\u00e9chelle mondiale ainsi que la qualit\u00e9 et l’ampleur de la recherche en IA qui s’effectue dans diff\u00e9rents pays.<\/p>\n On compte essentiellement cinq pays dans le monde qui font progresser les connaissances en intelligence artificielle et leurs applications.<\/p>\n Elissa : Il s’agit du Canada, des \u00c9tats-Unis, du Royaume-Uni, de la Chine et de l’Australie. Ce sont les cinq pays qui sont les plus avanc\u00e9s dans le d\u00e9veloppement de l’IA. Cette discipline est donc fortement influenc\u00e9e par l’Am\u00e9rique du Nord et l’Europe de l’Ouest.<\/p>\n La Chine est un tr\u00e8s important chef de file en IA, mais une grande partie des pays du monde ne sont pas mobilis\u00e9s en faveur du d\u00e9veloppement et de la progression de ce secteur. Si nous croyons vraiment que ces technologies exerceront une influence positive sur la soci\u00e9t\u00e9 \u00e0 l’\u00e9chelle mondiale, l’ensemble de la soci\u00e9t\u00e9 doit \u00eatre activement mobilis\u00e9e dans ce projet.<\/p>\n L’\u00e9quilibre homme-femme est l’autre aspect du d\u00e9veloppement de l’IA qui pr\u00e9sente un v\u00e9ritable probl\u00e8me sur le plan de l’\u00e9quit\u00e9, de la diversit\u00e9 et de l’inclusion. Lorsqu’on examine le nombre de chercheurs qui ont pr\u00e9sent\u00e9 des communications lors des principales conf\u00e9rences sur l’IA, on constate que seulement 18 % d’entre eux sont des femmes.<\/p>\n Elissa : Elle est probablement \u00e9gale \u00e0 cette valeur ou peut-\u00eatre l\u00e9g\u00e8rement sup\u00e9rieure. \u00c0 l’heure actuelle, 20 % des titulaires du programme de chaires en IA ICRA-Canada<\/a> sont des femmes. L’ICRA travaille de concert avec des partenaires \u00e0 l’\u00e9chelle du pays dans l’ex\u00e9cution d’un grand nombre de programmes de formation et d’occasions d’apprentissage distincts ciblant les jeunes femmes. Il s’agit de l’une des fa\u00e7ons par lesquelles nous tentons de combler l’\u00e9cart entre les sexes au Canada.<\/p>\n Par exemple, nous collaborons avec les responsables du programme Invent the Future<\/a> de l’Universit\u00e9 Simon Fraser, qui met l’accent sur la mobilisation des filles de niveau secondaire en les exposant \u00e0 l’IA dans le cadre d’un camp d’\u00e9t\u00e9 de deux semaines. Ce stage leur explique en quoi consiste l’IA et leur pr\u00e9sente les occasions d’avenir que l’IA leur offre sur les plans personnel et professionnel.<\/p>\n Nous avons annonc\u00e9 r\u00e9cemment un nouveau partenariat avec la Fondation OSMO<\/a> \u00e0 Montr\u00e9al dans le but de faire progresser le Laboratoire d’\u00e9t\u00e9 AI for Good<\/a>. Ce programme a \u00e9t\u00e9 mis sur pied par Doina Precup, titulaire de l’une des chaires en IA CIFAR-Canada. Ce stage de sept semaines est destin\u00e9 aux femmes qui m\u00e8nent des \u00e9tudes universitaires de premier cycle. Les femmes qui s’y inscrivent profitent d’occasions de formation et de r\u00e9seautage qui constitueront la base de leur future carri\u00e8re.<\/p>\n L'\u00e9tiquette de Elissa : Il s’agit d’un probl\u00e8me historique. Au d\u00e9but des ann\u00e9es 1990, la proportion d’\u00e9tudiantes dans les facult\u00e9s d’informatique des universit\u00e9s se situait aux alentours de Je pense que plusieurs raisons expliquent pourquoi les femmes sont maintenant moins int\u00e9ress\u00e9es, moins encourag\u00e9es ou moins encadr\u00e9es par des mentors qu’\u00e0 l’\u00e9poque. \u00c0 mesure que le nombre de femmes qui \u00e9taient des chefs de file dans ce secteur a d\u00e9clin\u00e9, de moins en moins de femmes se sont inscrites \u00e0 ces programmes de formation.<\/p>\n Je crois qu’il s’agit en quelque sorte d’un ph\u00e9nom\u00e8ne culturel au sein de la communaut\u00e9 informatique. Les chercheurs sont faussement associ\u00e9s \u00e0 l’image de \u00ab boll\u00e9s \u00bb passionn\u00e9s par le codage. Nous avons beaucoup de pain sur la planche.<\/p>\n Elissa : Aujourd’hui, un chercheur en IA peut ressembler \u00e0 n’importe qui dans presque n’importe quelle discipline. C’est ce qui est merveilleux avec l’intelligence artificielle. L’IA applique une approche math\u00e9matique et informatique \u00e0 la compr\u00e9hension et \u00e0 l’exploitation des donn\u00e9es. Par cons\u00e9quent, chaque discipline scientifique et chaque secteur de recherche peut tirer parti de l’IA, ce qui nous ram\u00e8ne \u00e0 mon argument sur la n\u00e9cessit\u00e9 d’accro\u00eetre la diversit\u00e9.<\/p>\n Nous devons encourager des \u00e9tudiants d’autres disciplines \u00e0 s’int\u00e9resser \u00e0 l’IA et \u00e0 acqu\u00e9rir une expertise dans ce domaine. Il ne s’agit pas n\u00e9cessairement de les inciter \u00e0 \u00e9crire du code, mais \u00e0 r\u00e9fl\u00e9chir aux fa\u00e7ons dont l’apprentissage machine peut \u00eatre appliqu\u00e9 \u00e0 diff\u00e9rentes questions touchant les affaires, le droit, les sciences humaines, la biologie, le g\u00e9nie ou la physique.<\/p>\n Le probl\u00e8me ne se situe pas seulement dans le manque de diversit\u00e9 des perspectives des gens qui mettent au point ces syst\u00e8mes, mais aussi dans la repr\u00e9sentativit\u00e9 des jeux de donn\u00e9es.<\/p><\/div><\/div>\n Elissa : Elle est importante, parce que ces algorithmes, approches et syst\u00e8mes de recommandation commencent d\u00e9j\u00e0 \u00e0 \u00eatre appliqu\u00e9s \u00e0 plusieurs aspects de nos vies, et que cette tendance se poursuivra.<\/p>\n Lorsqu’on pr\u00e9sente une demande de pr\u00eat hypoth\u00e9caire dans une banque, fait une demande de police d’assurance ou postule pour un emploi, ces syst\u00e8mes sont d\u00e9j\u00e0 mis \u00e0 contribution, sans que l’individu moyen ne le sache ou ne soit inform\u00e9 des enjeux soulev\u00e9s par leur utilisation.<\/p>\n Les syst\u00e8mes de recommandation sont con\u00e7us par des personnes qui poss\u00e8dent une perspective tr\u00e8s particuli\u00e8re de la vie et du monde. Ces d\u00e9veloppeurs sont issus d’un sous-ensemble tr\u00e8s particulier de la population et leur perspective est implicitement int\u00e9gr\u00e9e \u00e0 ces syst\u00e8mes.<\/p>\n L’autre facteur sous-jacent tr\u00e8s important a trait aux sources utilis\u00e9es pour constituer les jeux de donn\u00e9es. Si les jeux de donn\u00e9es exploit\u00e9s pour mettre au point des syst\u00e8mes de recommandation proviennent d’\u00e9chantillons qui pr\u00e9sentent eux-m\u00eames des pr\u00e9jug\u00e9s ; qu’ils soient li\u00e9s au sexe, \u00e0 la race, aux handicaps ou \u00e0 n’importe quel groupe sous-repr\u00e9sent\u00e9, ces pr\u00e9jug\u00e9s sont amplifi\u00e9s.<\/p>\n Le probl\u00e8me ne tient pas seulement au manque de diversit\u00e9 des perspectives des gens qui d\u00e9veloppent ces syst\u00e8mes, mais aussi \u00e0 la repr\u00e9sentativit\u00e9 des jeux de donn\u00e9es.<\/p>\n Elissa : Je ne dirais pas que cette science s’est engag\u00e9e dans une mauvaise direction.<\/p>\n Je dirais par contre que l’\u00e9volution de la technologie et des connaissances scientifiques li\u00e9es \u00e0 l’IA et que l’adoption de ces technologies se sont d\u00e9roul\u00e9es tr\u00e8s rapidement. En plus, comme ces \u00e9l\u00e9ments ont continu\u00e9 de progresser en parall\u00e8le, il a fallu du temps pour que le volet politique se mette au diapason du d\u00e9veloppement des technologies.<\/p>\n \u00c0 l’\u00e9tape actuelle de la croissance et de l’adoption de l’IA, nous devons, en tant que soci\u00e9t\u00e9, examiner rigoureusement ces technologies et nous interroger sur l’effet des pr\u00e9jug\u00e9s. Il est absolument essentiel que nous investissions beaucoup d’efforts et de ressources dans la recherche sur les incidences soci\u00e9tales de l’IA.<\/p>\n \u00c0 l’ICRA, cet aspect constitue le quatri\u00e8me pilier de la Strat\u00e9gie pancanadienne en mati\u00e8re d’intelligence artificielle<\/a><\/u>, qui vise \u00e0 faire progresser le leadership, la recherche et les connaissances sur les dimensions soci\u00e9tales de l’IA, c’est-\u00e0-dire les questions sociales, juridiques, \u00e9thiques et \u00e9conomiques entourant l’IA.<\/p>\n Elissa : C’est un excellent d\u00e9but et c’est absolument merveilleux de constater que des Canadiens ouvrent la voie vers la mobilisation du public dans la discussion sur ces enjeux.<\/p>\n Il s’agit d’un des rares exemples \u00e0 l’\u00e9chelle mondiale o\u00f9 le niveau d’engagement du public \u00e9tait aussi profond que celui des chercheurs de plusieurs disciplines, non seulement des experts informaticiens, mais aussi dans les domaines des sciences sociales et humaines. Mais ce n’est pas suffisant.<\/p>\n Elissa : Je crois plut\u00f4t qu’il s’agit de responsabiliser la soci\u00e9t\u00e9. Les gouvernements ont un r\u00f4le incroyablement important \u00e0 jouer dans l’adoption de politiques et de r\u00e9glementations int\u00e9rieures robustes pour encadrer l’adoption et l’utilisation de l’IA. Ils doivent aussi faire leur part en mati\u00e8re de coop\u00e9ration, de relations et de politiques internationales dans ce domaine ; l\u00e0 aussi, le Canada est un chef de file du secteur.<\/p>\n En juin dernier, le premier ministre Trudeau et le pr\u00e9sident Macron ont annonc\u00e9 une initiative conjointe franco-canadienne pour mettre sur pied un groupe d’experts international sur l’IA, et le premier symposium international en IA se tiendra \u00e0 Paris cet automne.<\/p>\n Ces travaux mobiliseront les pays du G7, dans le cadre des activit\u00e9s de coop\u00e9ration du regroupement, mais constitueront un projet de coop\u00e9ration internationale visant \u00e0 surveiller, \u00e0 observer et \u00e0 comprendre les meilleures pratiques relatives aux enjeux soci\u00e9taux soulev\u00e9s par l’IA.<\/p>\n Le monde s’attend actuellement \u00e0 ce que le Canada agisse \u00e0 titre de leader en la mati\u00e8re, et c’est justement ce que nous faisons sur le terrain.<\/p>\n Elissa : Je suis convaincue qu’ils sont motiv\u00e9s par de bonnes intentions et je crois qu’ils comprennent \u00e0 la fois les risques et les possibilit\u00e9s. En mati\u00e8re d’action gouvernementale, le d\u00e9fi r\u00e9side dans la courte dur\u00e9e des mandats des politiciens.<\/p>\n Il s’agit d’un enjeu qui d\u00e9passe les limites partisanes. Cet enjeu touche tous les Canadiens, quelle que soit leur all\u00e9geance politique. Il nous touche tous, dans le monde entier. Il s’agit donc d’une question sur laquelle les gouvernements doivent exercer un leadership, sans \u00e9gard \u00e0 leurs penchants id\u00e9ologiques.<\/p>\n Elissa : Le Canada occupe une place privil\u00e9gi\u00e9e dans l’ar\u00e8ne internationale pour faire progresser le d\u00e9veloppement, l’adoption et l’utilisation responsables de l’IA.<\/p>\n Une grande partie de cette autorit\u00e9 nous vient du r\u00f4le de pionnier que le Canada joue depuis longtemps dans le d\u00e9veloppement des connaissances scientifiques et dans la recherche en IA, et de sa feuille de route \u00e0 titre de chef de file en recherche. Nous avons aussi une excellente r\u00e9putation sur la sc\u00e8ne internationale en mati\u00e8re d’avancement des questions humanitaires li\u00e9es \u00e0 la justice, aux droits sociaux et aux libert\u00e9s. Nous sommes respect\u00e9s \u00e0 l’\u00e9chelle internationale, tant sur le plan scientifique que pour nos valeurs d\u00e9mocratiques.<\/p>\n Le monde s’attend actuellement \u00e0 ce que le Canada agisse \u00e0 titre de leader en la mati\u00e8re, et c’est ce qui inspire nos actions \u00e0 l’\u00e9chelle internationale. John Stackhouse interroge Elissa Strome, directrice de la Strat\u00e9gie pancanadienne en mati\u00e8re d’intelligence artificielle<\/p>\n","protected":false},"author":209,"featured_media":3310,"parent":0,"menu_order":0,"template":"","meta":{"_acf_changed":false,"disable_focal_point":true,"featured_image_focal_point":{"x":0.5,"y":0.5},"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"rbc_tl_category":[90],"rbc_tl_tag":[99,95,100],"class_list":["post-3309","rbc_tl","type-rbc_tl","status-publish","has-post-thumbnail","hentry","rbc_tl_category-innovation","rbc_tl_tag-innovation","rbc_tl_tag-intelligence-artificielle","rbc_tl_tag-technologie"],"acf":[],"yoast_head":"\nJohn : Quels sont ces pays ?<\/h4>\n
John : Savez-vous quelle est cette proportion au Canada ?<\/h4>\n
\n\u00ab chercheur en IA \u00bb sugg\u00e8re l'image erron\u00e9e d'un \u00ab boll\u00e9 \u00bb maniaque du codage. Nous avons beaucoup de pain sur la planche.<\/p><\/div><\/div>\nJohn : Comment avons-nous pu en arriver au point o\u00f9 quatre scientifiques sur cinq en IA sont des hommes ?<\/h4>\n
\n30%. Dans certains cas, les taux d’inscription de femmes en informatique dans les ann\u00e9es 1990 \u00e9taient sup\u00e9rieurs \u00e0 ce qu’on observe de nos jours.<\/p>\nJohn : S’ils ne sont pas des \u00ab boll\u00e9s \u00bb maniaques du codage, \u00e0 quoi ressemblent les chercheurs en IA canadiens ?<\/h4>\n
John : Pouvez-vous nous aider \u00e0 comprendre en quoi ces questions sont importantes ? Quand je pense \u00ab intelligence artificielle \u00bb, je pense \u00e0 Netflix qui me recommande du contenu. En quoi l’identit\u00e9 de ceux qui ont \u00e9crit le code importe-t-elle ?<\/h4>\n
John : On assiste \u00e0 une explosion des pr\u00e9occupations li\u00e9es \u00e0 l’IA responsable, notamment ici m\u00eame au Canada. Ce domaine scientifique a-t-il pris une mauvaise direction \u00e0 ses d\u00e9buts, ou les pr\u00e9occupations relatives \u00e0 l’IA responsable sont-elles simplement le r\u00e9sultat de l’\u00e9volution de la discipline ?<\/h4>\n
John : En 2018, on a publi\u00e9 la D\u00e9claration de Montr\u00e9al pour un d\u00e9veloppement responsable de l’intelligence artificielle<\/a>. Est-ce suffisant ?<\/h4>\n
John : Qui devrait exiger que la science rende des comptes ?<\/h4>\n
John : Croyez-vous que les gouvernements parviendront \u00e0 cerner compl\u00e8tement ces probl\u00e8mes ?<\/h4>\n
John : Quel r\u00f4le le Canada peut-il jouer ?<\/h4>\n
\n\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"