FR 
Notre groupe de leadership avisé examine les incidences sociétales et éthiques de l’intelligence artificielle. Dans le cadre de cette série d’entrevues, John Stackhouse interroge Elissa Strome, directrice de la Stratégie pancanadienne en matière d’intelligence artificielle à l’Institut canadien de recherches avancées (ICRA) sur la différence que pourrait faire la diversité. Leur conversation a été éditée afin de la raccourcir et d’en clarifier le contenu.
John : L’IA remodèle la société à plusieurs égards, pour le meilleur et pour le pire. Qu’est-ce qui vous préoccupe le plus dans ce contexte ?
Elissa : À l’heure actuelle, ce qui me préoccupe le plus c’est le manque d’équité, de diversité et d’inclusion en IA, dans la forme qu’elle prend actuellement au gré de son développement dans le monde. Dans son Rapport mondial sur les talents en IA, Element AI a évalué les paramètres démographiques des chercheurs en IA à l’échelle mondiale ainsi que la qualité et l’ampleur de la recherche en IA qui s’effectue dans différents pays. On compte essentiellement cinq pays dans le monde qui font progresser les connaissances en intelligence artificielle et leurs applications.John : Quels sont ces pays ?
Elissa : Il s’agit du Canada, des États-Unis, du Royaume-Uni, de la Chine et de l’Australie. Ce sont les cinq pays qui sont les plus avancés dans le développement de l’IA. Cette discipline est donc fortement influencée par l’Amérique du Nord et l’Europe de l’Ouest. La Chine est un très important chef de file en IA, mais une grande partie des pays du monde ne sont pas mobilisés en faveur du développement et de la progression de ce secteur. Si nous croyons vraiment que ces technologies exerceront une influence positive sur la société à l’échelle mondiale, l’ensemble de la société doit être activement mobilisée dans ce projet. L’équilibre homme-femme est l’autre aspect du développement de l’IA qui présente un véritable problème sur le plan de l’équité, de la diversité et de l’inclusion. Lorsqu’on examine le nombre de chercheurs qui ont présenté des communications lors des principales conférences sur l’IA, on constate que seulement 18 % d’entre eux sont des femmes.John : Savez-vous quelle est cette proportion au Canada ?
Elissa : Elle est probablement égale à cette valeur ou peut-être légèrement supérieure. À l’heure actuelle, 20 % des titulaires du programme de chaires en IA ICRA-Canada sont des femmes. L’ICRA travaille de concert avec des partenaires à l’échelle du pays dans l’exécution d’un grand nombre de programmes de formation et d’occasions d’apprentissage distincts ciblant les jeunes femmes. Il s’agit de l’une des façons par lesquelles nous tentons de combler l’écart entre les sexes au Canada. Par exemple, nous collaborons avec les responsables du programme Invent the Future de l’Université Simon Fraser, qui met l’accent sur la mobilisation des filles de niveau secondaire en les exposant à l’IA dans le cadre d’un camp d’été de deux semaines. Ce stage leur explique en quoi consiste l’IA et leur présente les occasions d’avenir que l’IA leur offre sur les plans personnel et professionnel. Nous avons annoncé récemment un nouveau partenariat avec la Fondation OSMO à Montréal dans le but de faire progresser le Laboratoire d’été AI for Good. Ce programme a été mis sur pied par Doina Precup, titulaire de l’une des chaires en IA CIFAR-Canada. Ce stage de sept semaines est destiné aux femmes qui mènent des études universitaires de premier cycle. Les femmes qui s’y inscrivent profitent d’occasions de formation et de réseautage qui constitueront la base de leur future carrière.L'étiquette de « chercheur en IA » suggère l'image erronée d'un « bollé » maniaque du codage. Nous avons beaucoup de pain sur la planche.
John : Comment avons-nous pu en arriver au point où quatre scientifiques sur cinq en IA sont des hommes ?
Elissa : Il s’agit d’un problème historique. Au début des années 1990, la proportion d’étudiantes dans les facultés d’informatique des universités se situait aux alentours de 30%. Dans certains cas, les taux d’inscription de femmes en informatique dans les années 1990 étaient supérieurs à ce qu’on observe de nos jours. Je pense que plusieurs raisons expliquent pourquoi les femmes sont maintenant moins intéressées, moins encouragées ou moins encadrées par des mentors qu’à l’époque. À mesure que le nombre de femmes qui étaient des chefs de file dans ce secteur a décliné, de moins en moins de femmes se sont inscrites à ces programmes de formation. Je crois qu’il s’agit en quelque sorte d’un phénomène culturel au sein de la communauté informatique. Les chercheurs sont faussement associés à l’image de « bollés » passionnés par le codage. Nous avons beaucoup de pain sur la planche.John : S’ils ne sont pas des « bollés » maniaques du codage, à quoi ressemblent les chercheurs en IA canadiens ?
Elissa : Aujourd’hui, un chercheur en IA peut ressembler à n’importe qui dans presque n’importe quelle discipline. C’est ce qui est merveilleux avec l’intelligence artificielle. L’IA applique une approche mathématique et informatique à la compréhension et à l’exploitation des données. Par conséquent, chaque discipline scientifique et chaque secteur de recherche peut tirer parti de l’IA, ce qui nous ramène à mon argument sur la nécessité d’accroître la diversité. Nous devons encourager des étudiants d’autres disciplines à s’intéresser à l’IA et à acquérir une expertise dans ce domaine. Il ne s’agit pas nécessairement de les inciter à écrire du code, mais à réfléchir aux façons dont l’apprentissage machine peut être appliqué à différentes questions touchant les affaires, le droit, les sciences humaines, la biologie, le génie ou la physique.Le problème ne se situe pas seulement dans le manque de diversité des perspectives des gens qui mettent au point ces systèmes, mais aussi dans la représentativité des jeux de données.
John : Pouvez-vous nous aider à comprendre en quoi ces questions sont importantes ? Quand je pense « intelligence artificielle », je pense à Netflix qui me recommande du contenu. En quoi l’identité de ceux qui ont écrit le code importe-t-elle ?
Elissa : Elle est importante, parce que ces algorithmes, approches et systèmes de recommandation commencent déjà à être appliqués à plusieurs aspects de nos vies, et que cette tendance se poursuivra. Lorsqu’on présente une demande de prêt hypothécaire dans une banque, fait une demande de police d’assurance ou postule pour un emploi, ces systèmes sont déjà mis à contribution, sans que l’individu moyen ne le sache ou ne soit informé des enjeux soulevés par leur utilisation. Les systèmes de recommandation sont conçus par des personnes qui possèdent une perspective très particulière de la vie et du monde. Ces développeurs sont issus d’un sous-ensemble très particulier de la population et leur perspective est implicitement intégrée à ces systèmes. L’autre facteur sous-jacent très important a trait aux sources utilisées pour constituer les jeux de données. Si les jeux de données exploités pour mettre au point des systèmes de recommandation proviennent d’échantillons qui présentent eux-mêmes des préjugés ; qu’ils soient liés au sexe, à la race, aux handicaps ou à n’importe quel groupe sous-représenté, ces préjugés sont amplifiés. Le problème ne tient pas seulement au manque de diversité des perspectives des gens qui développent ces systèmes, mais aussi à la représentativité des jeux de données.John : On assiste à une explosion des préoccupations liées à l’IA responsable, notamment ici même au Canada. Ce domaine scientifique a-t-il pris une mauvaise direction à ses débuts, ou les préoccupations relatives à l’IA responsable sont-elles simplement le résultat de l’évolution de la discipline ?
Elissa : Je ne dirais pas que cette science s’est engagée dans une mauvaise direction. Je dirais par contre que l’évolution de la technologie et des connaissances scientifiques liées à l’IA et que l’adoption de ces technologies se sont déroulées très rapidement. En plus, comme ces éléments ont continué de progresser en parallèle, il a fallu du temps pour que le volet politique se mette au diapason du développement des technologies. À l’étape actuelle de la croissance et de l’adoption de l’IA, nous devons, en tant que société, examiner rigoureusement ces technologies et nous interroger sur l’effet des préjugés. Il est absolument essentiel que nous investissions beaucoup d’efforts et de ressources dans la recherche sur les incidences sociétales de l’IA. À l’ICRA, cet aspect constitue le quatrième pilier de la Stratégie pancanadienne en matière d’intelligence artificielle, qui vise à faire progresser le leadership, la recherche et les connaissances sur les dimensions sociétales de l’IA, c’est-à-dire les questions sociales, juridiques, éthiques et économiques entourant l’IA.John : En 2018, on a publié la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Est-ce suffisant ?
Elissa : C’est un excellent début et c’est absolument merveilleux de constater que des Canadiens ouvrent la voie vers la mobilisation du public dans la discussion sur ces enjeux. Il s’agit d’un des rares exemples à l’échelle mondiale où le niveau d’engagement du public était aussi profond que celui des chercheurs de plusieurs disciplines, non seulement des experts informaticiens, mais aussi dans les domaines des sciences sociales et humaines. Mais ce n’est pas suffisant.John : Qui devrait exiger que la science rende des comptes ?
Elissa : Je crois plutôt qu’il s’agit de responsabiliser la société. Les gouvernements ont un rôle incroyablement important à jouer dans l’adoption de politiques et de réglementations intérieures robustes pour encadrer l’adoption et l’utilisation de l’IA. Ils doivent aussi faire leur part en matière de coopération, de relations et de politiques internationales dans ce domaine ; là aussi, le Canada est un chef de file du secteur. En juin dernier, le premier ministre Trudeau et le président Macron ont annoncé une initiative conjointe franco-canadienne pour mettre sur pied un groupe d’experts international sur l’IA, et le premier symposium international en IA se tiendra à Paris cet automne. Ces travaux mobiliseront les pays du G7, dans le cadre des activités de coopération du regroupement, mais constitueront un projet de coopération internationale visant à surveiller, à observer et à comprendre les meilleures pratiques relatives aux enjeux sociétaux soulevés par l’IA. Le monde s’attend actuellement à ce que le Canada agisse à titre de leader en la matière, et c’est justement ce que nous faisons sur le terrain.John : Croyez-vous que les gouvernements parviendront à cerner complètement ces problèmes ?
Elissa : Je suis convaincue qu’ils sont motivés par de bonnes intentions et je crois qu’ils comprennent à la fois les risques et les possibilités. En matière d’action gouvernementale, le défi réside dans la courte durée des mandats des politiciens. Il s’agit d’un enjeu qui dépasse les limites partisanes. Cet enjeu touche tous les Canadiens, quelle que soit leur allégeance politique. Il nous touche tous, dans le monde entier. Il s’agit donc d’une question sur laquelle les gouvernements doivent exercer un leadership, sans égard à leurs penchants idéologiques.John : Quel rôle le Canada peut-il jouer ?
Elissa : Le Canada occupe une place privilégiée dans l’arène internationale pour faire progresser le développement, l’adoption et l’utilisation responsables de l’IA. Une grande partie de cette autorité nous vient du rôle de pionnier que le Canada joue depuis longtemps dans le développement des connaissances scientifiques et dans la recherche en IA, et de sa feuille de route à titre de chef de file en recherche. Nous avons aussi une excellente réputation sur la scène internationale en matière d’avancement des questions humanitaires liées à la justice, aux droits sociaux et aux libertés. Nous sommes respectés à l’échelle internationale, tant sur le plan scientifique que pour nos valeurs démocratiques. Le monde s’attend actuellement à ce que le Canada agisse à titre de leader en la matière, et c’est ce qui inspire nos actions à l’échelle internationale.Le présent article vise à offrir des renseignements généraux seulement et n’a pas pour objet de fournir des conseils juridiques ou financiers, ni d’autres conseils professionnels. Le lecteur est seul responsable de toute utilisation des renseignements contenus dans le présent document, et ni la Banque Royale du Canada (« RBC »), ni ses sociétés affiliées, ni leurs administrateurs, dirigeants, employés ou mandataires respectifs ne seront tenus responsables des dommages directs ou indirects découlant de l’utilisation du présent document par le lecteur. Veuillez consulter un conseiller professionnel en ce qui concerne votre situation particulière. Les renseignements présentés sont réputés être factuels et à jour, mais nous ne garantissons pas leur exactitude et ils ne doivent pas être considérés comme une analyse exhaustive des sujets abordés. Les opinions exprimées reflètent le jugement des auteurs à la date de publication et peuvent changer. La Banque Royale du Canada et ses sociétés affiliées ne font pas la promotion, explicitement ou implicitement, des conseils, des avis, des renseignements, des produits ou des services de tiers.
Le présent document peut contenir des déclarations prospectives – au sens de certaines lois sur les valeurs mobilières – qui font l’objet de la mise en garde de RBC concernant les déclarations prospectives. Les paramètres, données et autres renseignements ESG (y compris ceux liés au climat) contenus sur ce site Web sont ou peuvent être fondés sur des hypothèses, des estimations et des jugements. Les mises en garde relatives aux renseignements présentés sur ce Site Web sont exposées dans les sections « Mise en garde concernant les déclarations prospectives » et « Avis important concernant le présent rapport » de notre Rapport climatique le plus récent, accessible sur notre site d’information à l’adresse https://www.rbc.com/notre-impact/information-sur-la-durabilite/index.html. Sauf si la loi l’exige, ni RBC ni ses sociétés affiliées ne s’engagent à mettre à jour quelque renseignement que ce soit présenté dans le présent document.