Grâce à Internet et à des taux d’intérêt historiquement bas, l’entrepreneuriat est plus accessible que jamais. Pourtant, la proportion des jeunes Canadiens qui démarrent leur entreprise est relativement constante depuis les années 1980. Il est en effet moins tentant de se lancer en affaires lorsqu’on songe à la hausse de l’endettement étudiant et à l’inaccessibilité des propriétés dans les grandes villes.

Lors de la dernière séance Les innovateurs RBC, nous nous sommes entretenus avec deux chefs de la direction qui font partie du club sélect des entrepreneurs dans la vingtaine et qui ne regrettent aucunement leur choix.

Braden Ream est le fondateur et le chef de la direction de Voiceflow, une plateforme logicielle permettant aux concepteurs d’interface vocale de créer des outils compatibles avec Alexa et Google Home. Julia Kirouac est la fondatrice et la chef de la direction de nud fud, une société qui produit des collations sucrées et savoureuses tout en étant nutritives.

Voici leurs huit conseils sur le démarrage d’entreprise et les raisons pour lesquelles ils estiment que c’est lorsqu’on a la vingtaine qu’on devrait se lancer.

1. Plongez

Lorsqu’on a la vingtaine, on a assez d’énergie pour tout entreprendre et peu de responsabilités. De plus, les risques sont plus faibles : on peut se contenter d’un revenu modeste et d’un curriculum vitæ peu étoffé.

2. Ne parlez pas de votre âge

Il peut être difficile pour un jeune entrepreneur d’être pris au sérieux. M. Ream recommande de ne pas mentionner son âge, qui n’a d’ailleurs aucune importance. « Vous ne voulez pas être le meilleur chef de la direction de 22 ans au Canada ; vous voulez être le meilleur chef de la direction, un point c’est tout. »

3. Posez des questions

Au cours d’un voyage de financement à Silicon Valley, M. Ream s’impatientait après avoir subi d’innombrables refus. C’est en posant des questions qu’il a appris que son exposé ne trouvait pas écho chez les investisseurs. Ces derniers voulaient en savoir plus sur le marché des technologies vocales, et moins sur son produit. Une fois adapté, l’exposé a commencé à susciter de l’intérêt.

4. Trouvez plusieurs mentors

Il vous faudra plus d’une personne-ressource. Inutile, par exemple, de vous plaindre des défauts de votre produit auprès de vos investisseurs ! Trouvez une personne pouvant offrir des conseils financiers, une autre qui connaît bien le secteur d’activité, et une autre qui saura vous dépanner en cas de difficulté.

5. Tirez des leçons

Non seulement l’échec est universel, mais vous en tirerez de précieuses leçons, surtout si vous perdez de l’argent. « C’est en échouant qu’on découvre si l’on est résilient, explique M^me Kirouac. Soit on se décourage, soit on fait un retour en force. »

6. Visez l’essentiel

Démarrer une entreprise constitue toute une corvée, mais on peut s’en sortir en mettant ses efforts au bon endroit. Répartissez votre temps de façon efficace en fonction des priorités. « Au lieu de vous éparpiller, conseille M. Ream, visez l’essentiel. »

7. Prenez soin de vous

Les entrepreneurs abordent trop peu l’importance de prendre soin de soi. Au contraire, certains rivalisent à savoir qui dort le moins. Or, une mauvaise hygiène de vie finit par avoir des conséquences. Dormez suffisamment, mangez bien et appuyez-vous sur votre réseau. « Surtout, recommande M^me Kirouac, ne vous isolez pas. »

8. Ouvrez la voie

Il peut être tentant de déménager aux États-Unis, mais chaque société qui décide de rester au Canada (pensons à Shopify) ouvre la voie à d’autres histoires de réussite. « La route sera peut-être plus ardue, affirme M. Ream, mais vous passerez le flambeau aux prochaines générations d’entrepreneurs. »

 

Aujourd’hui, sommes-nous en mesure de gérer les incidences éthiques et sociales de l’IA?

Les ratés de l’IA font régulièrement les manchettes. Pensons aux algorithmes qui avantagent les candidats masculins ou aux logiciels de reconnaissance faciale incapables de détecter correctement le visage de personnes de couleur.

Récemment, on a annoncé la nomination de Foteini Agrafioti, dirigeante de Borealis AI et fervente partisane d’une IA éthique, au poste de coprésidente du nouveau Conseil consultatif en matière d’intelligence artificielle du Canada. Elle a animé la dernière séance Les innovateurs RBC, qui portait sur la nécessité de lutter contre les biais en IA, en compagnie d’Elissa Strome, directrice générale de la Stratégie pancanadienne en matière d’intelligence artificielle à l’Institut canadien de recherches avancées (ICRA), et de Layla El Asri, directrice de recherche au laboratoire de recherche Microsoft à Montréal.

Voici leurs réflexions sur ce que le milieu scientifique, les gouvernements et les simples citoyens peuvent faire pour s’attaquer aux biais de l’IA, et sur le positionnement du Canada comme chef de file en matière d’éthique dans ce domaine.

1. Utiliser la technologie pour exhiber les biais

Les biais ont toujours existé dans notre société, et ils se sont naturellement introduits dans nos données. Mme El Asri y voit une occasion à saisir. À défaut d’arriver à mettre à nu nos propres biais, c’est-à-dire nos préjugés inconscients, nous pouvons mettre au jour les biais de nos algorithmes. Pour ce faire, les entreprises doivent procéder à des audits de leurs outils d’IA pour y détecter les biais à chaque étape du processus, comme le font désormais les grands laboratoires. Mme El Asri a souligné les efforts de dirigeants canadiens comme Yoshua Bengio, un pionnier de l’IA, visant à susciter dans le secteur canadien des technologies une volonté de développer l’IA de manière responsable.

2. Diversifier le secteur

À l’heure actuelle, l’intelligence artificielle est développée par un cercle très restreint d’individus : essentiellement des hommes ayant fait des études supérieures dans les mêmes établissements et qui vivent aujourd’hui dans les mêmes villes. Les femmes comptent pour seulement 18 % des chercheurs en IA, une situation que Mme Strome qualifie de « désastreuse ». Des organismes comme l’ICRA veulent amener plus de personnes à participer à la discussion sur le développement de l’IA, grâce à des initiatives telles que le laboratoire d’été AI for Good, un programme de formation de sept semaines à l’intention des étudiantes de premier cycle en IA.

3. Diversifier les données

La valeur de l’IA ne se mesure que par celle des données sur lesquelles elle s’appuie. « Si vos données ne sont pas suffisamment représentatives, votre modèle ne sera pas viable », fait valoir Mme El Asri. La vigilance est de mise pour assurer le caractère représentatif des données – un domaine dans lequel le Canada a su se démarquer. Si les données que vous utilisez sont recueillies dans un pays multiculturel comme le Canada, elles représenteront vraisemblablement des personnes d’origines ethniques différentes. De telles données seront indispensables à la mise au point d’une technologie qui profite à tous, surtout dans un domaine comme celui des soins de santé.

4. Consulter les chercheurs en sciences sociales

Pour le moment, la discussion sur les enjeux qui vont transformer notre société est l’affaire des acteurs du milieu des technologies et des décideurs, essentiellement. Nous devons avoir une vue d’ensemble en intégrant au processus de développement le point de vue des chercheurs en sciences sociales. Dans le cadre d’une initiative récente de l’ICRA, informaticiens et chercheurs en sciences sociales se sont réunis pendant une journée pour aborder les dimensions sociales, juridiques et éthiques de l’IA. « Les informaticiens étaient impatients d’avoir leur avis et leurs conseils », souligne Mme Strome. De même, Mme El Asri affirme que les comités sur l’IA et l’éthique à Microsoft sont composés de personnes issues de différentes disciplines, dont l’anthropologie et l’histoire.

5. Sensibiliser le public

« On constate qu’il y a beaucoup de crainte, de sources de malentendu et de mythes à propos de l’IA », indique Mme Strome. D’ici quelques années, il sera indispensable d’inviter le public à prendre part au débat sur l’IA. Les gens doivent connaître les répercussions positives de l’IA sur leur quotidien, mais aussi les risques qu’elle pose. Mieux la prochaine génération comprendra l’IA et ses conséquences sociales et éthiques, mieux elle sera préparée à poser les bonnes questions à ses dirigeants. Selon Mme Agrafioti, on est particulièrement sensibilisé à la question de l’équité au Canada, et on porte un regard critique sur la technologie avant l’étape d’implantation. La mise en marché de produits éthiques repose sur ce juste équilibre entre notre savoir-faire technique et nos valeurs comme société.

6. Assurer une solide gouvernance

L’IA a progressé beaucoup plus rapidement que les pouvoirs de réglementation. C’est pourquoi nous voyons d’un bon œil l’adoption, fin mai, d’un ensemble de principes en IA par l’OCDE. Les pays membres se sont en effets engagés à respecter des normes de développement de l’IA s’appuyant sur des valeurs. Nos dirigeants ont un rôle extrêmement important à jouer dans l’élaboration de politiques et d’une réglementation encadrant le recours à l’IA, tant au Canada qu’à l’étranger. Mme Strome affirme que le Canada, grâce à sa réputation enviable à l’échelle mondiale, est bien positionné pour exhorter la communauté internationale à rattraper le temps perdu. L’été dernier, le premier ministre Trudeau et le président Macron ont annoncé la création du Groupe international d’experts en IA, une initiative conjointe visant à soutenir et à orienter l’adoption responsable des technologies de l’IA, dans le respect des droits de la personne. Le tout premier symposium se tiendra à Paris cet automne.

L’élimination des biais liés aux machines nécessitera une approche humaine, et aucun pays n’est mieux placé que le Canada pour prendre le relais.

Notre groupe de leadership avisé examine les incidences sociétales et éthiques de l’intelligence artificielle. Dans le cadre de cette série d’entrevues, John Stackhouse interroge Layla El Asri, directrice de recherche au laboratoire de recherche Microsoft de Montréal, sur le rôle des humains dans la résolution des préjugés en IA.

John : À quel moment avez-vous pris conscience des préjugés en IA et avez-vous commencé à vous préoccuper de ce problème ?

Layla : Je réfléchis à cette question depuis seulement les trois ou quatre dernières années. C’était après mon arrivée au sein de l’équipe de Microsoft, à peu près en même temps qu’on a commencé à voir des reportages concernant différents enjeux touchant les préjugés et l’IA. Il y a eu le célèbre exemple du logiciel de Google, dont l’algorithme a classifié un Afro-américain comme un gorille. Il ne s’agissait que d’un exemple parmi d’autres de préjugés intégrés à un produit en raison d’une représentativité inadéquate des données. Il m’a beaucoup marquée, parce que l’erreur était vraiment épouvantable.

Il y a eu ensuite un autre cas concernant également un logiciel de Google. Lorsqu’on entrait dans le programme un nom surtout populaire dans la communauté afro-américaine, on recevait des annonces pour des services de recherche de casiers judiciaires. Il s’agit de préjugés intégrés à des systèmes en raison des préjugés dans la façon dont les humains utilisaient ces systèmes.

Ces exemples extrêmement frappants montraient vraiment que les choses peuvent mal tourner si nous ne faisons pas preuve d’une plus grande prudence dans l’utilisation des données avec lesquelles nous alimentons les modèles mis en œuvre.

Le modèle tente simplement d’optimiser son rendement. Il ne se demande pas : « Suis-je équitable ? »

John : En tant que scientifique, quelle est votre opinion sur les préjugés ?

Layla : Un modèle ne peut pas entretenir plus de préjugés que n’en contiennent les données qu’il utilise.

Le modèle tente simplement d’optimiser son rendement. Il ne se demande pas : « Suis-je équitable ? » Il existe des façons pour faire en sorte qu’un modèle applique ce type de contrôles, mais ces derniers doivent être intégrés au modèle. Du point de vue scientifique, cela consiste à modifier l’objectif du modèle afin qu’il ne se limite pas à maximiser son rendement, mais soit également incité à ne pas amplifier les préjugés ou à tenter d’en réduire le plus possible l’incidence.

John : La démarche nécessaire pour déboguer les préjugés, pour ainsi dire, serait-elle donc aussi simple que ce que vous décrivez ? S’agirait-il simplement de remanier le code ?

Layla : Voyez-vous, ça dépend de la situation. Dans certains cas, on peut essayer de remanier la conception d’un modèle pour faire en sorte qu’il intègre moins de préjugés ou en soit exempt. Mais dans d’autres cas, c’est tout simplement impossible. Par exemple, si vous utilisez des données produites à la suite de décisions humaines, il est possible que vous ignoriez à la base que les décisions humaines qui ont été prises ont été influencées par des préjugés. Il faut soumettre les modèles à des essais rigoureux pour déterminer s’ils intègrent des préjugés.

Pour éliminer les préjugés, il faut parfois simplement traiter de plus grands volumes de données, particulièrement si le problème est causé par une sous-représentation, comme c’est le cas des personnes à la peau plus foncée dans les systèmes de vision artificielle. Il n’y a rien d’autre à faire que de collecter des données concernant des teintes de peau plus foncées et de réentraîner le modèle afin qu’il apprenne à partir de ces nouvelles données.

John : Quelle approche appliquez-vous à Microsoft pour relever ces défis ?

Layla : Ces problèmes sont abordés de façon très différente. Il existe des groupes de recherche spécialisés sur ces questions, c’est-à-dire l’équité, la responsabilité, la transparence et l’éthique. Ces groupes se penchent sur des questions telles que la signification de l’équité dans les modèles d’apprentissage machine. Il s’agit de questions fondamentales auxquelles nous n’avons pas encore de réponses. Nous en sommes encore à l’étape de la recherche.

Il existe aussi au sein de Microsoft un comité appelé AETHER (IA et éthique en génie et en recherche). Ce comité agit un peu comme un groupe-conseil pour les équipes responsables des produits et pour la direction de Microsoft.

Ces groupes connaissent les questions techniques liées aux modèles d’apprentissage machine, ils savent ce qu’ils peuvent faire et ce qui est impossible. Il est très important de conseiller les groupes de production et la direction sur ces aspects, afin que nous puissions tous prendre des décisions éclairées concernant la sûreté du déploiement des modèles d’apprentissage machine à la lumière de nos connaissances actuelles.

Ces exemples montrent les mesures que Microsoft a mises en œuvre pour se protéger des applications dangereuses de l’IA et promouvoir une utilisation de l’IA conforme aux principes d’éthique. La réalisation d’audits a également produit beaucoup d’effets.

John : Quelles sont les personnes qui font partie de ces comités ?

Layla : Ces comités sont formés d’une bonne combinaison de spécialistes techniques et de personnes dont les antécédents sont plus axés sur la sociologie. Nos équipes comptent des historiens, des anthropologues et des sociologues qui travaillent de concert sur ces questions afin de comprendre les conséquences sociologiques potentielles de certaines technologies d’apprentissage fondées sur les données des patients.

John : Vous avez parlé un peu plus tôt des conséquences non voulues de l’apprentissage machine. L’apprentissage humain et la prise de décisions par des humains entraînent de nombreuses conséquences involontaires. Devrions-nous éprouver plus de confiance à l’égard de la capacité de la science de minimiser les conséquences non voulues des activités similaires effectuées par des machines ?

Layla : Vous savez, je veux faire preuve d’optimisme envers l’avenir et croire que la réponse à cette question sera positive.

Par contre, l’une des très importantes faiblesses que je constate à l’heure actuelle, et qui m’incite à répondre « non » à cette question, a trait au fait que les modèles sont entraînés à partir de données historiques et ne peuvent donc pas changer. Cela ne pourra se produire que si l’on modifie leurs objectifs d’apprentissage ou les jeux de données à partir desquels ils ont été entraînés. En outre, à l’heure actuelle, ces modèles ont besoin de grands volumes de données pour apprendre quelque chose de nouveau.

Pour leur part, les humains s’adaptent très rapidement. Si votre organisation vit un problème lié à des préjugés, vous pouvez en parler aux employés et les sensibiliser à la question, et ils réagiront très rapidement. À l’heure actuelle, les modèles d’apprentissage machine ne sont pas en mesure de réagir aussi vite. On doit leur fournir une grande quantité de données pour les réentraîner.

Je crois donc que pour l’instant, tant qu’ils ne pourront pas vraiment s’adapter rapidement et apprendre de nouvelles notions, les modèles d’apprentissage machine devront être soutenus par des interventions humaines. Et je crois aussi que nous devons trouver des moyens d’établir une bonne relation de collaboration entre les modèles d’apprentissage machine et les humains, afin que nous puissions tirer parti de la stupéfiante capacité d’adaptation des humains et des formidables capacités de calcul et de traitement des données des modèles d’apprentissage machine.

John : Pour conclure, j’aimerais vous poser une question sur les systèmes de dialogue. La voix et le texte sont-ils faussés par des préjugés ? En tant que consommateurs ou producteurs d’information sous forme de fichiers texte ou vocaux, de quoi devons-nous nous soucier ?

Layla : Un modèle qui ne comprend que certaines personnes et certaines voix et ne peut comprendre, par exemple, les personnes âgées ou celles dont l’accent est différent engendre un système comportant des préjugés, parce qu’il ne s’applique pas à tous. Ce qui est intéressant chez les humains est leur faculté de pouvoir s’adapter à n’importe qui, ou presque, et de comprendre toutes sortes d’accents. Les modèles d’apprentissage machine ne sont pas nécessairement en mesure d’en faire autant.

Et même dans le cas des documents texte, si un modèle ne comprend que la langue soignée et est incapable de comprendre certains idiomes ou variantes populaires de la langue pour laquelle il est conçu, ce produit n’est pas adapté à tous et présente donc un problème lié aux préjugés.

Le modèle doit pouvoir comprendre la totalité des personnes constituant son public cible, c’est-à-dire tous les individus à qui le modèle est destiné.

John : C’est fantastique. Ce sont des réflexions inspirantes. Merci.

Layla : Très bien. Merci.

Ce mois-ci, dans le cadre de la conférence Les innovateurs RBC, nous nous intéressons au cerveau. Quelle incidence a le temps passé devant les écrans sur notre cerveau ?

Le D^r Murali Doraiswamy, médecin et spécialiste du cerveau de Duke University, affirme qu’il y a lieu de s’inquiéter : environ 8 % à 10 % de la population nord-américaine présentent des signes de forte dépendance à l’Internet et aux jeux électroniques.

Malgré tout, il est optimiste en ce qui touche la technologie. Grâce à sa neuroplasticité, le cerveau peut se recâbler – il s’adapte à la technologie que nous utilisons. Avec le temps, nous pourrions devenir excellents en dactylographie ou maîtriser les appareils utilisant les technologies de transmission de la voix.

En 2019, il est essentiel de trouver un juste équilibre entre le temps passé devant les écrans et celui que l’on passe dans le monde réel. Le D^r Doraiswamy nous a fait part de cinq gestes simples à poser dès aujourd’hui pour que nos cerveaux fonctionnent de façon optimale.

1. Levez-vous

À une époque où tout semble urgent, c’est difficile, mais ne restez pas assis devant votre ordinateur plus d’une heure à la fois. Ce n’est pas bon pour votre productivité. « On a trop de choses au programme, il y a toujours quelque chose à faire, » ajoute le D^r Doraiswamy. Allez marcher, rendez-vous dans un café. Prendre une pause des courriels et des réunions vous aidera à passer d’un mode de fonctionnement centré sur la tâche à une façon plus créative et productive de faire les choses.

2. Faites une promenade en nature

Incontestablement, rien ne vaut la nature pour restaurer votre cerveau. Lorsque vous vous promenez en nature, vous combinez l’état de bien-être que vous procure la marche à la tranquillité de la nature. Ce sentiment de contemplation que vous ressentez active le réseau du mode par défaut du cerveau. Il s’agit de la partie du cerveau qui vous permet de trouver des solutions à des problèmes sérieux et inspire un sens de bien-être collectif. Vous n’avez simplement qu’à lui donner un moment de temps libre pour qu’il s’active.

3. Méditez

Tout le monde devrait méditer au moins 20 minutes par jour, de préférence à l’extérieur. Commencez avec une application, si cela peut vous aider. Comme la marche, la méditation active le réseau du mode par défaut du cerveau. Il est prouvé que la méditation est bénéfique pour le cerveau. D’ailleurs, les études démontrent que le cerveau d’un expert en méditation diffère du cerveau d’une personne qui pratique la méditation depuis peu. Le cerveau d’un expert en méditation est moins porté à s’atrophier en raison de l’âge, et les parties du cerveau intervenant dans le jugement et la moralité sont plus stimulées.

4. Ayez une bonne conversation chaque jour

Le meilleur élément permettant de prédire la longévité d’une personne n’est pas sa tension artérielle, mais bien ses liens sociaux. Chaque jour, ayez un échange constructif avec un ami – pas par Skype, mais en personne. Les relations interpersonnelles profondes sont essentielles à notre bien-être physique et psychologique. « Ne croyez pas que les médias sociaux peuvent donner un sens véritable à votre vie, » déclare le D^r Doraiswamy.

5. Ne regardez pas votre téléphone avant de vous coucher

Cessez d’utiliser votre téléphone une heure avant d’aller vous coucher. Si vous regardez votre téléphone juste avant d’aller au lit, votre cerveau traitera les derniers courriels que vous avez consultés pendant encore au moins 15 à 20 minutes. Des recherches préliminaires laissent également entendre que la lumière bleue émise par les appareils peut nuire au cycle du sommeil. Autrement dit, vous dormirez mieux si vous passez les dernières minutes de votre journée à lire un livre.

Les innovateurs RBC est une série de conférences organisées par le Bureau du chef de la direction et animées par John Stackhouse, premier vice-président. Les conférences sont données par des stratèges influents invités par RBC qui parlent des principaux changements dans le monde qui nous entoure.

 

Notre groupe de leadership avisé examine les incidences sociétales et éthiques de l’intelligence artificielle. Dans le cadre de cette série d’entrevues, John Stackhouse discute avec Foteini Agrafioti, scientifique en chef de RBC et chef de Borealis AI, l’Institut de recherche en intelligence artificielle de RBC. Leur conversation a été éditée afin de la raccourcir et d’en clarifier le contenu.

John : Pouvez-vous nous donner un exemple de secteur dans lequel vous avez constaté l’existence de préjugés en IA ?

Foteini : L’un des exemples les plus intéressants à mes yeux concerne les préjugés liés au sexe dans le moteur de traduction de Google. Je ne l’aurais pas remarqué immédiatement auparavant, ce qui montre à quel point notre compréhension en la matière a évolué. Je fais allusion ici à la façon dont nous traduisions précédemment les textes d’une langue à une autre en établissant une correspondance mot à mot, disons de l’anglais vers le français.

Lorsque l’apprentissage machine s’est répandu, nous avons toutefois changé notre approche. Nous avons chargé plusieurs longs textes en anglais et en français dans des réseaux profonds, puis avons essentiellement commandé aux machines d’apprendre de quelle façon les deux langues correspondent. L’efficacité de la traduction a alors fait un bond spectaculaire, au-delà de ce à quoi la communauté scientifique s’attendait.

Par contre, nous n’avions pas anticipé que les documents intégraient des préjugés quant à la représentation des sexes. Nous n’avions pas prévu non plus que les machines apprendraient et perpétueraient ces préjugés. Pour donner un exemple type de ce phénomène, imaginez que vous demandez à la machine de traduire de l’anglais vers le français un texte dans lequel il est question d’une femme médecin et d’un homme qui travaille comme infirmier. La machine confondra les sexes, car elle a appris que les médecins sont majoritairement des hommes et que le personnel infirmier compte une majorité de femmes.

John : En tant que scientifique, comment abordez-vous cette situation ?

C’est un problème complexe. Si on analyse le problème, on constate que les préjugés existent déjà dans les données. Ils sont intégrés aux données réelles recueillies par de vraies personnes sur de véritables individus. Dans plusieurs cas, ces préjugés rendent tout simplement compte de notre vie courante et de toutes les structures sociales qui existent pour préserver l’intégrité de nos sociétés, pour le meilleur et, malheureusement, pour le pire. Ils ne résultent pas nécessairement de l’action d’intervenants mal intentionnés qui tirent les ficelles. Les gens de Google qui ont conçu le système de traduction sont de bons êtres humains. Ce phénomène n’est pas le fruit d’une action délibérée de leur part. Il résulte simplement des préjugés intégrés à la plus précieuse ressource dont nous disposons.

La première étape consiste donc à être sensibilisé à ce risque préexistant. Nous ne devons pas tenir pour acquis que les données constituent une entité objective, et je crois que les entreprises commencent à admettre que c’est bien le cas. Nous devons reconnaître que l’IA est une technologie qui nous permet de transformer nos activités, mais nous expose aussi à une toute nouvelle catégorie de risques. Nous sommes en mesure d’anticiper certains de ces risques, mais devons garder à l’esprit que plusieurs d’entre eux peuvent nous prendre par surprise. En d’autres mots, disons que nous ne savons pas ce que nous ignorons, du moins pour l’instant. Jusqu’à ce que nous soyons mieux informés en la matière, il est donc essentiel que nous disposions d’un plan de rechange concernant la façon dont nous allons anticiper et atténuer ces risques.

John : La biométrie constitue l’un des domaines émergents en ce qui a trait aux préjugés. Que devons-nous comprendre concernant les risques de préjugés en matière de biométrie ?

Foteini : Depuis toujours, la sécurité biométrique est un domaine très sensible. Par définition, les données biométriques comportent des éléments qui permettent d’identifier des individus et qui sont extrêmement sensibles si leur confidentialité est compromise.

L’IA a apporté à ce domaine un niveau d’exactitude sans précédent dans l’authentification des humains selon des paramètres biométriques. La reconnaissance faciale en est un exemple. Dans le mode classique de fonctionnement des systèmes d’identification biométrique, la reconnaissance faciale ne pouvait produire des résultats positifs de façon uniforme que si l’expression faciale du sujet était toujours la même. Pour assurer l’uniformité des données, le sujet ne devait pas se faire pousser une barbe ni se maquiller.

Maintenant, avec l’apprentissage profond, toute cette vulnérabilité est tolérable. Même si vous vous faites pousser la barbe ou changez votre coupe de cheveux, les systèmes peuvent tout de même vous reconnaître.

En plus du caractère sensible des données, nous devons aussi nous soucier des préjugés. Les systèmes de données sont affectés par une sous-représentation systémique de ce qu’on appelle les groupes ethniques. La technologie de reconnaissance est très puissante, mais des incohérences dans le nombre de couleurs de peau rendent les algorithmes inefficaces pour certaines personnes ou font en sorte qu’ils choisissent systématiquement des origines ethniques particulières.

John : Un peu plus tôt au cours du mois, San Francisco est devenue la première grande ville à interdire l’utilisation de la technologie de reconnaissance faciale par des agences gouvernementales municipales. Que pensez-vous de cette décision de la part de l’une des villes les plus technologiquement évoluées au monde ?

Foteini : En ce qui concerne la décision de la ville de San Francisco, ce type de dilemmes éthiques est un exemple des éléments qui doivent alimenter nos réflexions, tant dans les secteurs public que privé.

En ce qui me concerne, il s’agit d’une décision louable et audacieuse, qui reconnaît que la technologie présente des risques et qu’on doit éviter de se lancer tête baissée dans son exploitation sans réfléchir aux abus potentiels qu’elle pourrait engendrer. Les autorités ont clairement opté pour la sécurité du public avant toute autre considération, malgré les nombreuses applications utiles de cette technologie. La Ville a décidé de prendre du recul et d’établir une limite à ne pas franchir. C’est vraiment une décision d’une portée monumentale.

John : Par contre, si l’utilisation de mesures de contrôle plus restrictives se généralise, que devrons-nous accepter de laisser tomber en tant que citoyens et consommateurs ?

Foteini : Les systèmes biométriques offrent généralement des avantages en matière de sûreté et de simplicité d’utilisation.

Un cas très intéressant d’application de ces technologies s’est présenté il y a quelques années en Ontario, où les exploitants de casinos ont mis en œuvre des systèmes de reconnaissance faciale pour repérer systématiquement les personnes présentant des problèmes de jeu et leur interdire l’accès aux établissements. Les individus concernés devaient s’inscrire volontairement sur une liste d’exclusion, autorisant du même coup le personnel de sécurité des casinos de l’Ontario de leur interdire l’accès s’ils se présentaient dans l’un de ces établissements. Graduellement, cette liste est devenue extrêmement volumineuse. Les agents de sécurité ne parvenaient pas à mémoriser les visages de toutes les personnes à refouler. La technologie de reconnaissance faciale a alors été déployée comme outil potentiel pour reconnaître les personnes ciblées et les empêcher d’accéder aux casinos. Cette décision a soulevé à l’époque un enjeu très important en matière de protection des renseignements personnels, et je pense que le commissaire à la protection de la vie privée a fait un travail remarquable pour déterminer comment assurer le respect de la confidentialité dans ce contexte.

John : Quels sont les risques que d’autres pays, plus particulièrement la Chine, progressent beaucoup plus rapidement sur le plan scientifique, parce qu’ils ne sont pas soumis aux mêmes types de restrictions en matière de droits individuels ou n’entretiennent pas de préoccupations à ce sujet ?

Foteini : Eh bien, je veux croire qu’ils se soucient de ces questions. Je constate aussi qu’à l’échelle mondiale, la communauté scientifique exerce des pressions pour orienter généralement la conception, le déploiement et l’adoption de ces systèmes. Mais si ce n’est pas le cas et qu’on se permet de faire ce qu’on veut, on dispose de bien plus qu’une simple avance. On gagne une très grande longueur d’avance.

Que penser de la possibilité d’accéder aux données, de mettre des systèmes à l’essai, de les déployer dans ces contextes réels, d’obtenir de la rétroaction et d’isoler des systèmes, sans aucune contrainte ni considération pour les conséquences néfastes potentielles ? Si je disposais de telles conditions, avec la possibilité de déployer un système de surveillance et d’en tirer des données et des conclusions, je pourrais acquérir beaucoup plus de connaissances sur les méthodes permettant de mettre au point de meilleurs systèmes de surveillance.

John : Cela me suggère une analogie concernant des athlètes qui doivent se mesurer à des concurrents issus de pays où l’on encourage l’usage de stéroïdes. Je ne sais pas si cette comparaison est adéquate. Cependant, en tant que scientifique, avez-vous l’impression de perdre du terrain comparativement à vos collègues chinois ?

Foteini : Je tente généralement de voir le côté positif des choses.

L’une des grandes réalisations de la communauté universitaire, particulièrement dans les domaines de l’apprentissage machine et de l’informatique, a été la mise sur pied d’exigences obligeant la réalisation de tests et d’essais pour étalonner et éprouver tout nouveau système d’apprentissage machine de pointe à l’aide d’un jeu de données public. Nous appliquons donc tous la même norme. De plus, les scientifiques sont tenus de rendre des comptes à ce sujet.

John : Selon vous, la communauté de l’IA pourra-t-elle relever les défis soulevés par la collecte des données, auxquels vous avez fait allusion, et par le codage initial des algorithmes, afin d’en éliminer les préjugés dans une mesure raisonnable ?

Foteini : Honnêtement, c’est difficile. Je ne tiens pas à être pessimiste, mais c’est un problème très difficile à résoudre.

En outre, dans plusieurs cas, il n’est pas judicieux d’y chercher des solutions. Certains préjugés ont des conséquences positives.

John : Donnez-nous un exemple.

Foteini : Examinons par exemple les décisions que nous prenons lorsque nous conduisons un véhicule. Je sais qu’on discute constamment de véhicules autonomes responsables. Par contre, ce sont parfois les préjugés humains qui nous évitent des accidents, comme dans le cas d’un conducteur qui a tendance à rouler sous la limite de vitesse quand le pavé est mouillé ou pour négocier un virage.

Dans le secteur des valeurs mobilières, on peut aussi imaginer un système qui effectue des transactions de façon uniforme ou, à l’inverse, un système fondé sur l’intuition particulière d’un spéculateur extrême. C’est un domaine dans lequel un préjugé peut être utile.

John : Cette approche en matière de préjugés offre-t-elle un avantage concurrentiel à RBC de même qu’au Canada ?

Foteini : Ce qui est merveilleux, au Canada, c’est que la plupart des données dont nous disposons sont intrinsèquement très diversifiées. Par exemple, si vous construisez la prochaine génération de systèmes diagnostiques fondés sur la technologie IRM et que vous utilisez des données recueillies au Canada, il est fort probable que les différents groupes ethniques y soient très bien représentés. C’est notre avantage local.

L’autre aspect qui nous distingue et fait partie des valeurs canadiennes est notre respect et notre tolérance mutuels. Je crois aussi que nous appliquons une optique très critique à l’égard des technologies issues de l’IA et de leurs effets potentiels sur notre société. Je pense que nous avons un degré de tolérance moins élevé à l’égard des risques inhérents à leur intégration dans nos vies. Nous sommes critiques à leur égard, et c’est une excellente attitude. Ce type de pressions est parfois nécessaire pour inciter la communauté scientifique de même que les entreprises à prendre la bonne orientation lors du développement de nouvelles technologies.

John : C’est très intéressant, Foteini. Merci.

Foteini : Très bien, merci.

 

Notre groupe de leadership avisé examine les incidences sociétales et éthiques de l’intelligence artificielle. Dans le cadre de cette série d’entrevues, John Stackhouse interroge Elissa Strome, directrice de la Stratégie pancanadienne en matière d’intelligence artificielle à l’Institut canadien de recherches avancées (ICRA) sur la différence que pourrait faire la diversité. Leur conversation a été éditée afin de la raccourcir et d’en clarifier le contenu.

John : L’IA remodèle la société à plusieurs égards, pour le meilleur et pour le pire. Qu’est-ce qui vous préoccupe le plus dans ce contexte ?

Elissa : À l’heure actuelle, ce qui me préoccupe le plus c’est le manque d’équité, de diversité et d’inclusion en IA, dans la forme qu’elle prend actuellement au gré de son développement dans le monde.

Dans son Rapport mondial sur les talents en IA, Element AI a évalué les paramètres démographiques des chercheurs en IA à l’échelle mondiale ainsi que la qualité et l’ampleur de la recherche en IA qui s’effectue dans différents pays.

On compte essentiellement cinq pays dans le monde qui font progresser les connaissances en intelligence artificielle et leurs applications.

John : Quels sont ces pays ?

Elissa : Il s’agit du Canada, des États-Unis, du Royaume-Uni, de la Chine et de l’Australie. Ce sont les cinq pays qui sont les plus avancés dans le développement de l’IA. Cette discipline est donc fortement influencée par l’Amérique du Nord et l’Europe de l’Ouest.

La Chine est un très important chef de file en IA, mais une grande partie des pays du monde ne sont pas mobilisés en faveur du développement et de la progression de ce secteur. Si nous croyons vraiment que ces technologies exerceront une influence positive sur la société à l’échelle mondiale, l’ensemble de la société doit être activement mobilisée dans ce projet.

L’équilibre homme-femme est l’autre aspect du développement de l’IA qui présente un véritable problème sur le plan de l’équité, de la diversité et de l’inclusion. Lorsqu’on examine le nombre de chercheurs qui ont présenté des communications lors des principales conférences sur l’IA, on constate que seulement 18 % d’entre eux sont des femmes.

John : Savez-vous quelle est cette proportion au Canada ?

Elissa : Elle est probablement égale à cette valeur ou peut-être légèrement supérieure. À l’heure actuelle, 20 % des titulaires du programme de chaires en IA ICRA-Canada sont des femmes. L’ICRA travaille de concert avec des partenaires à l’échelle du pays dans l’exécution d’un grand nombre de programmes de formation et d’occasions d’apprentissage distincts ciblant les jeunes femmes. Il s’agit de l’une des façons par lesquelles nous tentons de combler l’écart entre les sexes au Canada.

Par exemple, nous collaborons avec les responsables du programme Invent the Future de l’Université Simon Fraser, qui met l’accent sur la mobilisation des filles de niveau secondaire en les exposant à l’IA dans le cadre d’un camp d’été de deux semaines. Ce stage leur explique en quoi consiste l’IA et leur présente les occasions d’avenir que l’IA leur offre sur les plans personnel et professionnel.

Nous avons annoncé récemment un nouveau partenariat avec la Fondation OSMO à Montréal dans le but de faire progresser le Laboratoire d’été AI for Good. Ce programme a été mis sur pied par Doina Precup, titulaire de l’une des chaires en IA CIFAR-Canada. Ce stage de sept semaines est destiné aux femmes qui mènent des études universitaires de premier cycle. Les femmes qui s’y inscrivent profitent d’occasions de formation et de réseautage qui constitueront la base de leur future carrière.

John : Comment avons-nous pu en arriver au point où quatre scientifiques sur cinq en IA sont des hommes ?

Elissa : Il s’agit d’un problème historique. Au début des années 1990, la proportion d’étudiantes dans les facultés d’informatique des universités se situait aux alentours de
30%. Dans certains cas, les taux d’inscription de femmes en informatique dans les années 1990 étaient supérieurs à ce qu’on observe de nos jours.

Je pense que plusieurs raisons expliquent pourquoi les femmes sont maintenant moins intéressées, moins encouragées ou moins encadrées par des mentors qu’à l’époque. À mesure que le nombre de femmes qui étaient des chefs de file dans ce secteur a décliné, de moins en moins de femmes se sont inscrites à ces programmes de formation.

Je crois qu’il s’agit en quelque sorte d’un phénomène culturel au sein de la communauté informatique. Les chercheurs sont faussement associés à l’image de « bollés » passionnés par le codage. Nous avons beaucoup de pain sur la planche.

John : S’ils ne sont pas des « bollés » maniaques du codage, à quoi ressemblent les chercheurs en IA canadiens ?

Elissa : Aujourd’hui, un chercheur en IA peut ressembler à n’importe qui dans presque n’importe quelle discipline. C’est ce qui est merveilleux avec l’intelligence artificielle. L’IA applique une approche mathématique et informatique à la compréhension et à l’exploitation des données. Par conséquent, chaque discipline scientifique et chaque secteur de recherche peut tirer parti de l’IA, ce qui nous ramène à mon argument sur la nécessité d’accroître la diversité.

Nous devons encourager des étudiants d’autres disciplines à s’intéresser à l’IA et à acquérir une expertise dans ce domaine. Il ne s’agit pas nécessairement de les inciter à écrire du code, mais à réfléchir aux façons dont l’apprentissage machine peut être appliqué à différentes questions touchant les affaires, le droit, les sciences humaines, la biologie, le génie ou la physique.

John : Pouvez-vous nous aider à comprendre en quoi ces questions sont importantes ? Quand je pense « intelligence artificielle », je pense à Netflix qui me recommande du contenu. En quoi l’identité de ceux qui ont écrit le code importe-t-elle ?

Elissa : Elle est importante, parce que ces algorithmes, approches et systèmes de recommandation commencent déjà à être appliqués à plusieurs aspects de nos vies, et que cette tendance se poursuivra.

Lorsqu’on présente une demande de prêt hypothécaire dans une banque, fait une demande de police d’assurance ou postule pour un emploi, ces systèmes sont déjà mis à contribution, sans que l’individu moyen ne le sache ou ne soit informé des enjeux soulevés par leur utilisation.

Les systèmes de recommandation sont conçus par des personnes qui possèdent une perspective très particulière de la vie et du monde. Ces développeurs sont issus d’un sous-ensemble très particulier de la population et leur perspective est implicitement intégrée à ces systèmes.

L’autre facteur sous-jacent très important a trait aux sources utilisées pour constituer les jeux de données. Si les jeux de données exploités pour mettre au point des systèmes de recommandation proviennent d’échantillons qui présentent eux-mêmes des préjugés ; qu’ils soient liés au sexe, à la race, aux handicaps ou à n’importe quel groupe sous-représenté, ces préjugés sont amplifiés.

Le problème ne tient pas seulement au manque de diversité des perspectives des gens qui développent ces systèmes, mais aussi à la représentativité des jeux de données.

John : On assiste à une explosion des préoccupations liées à l’IA responsable, notamment ici même au Canada. Ce domaine scientifique a-t-il pris une mauvaise direction à ses débuts, ou les préoccupations relatives à l’IA responsable sont-elles simplement le résultat de l’évolution de la discipline ?

Elissa : Je ne dirais pas que cette science s’est engagée dans une mauvaise direction.

Je dirais par contre que l’évolution de la technologie et des connaissances scientifiques liées à l’IA et que l’adoption de ces technologies se sont déroulées très rapidement. En plus, comme ces éléments ont continué de progresser en parallèle, il a fallu du temps pour que le volet politique se mette au diapason du développement des technologies.

À l’étape actuelle de la croissance et de l’adoption de l’IA, nous devons, en tant que société, examiner rigoureusement ces technologies et nous interroger sur l’effet des préjugés. Il est absolument essentiel que nous investissions beaucoup d’efforts et de ressources dans la recherche sur les incidences sociétales de l’IA.

À l’ICRA, cet aspect constitue le quatrième pilier de la Stratégie pancanadienne en matière d’intelligence artificielle, qui vise à faire progresser le leadership, la recherche et les connaissances sur les dimensions sociétales de l’IA, c’est-à-dire les questions sociales, juridiques, éthiques et économiques entourant l’IA.

John : En 2018, on a publié la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Est-ce suffisant ?

Elissa : C’est un excellent début et c’est absolument merveilleux de constater que des Canadiens ouvrent la voie vers la mobilisation du public dans la discussion sur ces enjeux.

Il s’agit d’un des rares exemples à l’échelle mondiale où le niveau d’engagement du public était aussi profond que celui des chercheurs de plusieurs disciplines, non seulement des experts informaticiens, mais aussi dans les domaines des sciences sociales et humaines. Mais ce n’est pas suffisant.

John : Qui devrait exiger que la science rende des comptes ?

Elissa : Je crois plutôt qu’il s’agit de responsabiliser la société. Les gouvernements ont un rôle incroyablement important à jouer dans l’adoption de politiques et de réglementations intérieures robustes pour encadrer l’adoption et l’utilisation de l’IA. Ils doivent aussi faire leur part en matière de coopération, de relations et de politiques internationales dans ce domaine ; là aussi, le Canada est un chef de file du secteur.

En juin dernier, le premier ministre Trudeau et le président Macron ont annoncé une initiative conjointe franco-canadienne pour mettre sur pied un groupe d’experts international sur l’IA, et le premier symposium international en IA se tiendra à Paris cet automne.

Ces travaux mobiliseront les pays du G7, dans le cadre des activités de coopération du regroupement, mais constitueront un projet de coopération internationale visant à surveiller, à observer et à comprendre les meilleures pratiques relatives aux enjeux sociétaux soulevés par l’IA.

Le monde s’attend actuellement à ce que le Canada agisse à titre de leader en la matière, et c’est justement ce que nous faisons sur le terrain.

John : Croyez-vous que les gouvernements parviendront à cerner complètement ces problèmes ?

Elissa : Je suis convaincue qu’ils sont motivés par de bonnes intentions et je crois qu’ils comprennent à la fois les risques et les possibilités. En matière d’action gouvernementale, le défi réside dans la courte durée des mandats des politiciens.

Il s’agit d’un enjeu qui dépasse les limites partisanes. Cet enjeu touche tous les Canadiens, quelle que soit leur allégeance politique. Il nous touche tous, dans le monde entier. Il s’agit donc d’une question sur laquelle les gouvernements doivent exercer un leadership, sans égard à leurs penchants idéologiques.

John : Quel rôle le Canada peut-il jouer ?

Elissa : Le Canada occupe une place privilégiée dans l’arène internationale pour faire progresser le développement, l’adoption et l’utilisation responsables de l’IA.

Une grande partie de cette autorité nous vient du rôle de pionnier que le Canada joue depuis longtemps dans le développement des connaissances scientifiques et dans la recherche en IA, et de sa feuille de route à titre de chef de file en recherche. Nous avons aussi une excellente réputation sur la scène internationale en matière d’avancement des questions humanitaires liées à la justice, aux droits sociaux et aux libertés. Nous sommes respectés à l’échelle internationale, tant sur le plan scientifique que pour nos valeurs démocratiques.

Le monde s’attend actuellement à ce que le Canada agisse à titre de leader en la matière, et c’est ce qui inspire nos actions à l’échelle internationale.

De la route que nous empruntons pour revenir à la maison à l’endroit que nous choisissons pour aller dîner, nous avons tous nos préférences inhérentes qui nous prédisposent à prendre des décisions particulières.

Même si nous avons l’impression que nos choix sont rationnels, nous savons que ce n’est pas toujours le cas. Dans certains cas, nous ne sommes même pas en mesure d’expliquer pourquoi nous préférons une option à une autre.

Si ce comportement est acceptable quand vient le temps de choisir entre un Coke et un Pepsi, la situation est autrement différente lorsque nous demandons à un système d’intelligence artificielle (IA) de poser des jugements et de faire des prédictions qui portent à conséquence pour les humains.

Comme les biais persistent dans tous les domaines de la société, il n’est pas surprenant qu’on en trouve aussi en IA.

Il y a plus de 50 ans, l’informaticien Melvin Conway a constaté que la structure interne des organisations exerce une forte influence sur les systèmes qu’elles mettent sur pied. Cette observation, aujourd’hui connue comme la « loi de Conway », se vérifie également pour l’IA. Les valeurs des personnes qui développent des systèmes ne sont pas seulement profondément enracinées : elles sont aussi concentrées.

Au Canada, l’expertise en IA se polarise essentiellement autour de trois villes : Edmonton, Toronto et Montréal. Chacune d’elles héberge un pionnier de l’IA vers lequel ont convergé les gens et les sources de financement.

Sur le plan économique, cette concentration a suscité une compétitivité accrue et agi comme un aimant attirant et retenant les meilleurs talents en IA.

Et c’est efficace! À l’Institut canadien de recherches avancées (CIFAR), plus de la moitié des titulaires de chaires de recherche ont été recrutés au Canada. Mais cette concentration soulève également des défis que le Canada et les autres centres mondiaux en IA tentent de relever.

Ces « tribus » de l’IA sont extrêmement homogènes, comme l’a constaté Amy Webb, futurologue et auteure. Les membres de ces regroupements ont fréquenté les mêmes universités, ils sont aisés et fortement scolarisés, et ce sont très largement des hommes.

Cette constatation a été confirmée par le plus récent rapport mondial sur l’écart entre les genres publié par le Forum économique mondial, qui révèle que seulement 22 % des professionnels de l’IA à l’échelle mondiale sont des femmes. Au Canada, cette proportion n’est guère meilleure, avec 24 % de femmes.

Ce déséquilibre des genres est encore plus marqué lorsqu’on examine la constitution des cohortes de chercheurs en IA. Selon une étude réalisée par Element AI, on compte en moyenne neuf hommes pour chaque femme dans le secteur de la recherche en IA.

Mais surtout, la nature même du développement de l’IA fait en sorte que les systèmes d’IA apprennent ce que les données leur donnent à voir et héritent des biais inconscients de leurs créateurs.

C’est ainsi que le déséquilibre entre hommes et femmes en IA trouve un écho dans les systèmes en cours de développement. Par exemple, un système de reconnaissance visuelle qui avait été entraîné à partir d’un ensemble de données associant la préparation des aliments 33 % plus souvent aux femmes qu’aux hommes a amplifié cette disparité pour la porter à 68 %.

Les « tribus » de l’IA ont également, de façon prépondérante, la peau blanche.

Dans un rapport publié en avril, l’AI Now Institute révèle que seulement 2,5 % de l’effectif de Google et 4 % de celui de Facebook et de Microsoft ont la peau noire, et que les données sur la présence de membres de la communauté LGBTQ en IA sont inexistantes – une situation que l’organisme qualifie de « catastrophe sur le plan de la diversité ».

En tant que membres d’une société multiculturelle, tous les Canadiens devraient se sentir interpellés par le manque de diversité en IA.

Que ce soit dans le calcul des primes d’assurance, le maintien de l’ordre, la prestation de soins de santé ou le traitement des demandes d’admission dans les écoles, pour ne citer que ces exemples, cet enjeu devient chaque jour plus pressant, à mesure que l’IA s’intègre à la trame de notre société.

Gartner prédit qu’au cours des prochaines années, 85 % des projets en IA produiront des résultats erronés en raison des biais qui affectent les données, les algorithmes et les équipes qui en assurent la gestion.

Nous ne pouvons pas nous offrir le luxe d’éviter les discussions inconfortables sur le sexisme, le racisme et nos autres biais inconscients, ou sur les voies par lesquelles ces biais s’immiscent en IA.

Supposons par exemple qu’une entreprise médicale souhaite mettre au point un système d’IA capable de déterminer le meilleur plan de traitement pour les patients. Pour ce faire, l’entreprise doit définir son objectif. S’agit-il de minimiser le coût des traitements? S’agit-il plutôt de maximiser les résultats thérapeutiques pour les patients?

Si le but est de minimiser les coûts, l’algorithme pourrait conclure qu’une façon efficace d’y parvenir consiste à recommander des traitements moins efficaces, sélectionnés en calculant le meilleur rapport « probabilité de succès/prix ».

Lorsque des entreprises fixent des objectifs à leurs systèmes d’IA, que ce soit pour des traitements médicaux personnalisés ou d’autres applications, ces décisions sont souvent fondées sur des impératifs commerciaux, et non pas sur des préoccupations liées à l’équité ou à la discrimination.

Des biais peuvent également s’introduire par les méthodes de collecte des données. Si les données recueillies ne sont pas représentatives ou sont influencées par des préjugés, il est possible d’introduire un biais racial alors même qu’on a pris
la précaution d’éviter l’origine raciale comme facteur d’entrée explicite.

Par exemple, une recherche menée par Centraide dans le Grand Toronto a constaté que les indicateurs d’inégalité et de race sont de plus en plus liés aux codes postaux dans la région de Toronto. Une organisation qui souhaiterait éviter l’identification raciale pourrait donc tout de même produire des résultats déficients si elle utilisait les codes postaux comme données d’entrée.

Un autre problème est que tous les résultats produits par les systèmes d’IA ne sont pas facilement explicables. Les entreprises veulent se doter de systèmes qui produisent les prédictions les plus exactes possible, mais ces modèles sont aussi les plus complexes et les plus difficiles à comprendre.

Même les ingénieurs qui ont conçu les systèmes qui nous suggèrent de la musique ou qui choisissent les publicités les plus susceptibles de nous plaire ne peuvent expliquer complètement comment leurs modèles produisent ces recommandations. Cette situation peut être tolérable lorsqu’elle concerne des listes de lecture recommandées par Spotify, mais à quel point serons-nous disposés à accepter des conseils médicaux d’un système fondé sur l’IA?

C’est le défi que les chercheurs qui ont mis au point le système Deep Patient ont tenté de relever. Ce système, entraîné à partir de données provenant de 700 000 patients, produisait de très bonnes prédictions sur les malades, y compris le cancer du foie de stade I. Cependant, les chercheurs étaient incapables d’expliquer comment le système en arrivait à ces conclusions.

En l’absence d’explicabilité, une équipe médicale accepterait-elle d’intervenir sur la foi de ces prédictions? Les praticiens seraient-ils disposés à changer des régimes de médication, à administrer des traitements de chimiothérapie ou à pratiquer des interventions chirurgicales?

L’enjeu central n’est pas l’IA, mais la façon dont nous construisons les systèmes d’IA.

Nous devons reconnaître la présence des grands enjeux sociaux dans les données humaines recueillies et les éliminer avant qu’ils ne soient intégrés au code des systèmes. À l’heure actuelle, la présence des biais est souvent abordée après coup, comme un problème qui doit être résolu à la fin du cycle de développement.

Au contraire, il faudrait intégrer des experts des questions sociales à toutes les étapes du cycle de développement pour qu’ils collaborent étroitement au travail des experts responsables du codage.

Nous devons traiter les systèmes d’IA comme de nouveaux produits pharmaceutiques : leur faire subir des essais rigoureux pour comprendre leurs effets néfastes potentiels et repérer tout biais qui pourrait en affecter les résultats, avant que ces systèmes ne soient mis en application.

De plus, l’évaluation des systèmes devrait se poursuivre après leur lancement. Les systèmes d’IA doivent être surveillés en continu et réévalués à intervalles réguliers tout au long de leur cycle de vie. Une étude sur la demie-vie des données médicales montre que la vie des données cliniques est très courte et que leur utilité décline très rapidement. Après à peine quatre mois, un système d’IA pourrait prendre des décisions fondées sur des données périmées, entraînant des conséquences graves pour la population.

Mais quelle que soit la peur qu’inspirent l’IA et son impact sur l’avenir de l’humanité, toute solution possible pour atténuer les biais et améliorer les systèmes d’IA exige une intervention humaine.

Les « systèmes avec intervention humaine » – une expression technique désignant des systèmes qui ne sont pas entièrement autonomes – sont fondés sur une relation symbiotique entre les humains et l’IA. Ces systèmes sont mis en œuvre dans des contextes où le niveau de confiance est faible et les conséquences des erreurs sont graves, par exemple en santé.

Chaque fois que le niveau de certitude d’une décision est faible, le système demande l’assistance d’un intervenant humain. Cet aspect est essentiel dans le secteur des soins de santé, où des praticiens doivent interagir avec les résultats du système. Leur participation accroît l’explicabilité des résultats et le niveau de confiance associé à leur exploitation pour des gestes thérapeutiques.

Chose certaine, des humains doivent se trouver au cœur du développement de l’IA.

Publiée en décembre 2018, la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle expose un cadre éthique qui recommande l’élaboration de lignes directrices en matière d’IA afin de veiller à ce que son développement « soit conforme à nos valeurs humaines et porteur d’un véritable progrès social ». Cette déclaration a été signée par 45 organismes et 1 394 citoyens.

Plus tôt cette année, le Conseil de l’Europe a adopté sa propre déclaration sur l’intelligence artificielle, qui presse les États d’assurer « l’égalité et la dignité de tous les êtres humains en tant qu’agents moraux indépendants » dans un monde qui s’appuie sur l’IA.

Aux États-Unis, des législateurs ont proposé l’Algorithmic Accountability Act (loi sur la responsabilité en matière d’algorithmes), qui exige que certaines entreprises – celles dont les revenus annuels excèdent 50 millions de dollars et qui détiennent de l’information sur au moins 1 million d’individus ou d’appareils, ainsi que celles qui agissent principalement à titre d’intermédiaires pour l’achat et la vente de données sur les consommateurs – procèdent à des audits de leurs systèmes pour y détecter les biais.

Mais qui exigera des signataires de ces déclarations qu’ils rendent des comptes? Ce rôle sera-t-il assumé par les gouvernements, qui supervisent l’utilisation de l’IA au sein des organismes gouvernementaux? Qu’adviendra-t-il si des gouvernements divergent d’opinion quant au mode de déploiement de l’IA?

Il existe deux principaux courants à l’échelle mondiale en matière d’utilisation de l’IA. Le premier, principalement soutenu par les entreprises de la Silicon Valley, met l’accent sur le consumérisme et la création de valeur. L’autre nous vient d’Asie, où le gouvernement chinois voit l’IA comme un instrument de gouvernance sociale.

Ces questions et défis offrent au Canada la possibilité d’ouvrir la voie et de devenir un chef de file de l’avancement de l’IA pour le bien commun. Il s’agit de l’une de nos 10 recommandations visant à préparer le Canada à l’IA.

Même si le Canada a été le premier pays à se doter d’une stratégie nationale en matière d’IA, nous avons pris du retard dans la mise à profit et la commercialisation de ses applications. L’adoption d’une stratégie d’IA pour le bien commun, proposée en parallèle au soutien de la supergrappe canadienne d’expertise en IA, et la mise sur pied d’une stratégie nationale relative aux données, très attendue dans les milieux concernés, pourraient renforcer la compétitivité du Canada à titre de centre mondial en IA et nou
s aider à faire valoir notre position de chef de file dynamique de l’intelligence artificielle.

Nous devons toutefois accepter de soulever des questions embarrassantes.

L’IA est un miroir de la société qui nous oblige à examiner avec rigueur les mensonges polis avec lesquels nous nous rassurons. Nous ne pouvons plus nous permettre de détourner le regard.

M. Reddy a appliqué ce principe à la dernière frontière de la numérisation : le marché local. Son appli de commande mobile à ramasser, Ritual, offre à peu près les seules choses qu’un géant comme Amazon ne peut offrir : un café chaud sur votre trajet pour le travail et un burger déjà prêt lorsque vous arrivez à l’aire de restauration.

« Les files d’attente m’ennuient », a souligné M. Reddy lors de notre séance mensuelle Les innovateurs RBC, sur l’innovation et la technologie.

À titre de PDG de Ritual, il travaille fort pour que les files d’attente deviennent une chose du passé en offrant la possibilité aux clients de passer leur commande à l’avance. Cela laisse plus de temps pour faire autre chose et offre aux restaurateurs une nouvelle façon d’attirer de nouveaux clients.

En cinq ans seulement, Ritual, qui était une plateforme d’essai à Toronto, est devenue une entreprise internationale faisant des affaires au Canada, aux États-Unis, au Royaume-Uni et en Australie. M. Reddy prévoit tripler le nombre de restaurants participants d’ici la fin de 2019.

Ritual vise principalement à réunir les mondes physique et numérique grâce à la rentabilisation de l’expérience locale, en personne. Il y a là largement place à l’innovation.

Les commerces locaux arrivent loin derrière les grandes entreprises qui ont l’argent et le talent pour faire des investissements importants dans l’avenir du numérique. Selon un sondage de la BDC auprès des petites et moyennes entreprises, seulement 19 % d’entre elles ont résolument adopté la technologie et la culture numériques. Plus de la moitié d’entre elles ont un faible niveau de maturité numérique.

M. Reddy s’est penché sur le problème et en a conclu que l’absence de densité est la cause d’échec des tentatives antérieures de numérisation du marché local. Pour les gens, il n’est pas important que vous ayez 500 restaurants participants, c’est une tout autre histoire pour les 15 restaurants participants les plus proches de chez eux.

« Nous avons tiré des leçons des 15 ou 20 sociétés qui se sont lancées avant nous, a déclaré M. Reddy. Nous avons analysé les motifs de leur échec. »

Grâce à une approche quartier par quartier, Ritual a su créé un produit attrayant pour un quartier avant de passer au prochain. Pour les entreprises, Ritual offre une merveilleuse vitrine pour attirer de nouveaux clients et l’accès à des données sur leur clientèle qu’ils n’avaient pas dans le monde analogique.

« Une fois que vous fournissez des données à des gens, ils ont peine à imaginer comment ils pouvaient s’en passer pour gérer leur entreprise », indique M. Reddy.

Lorsque l’entreprise prend de l’expansion, elle doit relever le défi de faire concorder le monde numérique avec le monde physique.

Les petites entreprises font leur entrée sur un marché numérique où les attentes sont élevées. Les clients sont habitués à ce qui se fait de mieux, selon un récent rapport de McKinsey. Ils s’attendent à une expérience client harmonieuse, sans surprise ni retard. Les entreprises ne doivent pas se contenter d’automatiser un processus existant : elles doivent carrément réinventer tout le processus pour offrir une valeur supérieure et réduire le nombre d’étapes requises.

Si un client Ritual arrive à l’aire de restauration et qu’il ne trouve pas sa commande ou qu’elle n’est pas prête, c’est un problème et ça arrive. Les restaurants et les aires de restauration n’ont pas été conçus pour l’utilisateur numérique. M. Reddy les aidera à se réorganiser pour entrer dans une nouvelle ère.

Cela peut vouloir dire de déplacer le guichet de ramassage des commandes à l’avant et au centre, d’ajouter des tablettes pour y disposer les commandes prêtes et de modifier le rôle du personnel pour que les caissiers deviennent des « concierges » dont le rôle est d’aider les clients à trouver leur commande.

L’expansion du mode de commande numérique a une incidence intéressante sur le monde physique. Si 60 % à 70 % des clients découvrent un restaurant grâce à une appli, nul besoin qu’il soit situé sur une artère animée. Il peut déménager là où le loyer est plus abordable. On assiste à une hausse du nombre de commerces de restauration situés en dehors des zones névralgiques des villes et qui sont principalement axés sur la livraison.

La numérisation des villes ne fait que commencer et les enjeux sont grands. Les entreprises numériquement avancées sont plus susceptibles (62 %) d’enregistrer une croissance élevée des ventes, selon un rapport de la BDC sur les petites et les moyennes entreprises.

En 2019, lorsque votre resto de quartier est en concurrence avec Silicon Valley, c’est tout un changement.

C’est une question qui revient des milliers de fois par semaine, selon Al Lindsay, vice-président, logiciel Alexa, d’Amazon

Sur 80 000 fonctions, qui ne cessent d’augmenter, le mariage est peut-être la seule chose qu’Alexa ne peut pas faire.

Cette année, le secteur des haut-parleurs intelligents connaîtra une croissance estimative de 7 milliards de dollars ; la demande pourrait bien dépasser celle des téléphones intelligents.

M. Lindsay, l’un des pionniers de la technologie vocale au Canada, a participé à notre séance mensuelle Les innovateurs RBC, sur l’innovation et la technologie, où il nous a donné un aperçu du monde de la technologie vocale.

Voici 5 faits intéressants sur l’avenir de la technologie vocale.

1. La technologie vocale diminue l’attrait des téléphones intelligents

Beaucoup de gens se demandent pourquoi ils auraient besoin de la technologie vocale puisqu’ils peuvent tout faire avec leur téléphone intelligent. Pour écouter de la musique, comme le souligne M. Lindsay. Il suffit de dire que vous voulez écouter des chansons de Sting pour que deux secondes après la voix de Sting sorte du haut-parleur. Plus besoin de faire glisser votre doigt sur l’écran pour naviguer dans les applis et d’attendre. Auparavant considérés comme le summum de la commodité, les téléphones intelligents sont maintenant surpassés par la technologie vocale, qui ne vous oblige plus à prendre votre téléphone et à être encore plus distrait. La technologie vocale nous permet d’être de nouveau des êtres humains.

2. Une question de personnalité

À l’origine, M. Lindsay et son équipe voulaient créer un assistant intelligent et pratique, des caractéristiques de vente qui leur semblaient évidentes. Mais les clients considèrent Alexa comme un personnage. « Nous avons découvert qu’une touche d’humour et de légèreté serait aussi la bienvenue », a souligné M. Lindsay. L’entreprise a donc commencé à ajouter des réponses rigolotes, réalisant que plus l’interaction avec l’assistant vocal est naturelle, plus il sera facile pour les gens de l’utiliser.

3. La technologie vocale a une incidence sur tous les secteurs d’activité

Lorsqu’on lui demande quels sont les secteurs d’activité touchés par la technologie vocale, M. Lindsay répond sans hésiter : « Tous les secteurs ». Il prévoit des changements importants tant dans le secteur des soins de santé que dans celui des services hôteliers. Pour les patients hospitalisés, des haut-parleurs intelligents pourraient exécuter des demandes simples, comme l’ouverture du téléviseur ou le réglage du lit, ce qui économiserait temps et travail. Au restaurant, les clients pourraient commander un verre par commande vocale et porter l’addition à leur carte Visa, ou à la table voisine, blague-t-il.

4. Chaque entreprise a besoin d’une stratégie en matière de technologie vocale

Alors que nous nous dirigeons vers un monde d’« interface ambiante », tant les petites que les grandes entreprises auront besoin d’une stratégie en matière de technologie vocale. Tout comme elles doivent décider des couleurs et des slogans liés à leur marque, les entreprises devront se trouver une voix à leur image. Jeune et enjouée ? Plutôt sérieuse ? Le son ajoute une nouvelle dimension puissante à l’identité de la marque. Elle ouvre la voie à de nouvelles possibilités. Nul besoin d’avoir une équipe dédiée à la voix de votre entreprise pour vous doter d’une interface vocale. Vous pouvez remplacer toute interface informatique par une interface vocale ou ajouter de la voix comme complément.

5. La voix est un important facteur d’égalisation

Avant l’arrivée de l’interface vocale, chaque interface avait sa courbe d’apprentissage ; il faut du temps pour apprendre à taper sur un clavier ou à naviguer dans une appli. M. Lindsay souligne que c’est différent pour la technologie vocale. Si nous pouvons offrir une expérience de conversation naturelle, la technologie sera accessible à tous ceux ayant des capacités langagières.

 

Ayant été entrepreneur toute sa vie, M. Scudamore connaît les exigences de la réussite en affaires – et comprend l’importance de l’échec pour apprendre à bien faire les choses.

Aujourd’hui, 1-800-GOT-JUNK génère annuellement 370 millions de dollars et compte quelque 250 franchises à l’échelle mondiale.

« Nous ne serions pas où nous sommes si nous n’avions pas connu des échecs, a dit M. Scudamore. Nous n’aurions jamais pu atteindre le niveau où nous sommes aujourd’hui si nous n’étions pas restés assez courageux pour faire des erreurs et en tirer ensuite les leçons. »

Une erreur à ses débuts ? « J’ai réalisé que j’étais un très mauvais leader. »

Lors de notre séance mensuelle de la série Les innovateurs RBC, qui traite d’innovation et de technologie, M. Scudamore a parlé de son « ouverture à l’échec » et des leçons de leadership qu’il a apprises dans sa carrière.

Voici quelques-uns des conseils qu’il a donnés :

1.Posez des questions

Lorsque M. Scudamore a voulu établir un réseau de franchises, il a d’abord consulté douze personnes. Chacune de celles-ci lui a déconseillé de prendre cette voie, déclarant que la collecte d’objets dont les gens ne veulent plus ne se prêtait pas au franchisage. M. Scudamore a posé des questions, repensé son projet, puis modifié légèrement le concept afin qu’il soit viable à l’échelle nationale. Un entrepreneur doit avoir l’audace de se lever et de poser des questions.

2.Présentez un tableau clair

Concentrez-vous sur l’avenir que vous entrevoyez, prenez des notes à ce sujet et discutez-en avec tous vos collaborateurs. Lorsque M. Scudamore a décidé de donner plus d’ampleur à 1-800-GOT-JUNK, il a dit à son équipe que son objectif était d’être présent dans les 30 plus grandes régions métropolitaines. Les sceptiques sont partis. Les membres de l’entreprise qui sont restés comprenaient l’objectif, y croyaient – et ont contribué à rendre sa réalisation possible.

3.Prenez des décisions difficiles

M. Scudamore dit que la chose la plus difficile qu’il ait jamais eu à faire a été de congédier son meilleur ami, qui était chef de l’exploitation. Ensemble, ils avaient pris des décisions imprudentes et avaient presque mené l’entreprise à la faillite. « La bonne décision est généralement difficile à prendre. »

4.Mêlez-vous à vos collaborateurs

M. Scudamore n’a pas toujours su comment jouer le rôle de mentor. « Je me cachais dans mon bureau, j’évitais de passer du temps avec les membres de mon équipe, a-t-il dit. J’avais peur d’eux, j’avais peur des conflits. » Il a appris à s’exposer au regard des autres, et il a réalisé qu’être un leader, ce n’est pas seulement faire croître une entreprise – c’est aussi aider d’autres personnes dans leur développement.

5.Embauchez des gens avec qui vous aimeriez prendre une bière

« C’est en échouant que j’ai appris à créer une équipe et une culture », a-t-il dit. Cinq ans après avoir lancé son entreprise, il avait onze employés, dont neuf étaient des « pommes pourries ». Le climat de travail est devenu toxique. Il a réuni ses employés, leur a présenté ses excuses, et a congédié tout le monde. Il a reconstruit son entreprise en trouvant les bonnes personnes, en embauchant des gens dont il avait le goût de se faire des amis, des gens qui partageaient sa passion pour la croissance et qui sauraient bien représenter l’entreprise.

6.N’essayez pas de tout faire

M. Scudamore avait affiché un objectif utopique sur le tableau de vision de l’entreprise : Être invités à l’émission d’Oprah Winfrey. Sans lui dire, un jeune employé a relevé le défi, communiquant avec les responsables de l’émission et gérant la relation avec eux jusqu’à ce que l’appel arrive : 1-800-GOT-JUNK serait accueillie à l’émission. « Je n’ai joué aucun rôle dans l’obtention de cette invitation, a dit M. Scudamore. Tyler a pris les choses en main, déployant tous les efforts nécessaires pour que cela se concrétise. »

En tant qu’entrepreneur, on ne fait pas toujours les bons choix, mais on ne peut pas se taper sur la tête quand les choses dérapent, a expliqué M. Scudamore. Respirez, et demandez-vous quelle conséquence positive pourrait ressortir d’une situation qui vous semble lourde de difficultés. Souvent, vous vous rendrez compte que la liste est plus longue que vous ne l’auriez cru.

« L’échec devrait être votre ami, a dit M. Scudamore. Chacune des erreurs que nous avons faites était nécessaire pour nous permettre de passer au niveau suivant. »