Notre groupe de leadership avisé examine les incidences sociétales et éthiques de l’intelligence artificielle. Dans le cadre de cette série d’entrevues, John Stackhouse discute avec Foteini Agrafioti, scientifique en chef de RBC et chef de Borealis AI, l’Institut de recherche en intelligence artificielle de RBC. Leur conversation a été éditée afin de la raccourcir et d’en clarifier le contenu.

John : Pouvez-vous nous donner un exemple de secteur dans lequel vous avez constaté l’existence de préjugés en IA ?

Foteini : L’un des exemples les plus intéressants à mes yeux concerne les préjugés liés au sexe dans le moteur de traduction de Google. Je ne l’aurais pas remarqué immédiatement auparavant, ce qui montre à quel point notre compréhension en la matière a évolué. Je fais allusion ici à la façon dont nous traduisions précédemment les textes d’une langue à une autre en établissant une correspondance mot à mot, disons de l’anglais vers le français.

Lorsque l’apprentissage machine s’est répandu, nous avons toutefois changé notre approche. Nous avons chargé plusieurs longs textes en anglais et en français dans des réseaux profonds, puis avons essentiellement commandé aux machines d’apprendre de quelle façon les deux langues correspondent. L’efficacité de la traduction a alors fait un bond spectaculaire, au-delà de ce à quoi la communauté scientifique s’attendait.

Par contre, nous n’avions pas anticipé que les documents intégraient des préjugés quant à la représentation des sexes. Nous n’avions pas prévu non plus que les machines apprendraient et perpétueraient ces préjugés. Pour donner un exemple type de ce phénomène, imaginez que vous demandez à la machine de traduire de l’anglais vers le français un texte dans lequel il est question d’une femme médecin et d’un homme qui travaille comme infirmier. La machine confondra les sexes, car elle a appris que les médecins sont majoritairement des hommes et que le personnel infirmier compte une majorité de femmes.

John : En tant que scientifique, comment abordez-vous cette situation ?

C’est un problème complexe. Si on analyse le problème, on constate que les préjugés existent déjà dans les données. Ils sont intégrés aux données réelles recueillies par de vraies personnes sur de véritables individus. Dans plusieurs cas, ces préjugés rendent tout simplement compte de notre vie courante et de toutes les structures sociales qui existent pour préserver l’intégrité de nos sociétés, pour le meilleur et, malheureusement, pour le pire. Ils ne résultent pas nécessairement de l’action d’intervenants mal intentionnés qui tirent les ficelles. Les gens de Google qui ont conçu le système de traduction sont de bons êtres humains. Ce phénomène n’est pas le fruit d’une action délibérée de leur part. Il résulte simplement des préjugés intégrés à la plus précieuse ressource dont nous disposons.

La première étape consiste donc à être sensibilisé à ce risque préexistant. Nous ne devons pas tenir pour acquis que les données constituent une entité objective, et je crois que les entreprises commencent à admettre que c’est bien le cas. Nous devons reconnaître que l’IA est une technologie qui nous permet de transformer nos activités, mais nous expose aussi à une toute nouvelle catégorie de risques. Nous sommes en mesure d’anticiper certains de ces risques, mais devons garder à l’esprit que plusieurs d’entre eux peuvent nous prendre par surprise. En d’autres mots, disons que nous ne savons pas ce que nous ignorons, du moins pour l’instant. Jusqu’à ce que nous soyons mieux informés en la matière, il est donc essentiel que nous disposions d’un plan de rechange concernant la façon dont nous allons anticiper et atténuer ces risques.

John : La biométrie constitue l’un des domaines émergents en ce qui a trait aux préjugés. Que devons-nous comprendre concernant les risques de préjugés en matière de biométrie ?

Foteini : Depuis toujours, la sécurité biométrique est un domaine très sensible. Par définition, les données biométriques comportent des éléments qui permettent d’identifier des individus et qui sont extrêmement sensibles si leur confidentialité est compromise.

L’IA a apporté à ce domaine un niveau d’exactitude sans précédent dans l’authentification des humains selon des paramètres biométriques. La reconnaissance faciale en est un exemple. Dans le mode classique de fonctionnement des systèmes d’identification biométrique, la reconnaissance faciale ne pouvait produire des résultats positifs de façon uniforme que si l’expression faciale du sujet était toujours la même. Pour assurer l’uniformité des données, le sujet ne devait pas se faire pousser une barbe ni se maquiller.

Maintenant, avec l’apprentissage profond, toute cette vulnérabilité est tolérable. Même si vous vous faites pousser la barbe ou changez votre coupe de cheveux, les systèmes peuvent tout de même vous reconnaître.

En plus du caractère sensible des données, nous devons aussi nous soucier des préjugés. Les systèmes de données sont affectés par une sous-représentation systémique de ce qu’on appelle les groupes ethniques. La technologie de reconnaissance est très puissante, mais des incohérences dans le nombre de couleurs de peau rendent les algorithmes inefficaces pour certaines personnes ou font en sorte qu’ils choisissent systématiquement des origines ethniques particulières.

John : Un peu plus tôt au cours du mois, San Francisco est devenue la première grande ville à interdire l’utilisation de la technologie de reconnaissance faciale par des agences gouvernementales municipales. Que pensez-vous de cette décision de la part de l’une des villes les plus technologiquement évoluées au monde ?

Foteini : En ce qui concerne la décision de la ville de San Francisco, ce type de dilemmes éthiques est un exemple des éléments qui doivent alimenter nos réflexions, tant dans les secteurs public que privé.

En ce qui me concerne, il s’agit d’une décision louable et audacieuse, qui reconnaît que la technologie présente des risques et qu’on doit éviter de se lancer tête baissée dans son exploitation sans réfléchir aux abus potentiels qu’elle pourrait engendrer. Les autorités ont clairement opté pour la sécurité du public avant toute autre considération, malgré les nombreuses applications utiles de cette technologie. La Ville a décidé de prendre du recul et d’établir une limite à ne pas franchir. C’est vraiment une décision d’une portée monumentale.

John : Par contre, si l’utilisation de mesures de contrôle plus restrictives se généralise, que devrons-nous accepter de laisser tomber en tant que citoyens et consommateurs ?

Foteini : Les systèmes biométriques offrent généralement des avantages en matière de sûreté et de simplicité d’utilisation.

Un cas très intéressant d’application de ces technologies s’est présenté il y a quelques années en Ontario, où les exploitants de casinos ont mis en œuvre des systèmes de reconnaissance faciale pour repérer systématiquement les personnes présentant des problèmes de jeu et leur interdire l’accès aux établissements. Les individus concernés devaient s’inscrire volontairement sur une liste d’exclusion, autorisant du même coup le personnel de sécurité des casinos de l’Ontario de leur interdire l’accès s’ils se présentaient dans l’un de ces établissements. Graduellement, cette liste est devenue extrêmement volumineuse. Les agents de sécurité ne parvenaient pas à mémoriser les visages de toutes les personnes à refouler. La technologie de reconnaissance faciale a alors été déployée comme outil potentiel pour reconnaître les personnes ciblées et les empêcher d’accéder aux casinos. Cette décision a soulevé à l’époque un enjeu très important en matière de protection des renseignements personnels, et je pense que le commissaire à la protection de la vie privée a fait un travail remarquable pour déterminer comment assurer le respect de la confidentialité dans ce contexte.

John : Quels sont les risques que d’autres pays, plus particulièrement la Chine, progressent beaucoup plus rapidement sur le plan scientifique, parce qu’ils ne sont pas soumis aux mêmes types de restrictions en matière de droits individuels ou n’entretiennent pas de préoccupations à ce sujet ?

Foteini : Eh bien, je veux croire qu’ils se soucient de ces questions. Je constate aussi qu’à l’échelle mondiale, la communauté scientifique exerce des pressions pour orienter généralement la conception, le déploiement et l’adoption de ces systèmes. Mais si ce n’est pas le cas et qu’on se permet de faire ce qu’on veut, on dispose de bien plus qu’une simple avance. On gagne une très grande longueur d’avance.

Que penser de la possibilité d’accéder aux données, de mettre des systèmes à l’essai, de les déployer dans ces contextes réels, d’obtenir de la rétroaction et d’isoler des systèmes, sans aucune contrainte ni considération pour les conséquences néfastes potentielles ? Si je disposais de telles conditions, avec la possibilité de déployer un système de surveillance et d’en tirer des données et des conclusions, je pourrais acquérir beaucoup plus de connaissances sur les méthodes permettant de mettre au point de meilleurs systèmes de surveillance.

John : Cela me suggère une analogie concernant des athlètes qui doivent se mesurer à des concurrents issus de pays où l’on encourage l’usage de stéroïdes. Je ne sais pas si cette comparaison est adéquate. Cependant, en tant que scientifique, avez-vous l’impression de perdre du terrain comparativement à vos collègues chinois ?

Foteini : Je tente généralement de voir le côté positif des choses.

L’une des grandes réalisations de la communauté universitaire, particulièrement dans les domaines de l’apprentissage machine et de l’informatique, a été la mise sur pied d’exigences obligeant la réalisation de tests et d’essais pour étalonner et éprouver tout nouveau système d’apprentissage machine de pointe à l’aide d’un jeu de données public. Nous appliquons donc tous la même norme. De plus, les scientifiques sont tenus de rendre des comptes à ce sujet.

John : Selon vous, la communauté de l’IA pourra-t-elle relever les défis soulevés par la collecte des données, auxquels vous avez fait allusion, et par le codage initial des algorithmes, afin d’en éliminer les préjugés dans une mesure raisonnable ?

Foteini : Honnêtement, c’est difficile. Je ne tiens pas à être pessimiste, mais c’est un problème très difficile à résoudre.

En outre, dans plusieurs cas, il n’est pas judicieux d’y chercher des solutions. Certains préjugés ont des conséquences positives.

John : Donnez-nous un exemple.

Foteini : Examinons par exemple les décisions que nous prenons lorsque nous conduisons un véhicule. Je sais qu’on discute constamment de véhicules autonomes responsables. Par contre, ce sont parfois les préjugés humains qui nous évitent des accidents, comme dans le cas d’un conducteur qui a tendance à rouler sous la limite de vitesse quand le pavé est mouillé ou pour négocier un virage.

Dans le secteur des valeurs mobilières, on peut aussi imaginer un système qui effectue des transactions de façon uniforme ou, à l’inverse, un système fondé sur l’intuition particulière d’un spéculateur extrême. C’est un domaine dans lequel un préjugé peut être utile.

John : Cette approche en matière de préjugés offre-t-elle un avantage concurrentiel à RBC de même qu’au Canada ?

Foteini : Ce qui est merveilleux, au Canada, c’est que la plupart des données dont nous disposons sont intrinsèquement très diversifiées. Par exemple, si vous construisez la prochaine génération de systèmes diagnostiques fondés sur la technologie IRM et que vous utilisez des données recueillies au Canada, il est fort probable que les différents groupes ethniques y soient très bien représentés. C’est notre avantage local.

L’autre aspect qui nous distingue et fait partie des valeurs canadiennes est notre respect et notre tolérance mutuels. Je crois aussi que nous appliquons une optique très critique à l’égard des technologies issues de l’IA et de leurs effets potentiels sur notre société. Je pense que nous avons un degré de tolérance moins élevé à l’égard des risques inhérents à leur intégration dans nos vies. Nous sommes critiques à leur égard, et c’est une excellente attitude. Ce type de pressions est parfois nécessaire pour inciter la communauté scientifique de même que les entreprises à prendre la bonne orientation lors du développement de nouvelles technologies.

John : C’est très intéressant, Foteini. Merci.

Foteini : Très bien, merci.

 

Notre groupe de leadership avisé examine les incidences sociétales et éthiques de l’intelligence artificielle. Dans le cadre de cette série d’entrevues, John Stackhouse interroge Elissa Strome, directrice de la Stratégie pancanadienne en matière d’intelligence artificielle à l’Institut canadien de recherches avancées (ICRA) sur la différence que pourrait faire la diversité. Leur conversation a été éditée afin de la raccourcir et d’en clarifier le contenu.

John : L’IA remodèle la société à plusieurs égards, pour le meilleur et pour le pire. Qu’est-ce qui vous préoccupe le plus dans ce contexte ?

Elissa : À l’heure actuelle, ce qui me préoccupe le plus c’est le manque d’équité, de diversité et d’inclusion en IA, dans la forme qu’elle prend actuellement au gré de son développement dans le monde.

Dans son Rapport mondial sur les talents en IA, Element AI a évalué les paramètres démographiques des chercheurs en IA à l’échelle mondiale ainsi que la qualité et l’ampleur de la recherche en IA qui s’effectue dans différents pays.

On compte essentiellement cinq pays dans le monde qui font progresser les connaissances en intelligence artificielle et leurs applications.

John : Quels sont ces pays ?

Elissa : Il s’agit du Canada, des États-Unis, du Royaume-Uni, de la Chine et de l’Australie. Ce sont les cinq pays qui sont les plus avancés dans le développement de l’IA. Cette discipline est donc fortement influencée par l’Amérique du Nord et l’Europe de l’Ouest.

La Chine est un très important chef de file en IA, mais une grande partie des pays du monde ne sont pas mobilisés en faveur du développement et de la progression de ce secteur. Si nous croyons vraiment que ces technologies exerceront une influence positive sur la société à l’échelle mondiale, l’ensemble de la société doit être activement mobilisée dans ce projet.

L’équilibre homme-femme est l’autre aspect du développement de l’IA qui présente un véritable problème sur le plan de l’équité, de la diversité et de l’inclusion. Lorsqu’on examine le nombre de chercheurs qui ont présenté des communications lors des principales conférences sur l’IA, on constate que seulement 18 % d’entre eux sont des femmes.

John : Savez-vous quelle est cette proportion au Canada ?

Elissa : Elle est probablement égale à cette valeur ou peut-être légèrement supérieure. À l’heure actuelle, 20 % des titulaires du programme de chaires en IA ICRA-Canada sont des femmes. L’ICRA travaille de concert avec des partenaires à l’échelle du pays dans l’exécution d’un grand nombre de programmes de formation et d’occasions d’apprentissage distincts ciblant les jeunes femmes. Il s’agit de l’une des façons par lesquelles nous tentons de combler l’écart entre les sexes au Canada.

Par exemple, nous collaborons avec les responsables du programme Invent the Future de l’Université Simon Fraser, qui met l’accent sur la mobilisation des filles de niveau secondaire en les exposant à l’IA dans le cadre d’un camp d’été de deux semaines. Ce stage leur explique en quoi consiste l’IA et leur présente les occasions d’avenir que l’IA leur offre sur les plans personnel et professionnel.

Nous avons annoncé récemment un nouveau partenariat avec la Fondation OSMO à Montréal dans le but de faire progresser le Laboratoire d’été AI for Good. Ce programme a été mis sur pied par Doina Precup, titulaire de l’une des chaires en IA CIFAR-Canada. Ce stage de sept semaines est destiné aux femmes qui mènent des études universitaires de premier cycle. Les femmes qui s’y inscrivent profitent d’occasions de formation et de réseautage qui constitueront la base de leur future carrière.

John : Comment avons-nous pu en arriver au point où quatre scientifiques sur cinq en IA sont des hommes ?

Elissa : Il s’agit d’un problème historique. Au début des années 1990, la proportion d’étudiantes dans les facultés d’informatique des universités se situait aux alentours de
30%. Dans certains cas, les taux d’inscription de femmes en informatique dans les années 1990 étaient supérieurs à ce qu’on observe de nos jours.

Je pense que plusieurs raisons expliquent pourquoi les femmes sont maintenant moins intéressées, moins encouragées ou moins encadrées par des mentors qu’à l’époque. À mesure que le nombre de femmes qui étaient des chefs de file dans ce secteur a décliné, de moins en moins de femmes se sont inscrites à ces programmes de formation.

Je crois qu’il s’agit en quelque sorte d’un phénomène culturel au sein de la communauté informatique. Les chercheurs sont faussement associés à l’image de « bollés » passionnés par le codage. Nous avons beaucoup de pain sur la planche.

John : S’ils ne sont pas des « bollés » maniaques du codage, à quoi ressemblent les chercheurs en IA canadiens ?

Elissa : Aujourd’hui, un chercheur en IA peut ressembler à n’importe qui dans presque n’importe quelle discipline. C’est ce qui est merveilleux avec l’intelligence artificielle. L’IA applique une approche mathématique et informatique à la compréhension et à l’exploitation des données. Par conséquent, chaque discipline scientifique et chaque secteur de recherche peut tirer parti de l’IA, ce qui nous ramène à mon argument sur la nécessité d’accroître la diversité.

Nous devons encourager des étudiants d’autres disciplines à s’intéresser à l’IA et à acquérir une expertise dans ce domaine. Il ne s’agit pas nécessairement de les inciter à écrire du code, mais à réfléchir aux façons dont l’apprentissage machine peut être appliqué à différentes questions touchant les affaires, le droit, les sciences humaines, la biologie, le génie ou la physique.

John : Pouvez-vous nous aider à comprendre en quoi ces questions sont importantes ? Quand je pense « intelligence artificielle », je pense à Netflix qui me recommande du contenu. En quoi l’identité de ceux qui ont écrit le code importe-t-elle ?

Elissa : Elle est importante, parce que ces algorithmes, approches et systèmes de recommandation commencent déjà à être appliqués à plusieurs aspects de nos vies, et que cette tendance se poursuivra.

Lorsqu’on présente une demande de prêt hypothécaire dans une banque, fait une demande de police d’assurance ou postule pour un emploi, ces systèmes sont déjà mis à contribution, sans que l’individu moyen ne le sache ou ne soit informé des enjeux soulevés par leur utilisation.

Les systèmes de recommandation sont conçus par des personnes qui possèdent une perspective très particulière de la vie et du monde. Ces développeurs sont issus d’un sous-ensemble très particulier de la population et leur perspective est implicitement intégrée à ces systèmes.

L’autre facteur sous-jacent très important a trait aux sources utilisées pour constituer les jeux de données. Si les jeux de données exploités pour mettre au point des systèmes de recommandation proviennent d’échantillons qui présentent eux-mêmes des préjugés ; qu’ils soient liés au sexe, à la race, aux handicaps ou à n’importe quel groupe sous-représenté, ces préjugés sont amplifiés.

Le problème ne tient pas seulement au manque de diversité des perspectives des gens qui développent ces systèmes, mais aussi à la représentativité des jeux de données.

John : On assiste à une explosion des préoccupations liées à l’IA responsable, notamment ici même au Canada. Ce domaine scientifique a-t-il pris une mauvaise direction à ses débuts, ou les préoccupations relatives à l’IA responsable sont-elles simplement le résultat de l’évolution de la discipline ?

Elissa : Je ne dirais pas que cette science s’est engagée dans une mauvaise direction.

Je dirais par contre que l’évolution de la technologie et des connaissances scientifiques liées à l’IA et que l’adoption de ces technologies se sont déroulées très rapidement. En plus, comme ces éléments ont continué de progresser en parallèle, il a fallu du temps pour que le volet politique se mette au diapason du développement des technologies.

À l’étape actuelle de la croissance et de l’adoption de l’IA, nous devons, en tant que société, examiner rigoureusement ces technologies et nous interroger sur l’effet des préjugés. Il est absolument essentiel que nous investissions beaucoup d’efforts et de ressources dans la recherche sur les incidences sociétales de l’IA.

À l’ICRA, cet aspect constitue le quatrième pilier de la Stratégie pancanadienne en matière d’intelligence artificielle, qui vise à faire progresser le leadership, la recherche et les connaissances sur les dimensions sociétales de l’IA, c’est-à-dire les questions sociales, juridiques, éthiques et économiques entourant l’IA.

John : En 2018, on a publié la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Est-ce suffisant ?

Elissa : C’est un excellent début et c’est absolument merveilleux de constater que des Canadiens ouvrent la voie vers la mobilisation du public dans la discussion sur ces enjeux.

Il s’agit d’un des rares exemples à l’échelle mondiale où le niveau d’engagement du public était aussi profond que celui des chercheurs de plusieurs disciplines, non seulement des experts informaticiens, mais aussi dans les domaines des sciences sociales et humaines. Mais ce n’est pas suffisant.

John : Qui devrait exiger que la science rende des comptes ?

Elissa : Je crois plutôt qu’il s’agit de responsabiliser la société. Les gouvernements ont un rôle incroyablement important à jouer dans l’adoption de politiques et de réglementations intérieures robustes pour encadrer l’adoption et l’utilisation de l’IA. Ils doivent aussi faire leur part en matière de coopération, de relations et de politiques internationales dans ce domaine ; là aussi, le Canada est un chef de file du secteur.

En juin dernier, le premier ministre Trudeau et le président Macron ont annoncé une initiative conjointe franco-canadienne pour mettre sur pied un groupe d’experts international sur l’IA, et le premier symposium international en IA se tiendra à Paris cet automne.

Ces travaux mobiliseront les pays du G7, dans le cadre des activités de coopération du regroupement, mais constitueront un projet de coopération internationale visant à surveiller, à observer et à comprendre les meilleures pratiques relatives aux enjeux sociétaux soulevés par l’IA.

Le monde s’attend actuellement à ce que le Canada agisse à titre de leader en la matière, et c’est justement ce que nous faisons sur le terrain.

John : Croyez-vous que les gouvernements parviendront à cerner complètement ces problèmes ?

Elissa : Je suis convaincue qu’ils sont motivés par de bonnes intentions et je crois qu’ils comprennent à la fois les risques et les possibilités. En matière d’action gouvernementale, le défi réside dans la courte durée des mandats des politiciens.

Il s’agit d’un enjeu qui dépasse les limites partisanes. Cet enjeu touche tous les Canadiens, quelle que soit leur allégeance politique. Il nous touche tous, dans le monde entier. Il s’agit donc d’une question sur laquelle les gouvernements doivent exercer un leadership, sans égard à leurs penchants idéologiques.

John : Quel rôle le Canada peut-il jouer ?

Elissa : Le Canada occupe une place privilégiée dans l’arène internationale pour faire progresser le développement, l’adoption et l’utilisation responsables de l’IA.

Une grande partie de cette autorité nous vient du rôle de pionnier que le Canada joue depuis longtemps dans le développement des connaissances scientifiques et dans la recherche en IA, et de sa feuille de route à titre de chef de file en recherche. Nous avons aussi une excellente réputation sur la scène internationale en matière d’avancement des questions humanitaires liées à la justice, aux droits sociaux et aux libertés. Nous sommes respectés à l’échelle internationale, tant sur le plan scientifique que pour nos valeurs démocratiques.

Le monde s’attend actuellement à ce que le Canada agisse à titre de leader en la matière, et c’est ce qui inspire nos actions à l’échelle internationale.

De la route que nous empruntons pour revenir à la maison à l’endroit que nous choisissons pour aller dîner, nous avons tous nos préférences inhérentes qui nous prédisposent à prendre des décisions particulières.

Même si nous avons l’impression que nos choix sont rationnels, nous savons que ce n’est pas toujours le cas. Dans certains cas, nous ne sommes même pas en mesure d’expliquer pourquoi nous préférons une option à une autre.

Si ce comportement est acceptable quand vient le temps de choisir entre un Coke et un Pepsi, la situation est autrement différente lorsque nous demandons à un système d’intelligence artificielle (IA) de poser des jugements et de faire des prédictions qui portent à conséquence pour les humains.

Comme les biais persistent dans tous les domaines de la société, il n’est pas surprenant qu’on en trouve aussi en IA.

Il y a plus de 50 ans, l’informaticien Melvin Conway a constaté que la structure interne des organisations exerce une forte influence sur les systèmes qu’elles mettent sur pied. Cette observation, aujourd’hui connue comme la « loi de Conway », se vérifie également pour l’IA. Les valeurs des personnes qui développent des systèmes ne sont pas seulement profondément enracinées : elles sont aussi concentrées.

Au Canada, l’expertise en IA se polarise essentiellement autour de trois villes : Edmonton, Toronto et Montréal. Chacune d’elles héberge un pionnier de l’IA vers lequel ont convergé les gens et les sources de financement.

Sur le plan économique, cette concentration a suscité une compétitivité accrue et agi comme un aimant attirant et retenant les meilleurs talents en IA.

Et c’est efficace! À l’Institut canadien de recherches avancées (CIFAR), plus de la moitié des titulaires de chaires de recherche ont été recrutés au Canada. Mais cette concentration soulève également des défis que le Canada et les autres centres mondiaux en IA tentent de relever.

Ces « tribus » de l’IA sont extrêmement homogènes, comme l’a constaté Amy Webb, futurologue et auteure. Les membres de ces regroupements ont fréquenté les mêmes universités, ils sont aisés et fortement scolarisés, et ce sont très largement des hommes.

Cette constatation a été confirmée par le plus récent rapport mondial sur l’écart entre les genres publié par le Forum économique mondial, qui révèle que seulement 22 % des professionnels de l’IA à l’échelle mondiale sont des femmes. Au Canada, cette proportion n’est guère meilleure, avec 24 % de femmes.

Ce déséquilibre des genres est encore plus marqué lorsqu’on examine la constitution des cohortes de chercheurs en IA. Selon une étude réalisée par Element AI, on compte en moyenne neuf hommes pour chaque femme dans le secteur de la recherche en IA.

Mais surtout, la nature même du développement de l’IA fait en sorte que les systèmes d’IA apprennent ce que les données leur donnent à voir et héritent des biais inconscients de leurs créateurs.

C’est ainsi que le déséquilibre entre hommes et femmes en IA trouve un écho dans les systèmes en cours de développement. Par exemple, un système de reconnaissance visuelle qui avait été entraîné à partir d’un ensemble de données associant la préparation des aliments 33 % plus souvent aux femmes qu’aux hommes a amplifié cette disparité pour la porter à 68 %.

Les « tribus » de l’IA ont également, de façon prépondérante, la peau blanche.

Dans un rapport publié en avril, l’AI Now Institute révèle que seulement 2,5 % de l’effectif de Google et 4 % de celui de Facebook et de Microsoft ont la peau noire, et que les données sur la présence de membres de la communauté LGBTQ en IA sont inexistantes – une situation que l’organisme qualifie de « catastrophe sur le plan de la diversité ».

En tant que membres d’une société multiculturelle, tous les Canadiens devraient se sentir interpellés par le manque de diversité en IA.

Que ce soit dans le calcul des primes d’assurance, le maintien de l’ordre, la prestation de soins de santé ou le traitement des demandes d’admission dans les écoles, pour ne citer que ces exemples, cet enjeu devient chaque jour plus pressant, à mesure que l’IA s’intègre à la trame de notre société.

Gartner prédit qu’au cours des prochaines années, 85 % des projets en IA produiront des résultats erronés en raison des biais qui affectent les données, les algorithmes et les équipes qui en assurent la gestion.

Nous ne pouvons pas nous offrir le luxe d’éviter les discussions inconfortables sur le sexisme, le racisme et nos autres biais inconscients, ou sur les voies par lesquelles ces biais s’immiscent en IA.

Supposons par exemple qu’une entreprise médicale souhaite mettre au point un système d’IA capable de déterminer le meilleur plan de traitement pour les patients. Pour ce faire, l’entreprise doit définir son objectif. S’agit-il de minimiser le coût des traitements? S’agit-il plutôt de maximiser les résultats thérapeutiques pour les patients?

Si le but est de minimiser les coûts, l’algorithme pourrait conclure qu’une façon efficace d’y parvenir consiste à recommander des traitements moins efficaces, sélectionnés en calculant le meilleur rapport « probabilité de succès/prix ».

Lorsque des entreprises fixent des objectifs à leurs systèmes d’IA, que ce soit pour des traitements médicaux personnalisés ou d’autres applications, ces décisions sont souvent fondées sur des impératifs commerciaux, et non pas sur des préoccupations liées à l’équité ou à la discrimination.

Des biais peuvent également s’introduire par les méthodes de collecte des données. Si les données recueillies ne sont pas représentatives ou sont influencées par des préjugés, il est possible d’introduire un biais racial alors même qu’on a pris
la précaution d’éviter l’origine raciale comme facteur d’entrée explicite.

Par exemple, une recherche menée par Centraide dans le Grand Toronto a constaté que les indicateurs d’inégalité et de race sont de plus en plus liés aux codes postaux dans la région de Toronto. Une organisation qui souhaiterait éviter l’identification raciale pourrait donc tout de même produire des résultats déficients si elle utilisait les codes postaux comme données d’entrée.

Un autre problème est que tous les résultats produits par les systèmes d’IA ne sont pas facilement explicables. Les entreprises veulent se doter de systèmes qui produisent les prédictions les plus exactes possible, mais ces modèles sont aussi les plus complexes et les plus difficiles à comprendre.

Même les ingénieurs qui ont conçu les systèmes qui nous suggèrent de la musique ou qui choisissent les publicités les plus susceptibles de nous plaire ne peuvent expliquer complètement comment leurs modèles produisent ces recommandations. Cette situation peut être tolérable lorsqu’elle concerne des listes de lecture recommandées par Spotify, mais à quel point serons-nous disposés à accepter des conseils médicaux d’un système fondé sur l’IA?

C’est le défi que les chercheurs qui ont mis au point le système Deep Patient ont tenté de relever. Ce système, entraîné à partir de données provenant de 700 000 patients, produisait de très bonnes prédictions sur les malades, y compris le cancer du foie de stade I. Cependant, les chercheurs étaient incapables d’expliquer comment le système en arrivait à ces conclusions.

En l’absence d’explicabilité, une équipe médicale accepterait-elle d’intervenir sur la foi de ces prédictions? Les praticiens seraient-ils disposés à changer des régimes de médication, à administrer des traitements de chimiothérapie ou à pratiquer des interventions chirurgicales?

L’enjeu central n’est pas l’IA, mais la façon dont nous construisons les systèmes d’IA.

Nous devons reconnaître la présence des grands enjeux sociaux dans les données humaines recueillies et les éliminer avant qu’ils ne soient intégrés au code des systèmes. À l’heure actuelle, la présence des biais est souvent abordée après coup, comme un problème qui doit être résolu à la fin du cycle de développement.

Au contraire, il faudrait intégrer des experts des questions sociales à toutes les étapes du cycle de développement pour qu’ils collaborent étroitement au travail des experts responsables du codage.

Nous devons traiter les systèmes d’IA comme de nouveaux produits pharmaceutiques : leur faire subir des essais rigoureux pour comprendre leurs effets néfastes potentiels et repérer tout biais qui pourrait en affecter les résultats, avant que ces systèmes ne soient mis en application.

De plus, l’évaluation des systèmes devrait se poursuivre après leur lancement. Les systèmes d’IA doivent être surveillés en continu et réévalués à intervalles réguliers tout au long de leur cycle de vie. Une étude sur la demie-vie des données médicales montre que la vie des données cliniques est très courte et que leur utilité décline très rapidement. Après à peine quatre mois, un système d’IA pourrait prendre des décisions fondées sur des données périmées, entraînant des conséquences graves pour la population.

Mais quelle que soit la peur qu’inspirent l’IA et son impact sur l’avenir de l’humanité, toute solution possible pour atténuer les biais et améliorer les systèmes d’IA exige une intervention humaine.

Les « systèmes avec intervention humaine » – une expression technique désignant des systèmes qui ne sont pas entièrement autonomes – sont fondés sur une relation symbiotique entre les humains et l’IA. Ces systèmes sont mis en œuvre dans des contextes où le niveau de confiance est faible et les conséquences des erreurs sont graves, par exemple en santé.

Chaque fois que le niveau de certitude d’une décision est faible, le système demande l’assistance d’un intervenant humain. Cet aspect est essentiel dans le secteur des soins de santé, où des praticiens doivent interagir avec les résultats du système. Leur participation accroît l’explicabilité des résultats et le niveau de confiance associé à leur exploitation pour des gestes thérapeutiques.

Chose certaine, des humains doivent se trouver au cœur du développement de l’IA.

Publiée en décembre 2018, la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle expose un cadre éthique qui recommande l’élaboration de lignes directrices en matière d’IA afin de veiller à ce que son développement « soit conforme à nos valeurs humaines et porteur d’un véritable progrès social ». Cette déclaration a été signée par 45 organismes et 1 394 citoyens.

Plus tôt cette année, le Conseil de l’Europe a adopté sa propre déclaration sur l’intelligence artificielle, qui presse les États d’assurer « l’égalité et la dignité de tous les êtres humains en tant qu’agents moraux indépendants » dans un monde qui s’appuie sur l’IA.

Aux États-Unis, des législateurs ont proposé l’Algorithmic Accountability Act (loi sur la responsabilité en matière d’algorithmes), qui exige que certaines entreprises – celles dont les revenus annuels excèdent 50 millions de dollars et qui détiennent de l’information sur au moins 1 million d’individus ou d’appareils, ainsi que celles qui agissent principalement à titre d’intermédiaires pour l’achat et la vente de données sur les consommateurs – procèdent à des audits de leurs systèmes pour y détecter les biais.

Mais qui exigera des signataires de ces déclarations qu’ils rendent des comptes? Ce rôle sera-t-il assumé par les gouvernements, qui supervisent l’utilisation de l’IA au sein des organismes gouvernementaux? Qu’adviendra-t-il si des gouvernements divergent d’opinion quant au mode de déploiement de l’IA?

Il existe deux principaux courants à l’échelle mondiale en matière d’utilisation de l’IA. Le premier, principalement soutenu par les entreprises de la Silicon Valley, met l’accent sur le consumérisme et la création de valeur. L’autre nous vient d’Asie, où le gouvernement chinois voit l’IA comme un instrument de gouvernance sociale.

Ces questions et défis offrent au Canada la possibilité d’ouvrir la voie et de devenir un chef de file de l’avancement de l’IA pour le bien commun. Il s’agit de l’une de nos 10 recommandations visant à préparer le Canada à l’IA.

Même si le Canada a été le premier pays à se doter d’une stratégie nationale en matière d’IA, nous avons pris du retard dans la mise à profit et la commercialisation de ses applications. L’adoption d’une stratégie d’IA pour le bien commun, proposée en parallèle au soutien de la supergrappe canadienne d’expertise en IA, et la mise sur pied d’une stratégie nationale relative aux données, très attendue dans les milieux concernés, pourraient renforcer la compétitivité du Canada à titre de centre mondial en IA et nou
s aider à faire valoir notre position de chef de file dynamique de l’intelligence artificielle.

Nous devons toutefois accepter de soulever des questions embarrassantes.

L’IA est un miroir de la société qui nous oblige à examiner avec rigueur les mensonges polis avec lesquels nous nous rassurons. Nous ne pouvons plus nous permettre de détourner le regard.

M. Reddy a appliqué ce principe à la dernière frontière de la numérisation : le marché local. Son appli de commande mobile à ramasser, Ritual, offre à peu près les seules choses qu’un géant comme Amazon ne peut offrir : un café chaud sur votre trajet pour le travail et un burger déjà prêt lorsque vous arrivez à l’aire de restauration.

« Les files d’attente m’ennuient », a souligné M. Reddy lors de notre séance mensuelle Les innovateurs RBC, sur l’innovation et la technologie.

À titre de PDG de Ritual, il travaille fort pour que les files d’attente deviennent une chose du passé en offrant la possibilité aux clients de passer leur commande à l’avance. Cela laisse plus de temps pour faire autre chose et offre aux restaurateurs une nouvelle façon d’attirer de nouveaux clients.

En cinq ans seulement, Ritual, qui était une plateforme d’essai à Toronto, est devenue une entreprise internationale faisant des affaires au Canada, aux États-Unis, au Royaume-Uni et en Australie. M. Reddy prévoit tripler le nombre de restaurants participants d’ici la fin de 2019.

Ritual vise principalement à réunir les mondes physique et numérique grâce à la rentabilisation de l’expérience locale, en personne. Il y a là largement place à l’innovation.

Les commerces locaux arrivent loin derrière les grandes entreprises qui ont l’argent et le talent pour faire des investissements importants dans l’avenir du numérique. Selon un sondage de la BDC auprès des petites et moyennes entreprises, seulement 19 % d’entre elles ont résolument adopté la technologie et la culture numériques. Plus de la moitié d’entre elles ont un faible niveau de maturité numérique.

M. Reddy s’est penché sur le problème et en a conclu que l’absence de densité est la cause d’échec des tentatives antérieures de numérisation du marché local. Pour les gens, il n’est pas important que vous ayez 500 restaurants participants, c’est une tout autre histoire pour les 15 restaurants participants les plus proches de chez eux.

« Nous avons tiré des leçons des 15 ou 20 sociétés qui se sont lancées avant nous, a déclaré M. Reddy. Nous avons analysé les motifs de leur échec. »

Grâce à une approche quartier par quartier, Ritual a su créé un produit attrayant pour un quartier avant de passer au prochain. Pour les entreprises, Ritual offre une merveilleuse vitrine pour attirer de nouveaux clients et l’accès à des données sur leur clientèle qu’ils n’avaient pas dans le monde analogique.

« Une fois que vous fournissez des données à des gens, ils ont peine à imaginer comment ils pouvaient s’en passer pour gérer leur entreprise », indique M. Reddy.

Lorsque l’entreprise prend de l’expansion, elle doit relever le défi de faire concorder le monde numérique avec le monde physique.

Les petites entreprises font leur entrée sur un marché numérique où les attentes sont élevées. Les clients sont habitués à ce qui se fait de mieux, selon un récent rapport de McKinsey. Ils s’attendent à une expérience client harmonieuse, sans surprise ni retard. Les entreprises ne doivent pas se contenter d’automatiser un processus existant : elles doivent carrément réinventer tout le processus pour offrir une valeur supérieure et réduire le nombre d’étapes requises.

Si un client Ritual arrive à l’aire de restauration et qu’il ne trouve pas sa commande ou qu’elle n’est pas prête, c’est un problème et ça arrive. Les restaurants et les aires de restauration n’ont pas été conçus pour l’utilisateur numérique. M. Reddy les aidera à se réorganiser pour entrer dans une nouvelle ère.

Cela peut vouloir dire de déplacer le guichet de ramassage des commandes à l’avant et au centre, d’ajouter des tablettes pour y disposer les commandes prêtes et de modifier le rôle du personnel pour que les caissiers deviennent des « concierges » dont le rôle est d’aider les clients à trouver leur commande.

L’expansion du mode de commande numérique a une incidence intéressante sur le monde physique. Si 60 % à 70 % des clients découvrent un restaurant grâce à une appli, nul besoin qu’il soit situé sur une artère animée. Il peut déménager là où le loyer est plus abordable. On assiste à une hausse du nombre de commerces de restauration situés en dehors des zones névralgiques des villes et qui sont principalement axés sur la livraison.

La numérisation des villes ne fait que commencer et les enjeux sont grands. Les entreprises numériquement avancées sont plus susceptibles (62 %) d’enregistrer une croissance élevée des ventes, selon un rapport de la BDC sur les petites et les moyennes entreprises.

En 2019, lorsque votre resto de quartier est en concurrence avec Silicon Valley, c’est tout un changement.

C’est une question qui revient des milliers de fois par semaine, selon Al Lindsay, vice-président, logiciel Alexa, d’Amazon

Sur 80 000 fonctions, qui ne cessent d’augmenter, le mariage est peut-être la seule chose qu’Alexa ne peut pas faire.

Cette année, le secteur des haut-parleurs intelligents connaîtra une croissance estimative de 7 milliards de dollars ; la demande pourrait bien dépasser celle des téléphones intelligents.

M. Lindsay, l’un des pionniers de la technologie vocale au Canada, a participé à notre séance mensuelle Les innovateurs RBC, sur l’innovation et la technologie, où il nous a donné un aperçu du monde de la technologie vocale.

Voici 5 faits intéressants sur l’avenir de la technologie vocale.

1. La technologie vocale diminue l’attrait des téléphones intelligents

Beaucoup de gens se demandent pourquoi ils auraient besoin de la technologie vocale puisqu’ils peuvent tout faire avec leur téléphone intelligent. Pour écouter de la musique, comme le souligne M. Lindsay. Il suffit de dire que vous voulez écouter des chansons de Sting pour que deux secondes après la voix de Sting sorte du haut-parleur. Plus besoin de faire glisser votre doigt sur l’écran pour naviguer dans les applis et d’attendre. Auparavant considérés comme le summum de la commodité, les téléphones intelligents sont maintenant surpassés par la technologie vocale, qui ne vous oblige plus à prendre votre téléphone et à être encore plus distrait. La technologie vocale nous permet d’être de nouveau des êtres humains.

2. Une question de personnalité

À l’origine, M. Lindsay et son équipe voulaient créer un assistant intelligent et pratique, des caractéristiques de vente qui leur semblaient évidentes. Mais les clients considèrent Alexa comme un personnage. « Nous avons découvert qu’une touche d’humour et de légèreté serait aussi la bienvenue », a souligné M. Lindsay. L’entreprise a donc commencé à ajouter des réponses rigolotes, réalisant que plus l’interaction avec l’assistant vocal est naturelle, plus il sera facile pour les gens de l’utiliser.

3. La technologie vocale a une incidence sur tous les secteurs d’activité

Lorsqu’on lui demande quels sont les secteurs d’activité touchés par la technologie vocale, M. Lindsay répond sans hésiter : « Tous les secteurs ». Il prévoit des changements importants tant dans le secteur des soins de santé que dans celui des services hôteliers. Pour les patients hospitalisés, des haut-parleurs intelligents pourraient exécuter des demandes simples, comme l’ouverture du téléviseur ou le réglage du lit, ce qui économiserait temps et travail. Au restaurant, les clients pourraient commander un verre par commande vocale et porter l’addition à leur carte Visa, ou à la table voisine, blague-t-il.

4. Chaque entreprise a besoin d’une stratégie en matière de technologie vocale

Alors que nous nous dirigeons vers un monde d’« interface ambiante », tant les petites que les grandes entreprises auront besoin d’une stratégie en matière de technologie vocale. Tout comme elles doivent décider des couleurs et des slogans liés à leur marque, les entreprises devront se trouver une voix à leur image. Jeune et enjouée ? Plutôt sérieuse ? Le son ajoute une nouvelle dimension puissante à l’identité de la marque. Elle ouvre la voie à de nouvelles possibilités. Nul besoin d’avoir une équipe dédiée à la voix de votre entreprise pour vous doter d’une interface vocale. Vous pouvez remplacer toute interface informatique par une interface vocale ou ajouter de la voix comme complément.

5. La voix est un important facteur d’égalisation

Avant l’arrivée de l’interface vocale, chaque interface avait sa courbe d’apprentissage ; il faut du temps pour apprendre à taper sur un clavier ou à naviguer dans une appli. M. Lindsay souligne que c’est différent pour la technologie vocale. Si nous pouvons offrir une expérience de conversation naturelle, la technologie sera accessible à tous ceux ayant des capacités langagières.

 

Ayant été entrepreneur toute sa vie, M. Scudamore connaît les exigences de la réussite en affaires – et comprend l’importance de l’échec pour apprendre à bien faire les choses.

Aujourd’hui, 1-800-GOT-JUNK génère annuellement 370 millions de dollars et compte quelque 250 franchises à l’échelle mondiale.

« Nous ne serions pas où nous sommes si nous n’avions pas connu des échecs, a dit M. Scudamore. Nous n’aurions jamais pu atteindre le niveau où nous sommes aujourd’hui si nous n’étions pas restés assez courageux pour faire des erreurs et en tirer ensuite les leçons. »

Une erreur à ses débuts ? « J’ai réalisé que j’étais un très mauvais leader. »

Lors de notre séance mensuelle de la série Les innovateurs RBC, qui traite d’innovation et de technologie, M. Scudamore a parlé de son « ouverture à l’échec » et des leçons de leadership qu’il a apprises dans sa carrière.

Voici quelques-uns des conseils qu’il a donnés :

1.Posez des questions

Lorsque M. Scudamore a voulu établir un réseau de franchises, il a d’abord consulté douze personnes. Chacune de celles-ci lui a déconseillé de prendre cette voie, déclarant que la collecte d’objets dont les gens ne veulent plus ne se prêtait pas au franchisage. M. Scudamore a posé des questions, repensé son projet, puis modifié légèrement le concept afin qu’il soit viable à l’échelle nationale. Un entrepreneur doit avoir l’audace de se lever et de poser des questions.

2.Présentez un tableau clair

Concentrez-vous sur l’avenir que vous entrevoyez, prenez des notes à ce sujet et discutez-en avec tous vos collaborateurs. Lorsque M. Scudamore a décidé de donner plus d’ampleur à 1-800-GOT-JUNK, il a dit à son équipe que son objectif était d’être présent dans les 30 plus grandes régions métropolitaines. Les sceptiques sont partis. Les membres de l’entreprise qui sont restés comprenaient l’objectif, y croyaient – et ont contribué à rendre sa réalisation possible.

3.Prenez des décisions difficiles

M. Scudamore dit que la chose la plus difficile qu’il ait jamais eu à faire a été de congédier son meilleur ami, qui était chef de l’exploitation. Ensemble, ils avaient pris des décisions imprudentes et avaient presque mené l’entreprise à la faillite. « La bonne décision est généralement difficile à prendre. »

4.Mêlez-vous à vos collaborateurs

M. Scudamore n’a pas toujours su comment jouer le rôle de mentor. « Je me cachais dans mon bureau, j’évitais de passer du temps avec les membres de mon équipe, a-t-il dit. J’avais peur d’eux, j’avais peur des conflits. » Il a appris à s’exposer au regard des autres, et il a réalisé qu’être un leader, ce n’est pas seulement faire croître une entreprise – c’est aussi aider d’autres personnes dans leur développement.

5.Embauchez des gens avec qui vous aimeriez prendre une bière

« C’est en échouant que j’ai appris à créer une équipe et une culture », a-t-il dit. Cinq ans après avoir lancé son entreprise, il avait onze employés, dont neuf étaient des « pommes pourries ». Le climat de travail est devenu toxique. Il a réuni ses employés, leur a présenté ses excuses, et a congédié tout le monde. Il a reconstruit son entreprise en trouvant les bonnes personnes, en embauchant des gens dont il avait le goût de se faire des amis, des gens qui partageaient sa passion pour la croissance et qui sauraient bien représenter l’entreprise.

6.N’essayez pas de tout faire

M. Scudamore avait affiché un objectif utopique sur le tableau de vision de l’entreprise : Être invités à l’émission d’Oprah Winfrey. Sans lui dire, un jeune employé a relevé le défi, communiquant avec les responsables de l’émission et gérant la relation avec eux jusqu’à ce que l’appel arrive : 1-800-GOT-JUNK serait accueillie à l’émission. « Je n’ai joué aucun rôle dans l’obtention de cette invitation, a dit M. Scudamore. Tyler a pris les choses en main, déployant tous les efforts nécessaires pour que cela se concrétise. »

En tant qu’entrepreneur, on ne fait pas toujours les bons choix, mais on ne peut pas se taper sur la tête quand les choses dérapent, a expliqué M. Scudamore. Respirez, et demandez-vous quelle conséquence positive pourrait ressortir d’une situation qui vous semble lourde de difficultés. Souvent, vous vous rendrez compte que la liste est plus longue que vous ne l’auriez cru.

« L’échec devrait être votre ami, a dit M. Scudamore. Chacune des erreurs que nous avons faites était nécessaire pour nous permettre de passer au niveau suivant. »

 

« J’ai toujours aimé réparer ce qui est brisé », a affirmé M. Chen lors de la dernière séance mensuelle de la série Les innovateurs RBC, qui traite d’innovation et des changements apportés par la technologie dans nos façons de travailler, de vivre et de jouer.

Il a eu beaucoup de choses à réparer au sein de BlackBerry, l’emblématique entreprise de technologie canadienne dont il a pris le contrôle en 2013 à titre de président du conseil d’administration et chef de la direction. À l’époque, l’une de ses premières tâches a été d’annoncer une perte trimestrielle record de 4,4 milliards de dollars. La société est redevenue rentable après s’être recyclée dans le domaine des logiciels et des services, dont elle tire désormais 90 % de son chiffre d’affaires. Ses résultats, quoique bien en deçà de ceux d’autrefois, sont en hausse.

Le chef de la direction de BlackBerry explique qu’il cherche à accomplir ce que d’autres croient impossible, ce qui exige d’avoir les idées claires et de comprendre parfaitement les grandes tendances.

Dans le cadre de la séance, il a traité des tensions commerciales entre les États-Unis et la Chine, de l’avenir des appareils mobiles et de la façon dont l’intelligence artificielle (IA) transforme la cybersécurité.

Voici quelques-uns des points qu’il a abordés :

1. Huawei devra faire preuve d’une transparence accrue

Le réseau 5G constitue le dernier champ de bataille dans la nouvelle guerre froide des technologies. Selon M. Chen, la société chinoise Huawei devra tôt ou tard accepter que son code soit examiné pour avoir accès aux marchés occidentaux. « Sinon, affirme-t-il, je ne vois pas comment Huawei pourrait revenir dans la partie. » Le fait est que la société n’est pas l’unique fournisseur de technologies émergentes comme les routeurs et les modems 5G, et que les gouvernements occidentaux peuvent se passer d’elle et se tourner, par exemple, vers Ericsson.

2. Le prix des téléphones pourrait avoir atteint un sommet

M. Chen estime qu’Apple a mal analysé la courbe de l’inflation et que son téléphone à 1 000 $ ne connaîtra pas le succès escompté. En effet, les nouveaux modèles ne sont pas assez innovants pour que leur prix astronomique soit justifié.

3. Les voitures intelligentes, un nouveau marché

Les voitures, qui intègrent de plus en plus de technologies, devront être protégées par des logiciels sécurisés. Voilà une occasion en or pour BlackBerry, selon M. Chen. La technologie QNX de la société est déjà installée dans 120 millions de véhicules. À l’heure où l’on craint que des pirates informatiques envoient des voitures dans le fossé et que des drones percutent des avions, l’objectif de BlackBerry consiste à faire de la technologie QNX la norme en matière de système d’exploitation automobile – ce que Windows est à l’ordinateur personnel, en quelque sorte.

4. Les combattants de la guerre cybernétique passent de la défensive à l’offensive

Si vous en êtes encore à gérer la dernière attaque informatique dont vous avez été la cible, vous perdrez la bataille. La cybersécurité, véritable jeu du chat et de la souris, constitue une priorité tant pour les forces armées et les hôpitaux que pour les grandes banques, et les deux camps – pirates et cibles – se tournent vers l’intelligence artificielle pour prendre les devants. L’automne dernier, BlackBerry est passée à l’offensive en acquérant Cylance, une société de cybersécurité qui s’appuie sur l’IA pour prédire les attaques, au coût de 1,4 milliard de dollars.

5. BlackBerry n’a que faire de vos données

Pour rivaliser contre des géants comme Apple et Google, il faut miser sur ses forces. Et les forces de BlackBerry, ce sont la sécurité et la protection des renseignements personnels. Ces atouts, issus du passé de la société, continueront de la servir dans l’avenir. Contrairement à ses concurrents, BlackBerry ne cherche pas à gérer les données ni à en tirer un revenu. « Nous ne souhaitons ni connaître ni utiliser les données. Elles sont sans intérêt pour nous. Nous disposons même d’un algorithme pour les supprimer. »

6. Réjouissez-vous de votre mauvaise main

En affaires, M. Chen s’inspire de sa passion pour le bridge. Ce jeu lui plaît parce qu’il n’est pas nécessaire d’avoir une bonne main pour gagner. Les joueurs accumulent des points en fonction de la façon dont ils jouent les cartes qu’ils reçoivent. « Il faut trouver la meilleure façon de jouer, quelles que soient ses cartes. » Voilà le défi qui l’a convaincu de travailler pour BlackBerry. La tâche est ardue, mais, si l’on fait les bons choix, la récompense est plus élevée.

Ce n’est pas parce que nous disposons de technologies intelligentes que nous devons leur céder le contrôle. Nous devons agir de sorte que notre société ne soit pas dépendante aux technologies, mais se serve de celles-ci de façon judicieuse.

 

Entre la fermeture de tous les magasins Toys“R”Us aux États-Unis et les enfants qui maîtrisent les appareils mobiles dès un très jeune âge, il ne voit peut-être pas l’avenir des jouets avec beaucoup d’optimisme. Comment un écran magique Etch A Sketch peut-il concurrencer un iPhone ?

Un géant torontois de la fabrication de jouets croit que c’est possible.

L’entreprise Spin Master a été fondée en 1994 par trois amis sortant tout juste de l’université. Dès le départ, leur produit Earth Buddy et leurs bâtons du diable ont connu un certain succès, mais c’est quand ils ont commencé à investir massivement dans la recherche et le développement que l’entreprise a vraiment pris son essor. Aujourd’hui, il s’agit de l’un des cinq plus importants fabricants de jouets au monde, et ses ventes ont surpassé 1,5 milliard de dollars l’an dernier.

Le marché mondial des jouets affiche une croissance de 3-4 % par année, principalement concentrée en Asie. Aux États-Unis, les parents dépensent en moyenne 350 $ de jouets par enfant chaque année. Et grâce aux investissements dans la recherche et le développement, les jouets peuvent être tout aussi innovateurs que les appareils électroniques. Un excellent exemple : les Hatchimals de Spin Master, de petits animaux qui sortent d’un œuf lorsqu’on le câline et le frotte.

J’ai récemment échangé avec Ronnen Harary, cofondateur et cochef de la direction de Spin Master, à la séance Les innovateurs RBC de décembre.

Voici six leçons qui peuvent s’appliquer à tous les innovateurs :

1. Bâtissez votre propre empire

Spin Master a créé le dessin animé extrêmement populaire Pat’ Patrouille en suivant un processus inversé. Environ un jouet sur quatre est un produit autorisé associé à un film ou une émission à succès, mais Spin Master se faisait toujours damer le pion par de plus grands fabricants de jouets pour obtenir les licences d’utilisation. Au lieu d’affronter ses concurrents afin de pouvoir utiliser des marques de tiers, Spin Master a créé son propre empire.

2. Misez sur la technologie pour créer de la valeur

Il y a quelques années, en raison de la technologie requise, le prix des Hatchimals aurait dû être fixé à 250 $, ce qui aurait été beaucoup trop élevé. Aujourd’hui, ce jouet se détaille à environ 80 $. Tirez parti de la technologie pour lancer des produits jamais vus à un prix attrayant.

3. Respectez vos talents

Les inventeurs de jouets sont difficiles à trouver ; il n’y en a que quelques centaines dans le monde. Il faut donc entretenir les relations avec eux. Le duo qui a développé Zoomer, un chien activé par la voix qui répond à son nom, a continué de créer des jouets pour l’entreprise. Contrairement à de nombreux fabricants de jouets, Spin Master invite les inventeurs à participer au processus global et à partager les honneurs – par exemple sur scène lorsque Zoomer a remporté le prix du jouet innovateur de l’année 2014.

4. Distinguez-vous de la concurrence

Dans les années 1990, Spin Master a créé les « Key Charm Cuties » pour concurrencer directement les poupées Polly Pocket de Mattel, mais l’entreprise n’est pas arrivée à détourner la clientèle d’un produit déjà populaire sans présenter une différence marquée. Leçon à retenir : les enfants ne s’intéressent à rien de moins que la nouveauté et l’excellence.

5. Ayez toujours une idée dans le pipeline

Spin Master a connu un grand succès avec Bakugan et sa valeur est passée de 450 à 800 millions de dollars en seulement 21 mois. Mais quand l’intérêt pour Bakugan a commencé à faiblir, cela a entraîné un important ralentissement pour l’entreprise. Les enfants grandissent, les modes passent, et votre prochaine idée gagnante doit toujours être déjà dans le pipeline.

6. Ne vous laissez pas hanter par vos échecs

Les jouets ne se vendront pas tous comme de petits pains chauds. Il ne faut pas blâmer une personne en particulier pour un échec, tout comme il ne faut pas attribuer une réussite à une seule personne. « Ne ruminez pas les échecs », dit M. Harary. Passez au projet suivant.

 

L’entrepreneur canadien a passé sa petite enfance sans accès à l’électricité, a appris tout seul la programmation, puis a étudié la philosophie à Cambridge avant de faire carrière en technologie et de se mesurer à des géants comme Microsoft et Google.

Plus grande réussite commerciale de Stewart Butterfield : Slack. Slack est une plateforme de communication collaborative qui suscite un engouement rappelant les débuts de BlackBerry et qui sert à réduire le nombre de courriels transmis chaque jour dans le monde (environ 269 milliards à l’heure actuelle). En personne, Stewart Butterfield a la voix douce et l’air pensif, ce qui ne surprend pas chez quelqu’un qui a déjà songé à faire carrière en philosophie. Plus tôt cette semaine, il a participé à une séance Les innovateurs RBC, où nous avons eu l’occasion de lui parler de communication efficace, des mérites de la Silicon Valley, et de l’importance des valeurs d’entreprise. Voici ce que nous avons entre autres appris.

Un succès fortuit

Stewart Butterfield n’a pas eu dès le départ l’idée de créer Flickr et Slack, qui sont plutôt des sous-produits de ses efforts visant à créer des jeux Web multijoueurs. Son projet de jeux n’allait nulle part, mais en tentant de créer des univers imaginaires partagés, il a finalement conçu le logiciel de partage de photos qui a donné naissance à Flickr, puis l’outil de clavardage qui est devenu Slack.

Même s’il avait le sentiment que Slack avait du potentiel, Stewart Butterfield ne croyait pas au départ que sa plateforme conviendrait aux grandes organisations. Aujourd’hui, neuf millions de personnes utilisent la plateforme Slack, dont IBM et Oracle – parmi ses plus gros clients. Malgré la surprise qu’a causée ce succès, le développement de l’entreprise actuelle – qui fait maintenant concurrence à la puissante Microsoft – n’est pas le fruit du hasard, précise son fondateur. « Ça demande beaucoup de travail. »

Un antidote contre les courriels

Stewart Butterfield a maintenant de grandes ambitions. Il veut transformer fondamentalement la façon de collaborer des gens, que ce soit à IBM ou dans de plus petites entreprises. Son arme : Slack, une solution de rechange au courriel, qu’il considère comme un très mauvais outil de communication interne. Pour illustrer son propos, Stewart Butterfield donne l’exemple du nouvel employé qui fait face à une boîte de réception vide à son entrée en poste. Si cet employé entre au service d’une organisation qui utilise Slack, il a tout de suite accès à tout le travail déjà accompli dans le cadre d’un projet donné, dès son premier jour d’emploi.

Dans une entreprise moyenne comptant 1 000 employés, on transmet environ 40 000 courriels par jour ; il n’est donc pas surprenant que Slack compte une grande communauté d’adeptes.

Selon Stewart Butterfield, le plus grand avantage de Slack est de procurer rapidement un niveau élevé de transparence dans l’ensemble d’une organisation. Ainsi, tous ont accès à la même information claire, ce qui favorise l’efficacité.

La Silicon Valley a toujours la cote

Pendant la séance Les innovateurs, Stewart Butterfield a répété qu’il est un patriote canadien et qu’il croit que le Canada a tout le talent nécessaire – ingénieurs, concepteurs, spécialistes du marketing – pour pourvoir en personnel les entreprises canadiennes en démarrage.

Alors, s’il avait le choix, pourquoi lancerait-il sa prochaine entreprise dans la Silicon Valley ? Sa réponse ressemble à celle de bien des entrepreneurs : c’est encore là qu’on trouve le plus grand bassin de spécialistes de la technologie.

Les valeurs d’entreprise comptent, tout comme l’esprit ludique

Stewart Butterfield s’est inspiré du modèle de Netflix pour définir les valeurs fondamentales de Slack. Toutefois, il voulait s’assurer que ces valeurs distinguent Slack et qu’elles rappellent aux employés à la fois la conduite à adopter et le mérite que Slack leur reconnaît. Selon lui, toute entreprise devrait réfléchir soigneusement à ses valeurs et expliquer à ses employés et à ses clients en quoi ces valeurs sont distinctives.

Les valeurs de Slack sont entre autres la courtoisie, l’esprit ludique et le savoir-faire. Pour Stewart Butterfield, la courtoisie, c’est savoir se mettre à la place du client et se montrer toujours soucieux de comprendre ses besoins. En mettant l’accent sur l’esprit ludique, il veut que ses employés observent le monde d’un point de vue différent, afin de trouver des solutions créatives aux problèmes. Le savoir-faire, c’est plus que le souci du travail bien fait ; pour Slack, c’est la façon d’exprimer le sens et la valeur du travail de chaque employé.

La Chine est exclue ; partout ailleurs, tout est possible

Beaucoup d’entreprises technologiques veulent profiter de l’immense et lucratif marché de la Chine, mais ce n’est pas le cas de Slack. Stewart Butterfield explique que son entreprise n’est pas prête à donner à Beijing accès à ses données stratégiques. Toutefois, il cible les quelque 600 millions de travailleurs du savoir qui œuvrent hors de la Chine. C’est pourquoi il offre la plateforme Slack en diverses langues, en s’assurant de répondre aux exigences sectorielles et réglementaires particulières.