Notre groupe de leadership avis\u00e9 examine les incidences soci\u00e9tales et \u00e9thiques de l’intelligence artificielle. Dans le cadre de cette s\u00e9rie d’entrevues, John Stackhouse interroge Layla El Asri, directrice de recherche au laboratoire de recherche Microsoft de Montr\u00e9al, sur le r\u00f4le des humains dans la r\u00e9solution des pr\u00e9jug\u00e9s en IA.<\/i><\/p>\nJohn : \u00c0 quel moment avez-vous pris conscience des pr\u00e9jug\u00e9s en IA et avez-vous commenc\u00e9 \u00e0 vous pr\u00e9occuper de ce probl\u00e8me ?<\/h4>\n
Layla : <\/b>Je r\u00e9fl\u00e9chis \u00e0 cette question depuis seulement les trois ou quatre derni\u00e8res ann\u00e9es. C’\u00e9tait apr\u00e8s mon arriv\u00e9e au sein de l’\u00e9quipe de Microsoft, \u00e0 peu pr\u00e8s en m\u00eame temps qu’on a commenc\u00e9 \u00e0 voir des reportages concernant diff\u00e9rents enjeux touchant les pr\u00e9jug\u00e9s et l’IA. Il y a eu le c\u00e9l\u00e8bre exemple du logiciel de Google, dont l’algorithme a classifi\u00e9 un Afro-am\u00e9ricain comme un gorille. Il ne s’agissait que d’un exemple parmi d’autres de pr\u00e9jug\u00e9s int\u00e9gr\u00e9s \u00e0 un produit en raison d’une repr\u00e9sentativit\u00e9 inad\u00e9quate des donn\u00e9es. Il m’a beaucoup marqu\u00e9e, parce que l’erreur \u00e9tait vraiment \u00e9pouvantable.<\/p>\n
Il y a eu ensuite un autre cas concernant \u00e9galement un logiciel de Google. Lorsqu’on entrait dans le programme un nom surtout populaire dans la communaut\u00e9 afro-am\u00e9ricaine, on recevait des annonces pour des services de recherche de casiers judiciaires. Il s’agit de pr\u00e9jug\u00e9s int\u00e9gr\u00e9s \u00e0 des syst\u00e8mes en raison des pr\u00e9jug\u00e9s dans la fa\u00e7on dont les humains utilisaient ces syst\u00e8mes.<\/p>\n
Ces exemples extr\u00eamement frappants montraient vraiment que les choses peuvent mal tourner si nous ne faisons pas preuve d’une plus grande prudence dans l’utilisation des donn\u00e9es avec lesquelles nous alimentons les mod\u00e8les mis en \u0153uvre.<\/p>\n
Le mod\u00e8le tente simplement d'optimiser son rendement. Il ne se demande pas : \u00ab Suis-je \u00e9quitable ? \u00bb<\/p><\/div><\/div>\n
Layla :<\/b> Un mod\u00e8le ne peut pas entretenir plus de pr\u00e9jug\u00e9s que n’en contiennent les donn\u00e9es qu’il utilise.<\/p>\n
Le mod\u00e8le tente simplement d’optimiser son rendement. Il ne se demande pas : \u00ab Suis-je \u00e9quitable ? \u00bb Il existe des fa\u00e7ons pour faire en sorte qu’un mod\u00e8le applique ce type de contr\u00f4les, mais ces derniers doivent \u00eatre int\u00e9gr\u00e9s au mod\u00e8le. Du point de vue scientifique, cela consiste \u00e0 modifier l’objectif du mod\u00e8le afin qu’il ne se limite pas \u00e0 maximiser son rendement, mais soit \u00e9galement incit\u00e9 \u00e0 ne pas amplifier les pr\u00e9jug\u00e9s ou \u00e0 tenter d’en r\u00e9duire le plus possible l’incidence.<\/p>\n
Layla : <\/b>Voyez-vous, \u00e7a d\u00e9pend de la situation. Dans certains cas, on peut essayer de remanier la conception d’un mod\u00e8le pour faire en sorte qu’il int\u00e8gre moins de pr\u00e9jug\u00e9s ou en soit exempt. Mais dans d’autres cas, c’est tout simplement impossible. Par exemple, si vous utilisez des donn\u00e9es produites \u00e0 la suite de d\u00e9cisions humaines, il est possible que vous ignoriez \u00e0 la base que les d\u00e9cisions humaines qui ont \u00e9t\u00e9 prises ont \u00e9t\u00e9 influenc\u00e9es par des pr\u00e9jug\u00e9s. Il faut soumettre les mod\u00e8les \u00e0 des essais rigoureux pour d\u00e9terminer s’ils int\u00e8grent des pr\u00e9jug\u00e9s.<\/p>\n
Pour \u00e9liminer les pr\u00e9jug\u00e9s, il faut parfois simplement traiter de plus grands volumes de donn\u00e9es, particuli\u00e8rement si le probl\u00e8me est caus\u00e9 par une sous-repr\u00e9sentation, comme c’est le cas des personnes \u00e0 la peau plus fonc\u00e9e dans les syst\u00e8mes de vision artificielle. Il n’y a rien d’autre \u00e0 faire que de collecter des donn\u00e9es concernant des teintes de peau plus fonc\u00e9es et de r\u00e9entra\u00eener le mod\u00e8le afin qu’il apprenne \u00e0 partir de ces nouvelles donn\u00e9es.<\/p>\n
Layla :<\/b> Ces probl\u00e8mes sont abord\u00e9s de fa\u00e7on tr\u00e8s diff\u00e9rente. Il existe des groupes de recherche sp\u00e9cialis\u00e9s sur ces questions, c’est-\u00e0-dire l’\u00e9quit\u00e9, la responsabilit\u00e9, la transparence et l’\u00e9thique. Ces groupes se penchent sur des questions telles que la signification de l’\u00e9quit\u00e9 dans les mod\u00e8les d’apprentissage machine. Il s’agit de questions fondamentales auxquelles nous n’avons pas encore de r\u00e9ponses. Nous en sommes encore \u00e0 l’\u00e9tape de la recherche.<\/p>\n
Il existe aussi au sein de Microsoft un comit\u00e9 appel\u00e9 AETHER (IA et \u00e9thique en g\u00e9nie et en recherche). Ce comit\u00e9 agit un peu comme un groupe-conseil pour les \u00e9quipes responsables des produits et pour la direction de Microsoft.<\/p>\n
Ces groupes connaissent les questions techniques li\u00e9es aux mod\u00e8les d’apprentissage machine, ils savent ce qu’ils peuvent faire et ce qui est impossible. Il est tr\u00e8s important de conseiller les groupes de production et la direction sur ces aspects, afin que nous puissions tous prendre des d\u00e9cisions \u00e9clair\u00e9es concernant la s\u00fbret\u00e9 du d\u00e9ploiement des mod\u00e8les d’apprentissage machine \u00e0 la lumi\u00e8re de nos connaissances actuelles.<\/p>\n
Ces exemples montrent les mesures que Microsoft a mises en \u0153uvre pour se prot\u00e9ger des applications dangereuses de l’IA et promouvoir une utilisation de l’IA conforme aux principes d’\u00e9thique. La r\u00e9alisation d’audits a \u00e9galement produit beaucoup d’effets.<\/p>\n
Layla :<\/b> Ces comit\u00e9s sont form\u00e9s d’une bonne combinaison de sp\u00e9cialistes techniques et de personnes dont les ant\u00e9c\u00e9dents sont plus ax\u00e9s sur la sociologie. Nos \u00e9quipes comptent des historiens, des anthropologues et des sociologues qui travaillent de concert sur ces questions afin de comprendre les cons\u00e9quences sociologiques potentielles de certaines technologies d’apprentissage fond\u00e9es sur les donn\u00e9es des patients.<\/p>\n Je crois que nous devons trouver des moyens d'\u00e9tablir une bonne relation de collaboration entre les mod\u00e8les d'apprentissage machine et les humains, afin que nous puissions tirer parti de la stup\u00e9fiante capacit\u00e9 d'adaptation des humains et des formidables capacit\u00e9s de calcul et de traitement des donn\u00e9es des mod\u00e8les d'apprentissage machine.<\/p><\/div><\/div>\n Layla :<\/b> Vous savez, je veux faire preuve d’optimisme envers l’avenir et croire que la r\u00e9ponse \u00e0 cette question sera positive.<\/p>\n Par contre, l’une des tr\u00e8s importantes faiblesses que je constate \u00e0 l’heure actuelle, et qui m’incite \u00e0 r\u00e9pondre \u00ab non \u00bb \u00e0 cette question, a trait au fait que les mod\u00e8les sont entra\u00een\u00e9s \u00e0 partir de donn\u00e9es historiques et ne peuvent donc pas changer. Cela ne pourra se produire que si l’on modifie leurs objectifs d’apprentissage ou les jeux de donn\u00e9es \u00e0 partir desquels ils ont \u00e9t\u00e9 entra\u00een\u00e9s. En outre, \u00e0 l’heure actuelle, ces mod\u00e8les ont besoin de grands volumes de donn\u00e9es pour apprendre quelque chose de nouveau.<\/p>\n Pour leur part, les humains s’adaptent tr\u00e8s rapidement. Si votre organisation vit un probl\u00e8me li\u00e9 \u00e0 des pr\u00e9jug\u00e9s, vous pouvez en parler aux employ\u00e9s et les sensibiliser \u00e0 la question, et ils r\u00e9agiront tr\u00e8s rapidement. \u00c0 l’heure actuelle, les mod\u00e8les d’apprentissage machine ne sont pas en mesure de r\u00e9agir aussi vite. On doit leur fournir une grande quantit\u00e9 de donn\u00e9es pour les r\u00e9entra\u00eener.<\/p>\n Je crois donc que pour l’instant, tant qu’ils ne pourront pas vraiment s’adapter rapidement et apprendre de nouvelles notions, les mod\u00e8les d’apprentissage machine devront \u00eatre soutenus par des interventions humaines. Et je crois aussi que nous devons trouver des moyens d’\u00e9tablir une bonne relation de collaboration entre les mod\u00e8les d’apprentissage machine et les humains, afin que nous puissions tirer parti de la stup\u00e9fiante capacit\u00e9 d’adaptation des humains et des formidables capacit\u00e9s de calcul et de traitement des donn\u00e9es des mod\u00e8les d’apprentissage machine.<\/p>\n Layla : <\/b>Un mod\u00e8le qui ne comprend que certaines personnes et certaines voix et ne peut comprendre, par exemple, les personnes \u00e2g\u00e9es ou celles dont l’accent est diff\u00e9rent engendre un syst\u00e8me comportant des pr\u00e9jug\u00e9s, parce qu’il ne s’applique pas \u00e0 tous. Ce qui est int\u00e9ressant chez les humains est leur facult\u00e9 de pouvoir s’adapter \u00e0 n’importe qui, ou presque, et de comprendre toutes sortes d’accents. Les mod\u00e8les d’apprentissage machine ne sont pas n\u00e9cessairement en mesure d’en faire autant.<\/p>\n Et m\u00eame dans le cas des documents texte, si un mod\u00e8le ne comprend que la langue soign\u00e9e et est incapable de comprendre certains idiomes ou variantes populaires de la langue pour laquelle il est con\u00e7u, ce produit n’est pas adapt\u00e9 \u00e0 tous et pr\u00e9sente donc un probl\u00e8me li\u00e9 aux pr\u00e9jug\u00e9s.<\/p>\n Le mod\u00e8le doit pouvoir comprendre la totalit\u00e9 des personnes constituant son public cible, c’est-\u00e0-dire tous les individus \u00e0 qui le mod\u00e8le est destin\u00e9.<\/p>\n Layla : <\/b>Tr\u00e8s bien. Merci. John Stackhouse interroge Layla El Asri, directrice de recherche au laboratoire de recherche Microsoft de Montr\u00e9al.<\/p>\n","protected":false},"author":209,"featured_media":3322,"parent":0,"menu_order":0,"template":"","meta":{"_acf_changed":false,"disable_focal_point":true,"featured_image_focal_point":{"x":0.5,"y":0.5},"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"rbc_tl_category":[90,97],"rbc_tl_tag":[99,95,100],"class_list":["post-3321","rbc_tl","type-rbc_tl","status-publish","has-post-thumbnail","hentry","rbc_tl_category-innovation","rbc_tl_category-les-innovateurs","rbc_tl_tag-innovation","rbc_tl_tag-intelligence-artificielle","rbc_tl_tag-technologie"],"acf":[],"yoast_head":"\nJohn : Vous avez parl\u00e9 un peu plus t\u00f4t des cons\u00e9quences non voulues de l’apprentissage machine. L’apprentissage humain et la prise de d\u00e9cisions par des humains entra\u00eenent de nombreuses cons\u00e9quences involontaires. Devrions-nous \u00e9prouver plus de confiance \u00e0 l’\u00e9gard de la capacit\u00e9 de la science de minimiser les cons\u00e9quences non voulues des activit\u00e9s similaires effectu\u00e9es par des machines ?<\/h4>\n
John : Pour conclure, j’aimerais vous poser une question sur les syst\u00e8mes de dialogue. La voix et le texte sont-ils fauss\u00e9s par des pr\u00e9jug\u00e9s ? En tant que consommateurs ou producteurs d’information sous forme de fichiers texte ou vocaux, de quoi devons-nous nous soucier ?<\/h4>\n
John : C’est fantastique. Ce sont des r\u00e9flexions inspirantes. Merci.<\/h4>\n
\n\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"