En Mars 2020, WHO a déclaré COVID-19 une pandémie mondiale. Tout comme ce qui s'est passé pendant la HIV et Ebola les crises, l'impact du COVID et les mesures de santé publique pour le contrôler ont été profondément sexué et inégal. Mais cette fois-ci, contrairement aux épidémies précédentes, la science des données et l'intelligence artificielle (IA) ont été présentées comme une solution miracle pour gérer la réponse. Les gens pensaient que l'IA pourrait fournir des solutions "taille unique", non sexistes et sans préjugés.
La réalité est que l'IA reproduit souvent les préjugés existants et fait du mal. Nous avons vu cela se jouer lors de la réponse COVID. Par exemple, sur les trackers nationaux de données COVID-204 de 19 pays, les données ventilées par sexe étaient systématiquement sous-déclarées. Cela ne tient pas compte des vulnérabilités différentielles et des impacts sexospécifiques de la COVID. Par exemple, comment la pandémie aggravation de la violence sexiste interpersonnelle et en ligne contre les femmes et les filles. Un système d'IA qui manque la diversité des sexes parmi ses développeurs, utilise des ensembles de données non sexistes ou biaisés, et ne parvient pas à impliquer les sous-populations les plus touchées et leurs besoins, leurs droits et leur agence, finit par renforcer la discrimination existante.
Heureusement, des chercheurs multidisciplinaires, en partenariat avec la société civile, se sont engagés à lutter contre ces méfaits et à respecter une IA responsable et éthique pour le bien social. À Genre au travail, nous avons eu le plaisir de travailler avec des équipes de recherche aussi pluridisciplinaires dans le cadre du Programme de recherche en science des données et en intelligence artificielle pour lutter contre le COVID-19, également connu sous le nom d'AI4COVID, qui a été financé par le Centre de recherches pour le développement international (CRDI) et Agence suédoise de développement international (SIDA) et mis en œuvre en Asie du Sud, en Afrique et en Amérique latine. Ces équipes de recherche se sont efforcées de développer des solutions basées sur l'IA qui intègrent les principes d'égalité et d'inclusion des genres (GEI).
Une question qui a guidé cette recherche était : Que faut-il pour générer des ressources d'IA plus inclusives, sûres, culturellement pertinentes et axées sur les besoins locaux applicables aux politiques et aux programmes ?
Cette série de blogs, Recherche sur l'IA et COVID : Parcours vers l'égalité des genres et l'inclusion, approfondit cette question à travers des récits d'expériences et d'efforts pour lutter contre les inégalités et les exclusions de genre. Les voix vont des chercheurs individuels en sciences pures et en sciences sociales aux membres juniors et seniors de l'équipe. En outre, les points de vue des animateurs de l'atelier de l'équipe de soutien GEI, Gender at Work et Ladysmith , une organisation féministe de recherche et de plaidoyer, ainsi que des agents de programme du CRDI qui gèrent le programme AI4COVID sont partagés.
Des chercheurs en intelligence artificielle se renseignent sur l'égalité des genres et l'inclusion
En juillet 2021, quatre partenaires de recherche AI4COVID ― COLEV/Université de Los Andes, Colombie ; Consortium Afrique-Canada sur l'IA et l'innovation des données (ACADIC), panafricain ; Centre de recherche sur la santé des populations africaines (APHRC), Kenya/Malawi ; et Université Cheikh Anta Diop (UCAD), Mali/Sénégal ― a choisi de participer au Projet d'apprentissage par l'action sur le genre (le GAL), dirigé par Gender at Work. Ils se sont lancés dans un voyage de 18 mois d'apprentissage, d'expérimentation et d'intégration de l'égalité des sexes et de l'inclusion dans leur dynamique d'équipe et/ou dans la recherche axée sur l'IA.
Le pouvoir de l'apprentissage par les pairs
Le GAL vise à créer de solides relations d'apprentissage entre pairs pour motiver, développer la compassion et approfondir la sensibilité au genre et l'inclusivité dans les équipes de recherche internes, le processus de recherche et les résultats. Le GAL utilise une approche d'apprentissage entre pairs via des ateliers organisés tous les six mois et des réunions en face à face, combinés à un coaching régulier et à la co-création avec un animateur Gender at Work ou Ladysmith GEI jumelé à une équipe de recherche. Les équipes de recherche développent et agissent sur un projet de changement GEI qui fait partie intégrante de leur recherche et qui vise à améliorer leurs connaissances, leurs pratiques et leurs résultats en matière de GEI. Les projets d'équipe impliquaient d'accroître l'égalité des sexes et l'inclusion dans la surveillance nationale des données COVID, les réponses à la pandémie, la recherche et la politique en créant des groupes de travail internes sur le genre pour que tout cela se produise.
Utiliser la narration pour consolider et partager l'apprentissage sur GEI
Les blogs de cette série sont issus d'un « Writeshop » - ou atelier d'écriture - qui faisait partie de l'atelier final du GAL, organisé par Gender at Work et Ladysmith en partenariat avec le CRDI à Nairobi, au Kenya, en février 2023.
Dirigé par un incroyable coach d'écriture, Ethan Gilsdorf, le Writeshop a exploré le potentiel de la narration en tant qu'outil de réflexion individuelle et collective, de création de sens et de consolidation de l'apprentissage du processus d'apprentissage par l'action sur le genre. L'atelier d'écriture a été conçu pour créer un espace de réflexion sûr permettant aux participants d'écrire sur leur expérience personnelle du genre et de l'inclusion dans leur vie, leur lieu de travail ou leurs recherches, et de partager ces écrits les uns avec les autres pour obtenir des commentaires et du soutien.
Nous lançons la série avec L'IA peut-elle avoir son gâteau et le manger aussi ?, dans lequel Amelia Taylor, spécialiste des données en intelligence artificielle, réfléchit aux énigmes entourant les données débiaisées et la représentation des populations touchées par le COVID par sexe et d'autres facteurs intersectionnels.
La prochaine série d'histoires parle des parcours individuels des GEI sur la façon dont le genre et l'inclusion nous aident à mieux comprendre le monde. Les écrivains partagent des moments critiques lorsqu'ils réalisent à quel point la discrimination fondée sur le sexe ou leur éducation culturelle localisée et leurs parcours de vie ont éclairé leurs valeurs et leurs perspectives en tant que chercheurs appliqués. D'autres s'appuient sur des expériences de vie formatrices sur la culture, la race, la famille et le lieu de travail.
Les histoires après ce passage à des environnements de travail organisationnels couvrant des sujets tels que "les modèles masculins deviennent des alliés de leurs collègues féminines" et "les femmes scientifiques naviguant dans les secteurs de l'IA et de la santé dominés par les hommes".
Les histoires se concentrent ensuite sur l'IA et les systèmes de santé en explorant la valeur du genre et de l'intersectionnalité pour une santé publique et une IA plus précises et plus holistiques.
Les blogs finaux se penchent sur «ce qu'il faut pour en savoir plus sur le GEI dans la recherche en santé sur l'IA dans un monde virtuel», des défis des réunions basées sur le zoom à la puissance de l'écriture réflexive. Un dernier blog de la série proposera quelques conclusions de Gender at Work sur ce que les histoires nous disent sur l'intégration des GEI dans la science des données et la recherche en santé axée sur l'IA en temps de crise sanitaire.
Cette série de blogs est éditée par Ethan Gilsdorf, coach en rédaction, Loise Ochanda, IDRC, et Gender at Work Associates Carol Miller et Marie-Kate Waller.
Cet article de blog d'introduction a été écrit par Marie-Kate Waller, PhD, Anthropologue médicale en Genre et Droits Humains en Santé, et Associée Genre au Travail, @LinkedIn, @Twitter, @Facebook. Ce travail est autorisé en vertu d'un Licence CC BY 4.0. © 2023 Marie-Katherine Waller.