EN FR

ACCUEIL ›BLOGS

Concevoir un indice mondial sur l'IA responsable fondé sur les droits
-

Mesurer les progrès vers l'utilisation responsable de l'intelligence artificielle dans plus de 120 pays à travers le monde du point de vue des droits de l'hommeCet article a été initialement publié le D4D.net by Dr Rachel Adams, Recherche TIC Afrique

1 mars 2022

L'intelligence artificielle (IA) est un problème épineux auquel la société est confrontée dans le monde entier. C'est mauvais parce que c'est complexe et difficile à définir comme une préoccupation politique. Comment est-il utilisé et qui doit – qui peut ? – prendre la responsabilité de veiller à ce qu'il soit utilisé pour améliorer la société ? Au fur et à mesure qu'elle tend à devenir une technologie à usage général, elle ne peut être isolée des conditions sociales et économiques dans lesquelles elle est produite et utilisée ; en fait, elle modifie la nature même des sociétés et des économies, exigeant de nouveaux types de recherche et d'interventions politiques afin de comprendre et de gérer ses effets (Coyle, 2021). Ce qui rend l'IA plus complexe, c'est le paradoxe auquel elle est liée : cette technologie qui offre un potentiel de transformation majeur pour les sociétés dans sa capacité à calculer de grandes quantités d'informations, à un taux d'efficacité bien supérieur à celui de n'importe quel esprit humain, comporte un risque majeur pour les fondamentaux. droits et valeurs. Les preuves ont démontré que même les utilisations les plus légitimes de l'IA ont causé des dommages aux personnes, à leurs sociétés et à leurs environnements (Pizzi, Romanoff & Engelhardt, 2021). Pour ajouter à cela, nous ne connaissons pas encore toutes les implications ou impacts que l'IA a, ou aura, sur différentes sociétés à travers le monde.

En réponse, des cadres ont été élaborés qui énoncent les principes éthiques fondamentaux à respecter lors de la conception, du développement, de l'utilisation et de l'évaluation de la technologie. Ces principes éthiques reflètent certaines des valeurs fondamentales de la société humaine considérées comme menacées par l'IA, telles que : qui doit être tenu responsable des dommages qu'elle peut causer, ou comment pouvons-nous nous assurer que nous en savons suffisamment sur le fonctionnement d'une IA pour pouvoir isoler la cause de ses effets nocifs ? le Principes de l'OCDE sur l'intelligence artificielle, adoptés en 2019, ont constitué un cadre particulièrement important à cet égard. Fin 2021, une étape majeure pour la communauté internationale a été franchie lorsque le Recommandation de l'UNESCO sur l'éthique en IA (Recommandation de l'UNESCO) a été adoptée à l'unanimité par les 193 États membres. Cela constitue une percée majeure dans l'éthique de l'IA : la recommandation de l'UNESCO fournit un cadre général sur la manière dont l'IA doit être développée et utilisée pour améliorer la société humaine dans différents contextes à travers le monde, offrant le premier instrument mondial de ce type et soulignant l'importance de la diversité et le contexte culturel dans l'application de ses dispositions.

Alors que nous progressons dans l'approfondissement de notre compréhension collective de la façon dont l'IA remodèle nos sociétés et des modèles politiques nécessaires pour gérer au mieux ses effets au service du bien-être humain et planétaire, des informations sont nécessaires sur l'état mondial de la mise en œuvre des principes et principes de l'UNESCO. les obstacles auxquels les pays sont confrontés pour protéger les personnes contre les risques pour les droits de l'homme et les libertés démocratiques que l'IA peut apporter.

C'est la prémisse du nouvel indice mondial sur l'IA responsable (indice mondial).

L'indice mondial de l'IA responsable

L'indice mondial est un nouvel outil basé sur les droits en cours de développement pour aider un large éventail d'acteurs à faire progresser les pratiques responsables en matière d'IA. Il vise à fournir une référence complète, fiable, indépendante et comparative pour évaluer les progrès vers une IA responsable dans le monde entier. En fin de compte, l'indice mondial renforcera la capacité des gouvernements, des organisations de la société civile et d'autres parties prenantes dans les pays du monde entier à faire respecter les principes de l'IA responsable fondés sur les droits en fournissant des recherches et des données pour favoriser la responsabilisation, développer des interventions politiques plus précises, affiner les meilleures pratiques , et encourager la coopération régionale et internationale.

L'une des principales innovations de l'Indice mondial est le développement d'une approche entièrement intégrée fondée sur les droits de l'homme qui éclairera les dimensions comparatives de l'Indice. Cette approche est innovante pour deux raisons. Premièrement, en codifiant les obligations en matière de droits de l'homme parallèlement aux principes acceptés de l'éthique de l'IA afin d'établir des références concrètes pour une IA responsable sur la base des traités et des normes existants en matière de droits de l'homme. Et deuxièmement, en développant un indice - un instrument de recherche conçu pour créer un système de classement par rapport à la réalisation de critères universellement applicables - qui cherche à évaluer équitablement les progrès d'un pays vers une IA responsable avec une méthodologie basée sur les normes des droits de l'homme relatives à la réalisation progressive des droits socio-économiques sous réserve des ressources disponibles, afin de tenir compte des diverses conditions à l'intérieur des pays.

Dans cet article d'introduction au projet Global Index, je discute de ces innovations plus en détail dans ce blog, décrivant exactement ce que nous entendons par un Global Index basé sur les droits, et pourquoi nous pensons que c'est important.

Droits humains

Les droits de l'homme comprennent un cadre largement convenu pour les conditions fondamentales de l'humanité codifié dans le droit international, régional et national, avec plus de 170 pays ayant ratifié la déclaration internationale des droits (comprenant la Déclaration universelle des droits de l'homme, le Pacte international relatif aux droits civils politiques et le Pacte international relatif aux droits sociaux, économiques et culturels). Cela inclut les droits : de participer à la vie sociale, culturelle et politique ; avoir accès à la nourriture, à l'eau, aux soins de santé et à un abri pour survivre ; avoir une protection sociale de l'État en cas de besoin; être également soumis à des lois équitables; avoir la liberté de pensée; et que ces droits – et tous les autres droits – soient réalisés et protégés.

Dans les systèmes régionaux des droits de l'homme qui ont été établis, les droits découlant de contextes historiques sont mis en avant. Dans le canon de l'Organisation des États américains, par exemple, le droit au travail et les droits du travail équitables sont essentiels, tandis que dans le système africain des droits de l'homme, le droit d'être libéré de l'esclavage de la domination et les droits communautaires ont une importance particulière. L'éradication de la discrimination à l'égard des femmes et la réalisation d'une égalité réelle entre les sexes sont une priorité universelle, comme l'expriment les Objectifs de développement durable (ODD) des Nations Unies.

L'IA présente un risque pour la jouissance et la réalisation des droits de l'homme dans le monde. Nous connaissons bien les atteintes au droit à la vie privée impliquées dans l'utilisation intensive des données par l'IA et les impacts sur la liberté de mouvement et d'association de la surveillance basée sur l'IA. De plus en plus de preuves des effets discriminatoires néfastes de l'IA sur les femmes, les minorités de genre et les personnes de couleur - parmi de nombreux autres groupes rendus vulnérables au sein de la société - incitent les acteurs du monde entier à envisager de manière plus urgente les outils nécessaires pour résoudre ce problème et opérationnaliser les principes d'IA responsable et éthique.

Ce qui a été plutôt moins une priorité politique est la manière dont l'IA contribue à l'inégalité entre et au sein des pays dans la répartition radicalement inégale de ses avantages et de sa richesse. Pour répondre à cette préoccupation, il faut une coopération et une solidarité internationales sur l'utilisation bénéfique de l'IA pour tous, partout dans le monde, et le respect de normes bien définies d'IA responsable.

Pourquoi une approche basée sur les droits de l'homme ?

Un indice mondial fondé sur les droits peut aider à soutenir la promotion et la protection des droits de l'homme dans le développement et l'utilisation de l'IA. Il s'agit notamment d'aider : les détenteurs d'obligations en matière de droits de l'homme à comprendre leurs responsabilités en matière d'IA ; les gouvernements à remplir leurs obligations en matière de droits humains dans un contexte numérique en mutation ; les défenseurs des droits humains dans le suivi et le plaidoyer pour la protection des droits humains menacés par l'IA ; et les titulaires de droits à revendiquer leurs droits et à accéder à des recours et réparations lorsque les droits ont été violés.

Les droits de l'homme constituent un cadre exécutoire pour la protection des individus et des communautés contre les abus de pouvoir. Examiné plus en détail dans les sections ci-dessous, cela signifie que notre point de départ pour mesurer équitablement les progrès d'un pays en matière d'IA responsable est un ensemble de normes et de standards déjà convenus par les gouvernements du monde entier et la communauté internationale.

En outre, une approche fondée sur les droits impose une approche de conception particulière centrée sur : la non-discrimination et l'égalité réelle ; l'inclusion et la participation, en particulier avec les communautés affectées ; la transparence et l'accessibilité, de sorte que les données que nous produisons et la méthodologie que nous adoptons puissent être utilisées et comprises par d'autres ; et l'équité, de sorte que l'indice reflète fidèlement les contextes et les réalités locales.

Les droits de l'homme ne sont cependant pas exempts de limites et de critiques, bien exprimées par les universitaires et les praticiens. Avant de détailler ce que nous entendons par une approche fondée sur les droits de l'homme, il est important de considérer ces préoccupations et leurs implications pour la conception d'un indice mondial inclusif et percutant.

Surmonter les limites des droits de l'homme

une. Applicabilité

L'une des principales critiques du système des droits de l'homme est son manque d'efficacité en provoquant le changement radical nécessaire pour réaliser un monde véritablement juste et égal en raison de leur large portée et de leur nature non contraignante et non contraignante. Cela signifie que lorsque des traités internationaux ou régionaux relatifs aux droits de l'homme ont été signés, mais non transposés dans les lois nationales, les mécanismes d'application sont souvent inefficaces.

Ces arguments sont particulièrement importants dans le contexte de l'éthique de l'IA où, à ce jour, l'espace est largement caractérisé par des normes éthiques non contraignantes et des mesures d'autorégulation. À cet égard, il y a des leçons à tirer du système international des droits de l'homme sur les mécanismes d'application et de surveillance, ainsi que sur la nécessité de soutenir activement l'opérationnalisation nationale de l'éthique de l'IA par le renforcement des capacités des personnes, des systèmes et des institutions, la collaboration entre les nations et avec les organisations internationales, et la transparence pour permettre un suivi et des rapports indépendants.

Peut-être plus définitivement, cependant, le système des droits de l'homme développé au cours des 70 dernières années fournit la base pour articuler et établir des devoirs et des responsabilités clairs pour les acteurs impliqués dans le développement et l'utilisation de l'IA, et par conséquent, donner plus de poids et de contenu à l'éthique et à la responsabilité. Principes de l'IA. De cette manière, le discours et la réglementation entourant l'IA responsable peuvent s'appuyer sur l'expérience et la jurisprudence du système des droits de l'homme, donnant un contenu aux droits, des conseils sur leur application et leur réalisation progressive, et la priorité dans l'équilibre des droits et intérêts concurrents.

b. Tenir les entreprises responsables des violations des droits humains

Traditionnellement, les droits de l'homme ont imposé aux gouvernements, en tant que détenteurs d'obligations, l'obligation de protéger ou de réaliser les droits de l'homme pour les individus et les communautés, en tant que détenteurs de droits. Historiquement, les acteurs des entreprises n'ont pas assumé de responsabilités spécifiques et directes en matière de droits de l'homme. Bien que la responsabilité ultime de protéger et de promouvoir le respect des droits de l'homme incombe aux gouvernements, l'absence de responsabilités spécifiques des entreprises fondées sur les droits de l'homme a limité la jouissance et la réalisation des droits, en particulier dans les contextes où les gouvernements ne le font pas - ou ne le font pas. capable de – remplir ses propres obligations en matière de droits de l'homme ou demander des comptes aux entreprises. Cette situation est exacerbée dans les pays à faibles ressources où les sociétés multinationales opérant dans la région exercent un pouvoir important sur les gouvernements locaux.

Dans le contexte de l'IA, la responsabilité des entreprises pour l'utilisation et le développement de l'IA est un élément essentiel d'une IA responsable. Ceci est cependant compliqué par un manque de cadres exécutoires pour obliger les entreprises à agir de manière responsable et à respecter les droits de l'homme. Cela s'est avéré particulièrement difficile pour obliger les grandes entreprises technologiques et multinationales d'IA à rendre compte des dommages commis en dehors du pays dans lequel elles sont basées ; par exemple, le rôle de Facebook dans le génocide au Myanmar.

À cet égard, il reste encore beaucoup à faire pour obliger les entreprises d'IA à développer et à utiliser l'IA de manière responsable et sans nuire aux individus ou aux communautés.

En 2011, le professeur John Ruggie a publié le document fondateur Principes directeurs des Nations Unies sur les entreprises et les droits de l'homme, qui a déclenché des discussions et des engagements plus larges sur la manière dont les entreprises devraient et pourraient être tenues responsables de leurs responsabilités en matière de droits de l'homme. Les Principes directeurs des Nations Unies comprennent des dispositions qui seront particulièrement importantes à prendre en compte dans l'Indice mondial, telles que la responsabilité des entreprises de garantir le respect des droits de l'homme dans toutes les chaînes d'approvisionnement des entreprises.

c. Qui est considéré comme « humain » dans les droits de l'homme et qui centre les débats sur l'IA dans les pays du Sud ?

Une autre critique importante des droits de l'homme provient de la pensée postcoloniale et décoloniale, qui souligne l'histoire des droits typiquement occidentale et la notion selon laquelle la fourniture de droits à l'humanité implique une a priori présomption de qui est considéré comme humain et, par conséquent, digne de droits.

C'est aussi une question particulièrement pertinente par rapport au domaine de l'IA qui cherche à imiter l'intelligence humaine et, in fine, à reproduire l'humain sous forme de machine (que ce soit en partie ou en gros). Ce processus implique des hypothèses critiques – et normatives – sur qui et qu'est-ce que l'humain est.[1]

Au événement d'annonce de l'indice mondial qui a eu lieu en marge du Sommet 2021 pour la démocratie, Paula Ricaurte, professeure au Tecnológico de Monterrey, au Mexique, et membre du Feminist AI Network, a parlé de l'importance d'aborder les questions de violence et d'asymétries de pouvoir dans l'indice mondial en tant que domaines critiques pour le travail féministe et décolonial de l'IA. Cela comprend la question : comment les technologies d'IA permettent la violence contre les femmes ; quelle violence est subie et par qui dans la fabrication de l'IA - comme être soumis à des conditions de travail injustes en tant qu'étiqueteurs de données pour des images pénibles pour former l'IA ; harcèlement sexuel ou sexiste au sein des équipes de conception d'IA ; ou la perte d'un environnement sain due à l'extraction non durable des ressources naturelles nécessaires pour alimenter l'IA.

Lors de l'élaboration de l'indice mondial, ces questions seront au centre des préoccupations. Nous entreprendrons une série d'exercices de consultation avec des groupes de défense des droits des femmes, des spécialistes autochtones de l'IA, des groupes de défense des droits de l'homme et des parties prenantes des pays du Sud, afin de mieux comprendre les préoccupations particulières auxquelles sont confrontés différents groupes dans différentes parties du monde en par rapport à l'IA, et afin de construire un index qui aborde les véritables défis sur le terrain qui peut être utilisé comme un outil pour soutenir des efforts de plaidoyer plus responsables en matière d'IA.

En outre, l'indice mondial est peut-être le premier outil mondial d'IA développé avec un leadership du Sud global, car l'initiative est dirigée par Recherche TIC Afrique avec une équipe d'experts en IA d'Afrique, d'Asie et d'Amérique du Sud. Dans le processus de développement de l'indice mondial, un accent particulier sera mis sur le soutien de la capacité des chercheurs en IA du Sud mondial à participer - et à diriger - les débats mondiaux sur l'IA. 

Une approche fondée sur les droits de l'homme

Les éléments d'une approche fondée sur les droits de l'homme ont été détaillés dans le droit international des droits de l'homme et consistent en les cinq principes suivants :

Principes d'une approche fondée sur les droits de l'homme

  • Universalité et inaliénabilité : chacun a droit à tous les droits de l'homme, de manière égale et sans distinction
  • Indivisibilité et interdépendance: Tous les droits sont inhérents à la dignité humaine – la réalisation et la jouissance d'un droit dépendent de la réalisation d'un autre droit. Cela nécessite une réalisation holistique de tous les droits, et aucun compromis entre les droits.
  • Égalité et non-discrimination: Tous les êtres humains sont égaux en vertu de leur dignité inhérente. En tant que tel, tous les êtres humains ont droit à la jouissance égale de leurs droits sans discrimination
  • Participation et inclusion: Toute personne a droit à une participation égale, libre et active significative à la mise en œuvre et à la jouissance de tous les droits
  • Responsabilité et primauté du droit: Tous les détenteurs d'obligations (étatiques et non étatiques) ont des obligations en ce qui concerne la réalisation des droits de l'homme. A ce titre, ils doivent se conformer aux normes et standards juridiques en matière de droits de l'homme qui ont été établis au niveau national et international. Lorsqu'elles ne le font pas, les parties lésées ont droit à un recours ou à une réparation effective.

Adapté d'Adams et al, Les droits de l'homme et la quatrième révolution industrielle en Afrique du Sud (2021), disponible en libre accès ici.

Ces principes seront adoptés dans la conception de la méthodologie et du cadre conceptuel de l'indice mondial, comme indiqué ci-dessous. Au minimum, cela inclut une attention particulière aux éléments suivants :

  • Accent mis sur la non-discrimination.
  • L'accent est mis sur la réalisation de l'égalité réelle et la reconnaissance de l'expérience différentielle de la jouissance ou de l'accès aux droits à l'ère numérique.
  • Accent mis sur une consultation publique significative, la participation et l'inclusion dans la conception, l'utilisation et la gouvernance de l'IA.
  • L'ingérence dans les droits par les systèmes d'IA doit être proportionnée, légitime, raisonnable dans une société démocratique et prévue par la loi.
  • Bienfaisance et répartition équitable des avantages de l'IA pour se protéger contre l'aggravation des inégalités.
  • S'appuyer sur la jurisprudence nationale, régionale et internationale en matière de droits de l'homme pour équilibrer les droits et principes concurrents.
  • Exiger des acteurs non étatiques puissants qu'ils prennent des mesures positives pour réaliser et protéger les droits humains affectés par le développement et l'utilisation de l'IA
  • Les mécanismes de réparation et de recours en cas de violation résultant du développement et de l'utilisation de l'IA doivent être facilement accessibles
  • Les titulaires de droits doivent connaître et pouvoir revendiquer et accéder à leurs droits dans le contexte de l'IA et de la numérisation de la société
  • Concentrez-vous sur la création d'un avenir inclusif grâce à la conception inclusive de technologies inclusives.
  • Développer une réglementation qui tienne compte de l'indivisibilité et de l'interdépendance des droits de telle sorte que, par exemple, le droit à la vie privée soit compris aux côtés de la dignité, de la liberté de mouvement et de la non-discrimination, entre autres.

Définir la "responsabilité"

Ces dernières années, le discours sur la bonne gouvernance de l'IA a quelque peu évolué, passant d'une IA éthique à une IA responsable. Alors que l'IA éthique conserve son bastion, avec l'IA digne de confiance, et bien qu'il puisse y avoir une différenciation limitée dans la pratique entre ces termes, les droits de l'homme fournissent un cadre de responsabilité clair que nous trouvons utile pour définir une IA responsable.

Cadre de responsabilité en matière de droits de l'homme

Promouvoir les droitsProtéger les droitsRespecter les droitsDroits de surveillanceDroits de revendication
Gouvernements; la société civile et les organismes de plaidoyer ; entreprisesGouvernements (et entreprises remplissant une obligation gouvernementale en matière de droits de l'homme)Gouvernements et entreprisesOrganismes indépendants de défense des droits de l'homme ; la société civile et les groupes de défense ; universitaires etcParticuliers et collectivités

Cela se traduit par le cadre d'IA responsable suivant :

Cadre de responsabilité en matière d'IA et de droits de l'homme

Responsabilité du gouvernement : s'assurer que les conditions du pays existent pour une utilisation responsable de l'IA• Promouvoir le développement responsable de systèmes d'IA qui respectent les droits, notamment en établissant des cadres juridiques et réglementaires pertinents.
• Surveiller l'impact de l'IA sur les droits de l'homme et fournir des recours en cas de violation des droits
Responsabilité d'entreprise : promouvoir et respecter les droits de l'homme dans le développement et l'utilisation de l'IA• Développer et utiliser des systèmes d'IA de manière à promouvoir les droits de l'homme et à renforcer la démocratie
• Respecter les droits de l'homme dans toutes les chaînes d'approvisionnement
Responsabilité sociétale : pour promouvoir et surveiller les droits de l'homme par les utilisateurs et les développeurs d'IA• Plaider pour le respect des droits de l'homme dans l'utilisation et le développement de l'IA
• Surveiller l'utilisation de l'IA par les États et les entreprises et promouvoir la sensibilisation aux droits

Ce cadre de responsabilité inclut à la fois la non-ingérence dans les droits dits de devoir négatifs, comme la liberté d'expression et le droit à la vie privée, mais aussi les droits de devoir positifs, comme le droit à l'éducation ou l'accès aux soins de santé. Ceci est important dans le contexte d'une « IA responsable », où nous voulons nous assurer que l'IA n'est pas seulement utilisée d'une manière éthique qui ne porte pas atteinte aux droits de l'homme, mais que son utilisation contribue de manière significative à la réalisation progressive des droits et devoirs positifs. les objectifs de développement durable.

Codification des normes d'IA responsable fondées sur les droits

L'indice mondial impliquera un processus de codification des obligations et des normes en matière de droits de l'homme parallèlement aux principes éthiques de l'IA largement convenus. La Recommandation de l'UNESCO constitue un point de départ important pour notre travail, articulant la protection et la promotion des droits de l'homme comme l'un de ses principes centraux, aux côtés de la diversité et de la durabilité environnementale. D'autres cadres clés comprennent

La Déclaration de Toronto : Protéger le droit à l'égalité et à la non-discrimination dans les systèmes d'apprentissage automatique (2018), le Protocole autochtone et intelligence artificielle (2020), et le principes féministes de l'IA.

La recommandation de l'UNESCO a été élaborée à la suite d'une longue période de consultation de 2 ans avec des parties prenantes du monde entier et représente le cadre le plus complet et le plus largement accepté sur l'éthique de l'IA à ce jour.

La méthodologie de base pour mesurer l'IA responsable sera basée sur le cadre de valeurs, de principes et de domaines d'action politiques définis dans la recommandation de l'UNESCO qui doit être traduit en un ensemble d'indicateurs clés basés sur les droits de l'homme pour soutenir la mesure. (Voir la section ci-dessous pour plus d'informations sur le développement des indicateurs).

Notre objectif en matière de droits de l'homme englobe non seulement les droits civils et politiques, tels que la vie privée, la liberté d'expression et d'association, qui sont bien reconnus comme étant impactés par l'IA, mais - en s'inspirant de la recommandation de l'UNESCO et des contributions de la consultation avec les parties prenantes du Sud - également comprend les droits sociaux, économiques, environnementaux et culturels, les droits communautaires, les droits du travail et les droits des enfants. L'éradication de la discrimination à l'égard des femmes et des groupes systématiquement désavantagés en raison de leur identification sexuelle, ainsi que la réalisation d'une véritable égalité entre les sexes, constitueront également les principaux domaines d'intervention de l'Indice mondial.

Une approche basée sur les droits humains comme méthodologie

L'équité est l'un des principes clés de conception du Global Index. Autrement dit, pour refléter fidèlement les contextes et les réalités locales et mesurer le niveau d'IA responsable d'un pays par rapport aux ressources disponibles. Ce n'est pas seulement important car nous prenons en compte l'inégalité mondiale des capacités et des ressources en IA entre les pays, mais aussi parce que des résultats justes et contextuels sont beaucoup plus informatifs et utiles pour les pays et les parties prenantes locales qui cherchent à faire progresser leurs propres progrès vers une IA responsable.

L'intégration de l'équité dans la méthodologie d'un indice n'est cependant pas simple. Les indices ont tendance à utiliser des références standard pour mesurer les pays par rapport à des critères universels comme base de classement. Au lieu de cela, l'Indice mondial se tourne vers le système des droits de l'homme pour avoir un aperçu des mesures attendues que des pays aux niveaux de ressources différents devraient prendre pour protéger et réaliser les droits de l'homme. Le Pacte international relatif aux droits économiques, sociaux et culturels (PIDESC), ratifié par plus de 140 pays, prévoit le concept de réalisation progressive des droits sous réserve du maximum de ressources disponibles. Cela signifie que les gouvernements sont censés prendre toutes les mesures possibles en utilisant le maximum de ressources disponibles pour soutenir la réalisation des droits socio-économiques à devoir positif, tels que l'eau, le logement et la sécurité sociale. Il reconnaît que les pays sont à des stades différents dans la réalisation des droits socio-économiques et n'ont pas tous accès au même niveau et à la même échelle de ressources nécessaires pour assurer la réalisation de ces droits. Ressources disponibles comprennent à la fois les ressources disponibles dans un pays – publiques et privées – et les ressources disponibles grâce à l'aide et à la coopération internationales. 

L'Indice mondial s'appuiera sur le concept de la réalisation progressive des droits sous réserve du maximum de ressources disponibles dans sa méthodologie de deux manières principales. Premièrement, en développant un ensemble d'indicateurs qui comprennent des indicateurs qui mesurent le processus et le développement des capacités, et pas seulement les résultats. Et deuxièmement, en développant un cadre d'évaluation des critères qui mesurera les progrès d'un pays dans la réalisation d'un indicateur d'IA responsable par rapport à une échelle à plusieurs niveaux développée selon trois niveaux de ressources : pays à faibles ressources, pays à ressources moyennes et pays à ressources élevées.

Les indicateurs peuvent inclure : des indicateurs « d'entrée », tels que la ratification des principaux instruments relatifs aux droits de l'homme ou l'existence d'une loi sur la protection des données ; des indicateurs de « processus », tels que l'investissement dans des programmes de science des données pour les femmes ; et des indicateurs de «résultat» et «d'impact», tels que le nombre de plaintes liées à l'IA déposées auprès d'un organisme indépendant de protection des droits de l'homme. L'élaboration d'indicateurs est, et continuera d'être, entreprise en consultation avec un large éventail de parties prenantes dans le but de relever l'ensemble des défis (et opportunités) en matière de droits de l'homme associés à l'IA.

L'Indice mondial tiendra également compte des obligations fondamentales minimales énoncées dans le PIDESC, qui exigent que certaines obligations socio-économiques des gouvernements en matière de droits humains soient immédiatement et toujours respectées, même à un niveau de base. Cela comprend l'accès à des opportunités de travail, en particulier pour les communautés défavorisées, et l'accès à un régime de sécurité sociale pour assurer les besoins de base, tels que l'eau, le logement et la nourriture. L'indice mondial comprendra donc une évaluation visant à déterminer si l'IA interfère avec - ou est effectivement utilisée pour respecter - les obligations fondamentales minimales d'un gouvernement.

Être impliqué

Au cours des prochains mois, nous nous engagerons dans un vaste processus de consultation avec un large éventail de parties prenantes afin de mieux comprendre comment l'indice mondial peut être utile sur le terrain pour différents groupes dans différentes parties du monde. Cela nécessite d'écouter des expériences différentielles avec l'IA dans divers contextes.

Ce processus d'engagement comprendra :

  • ateliers régionaux;
  • Engagement auprès des organisations de défense des droits humains, des groupes de défense des droits des femmes et des communautés marginalisées ; et
  • Consultations des décideurs politiques et des groupes d'utilisateurs.

Il ne s'agit pas d'une liste exhaustive, et nous aimerions connaître votre avis sur les forums à venir auxquels nous pourrions participer ou sur les idées que vous pourriez avoir pour atteindre les communautés qui ne sont pas suffisamment représentées dans les discussions sur l'IA à ce jour.

Veuillez nous contacter directement par e-mail à [email protected].

Des informations sur les événements d'engagement à venir seront publiées sur d4d.net avec des mises à jour régulières sur Twitter via :

@d4dnetwork

@GlobalIndexRAI

@RIAnetwork

[1] En ce qui concerne les droits de l'homme, il y a également des discussions importantes et émergentes sur la question de savoir si les robots - autrefois sensibles - devraient avoir des droits, similaires aux droits de l'homme. Et, si un robot a une agence, si un robot devrait avoir des responsabilités et des obligations liées aux droits de l'homme. Ces discussions ne relèvent pas du mandat actuel de l'Indice mondial car elles sont – à ce stade – des préoccupations conceptuelles et n'affectent pas immédiatement la réalisation ou la jouissance des droits de l'homme.