IA inclusive : relier la gouvernance mondiale aux réalités locales

Cette interview a été réalisée par Ula Rutkowska (chercheuse principale, Apolitical) et éditée par Christina Obolenskaya (MSc en histoire internationale, LSE et stagiaire en communication, Apolitical). Jimena Sofía Viveros Álvarez a été nommée sur le Government AI 100 2025 d'Apolitical.

La gouvernance mondiale de l'IA néglige souvent de prendre en compte les réalités des communautés du Sud. L'adoption de l'IA ne se déroule pas de la même manière au Mexique, au Zimbabwe ou au Vanuatu, et pourtant de nombreux cadres adoptent une approche universelle.

Cette conversation explore le décalage entre les discussions de haut niveau sur l'IA et les besoins des pays du Sud, les risques d'aggravation des inégalités et la manière dont l'IA devrait être mise au service de la consolidation de la paix plutôt que des conflits. Elle examine également le rôle des initiatives locales pour garantir une IA responsable, sûre et inclusive, en particulier pour les communautés marginalisées et les plus vulnérables à ses risques.

Q : Pourriez-vous commencer par expliquer le décalage entre les discussions sur la gouvernance mondiale de l’IA et les réalités locales ? Comment se fait-il que les discussions actuelles ne tiennent pas compte des préoccupations locales ?

On me demande généralement partout : « Super, vous parlez d'IA sûre, mais qu'est-ce que cela signifie pour moi ? Quels sont mes obligations, mes droits ? Comment puis-je mettre cela en œuvre ? Comment l'exploiter de manière sûre et transparente, et comment me protéger et protéger ma communauté ? » Ces principes abstraits de gouvernance de haut niveau sont censés être véritablement mondiaux, surtout dans le contexte actuel. Mais leur traduction varie. En Suisse, c'est peut-être clair, mais au Mexique, au Zimbabwe ou au Vanuatu, la situation est très différente selon le contexte et les capacités.

Tout le monde se concentre sur l'IA, le quantique et les autres technologies émergentes qui impactent notre monde, mais on oublie que de larges pans de notre population n'ont même pas accès à l'électricité. Comment concilier cela ? Nous parlons d'infrastructures publiques numériques et de biens communs, mais nous ne partons pas du même principe. Cette réalité factuelle est mal intégrée aux approches de gouvernance mondiale et aux critères de mesure de la mise en œuvre. Nous tentons soi-disant d'injecter des accélérateurs pour réduire ces différences, mais ils nous divisent encore davantage, et malheureusement, le Sud global est généralement utilisé comme un symbole plutôt que comme une véritable priorité de gouvernance.

C'est pourquoi je privilégie une approche locale pour une IA et une innovation responsables, sûres, sécurisées et dignes de confiance. Au sein de mon cabinet de conseil, iQuilibriumAI , nous concevons des solutions sur mesure pour différents clients, en toute confidentialité, notamment dans les domaines de la paix, de la sécurité, de l'action humanitaire et de la protection de l'environnement. Parallèlement, je dirige la Fondation HumAIne, une organisation à but non lucratif qui s'attaque aux mêmes problématiques afin d'assurer un impact significatif et plus large pour ceux qui n'ont pas les moyens de payer des services.

Au sein de cette Fondation, nous avons créé la Plateforme Synergies et Résilience du Sud, qui met en relation start-ups, entrepreneurs, étudiants, professeurs, chercheurs et universitaires afin de favoriser la résilience technologique. Elle crée également des synergies pour connecter ceux qui vivent dans des zones reculées et éloignées des ressources traditionnelles, et partager les meilleures pratiques entre nous tous dans le Sud pour le bien commun et le développement. L'objectif est de favoriser l'innovation et de cesser de « réinventer la roue » partout et en permanence, ce qui mènera à des sociétés plus pacifiques. Malheureusement, le Sud reste largement consommateur de technologies d'IA plutôt que producteur, ce qui nous rend plus vulnérables aux risques. Notre objectif est d'égaliser les chances grâce à une approche d'engagement multipartite, en amplifiant et en faisant écho à des voix qui ne seraient normalement pas entendues.

Nous accordons une grande importance et un engagement fort aux femmes, veillant à ce que 60 % de nos actions bénéficient aux femmes. Nous accordons également la priorité aux communautés vulnérables et marginalisées, notamment les communautés autochtones, les personnes handicapées et les personnes âgées. Ma motivation est de combler le fossé entre les discussions de haut niveau sur la gouvernance et les besoins concrets du terrain, en veillant à ce que l'IA n'aggrave pas les vulnérabilités, mais permette aux communautés du Sud de construire leur propre résilience technologique, pour et par elles-mêmes.

Q : Pourriez-vous m’expliquer certaines des préoccupations en matière d’égalité autour de l’IA et comment elle exacerbe les inégalités ?

Les inégalités découlent de problèmes systémiques historiques, mais sont exacerbées par la reproduction des préjugés et de la discrimination par l'IA. De nombreux systèmes d'IA sont entraînés à partir de données reflétant les préjugés sociétaux, ce qui conduit à des décisions qui renforcent de manière exponentielle les inégalités existantes au lieu de les atténuer.

Cette situation est particulièrement préoccupante dans les contextes où les cadres réglementaires sont faibles, les ressources limitées et la voix des communautés locales exclue des discussions sur la gouvernance mondiale de l'IA. Sans une approche inclusive et contextualisée, l'IA risque fortement d'accentuer les divisions au lieu de combler les écarts. C'est pourquoi notre travail privilégie une approche communautaire : créer des liens, favoriser la collaboration Sud-Sud et veiller à ce que le développement et le déploiement de l'IA répondent aux besoins des personnes les plus touchées par ses risques.

Pourriez-vous détailler davantage votre vision d’une IA sûre ?

Cette réponse dépend largement du domaine et des cas d'utilisation spécifiques. Ma principale préoccupation est la paix et la sécurité. Comme l'a déclaré à juste titre la vice-secrétaire générale des Nations Unies, Amina Mohammed, « Nous ne pouvons parvenir à un développement durable sans pérenniser la paix, ni bâtir un avenir sûr pour tous sans nous attaquer aux causes profondes de nos conflits et de nos vulnérabilités. » Par conséquent, je maintiens qu'il est crucial de s'attaquer aux déséquilibres structurels qui créent et perpétuent les conflits. L'IA est utilisée pour créer des systèmes d'armes et des systèmes d'aide à la décision, déployés par toutes sortes d'acteurs et testés sur le terrain sans respecter le droit international humanitaire, les droits de l'homme ni même les normes de sécurité technique. Cela me préoccupe énormément. Une IA sûre devrait mettre l'accent sur le domaine de la paix et de la sécurité, souvent exclu à tort des discussions mondiales en raison de cloisonnements et de débats sur le caractère voilé de la sécurité nationale.

C’est là que les enjeux sont les plus élevés et que la plupart des violations des droits de l’homme se produisent en toute impunité, sans aucune responsabilité ni recours.

Q : Dans ce contexte, à quoi ressemble la promotion d’une utilisation responsable de l’IA dans un contexte militaire et où voyez-vous le plus grand besoin d’amélioration ?

Premièrement, nous devons reconnaître que toute gouvernance mondiale de l'IA doit tenir compte du double usage intrinsèque de cette technologie. Il est absolument essentiel de reconnaître ce double usage pour garantir les principes fondamentaux d'un développement sûr, responsable et fiable de l'IA. Je ne le répéterai jamais assez. Il est crucial d'établir des garanties rigoureuses pour ces technologies tout au long de leur cycle de vie – de l'approvisionnement au déploiement, en passant par le démantèlement – en raison de leurs conséquences considérables.

Q : Voyez-vous des raisons d’être optimiste quant au potentiel de l’IA à soutenir la consolidation de la paix ou à prévenir les conflits ?

Si nous utilisons l'IA et d'autres technologies émergentes pour remédier aux inégalités structurelles ou systémiques existantes, cela réduira naturellement l'incidence des conflits. Les conflits surgissent en l'absence de système juridique et d'institutions faibles, car l'absence d'État de droit entraîne des violations des droits humains. En revanche, utiliser l'IA au bénéfice de tous pour créer un meilleur environnement social et un écosystème d'innovation permettant de répondre simultanément à nos besoins les plus fondamentaux et à nos défis les plus urgents peut réduire significativement les conflits et améliorer le succès des efforts de consolidation, de rétablissement et de maintien de la paix. Nous devrions nous concentrer sur ces aspects positifs plutôt que de promouvoir l'IA pour déstabiliser les sociétés, aggraver et consolider les inégalités structurelles ou faciliter les guerres.