L'ONU aborde l'IA par la mauvaise voie

Gabriel Accascina affirme que l'organisme international, en créant l'AIEA en 1957, s'est déjà attaqué au problème de l'offre dans un secteur dangereux et que, dans le cas de l'IA, un secteur en pleine croissance, il peut le faire à nouveau.

Annalena Baerbock, présidente de la 80e session de l’Assemblée générale, s’exprimant lors de la séance d’ouverture du Dialogue mondial sur la gouvernance de l’IA à Genève le 6 juillet. (Photo ONU/Irina Popa)

Par Gabriel Accascina

Traduction MCT

La Semaine numérique de Genève, qui s'est tenue au début du mois, a été l'occasion de la publication du premier rapport scientifique mondial sur l'intelligence artificielle du Groupe scientifique international indépendant des Nations Unies.

Cette réunion a couronné trois années d'une production scientifique impressionnante de l'ONU sur l'intelligence artificielle, depuis le Pacte numérique mondial jusqu'au rapport « Gouverner l'IA pour l'humanité », en passant par la recommandation de l'UNESCO sur l'éthique de l'IA et les sommets annuels de l'Union internationale des télécommunications.

Pris dans leur ensemble, ces travaux convergent vers une même position : l'ONU considère l'IA comme un service à recevoir, une ressource à exploiter au service du bien commun, en accord avec les Objectifs de développement durable, dont les effets sociétaux doivent être surveillés et qui doit être encadrée par des garde-fous éthiques.

Il s'agit là de la demande technologique, et c'est sur ce point que se concentre actuellement l'engagement concret de l'ONU.

Quant à l'offre, c'est-à-dire aux lieux où l'IA de pointe est produite, évaluée et diffusée, l'ONU est totalement absente. Il n’existe aucun organisme multilatéral doté de personnel technique capable d’examiner le travail d’un laboratoire, aucun dispositif d’évaluation des essais d’entraînement, aucune infrastructure partagée pour le signalement des incidents au-delà des frontières.

Tours de refroidissement et générateurs de secours sur le toit d'un centre de données à Los Angeles en 2025. (Rsparks3 / Wikimedia Commons / CC0 1.0)

L'architecture de gouvernance des prochaines décennies se consolide actuellement autour d'accords bilatéraux entre les laboratoires de pointe et les gouvernements qui les accueillent, d'entités privées comme le projet Glasswing d'Anthropic, et de décisions de contrôle des exportations prises par les pays hébergeant la technologie.

Une fois ces fondements institutionnels établis, la solution de facilité pour toute décision ultérieure consistera à les étendre plutôt qu'à construire une alternative multilatérale.

Cette tendance est visible dans l'actualité. Le département du Commerce américain a récemment autorisé la mise à disposition du modèle d'IA le plus performant d'Anthropic à une centaine d'institutions américaines, deux semaines après qu'une suspension des exportations l'ait rendu inaccessible à tous. La suspension et la mise à disposition sélective ont toutes deux été décidées par la Maison Blanche.

Les partenaires approuvés sont américains, mais les populations concernées par la technologie sont mondiales. Des responsables européens ont publiquement exprimé leur frustration face à cette nouvelle dépendance vis-à-vis des décisions prises à Washington. Le pouvoir de déterminer quelles populations auront accès à une technologie de pointe en matière de sécurité repose désormais, de facto, entre les mains d'une seule administration nationale.

Maria Ressa et Yoshua Bengio, coprésidents du Groupe scientifique des Nations Unies sur l'IA, avec Egriselda López, de gauche à droite. (Eskinder Debebe / Photo ONU)

Quel rôle l'ONU pourrait-elle jouer du côté de l'offre ?

L'évaluation préalable au déploiement des modèles d'IA est en cours. L'Institut britannique de sécurité de l'IA et le Centre américain pour les normes et l'innovation en matière d'IA (anciennement l'Institut américain de sécurité de l'IA) testent tous deux des modèles de pointe grâce à des accords volontaires avec les principaux laboratoires, une pratique si courante que ces derniers la citent comme preuve d'un développement responsable.

La question que le système multilatéral n'a jusqu'à présent pas posée est la suivante : pourquoi les garanties de sécurité dont bénéficient deux pays ne devraient-elles pas être accessibles aux 191 autres États du monde ?

Précédent nucléaire

L'ONU a déjà réalisé ce niveau de travail technique. L'Agence internationale de l'énergie atomique (AIEA) a été créée en 1957 pour interagir directement avec les lieux de production de matières nucléaires, et ses garanties lui confèrent une présence technique permanente dans les pays signataires du Traité sur la non-prolifération des armes nucléaires.

L'agence intervient au sein même des installations où sont manipulées les matières nucléaires, plutôt que de l'extérieur du secteur qui les traite, et les populations des pays sans programme nucléaire bénéficient ainsi d'une garantie grâce à un système qu'aucune d'entre elles ne pourrait mettre en place seule.

Délégation soviétique à la quatrième conférence générale de l'AIEA, le 24 septembre 1960. (Banque d'images de l'AIEA / Flickr / CC BY-SA 2.0)

Les laboratoires de pointe en IA ont leurs propres raisons de s'engager. Ils soumettent déjà leurs modèles à une évaluation volontaire, car cela leur permet d'obtenir une reconnaissance de leurs compétences et de se prémunir contre l'argument selon lequel le développement de pointe se fait sans contrôle.

Un accord multilatéral étend cette même logique, offrant aux laboratoires une garantie qu'ils peuvent présenter aux marchés et aux gouvernements au-delà des deux pays qui la fournissent actuellement, et les protégeant de la fragmentation réglementaire qu'entraîneraient des accords nationaux. Ils ont intérêt à être dignes de la confiance du monde entier, et non seulement de Washington et de Londres.

La difficulté réside dans le fait que la production en IA de pointe est concentrée aux États-Unis et en Chine, et aucun de ces deux pays ne semble disposé à ouvrir ses laboratoires à une présence multilatérale. Il en était de même pour les garanties nucléaires en 1953, quatre ans avant la création de l'AIEA, lorsqu'une concentration similaire de capacités entre les mains de deux puissances rivales, Washington et Moscou, semblait rendre tout accord politiquement impossible.

L'agence a été créée car les deux parties ont fini par conclure qu'une transparence mutuelle était préférable à une opacité réciproque. La courte période entre 1953 et 1957 s'est avérée déterminante pour la mise en place de son architecture pour les 70 années suivantes.

Le programme de réforme UN80 constitue le vecteur idéal pour l'émergence d'un contrôle de l'offre, car cette initiative s'attache à repenser le rôle du Secrétariat de l'ONU dans le cadre du multilatéralisme de demain. Or, le déficit de gouvernance en matière d'IA représente précisément l'absence structurelle qu'un processus de réforme vise à combler. L'ONU ne peut exercer son autorité au nom des milliards de personnes qu'elle est censée servir si elle est présente uniquement du côté où les conséquences des technologies de pointe sont ressenties et absente du côté où ces conséquences sont produites.

Combler cette lacune ne nécessite pas la création d'une nouvelle agence dès le premier jour : un mandat UN80 pour une petite unité permanente d'évaluation, constituée à partir des ressources dont dispose déjà l'ONU, comme le Centre international de calcul, et une invitation aux laboratoires à étendre au Centre les accords volontaires qu'ils respectent déjà à Londres et à Washington, suffiraient pour commencer. C'est le travail que devra entreprendre la prochaine phase de l'engagement multilatéral.

Gabriel Accascina est un ancien directeur du Groupe de gestion des connaissances du Programme des Nations Unies pour le développement (PNUD) et un ancien chercheur à la Harvard Kennedy School. Au cours d'une carrière de trois décennies au sein de l'ONU et d'institutions de développement international, il a dirigé des initiatives d'infrastructure Internet et de partage des connaissances en Asie, en Afrique et au Moyen-Orient. Il écrit sur la technologie, Internet et l'intelligence artificielle.

Source