Un moment décisif pour l'intelligence artificielle

WASHINGTON, DC – Il y a presque exactement 66 ans, 22 personnalités scientifiques de renom, de dix pays, dont les États-Unis et l’Union soviétique, étaient réunies à Pugwash, en Nouvelle- Écosse au Canada pour évaluer les dangers posés par les armes nucléaires et rechercher des moyens pacifiques de résoudre les conflits entre les pays. À cette occasion est née l’organisation internationale connue sous le nom de Conférences Pugwash sur la science et les affaires mondiales, ou Mouvement Pugwash. Bien que le monde soit loin d’être libéré des armes nucléaires, le prix Nobel de la paix a été décerné au Mouvement en 1995 pour ses efforts notoires en faveur du désarmement nucléaire. Aujourd’hui, le monde a besoin d’un nouveau Mouvement Pugwash, axé cette fois-ci sur l’intelligence artificielle (IA). Contrairement aux armes nucléaires, l’IA présente autant de promesses que de dangers, et ses capacités de destruction sont pour l’heure plus théoriques qu’avérées. Néanmoins, les deux technologies comportent des risques existentiels pour l’humanité. Les scientifiques, experts technologiques, philosophes, éthiciens et humanitaires éminents de tous les continents doivent donc collaborer pour parvenir à un large consensus sur un cadre de gouvernance de l’IA susceptible d’être accepté aux niveaux local, national et international.

Contrairement au Mouvement Pugwash originel, la version IA ne sera pas obligée de créer de toutes pièces un nouveau cadre réglementaire. Une multitude d’initiatives destinées à gérer et orienter le développement et les applications de l’intelligence artificielle ont déjà été lancées. On peut citer le Blueprint for an AI Bill of Rights aux  États-Unis, les Lignes directrices en matière d’éthique pour une IA digne de confiance de l’Union européenne, les Principes sur l’IA de l’OCDE et la Recommandation sur l’éthique de l’intelligence artificielle de l’Unesco.

Le nouveau Mouvement Pugwash devra essentiellement mettre l’accent sur la mise en relation des acteurs pertinents, aligner les mesures nécessaires et veiller à ce qu’elles soient largement appliquées. Les institutions joueront un rôle déterminant à cet égard. La question se pose toutefois de savoir quelle forme doivent prendre ces institutions et comment les établir de manière réaliste et les doter des moyens nécessaires pour relever rapidement les défis de l'IA.

Le secrétaire général des Nations unies Antonio Guterres a appelé à "un multilatéralisme en réseau, dans lequel la famille des Nations Unies, les institutions financières internationales, les blocs commerciaux et d’autres" -dont de nombreuses entités non gouvernementales- "travaillent ensemble, plus étroitement et plus efficacement". Mais pour être efficaces, de tels réseaux multipartites doivent être conçus pour s’acquitter de fonctions spécifiques.

Un article publié ce mois-ci par un groupe d’éminents spécialistes et experts de l’IA issus d'universités et d'entreprises technologiques identifie quatre fonctions clés en ce qui concerne l'IA : diffuser les technologies bénéfiques, harmoniser la réglementation, garantir la sécurité du développement et de l'utilisation de l’intelligence artificielle, et gérer les risques géopolitiques.

On peut aisément comprendre que pour de nombreuses personnes, la priorité absolue soit de "garantir la sécurité du développement et de l'utilisation de l’intelligence artificielle". Des efforts sont donc déployés pour établir une institution qui identifiera et surveillera les dangers réels et potentiels des applications de l’IA, tout comme le Groupe d'experts intergouvernemental sur l'évolution du climat (GIEC) surveille les risques existentiels liés au changement climatique. Parmi ces efforts, on peut citer la proposition de création d’un Observatoire mondial de l’IA, récemment avancée par l’Artificial Intelligence and Equality Initiative, qui serait explicitement calqué sur le GIEC, qui est lui-même essentiellement un réseau de réseaux qui fonctionne très bien pour la compilation de connaissances émanant de diverses sources différentes.

Les réseaux collaboratifs -allant du système de signalement des incidents de l'Agence américaine de cybersécurité et de sécurité des infrastructures (Cybersecurity and Infrastructure Security Agency, CISA) à Wikipédia- reposent sur une plateforme centrale qui fait autorité et qui est en mesure de collecter des informations et des analyses auprès de nombreuses institutions différentes, dont certaines sont déjà structurées en réseaux. Mais une telle plateforme ne peut pas agir rapidement sur la base des informations qu'elle recueille. Pour gouverner l'IA, une institution multilatérale hiérarchique ayant le pouvoir de prendre et d'appliquer des décisions -analogue à un Conseil de sécurité des Nations unies  qui serait opérationnel- reste nécessaire.

En ce qui concerne la fonction consistant à "diffuser les technologies bénéfiques" (tout aussi importante pour une majorité que la prévention des effets négatifs de l’IA), un réseau associant l’innovation et la collaboration est le plus susceptible de donner les meilleurs résultats. Les réseaux d’innovation comprennent en général des hubs hétérogènes -pour garantir l’accès au plus grand nombre possible de nouvelles idées et pratiques- et un nombre limité de hubs dédiés à la transformation des idées en actions, à la collaboration sur les meilleures pratiques et à la prévention de l'exploitation. Les hubs pourraient être centrés sur des régions spécifiques ou être liés à des objectifs de développement durable spécifiques des Nations unies.

Harmoniser la réglementation -avec l'expérimentation de différents types de réglementation- nécessitera une structure plus vaste, plus flexible et aussi inclusive que possible. Les applications technologiques de l’IA sont tellement nombreuses et évoluent si rapidement qu’une seule, ou même plusieurs autorités réglementaires centralisées n’auraient pas la moindre chance de les canaliser et de les orienter à elles seules. Nous proposons plutôt un réseau multinodal largement distribué qui soutient ce que nous appelons la "co-gouvernance numérique".

Notre modèle est basé sur l’architecture distribuée et le système de co-gouvernance qui sont largement reconnus pour avoir assuré la stabilité et la résilience de l'internet. Il y a plusieurs dizaines d'années, des chercheurs numériques, soutenus par le gouvernement américain et les premières entreprises de l'internet, ont créé plusieurs institutions dans une constellation peu coordonnée, ayant chacune ses propres responsabilités fonctionnelles.

L’Internet Society promeut un internet ouvert, connecté au niveau mondial. Le World Wide Web Consortium définit les normes techniques liées au web. Le Forum sur la gouvernance de l'Internet (IGF) rassemble diverses parties prenantes pour discuter de questions de politique publique relatives à Internet. Et la Société pour l’attribution des noms de domaine et des numéros sur internet (ICANN) coordonne et sauvegarde les identifiants internet uniques.

La clé du succès de ces institutions est qu’elles fonctionnent au moyen de réseaux de pair à pair distribués et autogérés qui réunissent un large ensemble de parties prenantes pour concevoir conjointement les normes, les règles et les lignes directrices de mise en œuvre. L’ICANN, par exemple, compte des dizaines de réseaux autogérés qui participent au système des noms de domaine -indispensables pour naviguer sur l’internet- et coordonne d’autres réseaux autogérés, tels que les cinq organisations régionales qui gèrent l’attribution des adresses IP dans le monde.

Ces institutions sont capables de gérer un large ensemble de questions, qu’elles soient politiques ou techniques. Lorsque la Russie a envahi l’Ukraine en 2022, par exemple, les autorités ukrainiennes sont intervenues auprès de l’ICANN pour qu’elle supprime les domaines russes, dont .ru, de la zone racine du domaine de premier niveau, gérée par 12 organisations dans quatre pays, coordonnées mais non gérées par l’ICANN. En fin de compte, l'IANA (Internet Assigned Numbers Authority), un département de l’ICANN, a rejeté cette demande.

Une conférence sur l’IA, analogue à la première conférence de Pugwash, aurait une multitude de propositions à étudier et rassemblerait de nombreux intervenants des gouvernements, du monde universitaire, des entreprises et de la société civile. Les participants à la conférence de Pugwash originelle répondaient à l’appel de sommités intellectuelles, dont le philosophe Bertrand Russell et le physicien Albert Einstein. Qui lancera un tel appel aujourd’hui ?