La menace de l'IA pour les sociétés ouvertes

DAVOS – Je veux alerter le monde au sujet d'un danger sans précédent qui menace la survie même des sociétés ouvertes.

L'amélioration rapide des instruments de contrôle que l'apprentissage machine et l'intelligence artificielle peuvent produire donnent un avantage intrinsèque aux régimes répressifs. Pour ces derniers, les progrès en matière d'instruments de contrôle sont une aide: pour les sociétés ouvertes, ils constituent un danger mortel.

Je vais me concentrer sur la Chine, où le président Xi Jinping veut un Etat à parti unique pour régner en maître. Xi tente de consolider toutes les informations disponibles sur une personne dans une base de données centralisée pour créer un "système de crédit social." Sur la base de ces données, les personnes seront évaluées par des algorithmes qui détermineront si elles représentent une menace pour l'Etat à parti unique. Les individus seront ensuite traités en conséquence.

Le système de crédit social n'est pas encore pleinement opérationnel, mais on voit bien vers où il se dirige. Il va subordonner le sort de l'individu aux intérêts de l'Etat à parti unique avec des moyens sans précédent.

Je trouve le système de crédit social effrayant et répugnant. Malheureusement, certains Chinois le trouvent plutôt attrayant, car il fournit des informations et des services qui ne sont pas actuellement disponibles, ce qui peut également protéger les honnêtes citoyens contre les ennemis de l'Etat.

La Chine n'est pas le seul régime autoritaire au monde, mais elle est sans doute le plus riche, le plus fort et le plus développé dans l'apprentissage machine et l'intelligence artificielle. Cela fait de Xi le plus dangereux adversaire de ceux qui croient en la notion de société ouverte. Mais Xi n'est pas le seul. Les régimes autoritaires prolifèrent partout dans le monde et s'ils réussissent, ils deviendront totalitaires.

En tant que fondateur d'Open Society Foundations, je consacre ma vie à combattre les idéologies à visées totalitaire et extrémiste, qui prétendent à tort que la fin justifie les moyens. Je crois que le désir de liberté des personnes ne peut pas être réprimé à tout jamais. Mais je reconnais que les sociétés ouvertes sont profondément en danger à l'heure actuelle.

J'utilise le terme "société ouverte" comme un raccourci pour désigner une société dans laquelle l'Etat de droit prévaut sur les décisions d'un seul individu et où le rôle de l'Etat consiste à protéger les droits de l'homme et la liberté individuelle. A mon avis, une société ouverte doit être particulièrement attachée au sort de ceux qui souffrent de discrimination ou d'exclusion sociale et de ceux qui ne peuvent pas se défendre.

Comment les sociétés ouvertes peuvent-elles être protégées si ces nouvelles technologies fournissent aux régimes autoritaires un avantage intégré? Telle est la question qui me préoccupe. Elle doit également préoccuper tous ceux qui préfèrent vivre dans une société ouverte.

A la recherche de la société ouverte

Ma profonde inquiétude sur cette question provient de mon histoire personnelle. Je suis né en Hongrie en 1930 et je suis juif. J'avais 13 ans quand les Allemands ont occupé la Hongrie et ont commencé à déporter les Juifs vers les camps d'extermination. J'ai eu beaucoup de chance parce que mon père a compris la nature du régime nazi et s'est procuré des faux papiers d'identité et des cachettes pour tous les membres de sa famille, ainsi que pour un certain nombre d'autres Juifs. La plupart d'entre nous ont survécu.

L'année 1944 a été l'expérience formatrice de ma vie. J'ai appris à un âge précoce l'importance majeure du type de régime politique dominant. Lorsque le régime nazi a été remplacé par l'occupation soviétique, j'ai quitté la Hongrie dès que possible et j'ai trouvé refuge en Angleterre.

A la London School of Economics, j'ai développé mon cadre conceptuel sous l'influence de mon mentor Karl Popper. Ce cadre s'est avéré utile dans un contexte inattendu lorsque j'ai trouvé plus tard un emploi sur les marchés financiers. Le cadre n'a rien à voir avec la finance, mais il se fonde sur la pensée critique. Celle-ci m'a permis d'analyser les lacunes des théories dominantes qui orientent les investisseurs institutionnels. J'ai réussi ma carrière de gestionnaire de fonds spéculatifs, fier d'être le critique le mieux payé du monde.

La gestion de fonds spéculatifs a été un métier très stressant. Une fois que j'ai eu plus d'argent que nécessaire pour moi-même ou ma famille, j'ai traversé une sorte de crise de la quarantaine. Pourquoi me tuer au travail pour m'enrichir davantage? J'ai longuement réfléchi sur ce qui comptait vraiment pour moi et en 1979 j'ai créé l'Open Society Fund. J'ai défini ses objectifs en contribuant à ouvrir les sociétés fermées, à remédier aux défauts des sociétés ouvertes et à promouvoir la pensée critique.

Mes premiers efforts ont tenté de saper le système de l'apartheid en Afrique du sud. J'ai ensuite fait porter mes efforts sur l'ouverture du système soviétique. J'ai établi une entreprise commune avec l'Académie hongroise des sciences, alors sous contrôle communiste, mais ses représentants avaient secrètement sympathisé avec ma cause. Cet arrangement a réussi au-delà de mes rêves les plus fous. Je suis devenu un fanatique de ce que j'appelle la "philanthropie politique". C'était en 1984.

Dans les années qui ont suivi, j'ai essayé de réitérer mon succès en Hongrie et dans d'autres pays communistes. J'ai plutôt bien réussi dans l'empire soviétique, y compris au sein de l'Union soviétique elle-même, mais en Chine, ce fut une autre histoire.

La dictature et ses caractéristiques chinoises

Mon premier essai en Chine avait l'air plutôt prometteur. Il a impliqué un échange de visites entre des économistes hongrois très admirés dans le monde communiste et une équipe d'un groupe de réflexion chinois nouvellement créé dont les membres étaient désireux d'apprendre des Hongrois.

Sur la base de ce succès initial, j'ai proposé à Chen Yizi, le chef du groupe de réflexion, de reproduire le modèle hongrois en Chine. Chen a bénéficié du soutien du Premier ministre Zhao Ziyang et de celui de son secrétaire politique réformateur Bao Tong. Une entreprise commune du nom de China Fund fut inaugurée en octobre 1986. C'était une institution unique en Chine. Sur le papier, elle avait une autonomie complète.

Bao s'en faisait le champion. Mais les opposants à la réforme radicale, qui étaient nombreux, se sont regroupés pour l'attaquer. Ils ont prétendu que j'étais un agent de la CIA et ont demandé à l'Agence de sécurité interne d'enquêter. Pour se protéger, Zhao a remplacé Chen par un fonctionnaire de haut rang dans la police de sécurité externe. Parce que les deux organisations étaient de même rang, elles ne pouvaient pas interférer mutuellement dans leurs affaires.

J'approuvai ce changement à cause de la tendance de Chen à attribuer trop de subventions aux membres de son propre institut, mais je ne connaissais pas à ce moment-là les luttes politiques intestines qui se jouaient en coulisses. Mais les candidats au China Fund ont rapidement remarqué que cette organisation avait été mise sous le contrôle de la police politique et ont commencé à se tenir à l'écart. Personne n'a eu le courage de m'en expliquer la raison.

Finalement, un bénéficiaire de la subvention chinoise m'a rendu visite à New York et m'a dit - en prenant un risque considérable pour lui-même - ce qui était arrivé. Peu après, Zhao a été évincé du pouvoir et j'ai utilisé cela comme un prétexte pour fermer la fondation. Cela s'est produit juste avant le massacre de la Place Tian'anmen en 1989, ce qui a laissé un "point noir" sur les états de service des personnes associées à la fondation. Elles ont déployé de grands efforts pour se disculper. Finalement, elles ont réussi.

Avec le recul, il est clair que j'ai fait une erreur en essayant d'établir une fondation, qui fonctionnait tout en restant étrangère à la Chine. A ce moment-là, donner une subvention créait un sentiment d'obligation entre donataire et récipiendaire et cette obligation forçait chacun à rester fidèle à l'autre pour toujours.

La trahison de la réforme

Voilà pour l'histoire. Penchons-nous sur certains développements qui se sont produits l'année dernière et dont certains m'ont surpris.

Quand j'ai commencé à visiter la Chine, j'ai rencontré beaucoup de gens en position de pouvoir qui étaient de fervents partisans des principes de la société ouverte. Dans leur jeunesse, ils avaient été déportés à la campagne pour être rééduqués, où ils avaient souvent subi des épreuves beaucoup plus dures que celles que j'avais vécues en Hongrie. Mais nous avions beaucoup de choses en commun. Nous avions tous été les cibles d'une dictature.

Ils étaient impatients de m'entendre parler des pensées de Popper sur la société ouverte. Bien qu'ils aient trouvé la notion très attrayante, leur interprétation est restée quelque peu différente de la mienne. Ils étaient familiers de la tradition confucéenne, mais il n'y avait pas de tradition du vote en Chine. Leur pensée est restée hiérarchique, non égalitaire et attachait un profond respect aux la haute fonction publique. Quant à moi, je souhaitais que tout le monde bénéficie du droit de vote.

Je n'ai pas été surpris que Xi rencontre une opposition sérieuse dans son pays. Mais j'ai été surpris par la forme qu'elle a prise. A l'assemblée des dirigeants de l'année dernière à la station balnéaire de Beidaihe, Xi a apparemment fait machine arrière d'un cran ou deux. Bien qu'il n'y ait pas eu de communiqué officiel, la rumeur était que l'assemblée des dirigeants avait désapprouvé la suppression des limites de mandat et le culte de la personnalité que Xi avait construit autour de lui.

Les défenseurs engagés de la société ouverte en Chine, qui ont à peu près mon âge, sont la plupart du temps à la retraite: des jeunes, dont la promotion dépend de Xi, les ont remplacés. En fait, des leaders comme Zhu Rongji ont été mis à la retraire, lui qui aurait formulé des critiques à l'encontre de Xi lors de la réunion Beidaihe.

Il est important de se rendre compte que de telles critiques étaient seulement un avertissement à l'intention de Xi sur ses excès, mais qu'elles n'ont pas inversé l'abolition de la limitation à deux mandats. En outre, la "Pensée Xi Jinping", qu'il a promu comme sa mouture de la théorie communiste, a été élevée au même niveau que la "Pensée Mao Zedong". Ainsi Xi reste le chef suprême, peut-être à vie. Le résultat final des luttes intestines de la politique actuelle reste en suspens.

La société ouverte et ses défenseurs

Je suis concentré sur la Chine, mais les sociétés ouvertes ont beaucoup d'autres d'ennemis, en particulier la Russie de Poutine. Et le scénario le plus dangereux est celui dans lequel ces ennemis conspirent et apprennent les uns des autres pour opprimer plus efficacement leur peuple.

Que pouvons-nous faire pour les arrêter?

La première étape consiste à reconnaître le danger. C'est pour cette raison que je prends la parole aujourd'hui. Mais c'est maintenant que les choses se compliquent. Ceux d'entre nous qui veulent préserver la société ouverte doivent collaborer et former une alliance efficace. Nous avons une tâche qui ne peut être laissée aux gouvernements. L'histoire a montré que même les gouvernements qui veulent protéger la liberté individuelle ont beaucoup d'autres intérêts et qu'ils accordent également la priorité à la liberté de leurs propres citoyens sur la liberté de l'individu comme un concept abstrait.

Mes fondations Open Society sont vouées à la protection des droits de l'homme, en particulier pour ceux qui n'ont pas un gouvernement pour les défendre. Quand nous avons commencé il y a quatre décennies, de nombreux gouvernements ont soutenu nos efforts. Malheureusement, leurs rangs se sont éclaircis. Les États-Unis et l'Europe, autrefois nos alliés les plus forts, sont à présent préoccupés par leurs propres problèmes.

Par conséquent, je veux me concentrer sur ce que je considère comme la question la plus importante pour les sociétés ouvertes: que va-t-il se passer en Chine?

Seul le peuple chinois peut répondre à cette question. Tout ce qui est en notre pouvoir consiste à faire une nette distinction entre le peuple et Xi. Depuis que Xi a déclaré son hostilité face à la société ouverte, le peuple chinois devient la principale source d'espoir.

Et il y a, en fait, des raisons d'espérer. Comme certains spécialistes de la Chine me l'ont expliqué, il y a une tradition confucéenne selon laquelle les conseillers de l'empereur sont censés s'exprimer quand ils sont fortement en désaccord avec l'une de ses actions ou un de ses décrets, tout en sachant pertinemment que cela peut entraîner l'exil ou même la vie. Ce fut un grand soulagement pour moi quand j'étais au bord du désespoir. Cela signifie qu'une nouvelle élite politique a émergé, qui est prête à respecter la tradition confucéenne et que Xi continuera d'avoir des adversaires en Chine.

Le déclin de la Route de la Soie

Xi présente la Chine comme un modèle à imiter pour d'autres pays, mais il fait face également à des critiques à l'étranger. Sa Nouvelle Route de la Soie (NRS) fonctionne depuis assez longtemps pour que l'on puisse faire état de ses défauts. D'une part, elle a été conçue pour promouvoir les intérêts de la Chine et non ceux des pays bénéficiaires. En outre, ses ambitieux projets d'infrastructure ont été financés principalement par des prêts - non par des subventions - et des agents étrangers ont souvent été soudoyés pour les accepter. En outre, un grand nombre de ces projets se sont avérés être dénués de fondement économique.

Le cas emblématique est celui du Sri Lanka. La Chine a prêté aux Sri Lankais de l'argent pour payer la construction par la Chine d'un port qui sert les intérêts stratégiques de la Chine. Mais le port n'a pas attiré un trafic commercial suffisant pour permettre aux Sri Lankais de rembourser la dette, ce qui permet à la Chine de prendre possession du port. Il y a plusieurs cas similaires ailleurs, à l'origine de ressentiment.

La Malaisie est à l'avant-garde d'une contre-offensive. Le gouvernement précédent, dirigé par Najib Razak, était à la solde de la Chine. Mais en mai 2018, Najib a été démis de ses fonctions par une coalition dirigée par Mahathir Mohamed. Le gouvernement de Mahathir a immédiatement arrêté plusieurs grands projets d'infrastructure gérés par des entreprises chinoises et négocie actuellement le montant que la Malaisie devra encore rembourser à la Chine.

La situation n'est pas aussi claire au Pakistan, qui a été le plus grand bénéficiaire des investissements chinois. L'armée pakistanaise est entièrement redevable à la Chine, mais la position de Imran Khan, qui est devenu Premier ministre en août dernier, est plus ambivalente. Au début de 2018, la Chine et le Pakistan ont annoncé des plans grandioses de coopération militaire. À la fin de l'année, le Pakistan traversait une profonde crise financière. Mais une chose est devenue évidente: la Chine a l'intention d'utiliser la Nouvelle Route de la Soie à des fins militaires.

Tous ces revers ont forcé Xi à modifier son attitude à l'égard de la NRS. En septembre, il a annoncé que « les projets futiles » seront boudés au profit d'initiatives plus soigneusement réfléchies et en octobre, leQuotidien du Peuple a averti que les projets devraient servir les intérêts des pays bénéficiaires.

Les clients sont maintenant avertis et plusieurs d'entre eux, de la Sierra Leone à l'Équateur, s'interrogent ou renégocient certains projets. Xi a également cessé de parler de « Made in China 2025 », qui était la pièce maîtresse de son auto-promotion un an plus tôt.

Endiguement 2.0?

Fait plus important, le gouvernement américain a identifié la Chine comme un "concurrent stratégique". Le président Donald Trump est notoirement imprévisible, mais cette décision a résulté d'un plan stratégique soigneusement préparé. Depuis lors, le comportement idiosyncrasique de Trump a été largement remplacé par une politique des affaires chinoises adoptée par les organismes de l'administration et supervisée par le conseiller du Conseil national des affaires de sécurité asiatique, Matthew Pottinger, entre autres. La politique a été décrite dans un discours fondateur prononcé par le vice-président Mike Pence le 4 octobre 2018.

Néanmoins, déclarer que la Chine est un rival stratégique est trop simpliste. La Chine est un acteur important au niveau mondial. Une politique efficace envers la Chine ne peut se résumer à une telle généralité. Elle doit être beaucoup plus sophistiquée, détaillée et pratique : elle doit également inclure une réponse économique américaine à la NRS. Le plan Pottinger ne précise pas si son but ultime consiste à jeter de bases communes ou à se désengager vis-à-vis de la Chine.

Xi a pleinement compris la menace que la nouvelle politique américaine constituait pour son leadership. Il a misé sur une rencontre personnelle avec Trump lors de la réunion du G-20 à Buenos Aires le 1er décembre. En attendant, le danger d'une guerre commerciale mondiale s'est amplifié et une forte liquidation sur le marché boursier a commencé, ce qui crée des problèmes pour l'administration Trump, qui avait concentré toute son énergie et son attention sur les élections de mi-mandat le mois précédent. Lorsque Trump et Xi se sont rencontrés, les deux parties prenantes étaient très intéressées par un accord. Ils y sont donc parvenus, mais ce qu'ils ont convenu - une trêve de 90 jours - est très peu concluant.

Mais il y a des indications claires qu'un large déclin économique est en cours en Chine, ce qui affecte le reste du monde. Un ralentissement mondial est la dernière chose que désire le marché.

Le contrat social implicite en Chine est construit sur un niveau de vie en hausse constante. Si le déclin de l'économie chinoise et le marché boursier est assez grave, ce contrat social peut être compromis et même la communauté des affaires peut finir par s'opposer à Xi. Un tel ralentissement pourrait également sonner le glas de la NRS, car Xi peut manquer de ressources pour continuer à financer tant d'investissements déficitaires.

Sur la question plus large de la gouvernance mondiale de l'Internet, il y a une lutte non déclarée entre la Chine et l'Occident. La Chine veut dicter les règles et procédures qui régissent l'économie numérique en dominant le monde en développement avec ses nouvelles plates-formes et technologies. Ceci est une menace envers la liberté de l'Internet et la société ouverte elle-même.

L'an dernier, je croyais encore que la Chine devrait être plus profondément ancrée dans les institutions de gouvernance mondiale, mais le comportement de Xi m'a fait changer d'avis. Je pense à présent qu'au lieu de déclarer une guerre commerciale pratiquement au monde entier, les Etats-Unis devraient se concentrer sur la Chine : au lieu de laisser ZTE et Huawei s'en tirer à bon compte, ils devraient sévir durement contre ces deux sociétés. Si ces entreprises en venaient à dominer le marché de la 5G, elles présenteraient un risque de sécurité inacceptable pour le reste du monde.

Malheureusement, le président Trump semble suivre une autre voie: faire des concessions à la Chine et déclarer la victoire tout en renouvelant ses attaques contre les alliés des États-Unis. Cela est susceptible de porter atteinte à l'objectif de la politique américaine de lutte contre les abus et les excès de la Chine.

Une conclusion optimiste

Parce que Xi est l'ennemi le plus dangereux des sociétés ouvertes, nous devons fonder nos espoirs sur le peuple chinois, en particulier sur l'élite politique, inspirée par la tradition confucéenne.

Cela ne veut pas dire que ceux d'entre nous qui croient en la société ouverte doivent rester passifs. La réalité est que nous sommes dans une Guerre froide qui menace de se transformer en guerre ouverte. D'autre part, si Xi et Trump n'étaient plus au pouvoir, l'occasion se présenterait de développer une plus grande coopération entre les deux cyber-superpuissances.

Il est possible d'imaginer quelque chose de semblable au Traité des Nations Unies à la fin de la Seconde Guerre mondiale. Ce serait une fin pour appropriée au cycle actuel de conflit entre les Etats-Unis et la Chine. Cela rétablirait la coopération internationale et permettrait aux sociétés ouvertes de prospérer.

© Project Syndicate 1995–2019