Des transformations économiques majeures produisent généralement des changements de grande ampleur. Au cours de la première révolution industrielle, au cours des XVIIIe et XIXe siècles, de nouveaux procédés de fabrication ont finalement conduit à d'énormes améliorations sur le plan du bien-être humain. La productivité a augmenté, permettant une hausse des salaires et des niveaux de vie. Mais, au début du processus, la mécanisation a eu des conséquences négatives, comme du chômage, du travail infantile et une dégradation environnementale.
L'impact social et politique de la révolution numérique pourrait être encore plus spectaculaire. Des guerres et des révolutions pourraient éclater et certaines valeurs telles que les droits de l'homme et les libertés civiles pourraient être compromises. Comme mes collègues et moi-même l’avons noté dans un récent article dans Scientific American, plus les ordinateurs ont des informations sur nous-mêmes, "moins il est probable que nos choix soient libres et non prédéterminés par d'autres" – tant que l’autodétermination informationnelle est impossible.
Un avenir numérique responsable
Heureusement, la perte d'autonomie individuelle n'est pas inévitable. Il est possible de concevoir un avenir numérique plus responsable. Mais nous devons commencer à le faire immédiatement. Le succès exigera des discours publics, une illumination et une émancipation numériques, et une sensibilisation plus large concernant les risques technologiques. En d'autres termes, la transition à laquelle nous sommes confrontés est trop grande pour pouvoir être gérée par un pays ou une organisation seuls. Nous sommes tous concernés: c’est notre avenir qui est en jeu.
Il y a des dangers évidents à laisser le progrès technologique conduire seul ce changement. En 2008, l’éditeur du magazine Wired Chris Anderson avait suggéré que les big data finiraient par révéler toute la vérité, sans avoir besoin de science ni de théorie. De toute évidence, cela n'a pas eu lieu. Grâce à l’augmentation des données disponibles, les scientifiques trouvent d'autres régularités à étudier; la science est nécessaire pour juger celles qui sont révélatrices et celles qui induisent en erreur. Les attentes que l’IA puisse surmonter les faiblesses humaines telles que les biais comportementaux ont également dû être revues. Aujourd'hui, de nombreux systèmes d’IA discriminent certaines personnes et peuvent même être manipulés.
D'autres prédictions concernant la nouvelle "société numérique" étaient également erronées. Les soi-disant villes intelligentes – où la vie urbaine est automatisée – n’ont pas, jusqu'à présent, répondu aux attentes. La raison de cet échec est que les villes ne sont pas seulement des chaînes d'approvisionnement géantes; ce sont aussi des espaces pour l'expérimentation, la créativité, l'innovation, l'apprentissage et l'interaction.
Enfin, bien que que "l'économie de plateformes" et sa dépendance à l'internet, au calcul et aux données, a donné naissance à quelques-unes des entreprises les plus prospères du monde, elle a également transformé de nombreux citoyens en consommateurs passifs. L'ironie de l'hyper-connectivité est que les gens sont moins exigeants, concernant non seulement les produits qu'ils achètent, mais aussi les informations qu'ils consomment. Après tout, c’est cette "économie de l'attention" qui a donné naissance aux "fausses nouvelles".
Autrement dit, notre utopie numérique n'arrivera pas sans aide. Nous avons besoin d’une approche plus éthique de la technologie industrielle, capable d’intégrer les normes et les valeurs constitutionnelles, culturelles et morales dans des systèmes artificiels et autonomes. Une approche de conception "alignée avec l’éthique" et "soucieuse des valeurs" est nécessaire dans tous les aspects du développement technologique – depuis les appareils intelligents jusqu’aux logiciels qui aident nos gouvernements et nos marchés.
Par exemple, si la démocratie entend rester un modèle politique viable, les systèmes d'information que les gouvernements démocratiques utilisent doivent être conçus pour encourager les droits de l'homme, la dignité, l'autodétermination, le pluralisme, la division de la responsabilité, la transparence, l'équité et la justice.
Des écosystèmes d'information participatifs
Pour parvenir à cet avenir numérique démocratique, le monde a besoin de changer la façon dont il pense la technologie. Nous devons créer des écosystèmes d'information ouverts, participatifs qui permettent à tout participant dans l'économie mondiale de partager des idées, des talents et des ressources. Dans un monde en réseau, où tout ce que nous faisons affecte les autres, nous devons apprendre à penser au-delà de nous-mêmes et à rechercher la coopération, la co-création, la co-évolution et l'intelligence collective.
Si nous progressons dans cette voie, la quatrième révolution industrielle pourrait être plus inclusive que la première; c’est vers cet avenir que mes collègues et moi-même travaillons. Par exemple, à la Delft University of Technology aux Pays-Bas, nous sommes en train de créer des réseaux de communication et des systèmes de gouvernance urbaine socialement responsables, tandis que l’initiative FuturICT, un réseau international de chercheurs, applique une approche multidisciplinaire au développement de la technologie. L'objectif de ces deux efforts de recherche est de faciliter un avenir numérique plus équitable.
Nous avons la capacité de concevoir une technologie qui est à notre service, au lieu de nous asservir. Mais la construction de cet avenir exige une nouvelle Zeitgeist numérique, dans laquelle les valeurs sociales, culturelles, environnementales et éthiques font partie intégrante du processus de conception. Les innovations et les révolutions sont souvent perturbantes et tumultueuses mais, à l'ère numérique, elles peuvent aussi être responsables.
Traduit de l’anglais par Timothée Demont
