Photo: Bret Hartman / TED

“Fascisme et régimes dictatoriaux risquent de refaire surface mais sous une forme différente, plus adaptée à la nouvelle réalité technologique du 21ème siècle.”

C’est en ces termes que l’historien israélien Yuval Noah Harari, auteur notamment du livre “Homo Deus” (voir note de bas de page), entamait son exposé lors d’une conférence TED Talk organisée en avril de cette année à Vancouver (participation virtuelle puisque Y.N. Harari y est intervenu par hologramme interposé).

Son raisonnement est le suivant: désormais, la terre, la propriété terrienne, n’est plus le type de possession le plus prisé au monde. Fini dès lors la définition de dictature comme étant le contrôle exercé par une seule et même personne sur l’ensemble des terres d’un espace géographique ou la concentration d’un contrôle exclusif de tous les systèmes par une élite.

“Aujourd’hui, les données remplacent à la fois la terre et les machines en guise d’actif le plus prisé. Le contrôle des flux de données est le nouvel enjeu pour les politiques. Désormais, la dictature désigne une situation où trop de données sont concentrées dans les mains d’un gouvernement ou d’une élite. Le principal défi auquel est aujourd’hui confrontée la démocratie libérale est la révolution des technologies de l’information, ces dernières ayant la faculté de rendre les dictatures plus efficaces que les démocraties.”

Retour du balancier

Là où, jusqu’il y a peu, les technologies ne garantissaient pas un traitement plus efficace des données si on les concentrait en un seul endroit, l’évolution technologique rebat les cartes. Les traitements distribués ont eu leur heure de gloire parce que la centralisation des traitements s’avérait moins efficace. Serait-ce le retour des avantages de la concentration des données?

“L’avènement de l’intelligence artificielle et de l’apprentissage automatique pourrait rendre possible le traitement très efficace d’énormes quantités d’informations en un seul endroit, la prise de toutes les décisions en un seul endroit.

Le principal handicap qui était celui des régimes autoritaires tels qu’on les a connus au 20ème siècle – à savoir, la tentative de concentrer toute l’information en un seul endroit – deviendra leur principal avantage.”

Des apprentis-sorcier nouvelle génération

“L’une des menaces qui guettent l’avenir de la démocratie”, poursuit Yuval Noah Harari, “est la possible fusion des technologies de l’information avec la biotechnologie qui pourrait résulter dans la création d’algorithmes qui nous connaîtraient mieux que nous ne nous connaissons nous-mêmes. Dès l’instant où de tels algorithmes existent, des systèmes “externes” tels qu’un gouvernement  pourraient non seulement prédire nos décisions mais pourraient également manipuler nos émotions, nos sentiments…

Yuval Noah Harari: “Le principal handicap qui était celui des régimes autoritaires au 20ème siècle – l’incapacité à concentrer toute l’information en un seul endroit – deviendra leur principal avantage.”

Un dictateur ne serait peut-être pas en mesure de me procurer par exemple des soins de santé de qualité mais il sera en mesure de m’amener à l’aimer et à détester ses opposants. La démocratie éprouvera des difficultés à survivre à une telle évolution parce que la démocratie n’est pas basée sur la rationalité de l’homme: elle repose sur les émotions humaines.

Si quelqu’un réussit à manipuler nos émotions, la démocratie deviendra un emotional puppet show.”

Comment empêcher le retour des dictatures et du fascisme? “La première question à se poser est de savoir qui contrôle les données. Il faut faire en sorte que le traitement distribué des données demeure aussi efficace qu’un traitement centralisé. Ce sera la principale garantie de sauvegarde de la démocratie.”

Pour le commun des mortels, la question majeure à garder à l’esprit, selon lui, est de savoir comment éviter d’être manipulé par ceux “qui contrôlent les données, qui piratent nos émotions, nos sentiments – sentiments de peur, de haine, de vanité… – en exploitant nos faiblesses pré-existantes. Les ennemis de la démocratie utilisent ces émotions piratées pour polariser la société, détruire la démocratie de l’intérieur.”

Ces entreprises qui nous gouvernent…

Questionné sur ce qu’implique le fait que le contrôle des données soit le fait, non pas de gouvernements, mais de sociétés, Yuval Noah Harari répondait: “au bout du compte, la différence n’est pas tellement grande. La question fondamentale est “qui contrôle les données?”.  Si c’est une entreprise qui contrôle les données, elle devient notre véritable “gouvernement” [au sens premier du terme: diriger].

Si une entreprise vous connaît réellement mieux que vous ne vous connaissez vous-même, elle peut manipuler vos désirs et émotions les plus intimes et vous ne vous en rendrez même pas compte. Vous continuerez de croire que c’est votre moi authentique qui est aux commandes.

En théorie, vous pouvez vous soulever contre une entreprise [en abandonnant ses solutions] comme vous pouvez vous soulever contre une dictature mais en réalité, c’est là quelque chose d’extrêmement difficile.

Le possible effondrement des systèmes politiques traditionnels qu’imagine Yuval Noah Harari risque par ailleurs, selon lui, d’accélérer l’évolution des hommes vers ce qu’il présente comme des “homo deus” dans son dernier livre. Des hommes s’approchant de l’état divin grâce à l’intelligence artificielle ou de l’ingénierie génétique. Pour une raison foncièrement… humaine: “n temps de crise, les gens sont prêts à prendre des risques qu’ils ne prendraient pas en temps normal. Ils sont prêts à tester toutes sortes de technologies “high risk, high gain”. Ce genre de crise pourrait donc avoir le même effet que les deux guerres mondiales au 20ème siècle qui ont accéléré le développement de nouvelles technologies dangereuses.

Il faut être un peu fou pour avancer par exemple trop vite avec l’ingénierie génétique. Mais, à l’heure actuelle, on a davantage de fous à la tête de divers pays dans le monde. Le risque est donc plus important… En tant qu’historien, je sais qu’il ne faut jamais sous-estimer la bêtise humaine, c’est l’une des plus importantes forces à avoir jamais façonné l’histoire humaine.”

__________

Yuval Noah Harari est historien et professeur en histoire du monde à l’université hébraïque de Jérusalem.
Il est connu pour avoir rédigé deux livres: “Sapiens: Une brève histoire de l’humanité” et “Homo Deus: Une brève histoire de l’avenir”.