Les histoires nous ont réunis. Les livres ont diffusé nos idées et nos mythologies. Internet nous a promis le savoir infini. Les algorithmes ont découvert nos secrets – et nous ont divisés. Quel monde nous promet l’IA ?
Depuis cent mille ans, nous, les Sapiens, avons acquis un gigantesque pouvoir. Mais malgré nos découvertes, inventions et conquêtes, nous sommes aujourd’hui confrontés à une crise existentielle inédite. Le monde est au bord de l’effondrement écologique. Les tensions politiques se multiplient. La désinformation abonde. Et nous entrons de plain-pied dans l’ère de l’IA, un réseau d’information qui sera bientôt capable de nous dominer.
Avec ce nouvel ouvrage, Yuval Noah Harari, l’auteur du best-seller mondial Sapiens, revisite l’histoire de l’humanité pour comprendre comment les réseaux d’information ont fait et défait notre monde. Il aborde les choix cruciaux auxquels nous sommes – et serons – confrontés, au moment où l’IA révolutionne la médecine, la guerre, les démocraties, et menace notre existence même.
Nexus est un livre capital pour comprendre comment, en faisant des choix éclairés, il nous est encore possible d’empêcher le pire.
Yuval Noah Harari est historien, philosophe et auteur de Sapiens (25M d’exemplaires vendus!), Homo Deus, 21 leçons pour le XXIe siècle et de Nexus. Né en 1976 en Israël, il obtient son doctorat à l’Université d’Oxford en 2002. Il est actuellement maître de conférences au sein du Département d’Histoire de l’Université hébraïque de Jérusalem et chercheur émérite au Centre pour l’étude des risques existentiels de l’université de Cambridge.
Prologue
Première partie – Réseaux Humain
Deuxième partie – Le réseau inorganique
Troisième partie – Politique informatique
Épilogue
Notes
Remerciements
Chaque mois, nous décryptons l’actualité tech et son impact sur notre vie privée.
Nombre de pages
576
Langue
Française
Année de publication
2024
Éditeur
Albin Michel
ISBN
978-2-226-49488-7
Après Sapiens que j’avais beaucoup apprécié, et Homo Deus, un peu moins, j’étais très curieux de découvrir le nouvel opus de Yuval Noah Harari, Nexus.
Dans cette folle course à l’innovation ou chaque jour amène son lot d’actualité IA plus ou moins anxiogène, il est de plus en plus difficile de s’y retrouver entre le buzz et les vrais changements pouvant impacter nos sociétés en profondeur.
On retrouve dans cet ouvrage le talent de Harari à nous raconter des histoires et mettre l’actualité dans une perspective historique (ça tombe bien, il est historien 😁). Je regrette cependant que nous ne rentrions dans le vif du sujet, c’est-à-dire l’étude de l’impact de l’IA sur les réseaux d’information, qu’au milieu du livre (qui comporte tout de même 576 pages!).
L’auteur y développe plusieurs thèses et concepts originaux, comme le rideau de silicium qui diviserait le globe en deux et proposerait ainsi deux visions du monde très différentes (une américaine et une chinoise pour simplifier) guidées par des usages des technologies propres à chaque camp.
Il revient sur l’importance fondamentale des réalités intersubjectives qui ont façonnées nos sociétés depuis l’antiquité et comment l’IA pourrait venir en créer une nouvelle, ayant le pouvoir de modifier en profondeur nos sociétés, nos cultures et notre histoire commune.
Il dresse enfin plusieurs principes pour adapter les réseaux d’information d’IA à nos démocraties tels que la bienveillance, la décentralisation, la réciprocité et le répit et souligne l’importance critique des mécanismes d’auto-correction propre aux démocraties.
Dans Nexus, Harari, après avoir dressé un tableau plutôt pessimiste, réussi tout de même à finir sur une note positive. Nous serions ainsi capables de créer des réseaux d’information équilibrés qui auraient la capacité à contrôler leur propre pouvoir. Pour cela, il faudra cependant renoncer à la fois à la vision naïve et à la vision populiste de l’information et bâtir des institutions dotées de puissants mécanismes d’autocorrection.
Le plus dur reste donc à faire pour nos institutions que le sociobiologiste Edward Wilson qualifie de médiévales face à ces technologies divines.
En achetant sur fnac ou amazon via ces liens, vous soutenez mon travail sur le blog (versement d’une petite commission) sans rien changer au prix final du livre 🙏🏻.
Le pouvoir de l’IA pourrait suralimenter des conflits existants, semant la discorde au sein du genre humain. De la même manière qu’au XXe siècle le rideau de fer séparait les puissances rivales de la guerre froide, au XXIe siècle, le rideau de silicium – constitué non pas de barbelés, mais de puces de silicium et de codes informatiques – pourrait bien finir par se dresser entre les puissances rivales d’un nouveau conflit planétaire […]. Le rideau de silicium pourrait un jour séparer non pas les groupes humains entre eux, mais l’ensemble du genre humain de nos nouveaux seigneurs IA. (p.22).
Le monde serait ainsi divisé de plus en plus par un rideau de silicium. Fait de code, ce rideau traverse tous les smartphones, ordinateurs et serveurs du monde. Le code qui fait tourner votre smartphone détermine de quel côté du rideau de silicium nous vivons, quels algorithmes gèrent notre vie, qui contrôle notre attention et vers où nos données circulent. (p.440). [NDLR : Nous pourrions ajouter à ce rideau de silicium l’importance stratégique des câbles sous-marins, enjeu de souveraineté ou encore le coût écologique de cette numérisation de nos sociétés].
Prenons le métavers tel que le conçoit Mark Zuckerberg. Le métavers est un univers virtuel entièrement constitué d’informations. Contrairement à la carte à l’échelle 1:1 fabriquée par l’empire imaginaire de Jorge Luis Borges, le métavers n’est pas une tentative de représenter notre monde, mais bien plutôt de l’augmenter ou de le remplacer. Il ne nous offre pas une réplique numérique de Buenos Aires ou Salt Lake City – il invite les gens à créer des communautés virtuelles, avec de nouveaux paysages, de nouvelles règles. Aujourd’hui, en 2024, le métavers fait figure de chimère boursouflée, mais d’ici à deux ou trois décennies, des milliards d’êtres humains pourraient bien migrer pour aller vivre l’essentiel de leur vie dans une réalité virtuelle augmentée, où se dérouleront la plupart de leurs activités sociales et professionnelles. (p.49). Serge Tisseron parle de bulle de Réalité Virtuelle.
La réalité objective est constituée d’objets tels que les pierres, les montagnes et les astéroïdes – des objets qui existent, que nous soyons conscients d’eux ou non. Un astéroïde fonçant vers la Terre, par exemple, existe même si personne ne sait qu’il se trouve là-dehors, quelque part.
Et puis il y a la réalité subjective : des choses comme la douleur, le plaisir et l’amour, qui ne sont pas « là-dehors », mais « là-dedans ». Les entités subjectives n’existent que dans la conscience que nous en avons. Une douleur non ressentie est un oxymore.
Mais certaines histoires ont la faculté de créer un troisième niveau de réalité: la réalité intersubjective. Alors que les entités subjectives telles que la douleur n’existent que dans un seul esprit, les entités intersubjectives comme les lois, les dieux, les nations, les grandes entreprises et les monnaies existent dans le nexus qui relie un grand nombre d’esprits. Pour être plus exact, elles existent dans les histoires que les gens se racontent. Les informations échangées par les hommes au sujet des réalités intersubjectives ne représentent rien qui ait jamais existé avant cet échange d’informations – c’est en fait l’échange d’informations lui-même qui crée ces réalités. (p.60)
L’histoire des réseaux d’information humains est donc un exercice d’équilibriste entre ordre et vérité […]. Contrairement à ce que laissent entendre des entreprises telles que Google ou Facebook dans leurs déclarations de mission, le simple fait d’accroître la vitesse et l’efficacité de nos technologies de l’information ne rend pas forcément le monde meilleur. Cela ne fait que rendre plus urgente la nécessité d’équilibrer ordre et vérité. Cette leçon, l’invention des histoires nous l’apprenait déjà il y a des dizaines de milliers d’années. Et les hommes l’ont appris à nouveau lorsqu’ils ont inventé leur deuxième grande technologie de l’information: le document écrit. (p.75)
Si des institutions comme l’Église catholique et le parti communiste soviétique ont tout fait pour éviter les mécanismes d’autocorrection solides et puissants, ce n’est pas sans raison : de tels mécanismes sont certes vitaux pour parvenir à la vérité, mais coûteux en termes de maintien de l’ordre. Des mécanismes d’autocorrection puissants ont tendance à engendrer des doutes, des désaccords, des conflits et des ruptures, et à saper les mythes qui assurent la cohésion de l’ordre social. (p.157)
Les tablettes d’argile stockaient des informations concernant les impôts, mais ne pouvaient décider par elles-mêmes quelle quantité d’impôts lever, ni inventer une taxe entièrement nouvelle. Les presses à imprimer copiaient des informations telles que la Bible, mais elles ne pouvaient décider quels textes inclure dans le livre saint, ni écrire de nouveaux commentaires à son sujet. Les postes de radio diffusaient des informations telles que des discours politiques et des symphonies, mais ils ne pouvaient décider quels discours ni quelles symphonies diffuser, et encore moins les écrire ou les composer. Les ordinateurs, eux, en sont capables. Là où presses à imprimer et postes de radio n’étaient que des outils passifs dans la main de l’homme, les ordinateurs sont en passe de devenir des agents actifs échappant à notre contrôle et à notre compréhension, et sont à même de prendre des initiatives pour façonner la société, la culture et l’histoire. (p.242)
Dans la littérature fiscale, le terme Nexus désigne le lien existant entre une entité et une juridiction donnée. Traditionnellement, pour qu’une société ait un nexus dans tel ou tel pays, il fallait qu’elle y justifie d’une présence physique, sous la forme de bureaux, de centres de recherche, de boutiques, etc. L’une des mesures proposées pour faire face aux dilemmes fiscaux causés par le réseau informatique consiste à redéfinir cette notion de nexus. Citons l’économiste Marko Köthenbürger : « La définition du nexus fondée sur une présence physique devrait être ajustée afin d’inclure la notion de présence numérique dans un pays. » Ce qui implique que, même si Google et ByteDance n’ont aucune présence physique sur place, le fait que des gens en Uruguay utilisent leurs services en ligne devrait quand même les rendre imposables dans ce pays. De la même manière que Shell et BP versent des impôts aux pays dont ils extraient du pétrole, les géants de la tech devraient en verser aux pays dont ils extraient des données. (p.273)
Sur la base de certains schémas de mouvements oculaires, les ordinateurs peuvent distinguer, par exemple, les moments de concentration des moments de distraction, et les personnes prêtant attention à des détails particuliers de celles qui s’intéressent davantage au contexte. Les ordinateurs pourraient déduire des mouvements de nos yeux une multitude d’autres traits de personnalité – notamment dans quelle mesure notre degré d’expertise dans différents domaines, allant de la lecture à la chirurgie. Les mouvements oculaires d’experts appliquant des stratégies bien rodées obéissent en effet à des schémas systématiques, là où les yeux d’un novice errent sans but précis. Les schémas de nos mouvements oculaires trahissent en outre notre degré d’intérêt pour les objets et les situations que nous rencontrons, et permettent de déterminer s’il s’agit d’un intérêt positif, neutre ou négatif. (p.292)
Les algorithmes de crédit social combinés à des technologies de surveillance douées du don d’ubiquité menacent à présent de faire fusionner toutes les concurrences de statut en une seule et même course sans fin. Même chez soi ou alors qu’on essaie de profiter de vacances sans pression, on serait obligé de faire extrêmement attention à tout ce qu’on ferait ou dirait, comme si on se produisait sur scène devant des millions de spectateurs. Cela pourrait donner naissance à un style de vie incroyablement stressant, dévastateur à la fois en termes de bien-être individuel et de fonctionnement de la société. Si les bureaucrates numériques gardent tout le monde à l’œil en permanence via un système de points précis, le marché de la réputation qui en résultera pourrait bien sonner le glas de la vie privée et contrôler les gens d’une manière beaucoup plus étroite que le marché monétaire ne l’a jamais fait. (p.309)
En 2016, un rapport interne de Facebook parvenait à cette conclusion : « 64% de toutes les adhésions à des groupes extrémistes sont dus à nos outils de recommandation. […] Nos systèmes de recommandation amplifient le problème. » Dans une note interne confidentielle de Facebook datée d’août 2019, divulguée par la lanceuse d’alerte Frances Haugen, on peut lire : « Nous disposons d’éléments provenant de différentes sources indiquant que les discours haineux, les discours politiques clivants, et la désinformation sur Facebook et [sa] famille d’applications affectent les sociétés partout dans le monde. Nous disposons également de preuves irréfutables que les mécanismes fondamentaux de notre produit, tels que la viralité, les recommandations et l’optimisation de l’engagement, sont l’une des principales raisons pour lesquelles ces types de discours prospèrent sur la plateforme. » (p.317)
Bienveillance : Lorsqu’un réseau informatique collecte des informations à mon sujet, celles-ci devraient être utilisées pour m’aider plutôt que pour me manipuler. [A la manière de] notre médecin de famille : au fil des ans, il ou elle est susceptible d’accumuler un certain nombre d’informations sensibles sur notre état de santé, notre vie de famille, notre vie sexuelle et nos mauvaises habitudes. Si notre médecin vend ces informations à un tiers, ce n’est pas seulement contraire à l’éthique : c’est illégal.
Décentralisation : Une société démocratique ne devrait jamais permettre que toutes ses informations soient concentrées en un seul lieu, que ce pôle central soit une administration ou une société privée. Il peut s’avérer extrêmement utile de créer une base de données médicale nationale, qui collecte des informations sur les citoyens afin de leur fournir de meilleurs soins de santé, de prévenir les épidémies et de développer de nouveaux traitements. Mais fusionner cette base de données avec celles de la police, des banques ou des compagnies d’assurances serait une idée très dangereuse […] et pourrait mener tout droit au totalitarisme. Pour la survie de la démocratie, un certain degré d’inefficacité n’est pas un bug, mais une fonctionnalité.
Réciprocité : Si les démocraties intensifient la surveillance des individus, elles doivent en même temps intensifier celle des gouvernements et des entreprises. Il n’est pas forcement mauvais que les autorités fiscales ou les services sociaux collectent davantage d’informations sur nous : cela peut contribuer à rendre les systèmes fiscaux et sociaux non seulement plus efficaces, mais également plus justes. Ce qui est mauvais, c’est lorsque toutes les informations circulent dans un seul sens : du bas bers le haut […] Amazon et TikTok en savent long sur mes goûts, mes achats et ma personnalité, alors que j’ignore à peu près tout de leur modèle commercial, de leur politique en termes de fiscalité ou de leurs affiliations politiques. Comment ces entreprises gagnent-elles de l’argent? Paient-elles autant d’impôts qu’elles le devraient? Sont-elles aux ordres de tel ou tel dirigeant politique? En ont-elles certains dans leur poche?
Changement et répit : Les sociétés démocratiques qui emploient de puissantes technologies de surveillance doivent donc se méfier de ces deux extrêmes que sont l’excès de rigidité et l’excès de malléabilité […] Un autre système de santé pourrait donc donner à son algorithme l’instruction non pas de prédire mes maladies, mais plutôt de m’aider à les éviter. Cet algorithme dynamique pourrait alors passer en revue exactement les mêmes données que l’algorithme rigide, mais au lieu de me prédire un infarctus à cinquante ans, il me ferait des recommandations diététiques détaillées et me suggérerait des exercices spécifiques à faire régulièrement […] Si nous accordons à un système de santé national un pouvoir considérable sur nous, alors il nous faut concevoir les mécanismes d’autocorrection qui empêcheront ses algorithmes de devenir trop rigides ou trop exigeants. (p.376)
