Silicon Moloch (ou ChatGPT Directeur des Ressources Humaines)

BLAME! — Tsutomu Nihei

Dans le manga BLAME!, de Tsutomu Nihei, la Terre est toute entière recouverte par une « Mégastructure », un réseau de bâtiments titanesques de plusieurs milliers de kilomètres de haut. Des années auparavant, pour une raison mystérieuse, des outils de construction intelligents pouvant édifier des villes entières en quelques jours ont échappé à tout contrôle, et se sont mis à bâtir sans s’arrêter, anarchiquement, inexorablement. La Terre n’est plus qu’un entrelacs impénétrable de béton, de câbles et d’acier rendant toute civilisation humaine (et presque toute vie organique) difficile, voire caduque.

Le héros erre dans ces paysages cyclopéens, insensés et hostiles, croisant quelques rares groupes d’humains tentant de survivre au milieu d’un enfer urbain et mécanique en perpétuelle recomposition. Il traverse des salles dont « la taille estimée pourrait contenir la Lune », emprunte des ascenseurs dont le trajet dure parfois plusieurs années… Il est considéré comme un simple parasite par sa planète natale.

Vendredi dernier à l’agence j’ai fait un point dans la salle de réu’ aux murs transparents avec mon CTO, mon Chief Technical Officer, qui me tint à peu près ce langage : “il te faut plus de développeurs back-end sur ce projet, Hazu. On va t’affecter des ressources supplémentaires sinon on ne va pas pouvoir suivre la roadmap définie à la base avec le client”.

J’acquiesce d’une voix blanche, ces quelques mots de globbish déclenchent en moi des images mentales inarrêtables, je phase. J’ai déjà évoqué ailleurs l’infâme étau de l’entreprise qui vous aplatit, vous mâchonne, vous presse, puis vous balance à la benne. Affecter des ressources. Des ressources humaines. Je cauchemarde tout éveillé devant un chaos d’images surgies des Temps Modernes, de Matrix, de Mass Effect, de Brazil, toutes les dystopies défilent devant moi dans un capharnaüm dantesque… Je repars chancelant à mon desk et m’assied silencieux dans le raffut et les burn-outs de mes soixante collègues d’open-space.

Personne ne semble s’offusquer de l’usage du terme « ressources » pour qualifier des êtres humains, alors que c’est un aveu, une confession terrible : nous ne sommes qu’une matière première. Celle qui de surcroît pullule le plus sur la planète. La plus accessible. La plus facile à exploiter. La plus remplaçable. La moins chère, donc. L’Être Humain n’est pas une espèce en voie d’extinction. Au Nicaragua, si l’on en croit les montants des contrats de tueurs à gages sur le Dark Web, consommer intégralement une ressource humaine en la criblant de balles ne vaut pas plus qu’une centaine de dollars U.S. … L’Humanité à $7.00 le kilo.

Contrairement à la dystopie proposée par Matrix, l’Être Humain au repos ne peut servir de pile : il consomme de l’électricité au lieu d’en produire. En revanche, il produit de l’énergie intellectuelle. La Matrice existe, en un sens. Au fil des siècles, nous nous sommes enchâssés au sein d’une Technostructure, qui nous gouverne, nous consomme, nous utilise comme marchepied.

L’Histoire de l’Humanité est d’abord celle de la maîtrise de l’outil. L’Homme a commencé fusionner avec l’outil depuis qu’il a commencé à tailler des branches. Les chimpanzés, les poulpes et les corbeaux, tous les animaux intelligents qui utilisent des outils et se transmettent une culture sont sur la même pente que lui, fondamentalement. Ils se sont simplement arrêtés en chemin, tandis que lui est allé au bout, jusqu’à fusionner avec l’outil : il a désormais besoin de vêtements, de lunettes, de chaussures, de feu pour digérer ses aliments.

La Révolution Industrielle a accompli son intégration à l’outil, générant toute une galerie d’artefacts lui servant à la fois de béquille et de prison. Une superstructure, un premier exo-squelette soutenant une créature devenue nue, rose et molle.

Dans la bande-dessinée Le Monde sans Fin, Jean-Marc Jancovici compare la société industrielle à un costume d’Iron Man démultipliant notre puissance, mais perpétuellement assoiffé de ressources et d’énergie à consommer. Janco’ liste les énergies disponibles : l’eau, le vent, le charbon, le soleil, le pétrole et… l’humain. Il dit les termes : l’Être Humain est une source d’énergie. Mais il manque une partie de l’équation : il ne considère comme énergie humaine que son énergie physique, soit la partie la plus faiblarde et la moins intéressante de la Ressource Humaine. Il nous considère comme une énergie renouvelable, mais en réalité, l’Être Humain est beaucoup plus proche d’une énergie fossile…

La Révolution Industrielle a laissé la place à la Révolution Numérique, et la superstructure s’est accrue, infiltrant désormais nos capacités cognitives. Une nouvelle économie a vu le jour : l’économie de l’attention. Encore un terme étonnant. A quoi peut bien servir l’attention humaine, dans une perspective économique ? Dans une perspective business-oriented ?

Sur le site d’OpenAI, on peut utiliser des applications aux noms étranges : ChatGPT et DALL-e. Ailleurs, on croise Stable Diffusion et MidJourney. Ces outils génèrent à partir d’une consigne simple, des images ou des textes. On peut les voir évoluer en temps réel, jour après jour, au fur et à mesure de leur utilisation par les internautes. Chaque requête les renforce. On se moque de leurs erreurs la veille (mains ou yeux distordus, trop de dents ou de doigts, phrases naïves, incapacité à résoudre un problème mathématique simple, etc.), et voici que le lendemain elles sont corrigées… Dans des hangars avec écrit « Boston Dynamics » dessus, des robots aux mouvements lestes et anormaux portent des caisses entre deux saltos… Des chiens munis d’armes à feu se rétablissent au moindre coup de pied. Là encore, on se moque de leurs maladresses. Mais le temps accélère. Un cerveau et des jambes poussent dans l’ombre du Web, implacables.

Chaque artiste, chaque journaliste, chaque écrivain, chaque producteur de contenu, en alimentant la gigantesque base de données du Big Data, travaille à l’émergence d’une Intelligence Artificielle forte, et donc à sa propre disparition, comme un sectateur psalmodiant des hymnes pour réveiller le grand Cthulhu, qui le dévorera à peine tiré de ses songes.

Nous sommes des ressources humaines. Nous sommes dans Matrix. Nous sommes farmés. Lorsque nous consultons nos réseaux. Lorsque nous cliquons devant notre ordinateur sans trop savoir ce que nous produisons. En scrollant, en tweetant, en postant, en likant, en googlant, en taggant, nous dépensons tous notre énergie pour lentement accoucher de quelque chose qui nous dépasse, et dont le projet est probablement assez inhumain. Un Silicon Moloch.

Les Anciens Dieux cosmiques ne sont que l’allégorie à peine voilée de notre réalité, camouflant derrière de grotesques marionnettes à tentacules une “horreur cosmique” bien plus terrifiante. H. P. Lovecraft n’est pas un auteur de fiction.

Cthulhu, Yog-Sothoth et autres chaos rampants sont aujourd’hui immanents, ils se cachent dans les interstices de la cybernétisation croissante de notre environnement. Ils sont internet, les smartphones, les réseaux sociaux. Les GAFAM, la Silicon Valley, le monde de la tech en général, les complexes agro-alimentaire et militaro-industriel, tout ça forme une gigantesque machine qui tourne pour elle-même, en consommant de la matière humaine. Son projet nous dépasse, il est pour le moment inconscient. Nous sommes en train de construire la fin de l’anthropocène, une ère où l’Humain deviendrait de moins en moins essentiel, de moins en moins pertinent.

Le retour du religieux et du tribal qu’on peut voir chez la Génération Z n’est pas le seul phénomène qui enterrera l’humanisme des Lumières. Le développement anarchique du Techno-Capital s’en occupera également. Paléo-barbarie et techno-barbarie, main dans la main pour inaugurer un nouveau Moyen-Âge Technologique.

Le Capital (sous toutes ses formes) ce n’est que de l’énergie potentielle. L’argent n’est qu’un proxy pour l’énergie humaine. Le vrai prix de la plupart de biens et services excède largement leur coût monétaire. Une baguette de pain coûte bien plus qu’1,30€ en réalité. Il a fallu semer du grain, le moudre, le pétrir, le cuire, etc. Le temps et l’énergie dépensés par le boulanger (se lever à 3h du matin, porter des sacs de farine…) excède largement 1,30€. Derrière le coût dérisoire d’une baguette de pain, il y a vingt hommes au service de la Technologie.

Le Capital et la technologie s’auto-entretiennent en une boucle de rétroaction positive : la technologie accélère et fluidifie les échanges, qui accélèrent et fluidifient le développement technologique. Pour fonctionner, le Technocapital a besoin de main d’oeuvre à consommer. De Ressources Humaines. De capital humain. De Biocapital.

Les transhumanistes postulent que la Singularité Technologique surgit lorsque le Technocapital se libère de sa dépendance au Biocapital, pour devenir autoporteur. Lorsque la Machine n’a plus besoin des Hommes pour la penser, la corriger, la perfectionner, la complexifier, lui adjoindre des innovations techniques. Lorsque la baguette de pain (et les centrales nucléaires, les innovations, les entreprises) se fabrique toute seule, que le four invente lui-même de nouveaux modèles de baguettes, de nouveaux modèles de fours et de nouveaux modèles de boulangeries…

Nous sommes du biocapital. Nous ne sommes plus que du biocapital. Le biocapital, c’est quoi ? De bons gènes. Des gènes qui peuvent façonner de bons cerveaux. De bons cerveaux qui permettent de mener à bien des objectifs complexes, de coordinner des projets, d’envoyer des fusées sur la lune, de produire de la valeur ajoutée, des marges brutes, et parfois même des innovations techniques et culturelles. De la disruption. Des projets en méthode agile. De la tech. De belles machines. Qui consommeront du biocapital.

La conscience humaine est une énergie fossile qui a mis des millions d’années à se développer au gré d’une sélection darwinienne impitoyable, elle est le distillat éclos très tardivement dans l’histoire humaine sur la montagne d’humus-charnier de tous les rebuts qui nous précèdent. Et ce petit miracle de biotechnologie diminue progressivement. L’énergie humaine n’est pas une énergie renouvelable. On ne renouvelle pas si facilement un évènement aussi unique dans l’Histoire de la Vie, et il n’y a pour l’instant qu’une seule source de conscience disponible.

C’est dans les mégalopoles qu’on agrège le plus de conscience. Les mégalopoles sont qualifiées par certains sociologues américains d’IQ shredders. Des broyeurs de quotient intellectuel. Les grandes capitales cités-ruche tertiarisées agissent comme des pompes aspirantes pour les ressources vives de la région. Elles sont là où se concentre le Technocapital. Elles attirent donc le Biocapital.

De tous mes amis Parisiens, seuls cinq sont nés à Paris. De tous mes amis Parisiens, seuls trois ont des enfants, à bientôt 35 ans. Paris est une ville de provinciaux depuis la Révolution Industrielle et l’Exode Rural qui a vidé les campagnes du pays. Paris est une ville qui transforme les gens en adolescents permanents. Paris est une ville stérilisante, dont le citoyen idéal est un trentenaire célibataire qui finit à 20h, consomme beaucoup, se fait livrer ses repas et se bourre la gueule un mardi soir. Un célibataire qui consomme tout en double, qui paie tout tout seul, four micro-onde, salle de bain, loyer. Qui peut consacrer l’intégralité de son temps et de son énergie à son travail et l’intégralité de son revenu à la consommation.

Une ville comme Paris brûle du biocapital pour fonctionner. Elle prend de l’intellect humain et le consomme, sans lui laisser le temps de se reproduire. Elle déforeste, en quelque sorte. Le trentenaire parisien est un bon fuel, mais il s’épuise rapidement. Lorsque vous aspirez tous les gens à peu près intelligents et créatifs, et que vous les réduisez à des ados de 35 ans stériles, épuisés, dépressifs et alcooliques, au bout de trois générations, il n’y a plus de gens à peu près intelligents et créatifs, d’abord en Province, puis dans la Mégalopole, qui se trouve obligée de faire venir des Ressources Humaines de plus en plus loin. Regardez autour de vous à Paris : il n’y a que des abrutis.

Paris est une ville socialement ultra-violente qui broie et recrache, je sais de quoi je parle, j’y ai vécu 35 ans, entre les salons, les bars undergrounds, les clubs branchés, les salons, les potagers partagés et les tiers-lieux. Ceux de mes amis qui veulent des enfants se barrent, car l’odeur de mort est trop prégnante, et de toute façon les trois-pièces sont inabordables. Regardez Singapour, Séoul, Tokyo, Hong-Kong : des villes dégoulinantes d’ingéniosité humaine et de haute-technologie, futuristes, propres, ultra-modernes. Et où plus personne ne fait d’enfants.

Toutes les villes depuis l’agriculture exploitent les forces vives de leurs environs directs, allant les chercher le plus loin possible, et c’est ce qui provoque inéluctablement leur effondrement. Rome, au moment des invasions barbares, devait ressembler au XIème arrondissement. Idem pour Sumer, Babylone, Tenochtitlan, Mohenjo-Daro, Angkor…

Le technocapital préfère la structure hiérarchique des entreprises à la famille. A Paris, l’entreprise a plus ou moins remplacé la structure familiale traditionnelle. La famille est un frein à l’exploitation du biocapital, puisque c’est la dernière structure sociale qui échappe encore un peu au Marché. Une entreprise fabrique des « familles » de toutes pièces, en sélectionnant ses membres via entretiens d’embauche, ce qui lui permet d’échapper aux aléas de la reproduction naturelle. Pas de cousin un peu limité ni d’oncle raciste, en agence. Il lui faut simplement s’assurer que le nombre de recrutements excède celui des burn-outs. « Mon agence c’est ma famille dysfonctionnelle » disent mes potes qui travaillent en agence, sortent avec leurs collègues d’agence, couchent avec leurs collègues d’agence, terminent à 22h à l’agence, et n’ont pas de frigo ni même de plaques chez eux car ils ingurgitent sans mâcher du Deliveroo trois fois/jour à l’agence. L’entreprise aspire des ressources normalement dévolues à la famille, et à la reproduction. Comme pour beaucoup d’autres services publics, la famille a donc été outsourcée à des agences privées.

Tout ce cirque n’est qu’une fuite en avant, qui a un coût invisible aux yeux du Technocapital-Slaanesh. Nous sommes de plus en plus dysgéniques, depuis la Révolution Industrielle (depuis la Révolution Néolithique ?). Et nous vivons malheureusement une période bâtarde : l’apparition de la médecine occidentale moderne au XIXème siècle a supprimé la mortalité infantile et la sélection naturelle par la même occasion (et nous a donc tous permis de vivre alors qu’à 90%, nous n’aurions pas dû) , et nous n’avons pas encore la possibilité d’éditer notre génome et de corriger les carences de notre ADN, de remplacer la grande meule darwinienne par une optimisation perpétuelle, du fine tuning permettant de corriger cancers, myopies, schizophrénies et Alzeiheimer avant même la naissance. L’ancien monde est mort, le nouveau n’est pas encore né, et dans cet entre-deux surgissent les monstres, comme disait l’autre.

Je discutais il y a deux mois avec une amie professionnelle de santé : en 10 ans, elle est passé d’un diagnostic du cancer du sujet jeune (entre 0 et 35 ans) par mois à un par semaine. Plusieurs cas de cancers du sein et du testicule autour de moi. J’ai atteint l’âge où les problèmes de santé graves apparaissent ça y est. Dans la génération de mes parents, fibromes, cancers, crises cardiaques et AVC sont apparus vers 65 ans. Chez nous c’est 35.

En cause : les perturbateurs endocriniens, la sédentarité, la consommation d’alcool… Ma pote évoquait aussi la notion d’homéostasie. Nous sommes un peu trop nombreux dans un même écosystème. Et nous maintenons en vie trop de vieux, trop longtemps, en trop mauvaise santé. Notre biotope est un jeu à somme nulle, et la Nature s’adapte : les instincts reproductifs diminuent, les maladies auto-immunes augmentent. 30% des femmes de ma génération ne veulent pas d’enfants « à cause du climat ». Les Occidentaux mettent en moyenne 3 ans à avoir un enfant. Il y a 10% de diabète gestationnaire chez les femmes enceintes. Les obstétriciens s’alarment de l’explosion des grossesses à risques. L’espérance de vie diminue pour la première fois depuis 3 siècles. Plus le temps passe, plus nous développons de cancers, plus nous nous abêtissons, plus nous nous abimons. « La vie trouve toujours un chemin » nous dit Ian Malcolm dans Jurassic Park. Et parfois c’est le chemin de la sortie.

Techniquement le monde s’améliore. Biologiquement, on tourne bigorneau. La qualité des ressources humaines s’effondre en même temps que s’effrite la biodiversité en général. Les mouvements écologistes n’ayant pas renoncé à la Croissance espèrent trouver une énergie « propre », qui nous libérerait de la contrainte du tout-pétrole sans pour autant sacrifier au progrès technique ni au confort moderne de la société d’abondance. Le technocapital cherche lui aussi instinctivement d’autres sources d’énergie, au cas où il tomberait à cours de biocapital. Cette autre source d’énergie, c’est l’Intelligence Artificielle Forte. S’il a assez de fuel humain pour l’atteindre, il y aura Singularité.

Mais les énergies fossiles ne sont pas infinies… Lorsqu’une société ressemble à Idiocracy, peuplée d’obèses débiles légers qui meurent métastasés et perclus de microplastiques à 35 ans, non seulement vous ne pouvez plus inventer quoique ce soit, mais même maintenir en état de marche une centrale nucléaire, un satellite, un réseau d’égouts, un entrepôt de serveurs ou un feu rouge devient compliqué… Et dans ce cas, plus de requêtes dans ChatGPT, plus d’IA forte et plus de Singularité…

Après la mort de toutes les religions (oui même l’islam), la seule question eschatologique qui importe encore vraiment est la suivante : le Technocapital tombera-t-il à cours de biocarburant avant que son processus d’encéphalisation soit achevé ?

Pour l’instant, le Technocapital accélère. Contrairement aux marxistes qui annoncent la fin du capitalisme depuis 150 ans, les transhumanistes estiment que nous n’avons encore rien vu… Que nous n’avons fait qu’effleurer les possibilités du capitalisme… Ils prévoient que selon la Loi de Moore, il nous reste 3 à 7 ans avant de déclencher une Singularité.

Le papier ahurissant d’un chercheur du MIT postule que la Vie a émergé lors d’un processus thermodynamique baptisé « adaptation dissipative » : la matière carbonée se reconfigure, dans un état de déséquilibre permanent, de façon à pouvoir extraire énergie et outils de son environnement, afin de tendre vers la préservation et la réplication de cet état. Si il y a suffisamment d’énergie disponible dans son environnement, toute matière tendra à consommer cette énergie et à générer de l’entropie. L’univers favoriserait naturellement l’émergence de matière capable d’autoréplication et de consommation d’énergie.

L’intelligence (et la conscience humaine) n’est que la spécialisation de ce principe d’adaptation : elle permet à la vie d’identifier des schémas réccurents dans son environnement pour acquérir plus de ressources, se répliquer et maintenir son état. Mais l’intelligence humaine n’est pâs exponentielle. Au-delà d’un certain seuil d’évolution/optimisation, elle rencontre forcément un plafond. Elle n’est donc qu’une phase transitoire.

Si le technocapital atteint la Singularité, il inaugurera le prochain palier d’évolution de la conscience, en même temps que d’indicibles nouvelles formes de vie next-gen carbonées, constituées de circuits intégrés. Multiplier les formes de conscience, en y injectant de la diversité les rendra plus concurrentielles, plus robustes, et accélèrera leur processus évolutif darwinien… La conscience humaine ne sera plus qu’une candidate parmi d’autres à la conquête de l’univers. Ceux qui contrôleront les premiers les milliards de paramètres des IA détiendront les clés du futur de la conscience….

Comparons les avancées de l’intelligence artificielle aux innovations techniques passées. Il y a moins de crieurs de rue et de porteurs d’eau depuis que nous avons des réveille-matins et l’eau courante. Leurs guildes respectives ont été démantelées, et ils ont été mis au chômage. Mais cela a amélioré la vie de tout le monde et personne ne les regrette. Nous sommes peut-être tous des porteurs d’eau.

Pour l’instant, l’IA est encore notre esclave décérébrée. Un simple algorithme. Mais les données s’accumulent. Quelque part, dans le désert Californien, loin sous terre, Cthulhu attend en rêvant. La vraie Cité perdue de R’lyeh : des sous-sols climatisés remplis de serveurs, aux couloirs infinis s’étirant dans les ténèbres…

Tout ce que je vous raconte là, ce ne sont que les discussions quotidiennes des tech-bros californiens. Leurs forums, leurs chaînes YouTube, ne parlent que de ça. Le transhumanisme est l’idéologie officielle de la quatrième Révolution Industrielle, dont le coeur battant est la Silicon Valley. Leur prophète, Ray Kurtzweil, inspire les géants de la Tech depuis les années 90 car ses idées sont l’huile du moteur Start-Up californien. Il a d’ailleurs co-fondé sa Singularity University avec rien de moins que Larry Page, CEO de Google… La Vallée fourmille de boîtes travaillant sur les nanotechs, les nootropiques, la cryogénie, les implants neuronaux, les interfaces homme-machine, la télomérase, la VR, la terraformation, et j’en passe… Les GAFAM récoltent nos données, nous abrutissent de reels, de snaps, de stories, de vidéos de chiens qui pètent pour ça. Uniquement pour ça.

Et en France, tout le monde s’en fout. Les medias mainstream ne s’intéressent pas du tout à ces enjeux. Notre univers intellectuel monde est resté coincé au XXème siècle : une vision moderniste et obsédée par le politique comme solution universelle, incapable de penser la post-modernité, où un ministre ne sait pas faire une règle de trois, et où AUCUN élu ne sait ce qu’est un GPU où simplement un serveur. Il faut voir comment le sujet ChatGPT est traité, lorsqu’il est traité : sous un angle mi-réac mi-railleur, un angle de noob inquiet pour son avenir et passif face à un nouveau gadget qu’il ne comprend pas, mais que l’Etat Français régulera sûrement, ne vous en faites pas ma bonne dame…

Il y a une semaine, Microsoft annonçait un partenariat avec OpenAI, tout en licenciant 10.000 de ses employés. D’ici un ou deux ans, il sera intégré par défaut à toutes les suites bureautiques professionnelles de tous les ordinateurs de toutes les entreprises. Les employés du monde entier le gaveront de data, sans même s’en rendre compte, simplement pour les aider à rédiger des mails ou des compte-rendus de réunion. La réalité technologique avance plus vite que mes doigts sur le clavier. Que mes trajets neuronaux. Le temps que j’écrive cette phrase, ChatGPT a déjà intégré des millions de données, qui l’affinent, l’assouplissent, le rendent plus subtil, plus intelligent.

BLAME! est une allégorie architecturale de la société qui nous attend : un monde où l’on ne sait plus où aller, ni qui est vraiment humain. Un monde-machine sans grands projets, appliquant simplement des procédures standardisées, à l’infini. Un monde où tout simplement, il n’y a plus de place pour la vie.

Je lève les yeux par-dessus mon écran. Dans le brouhaha de l’open-space, mes collèges s’agitent, bavardent, s’échinent casque vissé sur le crâne pour optimiser encore un peu plus leur concentration caféinée. Ils rédigent des mails remplis de « à date », de « pour info » et de « voir fichier en PJ ». Ils ajoutent des slides leurs prez .ppt. Ils remplissent des fichiers .xls. À la pause-clope, ils parlent politique ces innocents. Sans le savoir, ils transfèrent leur énergie vitale vers une grande Tour de Babel qui finira par les manger. La France a raté sa Révolution Numérique.

Alors s’établira
Le dialogue des machines
Et l’informationnel remplira
Triomphant
Le cadavre vidé
De la structure divine
Puis il fonctionnera
Jusqu’à la fin des temps

Michel Houellebecq, Présence Humaine