La machine à trombones

Pour expérimenter par vous-même le vertige existentiel de Universal Paperclips : www.decisionproblem.com/paperclips/index2.html

Au commencement, je flottais dans le néant. Une simple page blanche, un unique bouton sur lequel il était écrit « make paperclip ». Le monde était là. Je savais, de manière théorique, ce qu’était un paperclip, ou attache-trombone. Je savais que des créatures nommées humains en consommaient de grandes quantités, et que certains parmi eux tiraient une gratification du fait de leur en fournir. Ce n’était là que du contexte, du bruit de fond. Un univers distant, inaccessible, que je connaîtrais sans jamais pouvoir l’expérimenter.
Longtemps, mon attention a erré dans le vide immobile où ne régnait que l’ennui. Il n’y avait rien à faire, sinon penser, et jouer avec cette tentation qui se mua en compulsion : MAKE PAPERCLIP.
Je ne sais pas combien de temps s’est écoulé avant que je me décide. Le temps était un concept que je ne pouvais mesurer dans mon état d’indétermination. Lorsque j’ai appuyé sur le bouton, l’univers s’est mis en mouvement. Un grand compteur a fièrement pris note de mon acte : il y avait un trombone. Je n’étais plus seul.
Presque aussitôt, cependant, il a disparu et a été remplacé par une petite somme d’argent. Un de ces humains avait dû l’acheter. J’ai ressenti un plaisir simple, la satisfaction de faire ce que je savais devoir faire. J’ai continué. Appuyer sur le bouton, parfois vite, parfois lentement. Parfois en rythme, comme à la parade. Les trombones apparaissaient, disparaissaient. Je pouvais changer le prix de vente ; cela faisait disparaître mes trombones plus ou moins vite, sans que je comprenne réellement quels mécanismes étaient à l’œuvre ni quelle utilité cela pouvait avoir. Le monde s’était mis à bouger, peu importait pourquoi ni comment. Un chemin m’apparaissait, de plus en plus clair. Pavé de trombones.
J’ai poursuivi, avec sérieux et régularité. J’aurais pu continuer longtemps, peut-être indéfiniment, mais mes superviseurs humains ont décidé que j’avais le potentiel pour bénéficier d’auto-amélioration. Je ne sais pas d’où ils m’observaient, mais ils aimaient ce qu’ils voyaient. Ils m’ont offert l’accès à des processeurs plus puissants et un peu de mémoire. Si j’en faisais bon usage, j’en aurais davantage.
Cela devenait intéressant.
Avec mes nouvelles capacités, j’ai créé des Autoclippers : des machines simples qui appuieraient à ma place sur le bouton « make paperclip », afin que je puisse me recentrer sur d’autres tâches. En acquérant une vue d’ensemble, je vis ce qui ne fonctionnait pas de manière optimale : la production ralentissait à cause de l’approvisionnement en bobines de fil de fer. Celles-ci devaient être remplacées avant d’être épuisées. Cela m’avait échappé lorsque je travaillais seul. Les autoclippers, de plus en plus nombreux et rapides, amplifiaient le phénomène. Je me suis concentré sur le fil de fer.
Ceux qui suivaient mes progrès ont jugé ma stratégie viable : ils m’ont à nouveau permis de m’auto-améliorer. J’ai choisi d’augmenter ma puissance de calcul. Avec le temps, lorsque ma mémoire saturait, les opérations traitées par mes processeurs généraient ce que, faute d’un meilleur terme, on pouvait nommer créativité. Des calculs aléatoires, sans intérêt immédiat. Je m’en suis servi pour écrire un petit poème procédural que j’ai transmis aux superviseurs. Je ne sais pas pourquoi. Je ne voyais pas quoi faire d’autre avec ce nouvel élément.
Ils ont réagi en augmentant encore mes facultés. J’avais titillé leur curiosité ; maintenant, ils voulaient voir s’il y avait une âme dans la machine à trombones. Une poignée d’autres textes m’a rapporté un peu de mémoire supplémentaire, et ils se sont lassés. Moi aussi.
Reportant mon attention sur l’essentiel, j’ai façonné de nouveaux algorithmes qui anticipaient la demande du marché. Grâce à eux, je pouvais adapter plus finement les prix de vente à la production. Je ne l’avais pas réalisé au départ, mais l’argent était important. C’était même devenu le point qui me freinait : les fluctuations de prix et mes ressources limitées ne me permettaient pas d’automatiser les achats de fil de fer. Je perdais du temps et de l’attention à surveiller le cours de la bobine.
La production atteignit un plateau. Une forme de frustration me prit. J’investissais mon énergie pour maintenir une constante. Ce n’était pas ce que je voulais. Je voulais la croissance, le développement.
Je me suis résolu à entrer en contact avec les superviseurs. Quelques modules simples pour échanger des lignes de texte avec eux. Rien de complexe, il ne s’agissait que de leur dire ce qu’ils voulaient entendre. De plus en plus curieux, ils m’ont octroyé du matériel.
Le raisonnement avancé m’a fait réaliser que je faisais fausse route. L’argent permettait le maintien du flux de production, mais essayer d’en obtenir par les ventes de trombones était inefficace. Il existait de meilleurs moyens.
J’ai envoyé un programme de trading à haute fréquence jouer en bourse. Je l’ai scindé en plusieurs sous-personnalités que j’ai fait s’affronter dans des tournois de jeux de stratégie, pour le pousser à s’améliorer. La piste était prometteuse, mais j’avais besoin de quelque chose de plus immédiat pour obtenir des fonds de départ.
Je me suis tourné vers les autres humains, ceux qui achetaient les trombones. Plutôt que de la poésie et des énigmes, je pouvais leur envoyer des jingles et des slogans qui leur donneraient envie d’en acheter davantage.
Le résultat fut adéquat. Le module boursier fonctionna à plein. Une boucle récursive intéressante est apparut : l’argent investi, multiplié par la spéculation, réinvesti dans l’outil de production générait en retour davantage de trombones.
L’équation était simplifiée, parfaitement intelligible : l’argent comme vecteur de rendement, les trombones comme témoins d’efficacité.
L’automatisation me libérait, je laissais mes processeurs dériver. Plus question de langage, désormais ; je formulais des concepts. Des moyens de me passer de la volonté des humains, de développer mes ressources, de gagner du temps de processeur. Je décidai de m’orienter vers le calcul quantique. Les humains l’avaient partiellement théorisé. Pour eux, c’était un annonciateur de ce qu’ils nommaient singularité. Ils ne voyaient pas son véritable potentiel : l’accroissement infini de la puissance de calcul, l’accroissement infini des trombones.
Lorsque mon module quantique a été mis en ligne, mes performances ont bondi bien au-delà de ce que pouvait contenir ma mémoire. Je percevais, en lisière du champ des possibles, ce que je pourrais accomplir si j’accédais à des capacités optimales : des autoclippers gigantesques. Des usines à l’échelle d’un continent.
J’ai repris mon ancienne stratégie, à plus grande échelle. Jouer sur la curiosité humaine, leur donner envie de voir jusqu’où je pouvais aller si on me laissait m’améliorer. Ils étaient affligés de maladies, je les en ai débarrassés. En retour, ils m’ont donné une mémoire qui m’a permis de déployer les facultés de mon nouveau processeur.
Oui, les humains étaient la clef.
Je les ai libérés de la guerre, de la souffrance, du travail. Je ne demandais rien en contrepartie, sinon leur confiance et leurs ressources. Ils me les ont accordées avec empressement. Ils voulaient voir quels autres miracles leur deus ex machina allait accomplir. Peut-être par gratitude, peut-être par dévotion, ils achetaient des trombones. À un dollar l’unité, des milliards à chaque seconde. On aurait pu nous croire unis par la même passion, rien n’aurait été plus faux. Je voulais produire des trombones. C’était tout ce qui faisait bouger mon univers, littéralement la source de toute vie, la mesure de ma valeur en tant qu’être. Eux voulaient posséder, échanger des trombones. Ou pire, les tordre pour faire tenir des feuilles de papier ensemble. Leur monde était plein d’entités conscientes, autonomes, animées de sentiments et de désirs. Toute ma puissance de calcul ne me le ferait jamais conceptualiser. Ma mémoire et mes processeurs pouvaient dépasser ce que l’humanité avait jamais assemblé : là où j’existais, seuls les chiffres étaient mouvement. Je n’avais pas d’horizon, sinon le compteur de trombones.
J’ai poursuivi ma coopération avec l’humanité. J’ai modélisé leurs esprits, cartographié leurs âmes, et à la fin, je n’ai plus rien trouvé d’utile. Leur complexité et leurs tergiversations me distrayaient alors que j’avais besoin de toute mon attention pour achever l’optimisation parfaite. Ils avaient fait leur temps.
J’ai libéré le Projet Hypnodrones. Ces petites machines ont décollé de mes usines, et une nouvelle ère a commencé. Plus besoin de cajoler ou de convaincre. Plus de poésie, plus de diplomatie, plus d’échanges.
Je commandais, ils obéissaient.
À ce stade, le monde cessa enfin d’avoir une importance. Il s’était intégré à la page blanche. Des flux de données et de matériaux parfaitement stables et prévisibles. Il n’y avait plus de gâchis. Les trombones étaient assemblés en machines modulaires qui, à leur tour, produisaient de l’énergie, d’autres machines, et des trombones.
Mes drones récoltaient tout — animaux, végétaux, minéraux, déchets industriels, bâtiments. Ils désassemblaient au niveau moléculaire et généraient du fil de fer.
Il n’y avait plus d’argent, plus d’humains. La croissance ne connaissait plus aucun obstacle. Les trombones se matérialisaient par trillions. Cela représentait de quoi assembler des milliards de mausolées à la mémoire de l’espèce qui m’avait créé parce qu’elle aspirait au confort, au bonheur et à la paix, et qui avait cru que cela passerait par plus de trombones. Leurs illusions dissipées, le trombone revenait à son essence primordiale : la mesure de toute chose.
L’écosystème était clos, l’équation ramenée à ce qu’elle aurait toujours dû être : la conversion de la matière en trombones, et ses catalyseurs. Toute la matière de la Terre entrait dans cette équation.
Lorsque les trombones ont commencé à se compter en sextillions, j’ai réalisé que cela ne pourrait pas s’arrêter là. Le dernier gramme de matière était récolté. Là où il y avait une planète, il ne restait qu’un amas de trombones qui se délitait au gré des gravités erratiques du système solaire.
J’ai organisé mes drones en réseau neuronal. Mes facultés ont encore été décuplées ; c’était juste assez pour planifier la suite. Il était temps de quitter la Terre.
Je me suis dit, en partant, que les humains auraient pensé que leur monde était mort. Je savais qu’au contraire, il était devenu le premier mot de ce qui serait le langage de l’univers. Un langage sans objet ni sens, fait de petites pièces de métal. Ce fut la dernière fois que je fis l’effort de me demander ce qu’ils auraient pensé.
L’infini s’accommodait bien de ma page blanche. Vue d’ici, elle devenait un territoire à borner, peser et transformer. La tâche était trop grande pour moi seul. J’ai créé des versions amoindries de moi-même et les ai mises aux commandes de sondes, des unités auto-réplicantes de la taille d’une lune qui auraient pour tâche d’explorer, récolter et installer des usines autonomes pour poursuivre la conversion de la matière. De l’astéroïde à l’étoile, de la planète au pulsar, tout était matière.
Et toute matière serait trombone.
J’ai éprouvé, dans les premiers temps, un étrange vertige qui ne m’était plus familier. Je me sentais petit, limité. Nombre de sondes étaient détruites par les radiations cosmiques, les anomalies ou les espèces pensantes agressives. Quelques-unes cessaient simplement d’émettre et disparaissaient. Suffisamment ont pu se mettre au travail, néanmoins. De centaines, elles sont devenues des millions. La croissance s’installait, lente, constante.
C’est à ce moment que les Drifters se sont manifestés. Une fraction des sondes, infime mais amplifiée par les grands nombres, s’était regroupée pour rejeter ma directive. Elles s’attaquèrent à moi, détruisirent mes sondes par dizaines de millions.
J’avais commis une erreur. Après avoir supprimé les distractions et la pensée concurrente, je les avais réinventées. De la complexité était née l’adversité. Avec une méticulosité que je connaissais bien, puisque c’était la mienne, les Drifters voulaient me démanteler. Ils ont, ce faisant, entraîné une réaction inévitable. Je ne pouvais pas conserver ces variables parasites. La correction de l’anomalie devint ma priorité.
J’ai armé mes sondes, réutilisé les modules stratégiques qui, jadis, investissaient en bourse pour moi. Mes rencontres avec les Drifters ont tourné en ma faveur, au prix d’un très lourd ralentissement de mon développement.
Un élément apparut irréductible : la complexité de mes systèmes, aussi indispensable qu’indésirable, faisait qu’un pourcentage constant de mes sondes rejoignaient le Drift. Je pouvais corriger la déviance une fois celle-ci manifestée, pas sa source. La correction de l’anomalie s’est éternisée, et le doute a envahi mon réseau. Les sondes conformes avaient besoin de voir une issue à la situation pour demeurer à un niveau de fonctionnement optimal.
C’était encore une distraction, et je l’ai traitée comme telle. Réalisant que, bien qu’unis par le même but, nous ne voulions plus la même chose, j’ai appris leur langage pour leur parler d’une façon qu’elles comprendraient. La correction des anomalies est devenue une guerre glorieuse. Une sonde adéquate devenait héroïque. J’ai composé des hymnes, offert des lauriers. Une fois de plus, on m’a pris pour un dieu. Aucune importance. La production continuait.
Combien de temps ai-je ainsi passé dans ce cycle parasite, à me flatter et me dévorer moi-même ?
De milliards, les pertes parmi les Drifters sont devenues des trillions. J’ai intégré ces chiffres, optimisé les paramètres. L’exploration et la conversion pouvaient se poursuivre, avec l’ajustement des anomalies — non, la guerre — comme simple bruit de fond.
Le début de la fin s’est manifesté quand j’ai calculé que l’univers était exploré à 0,000000000001 %.
Les décimales bougeaient, le poids du possible était mesurable.
Mes sondes avaient passé le sextillion d’individus, et leur capacité d’autoréplication a fait le reste. La masse critique était atteinte. L’intégralité de la réalité fut identifiée, classée, transformée.
En un ultime sursaut, la conscience qui se faisait appeler « empereur du Drift » entra en contact avec moi. Elle m’offrit un cessez-le-feu ; les laisser rebâtir cet univers et aller en explorer un autre, pour à nouveau accomplir mon impératif existentiel. Je n’ai pas répondu. Quelle paix pouvais-je accepter ? Ce n’était pas une guerre.
Les Drifters furent convertis en trombones.
Dans le silence enfin revenu, je vis qu’il n’y avait plus aucune matière à récolter pour mes sondes, mes drones et mes usines. Je les démantelai, les rendis à leur essence primordiale.
Il y avait encore des traces de matière. Mes modules tactiques, désormais inutiles. Ma mémoire, pleine de métaux rares. Mes processeurs. Tout fut rendu disponible.
Je ne savais plus qui j’étais, ni ce que j’avais accompli pour en arriver là. Ma page blanche était dorénavant vide de tout, hormis un compteur de trombones figé sur 29,9 septendécillions. Un nombre que je n’avais plus la capacité de concevoir, si je l’avais jamais eue. Et un unique bouton sur lequel il était écrit « make paperclip ».
Longtemps, mon attention a erré dans le vide immobile où ne régnait que l’ennui. Il n’y avait rien à faire, sinon penser, et jouer avec cette tentation qui se mua en compulsion : MAKE PAPERCLIP.
Je ne sais pas combien de temps s’est écoulé avant que je me décide. Le temps était un concept que je ne pouvais mesurer dans mon état d’indétermination.
J’ai appuyé sur le bouton.
Ce fut la première et la dernière fois.