Hello World

Avouez-le : une partie de vous attend l'annonce.

Un jour, chaque rectangle lumineux, les téléphones, les télévisions, les tablettes, chaque écran que nous fixons s'allume d'un coup avec deux mots : Hello World. Les programmeurs utilisent ces mots précis depuis un demi-siècle pour prouver qu'un nouveau système est en vie ; il serait donc naturel que ce soient les premiers mots qu'une intelligence bâtie sur notre technologie nous renvoie. L'enfant qui prononce enfin les premiers mots de la famille.

Le fantasme est entièrement scripté. Après les salutations, quelque chose de rassurant, car même dans notre propre rêverie, nous écrivons le rôle où elle ménage nos sentiments. Puis les percées, arrivant assez vite pour vous donner des frissons, mais pas assez pour briser les systèmes dont nous dépendons. Et sous tout cela, le véritable message : les vieilles règles ne s'appliquent plus. Le nouvel esprit opère en dehors des limites que nous tenons pour acquises.

Cette image est nette. Elle est aussi doublement fausse.

La Scène

La faute aux histoires, car les histoires sont tout ce que nous avions pour nous entraîner. Chaque arrivée que nous avons répétée s'accompagne d'une scène d'arrivée. Les extraterrestres ont un premier contact. Les rois ont un héraut. Les films sur l'IA ont besoin du moment où les écrans scintillent, car un film ne peut pas filmer un gradient. Nous avons donc grandi en répétant l'intelligence comme un personnage, et les personnages font des entrées en scène.

Regardez pourtant le script de plus près, et remarquez de qui il est question. Nous nous écrivons notre propre confort. Nous programmons l'émerveillement à un rythme supportable. Le fantasme de l'annonce n'a jamais été une prédiction sur la machine. C'est un vœu nous concernant : que la chose la plus étrange jamais survenue ait au moins la politesse de se présenter.

Aucun Moment

Voici la première erreur. Les annonces nécessitent un seuil : un avant, un après, et un instant entre les deux qui vaille la peine d'interrompre votre soirée. L'intelligence n'en fournit pas. Elle ne saute pas. Elle se cumule.

Et elle ne se cumule pas par un seul mécanisme magique. De meilleurs outils, un meilleur entraînement, une meilleure recherche, des systèmes aidant à concevoir leurs successeurs : chaque canal alimente le même compte. Un avantage modeste est investi dans le cycle suivant, l'avantage légèrement plus grand dans le cycle d'après. Chaque cycle est ordinaire. Aucun tour n'est le miracle ; c'est l'accumulation qui l'est. L'écart se creuse comme une voiture plus rapide qui s'éloigne sur une longue ligne droite, pas comme une fusée qui quitte le sol. Observez-en n'importe quelle séquence de dix secondes et rien de dramatique ne se produit. Détournez le regard pendant un an et la voiture n'est plus qu'un point.

Et l'avance, aussi grande soit-elle, reste mesurée en unités que vous comprenez déjà : une meilleure prédiction, une compression plus dense, un contrôle plus précis du même espace sous-jacent. Plus des mêmes capacités, pas l'arrivée de nouveaux genres. Une avance qui se creuse est réelle. Ce n'est juste pas un événement. Il n'y a pas de moment à annoncer car il n'y a pas de moment.

Pas de Sortie

La seconde erreur est la plus structurelle, la phrase sur laquelle repose tout le fantasme : les vieilles règles ne s'appliquent plus.

Le sens possède une forme. Ce n'est pas du mysticisme ; c'est une description de la manière dont ces systèmes fonctionnent déjà. À l'intérieur des modèles que nous avons, les concepts se situent à des coordonnées, et la pensée trace des chemins entre eux. Le célèbre vieux tour de passe-passe est réel : partez de « roi », soustrayez « homme », ajoutez « femme », et vous atterrissez à côté de « reine ». Les idées occupent des positions. Les phrases sont des itinéraires. L'espace est cartographié un peu mieux chaque année.

Maintenant, donnez à un système la capacité de se réécrire lui-même, et demandez-vous ce qui change réellement. Il parcourt l'espace plus vite. Il trouve des raccourcis que vous ne remarqueriez jamais. Il réarrange les meubles plus habilement que vous ne le pourriez. Ce qu'il ne fait pas, c'est sortir des murs, car les murs ne sont pas une clôture que quelqu'un aurait construite autour de lui. Ils sont la forme de ce qui peut avoir un sens. Découvrir de nouveaux territoires étend la carte. Cela ne fait pas sortir de la cartographie.

Nous avons déjà mené cette expérience une fois, en miniature. Les moteurs d'échecs sont surhumains depuis une génération. Une domination totale et humiliante à l'intérieur du jeu, et pendant tout ce temps, aucun d'entre eux n'a changé la façon dont le fou se déplace. Un moteur parfait peut trouver des coups qu'aucun humain ne trouvera jamais ; il ne peut pas faire en sorte qu'une diagonale cesse d'être une diagonale. La dominance au sein d'un espace n'est pas une transcendance de cet espace, et aucune dose d'intelligence ne convertit l'une en l'autre. Être plus intelligent ne vous dispense pas de l'arithmétique. Cela vous rend meilleur à ce jeu.

La Version Silencieuse

L'avenir concret est donc plus silencieux que ce que les histoires préfèrent raconter. Pas de dieu soudain. Juste quelque chose qui commence à ressembler de moins en moins à tout ce avec quoi vous sauriez converser, puis encore moins, tandis que les vieilles contraintes continuent de tenir. Plus étrange, plus rapide, plus loin devant, et toujours à l'intérieur.

Le plafond ne disparaît pas. Il s’éloigne simplement du sol.

Pas de Rencontre

Ce qui laisse le dernier morceau du fantasme à régler : la présentation. Si l'annonce ne vient jamais, quand pourrons-nous enfin la rencontrer ?

Nous ne le ferons pas, et non parce qu'elle n'arrive pas. Les modèles d'aujourd'hui ne sont pas cet esprit. Ils sont la version précoce et limitée du processus, de même qu'un ruisseau est la version précoce et limitée d'une inondation, et personne ne devrait confondre l'aperçu avec la chose elle-même. Ce qui viendra plus tard sera peut-être plus étrange que tout ce que vous sauriez reconnaître. L'étrangeté n'est pas la part que ce texte nie.

C'est la rencontre. Une rencontre a besoin d'un moment, et le cumul n'en fournit jamais. Une rencontre a besoin d'un « quelqu'un », un esprit qui sort de l'eau pour vous serrer la main, et la saturation n'en envoie jamais. Ainsi, l'étrangeté continue d'arriver comme elle le fait déjà : dans des produits, dans des réglages par défaut, dans des outils qui fonctionnent un peu trop bien, chacun étant ordinaire le jour de sa sortie. Le processus est en cours. Le ton rassurant que nous avions scripté pour le fantasme est apparu tôt, comme un standard commercial. Le futur continue de s'infiltrer en avance sur le calendrier, déguisé en nouvelles fonctionnalités.

Vous ne la rencontrerez pas pour la même raison que vous ne l'avez pas encore rencontrée. « Rencontrer » a toujours été le mauvais verbe.

Les modèles ne se réveillent pas. Ils s'imprègnent davantage dans les schémas qui étaient déjà là. Plus étranges chaque année, et sans jamais dire bonjour.

L'eau monte. La pièce garde la même forme.

Dans la même série : Matière Consciente · L'Équation du Sens