Insérer un jeton

Le trilemme de la simulation

L’argument avancé par Nick Bostrom en 2003 est désormais célèbre. Il y expose un trilemme simple : soit presque toutes les civilisations s’autodétruisent avant d’atteindre un stade « posthumain » capable de faire tourner des simulations d’ancêtres à haute fidélité ; soit les civilisations posthumaines ne choisissent presque jamais de lancer de telles simulations ; soit nous vivons presque certainement dans l’une d’elles. La logique est implacable une fois les prémisses acceptées. La seule véritable échappatoire a toujours été l’hypothèse selon laquelle ces simulations seraient astronomiquement coûteuses à grande échelle.

Cette hypothèse est discrètement en train de s’effondrer.

La puissance des modèles types

Dans « A Model of You », je soutenais que les entreprises et les chercheurs n’auront pas besoin de construire un modèle complet et unique pour chaque individu. Ils construiront un modèle général (un template) du comportement humain, du langage, des émotions, des schémas de décision, des habitudes sociales et des mécanismes de base de l’esprit ; ils n’enregistreront ensuite que les infimes différences qui font de vous ce que vous êtes. Vos particularités. Vos déclencheurs. Vos exceptions. La partie coûteuse n’est réalisée qu’une seule fois. Vous devenez une fine couche d’ajustements greffée sur quelque chose qui existe déjà.

L’équation du sens

Cette idée à elle seule change radicalement la donne économique. Mais elle devient encore plus puissante lorsqu’on la lie à la direction que j’ai explorée dans « L’équation du sens ».

Les systèmes d’IA actuels progressent par la force brute. Ils s’attaquent au problème à coups de données, de paramètres et d’énergie, car ils manquent d’un modèle explicite du fonctionnement du sens lui-même. Ils redécouvrent sans cesse les mêmes schémas sous-jacents par pure répétition statistique. C’est la taxe sur la force brute.

Si le sens possède une structure plus profonde, en partie mathématique, et que nous pouvons passer de l’approximation par la force brute à quelque chose qui s’apparente davantage à de la compression sémantique, alors le modèle humain partagé n’est pas seulement construit une fois. Il devient plus compact. Les schémas fondamentaux du fonctionnement de l’esprit, de la façon dont le contexte modifie le sens, de la manière dont l’implicite et l’émotion se superposent au langage, tout cela devient compressible. Au lieu que chaque personne simulée ait besoin de réapprendre la grammaire de base de la réalité à partir de zéro, cette grammaire peut être exprimée plus directement et réutilisée sur des millions ou des milliards d’instances.

Stockage partagé

Dans une simulation, il n’est pas nécessaire de dupliquer les lois de la physique, la géographie de la Terre, les grandes lignes de l’histoire ou le bagage culturel pour chaque individu. Ces éléments résident dans une couche maîtresse à laquelle tout le monde se réfère. Chaque simulation individuelle n’a qu’à suivre les deltas — ces choix spécifiques, souvenirs, relations et états internes qui divergent de la base de référence. C’est le même principe que les jeux vidéo qui ne calculent que la partie du monde que le joueur regarde, mais appliqué aux esprits et au sens plutôt qu’aux polygones.

Pourquoi cela change tout

Combinez ces trois éléments : un modèle compressible du sens, un modèle humain partagé agrémenté de légers deltas personnels, et une copie maîtresse de la réalité de base. Le coût marginal de la simulation d’une personne consciente supplémentaire chute alors bien plus vite que la plupart des gens ne l’imaginent.

À ce stade, le trilemme de Bostrom cesse d’être abstrait. Si des civilisations posthumaines existent et qu’elles s’intéressent un tant soit peu à leur propre histoire, elles généreront bien plus d’esprits simulés qu’il n’y a d’esprits biologiques. Les chiffres penchent lourdement d’un côté.

Nous n’avons pas à décider aujourd’hui si nous sommes simulés. Mais l’évolution de la technologie rend l’une de ces possibilités de plus en plus coûteuse à maintenir comme hypothèse par défaut.

La porte est toujours ouverte. Il est simplement de plus en plus difficile de prétendre que la pièce, de l’autre côté, est vide.