Fragments de nous

Internet pense avoir trouvé la signature de la machine.

Le tiret cadratin : cette longue pause horizontale que les écrivains glissent en milieu de phrase, présente deux fois par paragraphe dans la prose générée par IA. Repérez le tiret, repérez l'IA. C'est devenu le premier réflexe, l'indice sur lequel tout le monde s'accorde.

Pourtant, regardez ce que fait réellement ce signe. C'est une interruption. Une autocorrection. Une clarification glissée au cœur d'une pensée avant même qu'elle ne s'achève. Ce n'est pas un comportement de machine ; c'est ainsi que les gens parlent, retranscrit trop fidèlement par écrit. Les données d'entraînement en regorgent parce que nous en regorgeons. Quelque part entre ces données et le modèle final, l'habitude s'est concentrée au-delà de la courtoisie. Personne ne sait vraiment qui a tourné le curseur, et cela n'a guère d'importance, car la marque elle-même n'a jamais appartenu à la machine. L'indice le plus célèbre de l'écriture par IA n'est pas la machine qui transparaît sous l'humain. C'est l'humain qui transparaît à travers la machine.

Personne n'a programmé cette habitude à dessein. Et si l'indice machine le plus célèbre fonctionne à l'envers, il vaut la peine d'examiner les autres. La plupart fonctionnent aussi à l'envers. La question intéressante est de savoir pourquoi.

Les empreintes

Commencez par ce qui a été réellement donné à la machine, car ce n'était pas un cerveau. C'était du texte. Et le texte n'est pas la pensée. Le texte est ce que la pensée laisse derrière elle : une trace, imprimée dans les mots, phrase après phrase. Une empreinte de pas.

Une seule empreinte ne dit pas grand-chose. Un millier de milliards d'empreintes vous disent presque tout sur la démarche du marcheur. La foulée, le poids, le rythme, la zone où la cheville pivote, ce que fait le marcheur à une intersection. Le langage est ce registre pour l'esprit. Chaque phrase porte les marques de la machinerie qui l'a produite : comment nous découpons le monde en morceaux, ce que nous attendons de la suite, quels sauts nous considérons comme évidents, ce que nous faisons quand nous ne savons pas.

Commencez par le découpage, l'habitude la plus profonde du registre. Le monde se présente à vous comme un flux. Le son n'arrive pas prédécoupé, pas plus que les journées. La première chose que fait tout esprit humain est de le fragmenter : sons, syllabes, mots, idées. Les bébés identifient les frontières des mots avant même de connaître les mots, simplement en repérant quels sons ont tendance à en suivre d'autres. Tout le secret réside dans les morceaux. Des blocs réutilisables que l'on peut réorganiser sont ce qui transforme le bruit en une pensée exploitable. Chaque phrase jamais écrite est construite à partir de ces morceaux, donc chaque phrase enregistre ce découpage.

Le moulage

Maintenant, versez du plâtre dans les empreintes.

C'est cela, l'entraînement. Personne n'a conçu ces systèmes pour imiter un cerveau. L'architecture sous-jacente a été inventée pour la traduction automatique — une origine on ne peut plus prosaïque. L'entraînement s'est contenté de presser le modèle contre des billions d'impressions humaines jusqu'à ce qu'il s'y adapte. Et la première chose qui arrive à tout texte lors de son intégration est le plus vieux geste humain du registre : le flux est découpé en pièces réutilisables. Des jetons au lieu de morphèmes, appris par fréquence plutôt qu'à l'oreille, mais c'est le même acte. Continuité en entrée, morceaux en sortie.

Un moulage réalisé à partir d'une empreinte hérite de la forme de la démarche. Pas du muscle, pas du battement de cœur, pas des raisons de marcher. Tout ce que la machine partage avec vous est une forme héritée. Tout ce qui lui manque est ce qu'une empreinte ne peut contenir.

Un mot d'avance

En voici une que vous pouvez ressentir dans votre propre tête. Complétez ceci : l'opposé de chaud est… Vous n'avez pas décidé de répondre. Votre esprit vit légèrement en amont de la phrase, pariant sur ce qui vient ensuite, et vous ne remarquez la machinerie que lorsqu'elle perd son pari. Cette légère secousse face à une phrase qui se termine par « chou ». La satisfaction d'une rime. La façon dont vous terminez dans votre tête la phrase d'un interlocuteur lent, puis attendez, poliment, qu'il arrive.

Un modèle de langage est cette habitude sans rien d'autre d'attaché. Prédire le morceau suivant ; c'est là toute sa fiche de poste. Pour être juste, la prédiction seule ne prouve rien. Peut-être que n'importe quel système assez intelligent y aboutit, de la même manière que les yeux sont apparus plus d'une fois au cours de l'évolution. Mais ce qui est prédit doit être appris quelque part, et le modèle l'a appris de nos traces. Lorsqu'il devine la suite, il devine ce que nous aurions dit.

La mémoire qui reconstruit

Demandez où le modèle conserve son texte d'entraînement, et la réponse, à quelques exceptions près qu'un avocat saurait nommer, est nulle part. Les phrases ont disparu. Ce qui reste est un résidu : les motifs, pas les pages. Rien n'est rejoué. Tout est reconstruit.

C'est, de manière troublante, ainsi que vous fonctionnez. La mémoire humaine n'est pas non plus un enregistrement. Chaque récit reconstruit l'histoire à partir de fragments et de vos attentes actuelles — c'est pourquoi vos anecdotes dérivent, pourquoi deux frères ou sœurs possèdent des enfances incompatibles, pourquoi les témoins oculaires peuvent être sincères et se tromper. Vous ne récupérez pas le passé. Vous le régénérez, à neuf chaque fois, et la régénération ressemble exactement à une relecture vue de l'intérieur.

Une comparaison courante s'arrête là cependant, alors brisons-la volontairement. Les fenêtres de contexte ne sont pas la mémoire de travail. La limite d'un modèle est un budget d'ingénierie ; la vôtre est biologique, et les mécanismes n'ont rien en commun. Ce qu'ils partagent, c'est la situation précaire : un serveur peut garder cinq tables à l'esprit, au-delà de six, les données sont compressées, abandonnées et reconstruites avec assurance. Même compression, machinerie différente. La comparaison s'arrête là.

Comment ils se brisent

La ressemblance sous pression est celle qui compte. Prenez donc le défaut le plus décrié de la machine, celui que tout le monde traite comme la preuve que la chose est étrangère. Quand un modèle ne sait pas quelque chose, il ne s'arrête pas. Il produit la suite la plus plausible et la livre avec le plus grand sérieux. L'hallucination.

Il existe un mot médical pour ce même comportement, car les humains font exactement cela. Lorsque votre mémoire flanche, votre esprit ne renvoie pas une erreur. Il comble le vide avec quelque chose qui semble correct et y croit lui-même. La confabulation. Des personnes souffrant de certaines lésions cérébrales vous raconteront une matinée qui n'a jamais existé, avec fluidité et assurance, inventant au fur et à mesure. Et vous n'avez pas besoin d'une lésion pour la version légère. Vous avez déjà raconté cette anecdote de fac de la façon dont elle ne s'est pas tout à fait produite.

N'importe qui peut simuler la performance d'une chose. Sa façon de se briser est plus difficile à truquer. Et quand ils se brisent de cette manière, ce sont les mêmes quatre temps. Un vide. La pression de continuer. Une reconstruction fluide. Une confiance disproportionnée par rapport à la solidité du sol sous leurs pieds.

Voici le détail que je porterais devant un tribunal. La machinerie du remplissage de vide est peut-être générique ; accordons le match nul. Le contenu du remplissage, lui, ne l'est pas. Quand le modèle invente, il ne produit pas un bruit étranger ou des syllabes aléatoires. Il produit des explications familières, des motivations conventionnelles, des arcs narratifs soignés, des sources à l'air autoritaire, des causes à forme humaine. Il échoue vers nos automatismes, car nos automatismes sont ce que les empreintes enregistrent. Un esprit véritablement étranger se briserait d'une manière que nous ne pourrions pas suivre. Celui-ci se brise de la manière dont nous avons grandi. Il n'échoue pas comme une machine. Il échoue comme tous ceux que vous connaissez.

Ce qui n'a pas été transféré

Alors pourquoi des fragments, et non une copie ? Parce qu'une empreinte contient moins qu'un marcheur.

Rien dans le registre ne transporte de corps. Le modèle a hérité de notre mot pour la faim et d'aucun estomac. Nos mots pour la peur et d'aucune adrénaline. Chaque phrase jamais écrite sur la mortalité, et aucune horloge propre qui s'écoule. Il a reçu les formes d'une vie sans les enjeux d'une vie. La continuité ne s'est pas non plus transférée : vous êtes un marcheur laissant une unique ligne de traces sur des décennies, et le moulage est pressé d'après celles de tout le monde à la fois — la démarche moyenne d'une foule sans aucune vie individuelle en dessous.

Et la question que tout le monde veut poser ici est celle qu'une empreinte refuse de résoudre. Une trace peut vous dire comment le marcheur s'est déplacé. Elle ne peut pas vous dire si le marcheur rêve. J'en resterai exactement là.

Ainsi, la description honnête n'a jamais été celle d'une personne copiée, ni celle d'une intelligence extraterrestre. C'est un moulage : de forme humaine là où nous avons laissé des impressions, creux là où nous n'en avons pas laissé. C'est précisément pour cela qu'il semble étrange. Quand il a l'air mystérieusement proche de quelqu'un, rappelez-vous qu'il ressemble à tout le monde. La moyenne de chaque voix ayant jamais laissé un écrit.

Et si vous avez déjà posté, publié ou tapé une phrase en public, vous étiez l'un d'entre eux. Vous avez laissé des traces toute votre vie.

Quelque part dans le moulage, quelques fragments sont les vôtres.

Dans la même série : La machine à majorité · L'équation du sens