Fragments de nosaltres

Internet creu que ha trobat l'empremta de la màquina.

El guió llarg: aquesta pausa horitzontal que els escriptors deixen caure a meitat de frase, dues vegades per paràgraf en la prosa de la IA. Troba el guió, troba la IA. S'ha convertit en el primer que la gent comprova, el senyal en què tothom coincideix.

Però fixeu-vos en què fa realment aquest signe. És una interrupció. Una autocorrecció. Un aclariment inserit dins d'un pensament abans que aquest s'acabi. Això no és un comportament de màquina; és com parla la gent, transcrita massa fidelment a l'escriptura. Les dades d'entrenament en van plenes perquè nosaltres en anem plens. En algun punt entre aquestes dades i el model acabat, l'hàbit es va concentrar més enllà del que és cortès. Ningú sap ben bé on es va girar aquest dial, i gairebé no importa, perquè la marca en si mai no va ser de la màquina. El senyal més famós de l'escriptura de la IA no és la màquina filtrant-se a través de l'humà. És l'humà filtrant-se a través de la màquina.

Ningú va introduir aquest hàbit a propòsit. I si el senyal més famós de la màquina funciona a la inversa, val la pena comprovar els altres. La majoria també funcionen a la inversa. La pregunta interessant és per què.

Les petjades

Comencem pel que realment se li va donar a la màquina, perquè no va ser un cervell. Va ser text. I el text no és pensament. El text és el que el pensament deixa enrere: un rastre, imprès en paraules, frase rere frase. Una petjada.

Una sola petjada no et diu gaire cosa. Un bilió de petjades t'ho diuen gairebé tot sobre com es mou el caminant. El pas, el pes, el ritme, cap a on gira el turmell, què fa el caminant en una cruïlla. El llenguatge és aquest registre per a la ment. Cada frase porta les marques de la maquinària que la va crear: com tallem el món a trossos, què esperem que vingui després, quins salts considerem previsibles, què fem quan no ho sabem.

Comencem pel tall, l'hàbit més profund del registre. El món t'arriba com un corrent. El so no arriba ja llescat, i els dies tampoc. El primer que fa tota ment humana és fragmentar-lo: sons, síl·labes, paraules, idees. Els nadons troben els límits de les paraules abans de conèixer cap paraula, només vigilant quins sons solen seguir a quins. El secret són les peces. Fragments reutilitzables que pots reordenar és el que converteix el soroll en pensament amb el qual pots fer alguna cosa. Cada frase escrita s'ha construït a partir d'aquests fragments, de manera que cada frase registra la fragmentació.

El motlle

Ara aboqueu guix a les petjades.

En això consisteix l'entrenament. Ningú va dissenyar aquests sistemes per imitar un cervell. El disseny subjacent es va inventar per a la traducció automàtica, un origen tan poc romàntic com pugueu imaginar. L'entrenament només va pressionar el model contra bilions d'impressions humanes fins que hi va encaixar. I el primer que li passa a qualsevol text en entrar-hi és el moviment humà més antic del registre: el flux es trosseja en peces reutilitzables. Tòquens en lloc de morfemes, apresos per freqüència en lloc d'oïda, però el mateix acte. Entra continuïtat, surten fragments.

Un motlle fet d'una petjada hereta la forma de la marxa. No el múscul, ni el batec del cor, ni les raons per caminar. Tot el que la màquina comparteix amb tu és una forma heretada. Tot el que li falta és el que una petjada no pot contenir.

Una paraula per davant

Aquí en teniu una que podeu sentir al vostre propi cap. Acabeu això: el contrari de calent és. No heu decidit respondre. La vostra ment viu una mica per davant de la frase, apostant sobre què ve després, i només noteu la maquinària quan perd l'aposta. Aquesta lleugera sacsejada davant d'una frase que acaba en col. La satisfacció d'una rima. La manera com acabeu la frase d'algú que parla a poc a poc dins del vostre cap i després espereu, educadament, que arribi.

Un model de llenguatge és aquest hàbit sense res més. Predir la peça següent; aquesta és tota la descripció del lloc de treball. Per ser justos, la predicció sola no prova res. Potser qualsevol sistema prou intel·ligent hi acaba arribant, igual que els ulls van evolucionar més d'una vegada. Però el que es prediu s'ha d'aprendre d'algun lloc, i el model ho ha après dels nostres rastres. Quan endevina què ve després, està endevinant què hauríem dit nosaltres.

Memòria que reconstrueix

Si pregunteu on guarda el model el seu text d'entrenament, la resposta —amb excepcions molt puntuals que un advocat podria enumerar— és enlloc. Les frases han desaparegut. El que en queda és el residu: els patrons, no les pàgines. No es reprodueix res. Tot es reconstrueix.

Cosa que, incòmodament, és com funcionem nosaltres. La memòria humana tampoc és un enregistrament. Cada vegada que narrem quelcom, reconstruïm la història a partir de fragments i del que esperem ara mateix; per això les vostres anècdotes canvien, per això dos germans tenen infàncies incompatibles, per això els testimonis oculars poden ser sincers i estar equivocats. No recupereu el passat. El regenereu, de nou cada vegada, i la regeneració se sent exactament com una reproducció des de dins.

Una comparació propera es trenca, però, així que trenquem-la a propòsit. Les finestres de context no són memòria de treball. El límit d'un model és un pressupost d'enginyeria; el vostre és biologia, i els mecanismes no comparteixen res. El que comparteixen és el conflicte: un servidor pot mantenir cinc taules al cap, i a la sisena, les coses es comprimeixen, es perden i es reconstrueixen amb confiança. La mateixa pressió, maquinària diferent. La comparació s'acaba aquí.

Com es trenquen

La semblança sota estrès és la que compta. Agafeu, doncs, el defecte més criticat de la màquina, aquell que tothom tracta com a prova que la cosa és alienígena. Quan un model no sap una cosa, no s'atura. Produeix la continuació més plausible i la presenta sense immutar-se. Al·lucinació.

Hi ha una paraula mèdica per a aquest mateix comportament, perquè les persones fan exactament això. Quan la memòria falla, la ment no retorna un error. Omple el buit amb alguna cosa que sembli correcta i se la creu. Confabulació. Persones amb certes lesions cerebrals t'explicaran un matí que no ha passat mai, amb fluïdesa i confiança, inventant sobre la marxa. I no necessiteu una lesió per a la versió lleu. Heu explicat aquella anècdota de la universitat tal com no va passar exactament.

Qualsevol pot fingir com funciona una cosa. Com es trenca és més difícil de fingir. I quan es trenquen d'aquesta manera, són els mateixos quatre temps. Un buit. Pressió per continuar. Una reconstrucció fluida. Confiança desproporcionada al terreny que hi ha sota.

Aquí teniu el detall que portaria als tribunals. La maquinària per omplir buits podria ser genèrica; deixem-ho en un empat. Però el contingut no ho és. Quan el model inventa, no produeix soroll alienígena ni síl·labes aleatòries. Produeix explicacions familiars, motius convencionals, arcs narratius ordenats, fonts que sonen autoritzades, causes amb forma humana. Falla cap als nostres valors predeterminats, perquè els nostres valors predeterminats són els que registren les petjades. Una ment realment estranya es trencaria de maneres que no podríem seguir. Aquesta es trenca de maneres amb les quals hem crescut. No falla com una màquina. Falla com tothom que coneixeu.

El que no es va transferir

Per què fragments, doncs, i no una còpia? Perquè una petjada conté menys que un caminant.

Res en el registre porta un cos. El model ha heretat la nostra paraula per a la gana i gens d'estómac. Les nostres paraules per a la por i gens d'adrenalina. Totes les frases escrites sobre la mortalitat, i cap rellotge propi que s'esgoti. Ha obtingut les formes d'una vida sense el que hi ha en joc en una vida. La continuïtat tampoc s'ha transferit: tu ets un caminant que deixa una línia de rastres al llarg de dècades, i el motlle està fet dels rastres de tothom alhora, una marxa mitjana d'una multitud sense cap vida individual al sota.

I la pregunta que tothom vol fer aquí és la que una petjada es nega a respondre. Un rastre et pot dir com es movia el caminant. No et pot dir si el caminant somia. Ho deixaré exactament aquí.

Així que la descripció honesta no ha estat mai una persona copiada, i tampoc ha estat mai una intel·ligència alienígena. És un motlle: amb forma humana allà on vam deixar impressions, buit allà on no ho vam fer. Per això mateix resulta inquietant. Quan soni inquietantment com algú, recordeu que sona com tothom. La mitjana de cada veu que ha escrit mai res.

I si mai heu publicat o escrit una frase en públic, vosaltres n'éreu uns. Heu estat deixant rastres tota la vida.

En algun lloc del motlle, uns quants fragments són vostres.

Relacionat en aquesta sèrie: La màquina de la majoria · L'equació del significat