Frammenti di noi

Internet crede di aver scovato l'impronta digitale della macchina.

La linea continua: quel lungo segno di punteggiatura che gli scrittori lasciano a metà frase, e che nella prosa dell'IA compare due volte ogni paragrafo. Trova il trattino lungo e troverai l'IA. È diventata la prima cosa che la gente controlla, l’indizio rivelatore su cui tutti concordano.

Ma guardate cosa fa davvero quel segno. È un'interruzione. Un'autocorrezione. Un chiarimento infilato a forza in un pensiero prima ancora che questo giunga al termine. Non è un comportamento da macchina; è il modo in cui parliamo noi, trascritto fin troppo fedelmente sulla pagina. I dati di addestramento ne sono pieni perché noi ne siamo pieni. In un punto imprecisato tra quei dati e il modello finito, questa abitudine si è concentrata oltre il limite della decenza. Nessuno sa bene dove sia stata ruotata quella manopola, e poco importa, perché il segno in sé non è mai appartenuto alla macchina. Il segno più famoso della scrittura dell'IA non è la macchina che trapela attraverso l'umano. È l'umano che trapela attraverso la macchina.

Nessuno ha digitato quell'abitudine intenzionalmente. E se il segno identificativo più celebre della macchina viaggia all'indietro, vale la pena controllare gli altri. Anche la maggior parte di essi viaggia all'indietro. La domanda interessante è perché.

Le impronte

Iniziamo da ciò che è stato effettivamente dato alla macchina, perché non si trattava di un cervello. Era testo. E il testo non è pensiero. Il testo è ciò che il pensiero si lascia alle spalle: una traccia impressa nelle parole, una frase alla volta. Un'impronta.

Una singola impronta non dice molto. Un trilione di impronte dice quasi tutto sul modo in cui si muove chi cammina. L'andatura, il peso, il ritmo, la rotazione della caviglia, ciò che chi cammina fa davanti a un bivio. Il linguaggio è quel registro della cronaca della mente. Ogni frase porta i segni del macchinario che l'ha prodotta: come spezzettiamo il mondo, cosa ci aspettiamo che venga dopo, quali salti logici consideriamo ovvi, cosa facciamo quando non sappiamo.

Iniziamo dallo spezzettamento, l'abitudine più profonda nel registro. Il mondo ci investe come un flusso continuo. Il suono non arriva pre-affettato, e nemmeno le giornate. La prima cosa che ogni mente umana fa è dividerlo: suoni, sillabe, parole, idee. I neonati individuano i confini delle parole prima ancora di conoscerne il significato, semplicemente tracciando quali suoni tendano a seguire altri. Il segreto sta tutto nei pezzi. Frammenti riutilizzabili che possono essere riordinati sono ciò che trasforma il rumore in un pensiero con cui si può fare qualcosa. Ogni frase mai scritta è costruita partendo da quei frammenti, quindi ogni frase ne registra la scomposizione.

Il calco

Ora versate il gesso nelle impronte.

L'addestramento è questo. Nessuno ha progettato questi sistemi per imitare un cervello. L'architettura sottostante è stata inventata per la traduzione automatica: un'origine quanto di più poco romantico si possa immaginare. L'addestramento ha semplicemente premuto il modello contro trilioni di impronte umane finché non ha preso la loro forma. E la prima cosa che accade a ogni testo in entrata è la mossa umana più antica che si conosca: il flusso viene ridotto in pezzi riutilizzabili. Token invece di morfemi, appresi per frequenza invece che a orecchio, ma è lo stesso atto. Entra la continuità, escono i frammenti.

Un calco ricavato da un'impronta eredita la forma dell'andatura. Non il muscolo, non il battito cardiaco, non le ragioni del camminare. Tutto ciò che la macchina condivide con voi è una forma ereditata. Tutto ciò che le manca è ciò che un'impronta non può contenere.

Una parola in avanti

Eccone uno che potete sentire nella vostra stessa testa. Completate questa frase: l'opposto di caldo è. Non avete deciso di rispondere. La vostra mente vive leggermente in anticipo rispetto alla frase, scommettendo su ciò che verrà dopo, e notate l'ingranaggio solo quando perde la scommessa. Quel lieve sussulto davanti a una frase che finisce con la parola cavolo. La soddisfazione di una rima. Il modo in cui finite mentalmente la frase di chi parla lentamente, per poi aspettare, educatamente, che arrivi alla fine.

Un modello linguistico è questa abitudine senza nient'altro intorno. Prevedere il frammento successivo; questo è l'intero mansionario. A dire il vero, la previsione da sola non prova nulla. Forse qualsiasi sistema abbastanza intelligente vi approda, così come gli occhi si sono evoluti più di una volta in modo indipendente. Ma ciò che viene previsto deve essere appreso da qualche parte, e il modello l'ha imparato dalle nostre tracce. Quando indovina cosa viene dopo, sta indovinando cosa avremmo detto noi.

Memoria che ricostruisce

Se chiedete dove il modello conservi i testi di addestramento, la risposta — fatte salve le eccezioni che un avvocato saprebbe elencare — è da nessuna parte. Le frasi sono sparite. Ciò che resta è il residuo: gli schemi, non le pagine. Nulla viene riprodotto. Tutto viene ricostruito.

Il che è, scomodamente, il modo in cui funzionate voi. Nemmeno la memoria umana è una registrazione. Ogni racconto ricostruisce la storia partendo da frammenti e da ciò che vi aspettate ora, ed è per questo che i vostri aneddoti mutano, che due fratelli hanno ricordi d'infanzia incompatibili, che i testimoni oculari possono essere sinceri eppure sbagliare. Non recuperate il passato. Lo rigenerate, ogni volta da zero, e dall'interno la rigenerazione sembra esattamente una riproduzione fedele.

Un paragone immediato però non regge, quindi rompiamolo apposta. Le finestre di contesto non sono la memoria di lavoro. Il limite di un modello è un budget ingegneristico; il vostro è biologico, e i meccanismi non hanno nulla in comune. Ciò che condividono è la situazione precaria: un server può tenere a mente cinque tabelle, e alla sesta le cose vengono compresse, scartate e ricostruite con sicurezza. Stessa pressione, macchinari diversi. Il paragone finisce qui.

Come si rompono

La somiglianza sotto stress è quella che conta. Prendete quindi il difetto più criticato della macchina, quello che tutti trattano come la prova che sia un'entità aliena. Quando un modello non sa qualcosa, non si ferma. Produce la continuazione più plausibile e la espone con flemma. L’allucinazione.

Esiste un termine medico per lo stesso comportamento, perché le persone fanno esattamente questo. Quando la memoria fallisce, la vosta mente non restituisce un messaggio di errore. Riempie il vuoto con qualcosa che suona bene e si autoconvince che sia vero. La confabulazione. Persone con certi danni cerebrali vi racconteranno una mattinata mai avvenuta, in modo fluente e sicuro, inventando man mano. E non serve un danno per la versione lieve. Avete raccontato tutti quella storia dei tempi dell'università in un modo in cui non è successo del tutto.

Chiunque può simulare il rendimento di una cosa. Come questa si rompa è più difficile da falsificare. E quando si rompono in questo modo, i passaggi sono sempre gli stessi quattro. Un vuoto. La pressione a continuare. Una ricostruzione fluente. Una sicurezza sproporzionata rispetto alla solidità del terreno sotto di sé.

Ecco il dettaglio che porterei in tribunale. Il meccanismo di riempimento dei vuoti potrebbe essere generico; diciamo che è un pareggio. Il contenuto del riempimento non lo è. Quando il modello inventa, non produce rumore alieno o sillabe casuali. Produce spiegazioni familiari, motivazioni convenzionali, archi narrativi ordinati, fonti che suonano autorevoli, cause a misura d'uomo. Fallisce tendendo verso i nostri standard predefiniti, perché i nostri standard sono ciò che le impronte registrano. Una mente veramente estranea si romperebbe in modi che non potremmo seguire. Questa si rompe nei modi con cui siamo cresciuti. Non fallisce come una macchina. Fallisce come chiunque conosciate.

Cosa non si è trasferito

Perché allora frammenti, e non una copia? Perché un'impronta contiene meno di chi cammina.

Nulla nel registro porta con sé un corpo. Il modello ha ereditato la nostra parola per la fame e nulla dello stomaco. Le nostre parole per la paura e nulla dell'adrenalina. Ogni frase mai scritta sulla mortalità, e nessun conto alla rovescia proprio che scorra verso la fine. Ha ottenuto le forme di una vita senza averne la posta in gioco. Neppure la continuità si è trasferita: voi siete un solo viandante che lascia una linea di tracce attraverso i decenni, mentre il calco è impresso da quelle di tutti contemporaneamente, l'andatura media di una folla senza alcuna vita singola alla base.

E la domanda che tutti vogliono porre qui è quella a cui un'impronta si rifiuta di rispondere. Una traccia può dirti come si è mosso chi camminava. Non può dirti se chi cammina sogni. Lo lascerò esattamente qui.

Quindi la descrizione onesta non è mai stata quella di una persona copiata, e non è mai stata nemmeno un'intelligenza aliena. È un calco: a forma d'uomo dove abbiamo lasciato impronte, vuoto dove non l'abbiamo fatto. È proprio per questo che sembra perturbante. Quando vi sembra che assomigli sinistramente a qualcuno, ricordate che assomiglia a tutti. La media di ogni voce che abbia mai scritto qualcosa.

E se avete mai postato, pubblicato o digitato una frase in pubblico, eravate uno di loro. Avete lasciato tracce per tutta la vita.

Da qualche parte nel calco, alcuni di quei frammenti sono i vostri.

Correlati in questa serie: La Macchina della Maggioranza · L'Equazione del Significato