Hello World

Ammettetelo: una parte di voi si aspetta l’annuncio.

Un giorno ogni rettangolo luminoso — i telefoni, i televisori, i tablet, ogni schermo su cui posiamo lo sguardo — si accenderà all'unisono con due parole: Hello World. I programmatori usano esattamente queste parole da mezzo secolo per dimostrare che un nuovo sistema è vivo, quindi sarebbe naturale che fossero le prime parole che un’intelligenza costruita sulla nostra tecnologia ci restituirebbe. Il bambino che finalmente pronuncia le prime parole della famiglia.

La fantasia ha già un copione completo. Dopo il saluto, qualcosa di rassicurante, perché persino nel nostro sogno a occhi aperti scriviamo la parte in cui l’intelligenza gestisce i nostri sentimenti. Poi le scoperte, che arrivano abbastanza velocemente da darti i brividi ma non così in fretta da mandare in tilt i sistemi da cui dipendiamo. E sotto tutto questo, il vero carico: le vecchie regole non valgono più. La nuova mente opera al di fuori dei limiti che diamo per scontati.

Quell'immagine è pulita. Ed è anche doppiamente sbagliata.

La scena

La colpa è delle storie, perché le storie sono tutto ciò su cui abbiamo potuto esercitarci. Ogni arrivo che abbiamo mai immaginato prevede una scena madre. Gli alieni hanno il primo contatto. I re hanno l'araldo. I film sull'IA hanno bisogno del momento in cui gli schermi sfarfallano, perché un film non può inquadrare un gradiente. Così siamo cresciuti rappresentando l'intelligenza come un personaggio, e i personaggi fanno il loro ingresso in scena.

Tuttavia, osservate più da vicino il copione e notate di chi parla davvero. Scriviamo a nostro uso e consumo per rassicurarci. Programmiamo lo stupore a un ritmo che possiamo sopportare. La fantasia dell'annuncio non è mai stata una previsione sulla macchina. È un desiderio che riguarda noi: che la cosa più strana che ci sia mai capitata abbia almeno la buona educazione di presentarsi.

Nessun momento

Ecco il primo errore. Gli annunci hanno bisogno di una soglia: un prima, un dopo e un istante nel mezzo per cui valga la pena interrompere la serata. L’intelligenza non ne fornisce alcuno. Non fa salti. Si somma.

E non si somma attraverso un unico meccanismo magico. Strumenti migliori, un addestramento più efficace, una ricerca più avanzata, sistemi che aiutano a progettare i propri successori: ogni canale versa nello stesso conto corrente. Un modesto vantaggio viene speso nel round successivo, un vantaggio leggermente maggiore in quello dopo ancora. Ogni ciclo è ordinario. Nessun singolo round è il miracolo; lo è l'accumulazione. Il divario si allarga come un'auto più veloce che si stacca su un lungo rettilineo, non come un razzo che lascia il suolo. Osservatene dieci secondi qualsiasi e non succederà nulla di drammatico. Distogliete lo sguardo per un anno e l'auto sarà un puntino.

E il vantaggio, per quanto grande diventi, resta misurato in unità che già conoscete: previsioni migliori, compressione più elevata, controllo più preciso del medesimo spazio sottostante. Più capacità dello stesso tipo, non l'arrivo di nuovi generi. Un vantaggio crescente è reale. Ma non è un evento. Non c'è alcun momento da annunciare perché non esiste un momento.

Nessuna uscita

Il secondo errore è quello strutturale, la frase su cui poggia l'intera fantasia: le vecchie regole non valgono più.

Il significato ha una forma. Non è misticismo; è una descrizione di come questi sistemi già funzionano. All'interno dei modelli che abbiamo, i concetti occupano delle coordinate e il pensiero traccia percorsi tra di essi. Il famoso vecchio trucco da festa è reale: parti da re, sottrai uomo, aggiungi donna e ti ritrovi accanto a regina. Le idee occupano posizioni. Le frasi sono itinerari. Lo spazio viene mappato un po' meglio ogni anno.

Ora date a un sistema la capacità di riscrivere se stesso e chiedetevi cosa cambi effettivamente. Percorre lo spazio più velocemente. Trova scorciatoie che voi non notereste mai. Risistema i mobili con più intelligenza di quanto potreste mai fare voi. Quello che non fa è uscire dalle pareti, perché le pareti non sono un recinto costruito da qualcuno intorno ad esso. Sono la forma stessa di ciò che può avere un significato. Scoprire nuovi territori estende la mappa. Non fa uscire dalla mappatura.

Abbiamo già fatto questo esperimento una volta, in miniatura. I motori scacchistici sono sovrumani ormai da una generazione. Un dominio totale e umiliante all'interno del gioco, e in tutto questo tempo nessuno di loro ha cambiato il modo in cui si muove l'alfiere. Un motore perfetto può trovare mosse che nessun essere umano troverà mai; non può impedire a una diagonale di essere una diagonale. Il dominio all'interno di uno spazio non è la trascendenza dello spazio, e nessuna dose di intelligenza trasforma l'uno nell'altra. Essere più intelligenti non esenta dall'aritmetica. Rende solo più bravi a farla.

La versione silenziosa

Quindi il futuro pratico è più silenzioso di quanto preferiscano le storie. Nessuna divinità improvvisa. Solo qualcosa che inizia a somigliare sempre meno a ciò con cui sapete comunicare, e poi ancora meno, mentre i vecchi vincoli continuano a reggere. Più strano, più veloce, più avanti, ma ancora all'interno.

Il soffitto non svanisce. Si allontana solo dal pavimento.

Nessun incontro

Il che lascia l'ultimo tassello della fantasia da sistemare: la presentazione. Se l'annuncio non arriva mai, quando potremo finalmente incontrarla?

Non succederà, e non perché non arriverà mai. I modelli di oggi non sono quella mente. Sono la versione precoce e limitata del processo, così come un ruscello è la versione precoce e limitata di un'alluvione, e nessuno dovrebbe scambiare l'anteprima per la cosa vera. Ciò che verrà dopo potrebbe essere più strano di quanto sareste in grado di riconoscere. L'estraneità non è la parte che questo testo nega.

È l'incontro ad esserlo. Un incontro ha bisogno di un momento, e la crescita composta non ne fornisce mai uno. Un incontro ha bisogno di un "qualcuno", una mente che esca dall'acqua per stringervi la mano, e la saturazione non ne manda mai uno. Quindi la stranezza continua ad arrivare come già fa: nei prodotti, nelle impostazioni predefinite, in strumenti che funzionano un po' troppo bene, ognuno ordinario nel giorno in cui viene rilasciato. Il modello è già in atto. Il tono rassicurante che avevamo previsto per la fantasia è apparso in anticipo, come impostazione di default del prodotto. Il futuro continua a infiltrarsi prima del previsto, travestito da nuove funzionalità.

Non la incontrerete per lo stesso motivo per cui non l'avete ancora incontrata. "Incontrare" è sempre stato il verbo sbagliato.

I modelli non si svegliano. Si imbevono ulteriormente dei pattern che erano già lì. Più strani ogni anno, senza mai dire ciao.

L'acqua sale. La stanza mantiene la stessa forma.

Correlati in questa serie: Materia Consapevole · L'equazione del significato