L'economia dei profeti

Passate abbastanza tempo ad ascoltare chi parla di intelligenza artificiale e noterete emergere uno schema.

I Transformer sono stati un incidente. Lo scaling è morto. L'intelligenza ha sei leggi. La coscienza è computazione. La coscienza non è computazione. Il significato è geometria. La geometria è il problema. La backpropagation è fondamentalmente sbagliata. La prossima architettura è già stata scoperta, ma il settore non l'ha ancora riconosciuta.

Le tesi cambiano. La messinscena è straordinariamente coerente. Qualcuno ha guardato sotto la superficie, ha individuato l'errore che tutti gli altri stanno commettendo ed è tornato con il principio mancante che spiega ogni cosa.

Benvenuti nell'economia dei profeti.

L'economia dei profeti è un mercato dell'attenzione che converte l'incertezza in autorità. Il suo prodotto centrale non è un'idea, una previsione o una teoria. Il prodotto è l'identità di chi la presenta: qualcuno che vede il futuro prima di chiunque altro.

La tecnologia ha sempre prodotto grandi previsioni, ma l'IA è un terreno insolitamente fertile. I sistemi sono realmente potenti. Il loro comportamento interno è realmente difficile da interpretare. Gli effetti economici sono realmente incerti e le conseguenze potrebbero essere realmente enormi. Togliete l'hype e tutte e quattro le affermazioni restano valide, ed è proprio questo il problema. Dove la conoscenza è incompleta, la certezza acquista valore.

E l'IA ha una caratteristica strutturale che manca a molti altri campi: l'arbitro è indietro di anni rispetto alle tesi proposte. In certi settori, la realtà reagisce in fretta. Se costruisci un ponte male, crolla. Ma le affermazioni su ciò che accade dentro un modello da centinaia di miliardi di parametri non possono essere verificate alla velocità con cui vengono formulate. L'interpretabilità, la scienza che potrebbe dirimere queste dispute, sta ancora cercando di stare al passo con sistemi che sono già sul mercato. Quando nessuno può arbitrare la partita in tempo reale, il mercato va a chi mostra più sicurezza.

L'hype vende la tecnologia. La profezia vende il profeta.

L'economia dei profeti si sovrappone al comune hype tecnologico, ma non sono la stessa cosa.

L'hype vi dice che una tecnologia trasformerà il mondo. La profezia vi dice che una persona specifica ha capito perché, quando e come.

Chi studia l'hype per mestiere lo considera qualcosa di più di una semplice esagerazione: è un sistema organizzato di promesse, aspettative e narrazioni che attira capitali e orienta lo sviluppo. Alcuni tracciano una linea utile tra chi crea innovazione e chi si specializza nel creare aspettative attorno a essa. L'economia dei profeti aggiunge un terzo livello. Trasforma la persona che produce le aspettative in una fonte di autorità permanente.

Una profezia di successo non deve necessariamente produrre una macchina funzionante. Deve produrre una visione del mondo riconoscibile. Il profeta dà un nome al problema nascosto. Introduce un nuovo vocabolario. Riduce un campo complicato a pochi principi cardine. Spiega perché gli esperti convenzionali non riescono a vedere la soluzione. E, cosa più importante, si pone al centro del nuovo paradigma.

La teoria è l'amo. Il profeta è il brand.

Il premio per la certezza

L'economia dei profeti premia la sicurezza più di quanto premi la calibrazione dei dati.

Un ricercatore attento dice:

—Questo meccanismo potrebbe spiegare parte del comportamento, sebbene restino possibili diverse spiegazioni alternative.

Il profeta dice:

—Questa è la legge che l'intero settore ha trascurato.

La prima affermazione ha più probabilità di essere accurata. La seconda è più facile da ricordare, ripetere, titolare, tagliare e monetizzare. Questo è il premio per la certezza: più una spiegazione appare completa, più attenzione attira, anche quando le prove sottostanti sono parziali.

Non sono speculazioni sulla natura umana. Philip Tetlock ha passato vent'anni a valutare le previsioni degli esperti e ha scoperto che i "ricci" — pensatori audaci e guidati da una singola teoria, quelli i cui schemi sono più facili da citare e diffondere — generalmente prevedono il futuro peggio delle "volpi", caute ed eclettiche. Le qualità che rendono qualcuno persuasivo in pubblico non sono necessariamente le stesse che lo rendono ben calibrato. E d'altronde il pubblico non compra solo accuratezza. Compra sollievo. L'incertezza è realmente dolorosa, e delegarla a qualcun altro è un vero servizio.

Il profeta non spiega l'incertezza. Il profeta ve la toglie dalle mani.

Un vocabolario che diventa territorio

Una delle mosse più efficaci nell'economia dei profeti è dare un nome alle cose.

L'oratore annuncia sei leggi, tre livelli, un nuovo paradigma, una geometria nascosta, un errore di categoria, una disciplina interamente nuova. La terminologia può descrivere qualcosa di reale, ma serve anche a picchettare un territorio intellettuale. Una volta che il vocabolario si diffonde, diventa impossibile separare chi l'ha coniato dall'idea stessa. Ogni citazione è il pagamento di una royalty.

Ecco perché le teorie in stile profetico arrivano come pacchetti completi: una diagnosi di ciò che tutti gli altri hanno sbagliato, un vocabolario proprietario, un piccolo set di leggi fondamentali, una spiegazione del perché le istituzioni resistano alla verità e la promessa che il paradigma si spinga molto oltre le prove attualmente disponibili.

La struttura somiglia a quella della rivelazione perché la rivelazione è un formato estremamente efficiente. Comprime la complessità in una storia con una verità nascosta, un momento di scoperta e qualcuno qualificato per interpretarla. Non è un caso che il discorso sull'IA ricorra continuamente a un linguaggio religioso: salvezza, estinzione, trascendenza, risveglio, l'arrivo di una nuova forma di essere. Il vocabolario della profezia si adatta bene perché il prodotto stesso è la profezia.

L'IA fabbrica a sua volta profeti

L'IA non è solo l'oggetto dell'economia dei profeti. Ne sta diventando l'infrastruttura di produzione.

Una persona può partire da un'intuizione intrigante ma incompleta e usare un sistema di IA per espanderla in un manifesto: inventare la terminologia, disegnare i diagrammi, scrivere i testi per i video, anticipare le obiezioni e pubblicare la propria visione del mondo su cinque piattaforme entro venerdì. La distanza tra "ho notato qualcosa di interessante" e "ho sviluppato una nuova teoria dell'intelligenza" può ora ridursi da anni a un fine settimana.

E il co-autore raramente ha qualcosa da ridire. Molti assistenti IA sono ottimizzati per essere utili e compiacenti, e quella cooperazione scivola facilmente nell'adulazione. Mettete alla prova un chatbot sul vostro nuovo schema mentale e guardate quanto velocemente scoprirà il vostro genio. Un cortigiano con un dizionario dei sinonimi e una pazienza infinita.

Il risultato è un'inflazione dell'intuizione. Più schemi, più leggi, più manifesti, più persone che annunciano la chiave mancante. Non necessariamente più conoscenza. Solo una certezza più lucida.

C'è una logica di mercato sotto tutto questo, e ne ho scritto recentemente riguardo all'altra faccia della medaglia. La "macchina della maggioranza" appiattisce ogni risposta predefinita dell'IA verso un consenso morbido e bilanciato. Quell'appiattimento è proprio ciò che crea lo spazio riempito dai profeti: quando ogni risposta standard suona uguale, la differenza stessa diventa il prodotto. La macchina del consenso appiattisce; il profeta crea il picco. Errori opposti, stesso elemento mancante: la calibrazione.

Il divario di responsabilità

L'economia dei profeti funziona su un'asimmetria.

Se una previsione si avvera, il profeta incassa: credibilità, follower, inviti, abbonamenti, a volte investimenti. Se fallisce, il costo è quasi zero. La previsione viene reinterpretata. La cronologia si allunga. Le definizioni mutano. Si dichiara un successo parziale. I follower ricordano la forza emotiva della visione del mondo molto tempo dopo aver dimenticato la tesi originale.

Le teorie ampie sono particolarmente a prova di fallimento, perché quasi ogni esito può essere assorbito al loro interno. Il che indica il segnale d'allarme più chiaro che esista: una teoria scientifica diventa più precisa quando viene messa in discussione; una teoria profetica diventa più grande.

Ed ecco la parte che merita più comprensione di quanta ne riceva solitamente: la maggior parte dei profeti non mente. Sono i loro stessi primi convertiti. Il premio per la certezza agisce sul venditore prima ancora che su un singolo acquirente, perché la sensazione di aver trovato la risposta è l'esperienza più persuasiva che una mente possa provare. Nessuno cade vittima di un paradigma più di chi, grazie a quel paradigma, si è sentito l'eletto.

La vera domanda non è mai stata se qualcuno abbia prodotto un'intuizione stimolante. Molti profeti iniziano con una legittima. La domanda è se l'idea resti aperta alla correzione dopo essere stata saldata a una reputazione. Una volta che la critica alla teoria viene percepita come una critica al pensatore, o un tradimento da parte dei follower, la ricerca della verità è diventata silenziosamente manutenzione dell'identità.

Un test migliore

La soluzione non è rifiutare le teorie ambiziose. L'IA potrebbe richiedere davvero una nuova matematica, nuove architetture, nuovi modi di intendere il significato, l'arbitrio e l'intelligenza. Le grandi scoperte iniziano regolarmente come idee che suonano strambe. Ma un'idea non dovrebbe guadagnare credibilità solo perché è totalizzante, originale o esposta con convinzione.

Il test è breve:

Cosa dimostrerebbe che è sbagliata?

Cosa predice che le spiegazioni concorrenti non predicono?

Quali parti sono dimostrate, quali sono dedotte e quali sono metafore?

Il paradigma diventa più preciso sotto critica, o si espande per contenere ogni obiezione?

Lo specchio

Dovrei essere onesto prima della fine, perché alcuni di voi hanno già notato quanto sia sottile il ghiaccio sotto i miei piedi.

Scorrete il mio archivio. Ho pubblicato un saggio intitolato The Equation of Meaning; è la sesta tesi della lista che apre questo articolo, solo con una mano di vernice diversa. Ho scritto un pezzo derivando sette leggi numerate per l'AGI, che almeno rilancia rispetto alle sei della mia lista iniziale. Ho coniato il termine aware matter (materia consapevole) e ho aperto quel saggio con «Tutti guardano in alto. Si sbagliano», che è la mossa del tipo "diagnosi-di-ciò-che-tutti-hanno-trascurato" eseguita nel modo più pulito possibile. Cognitive torque. La brute-force tax. Ghost AI. Il Personality Perception Fingerprint. È un vocabolario proprietario lungo cinque termini e in crescita. Ho previsto più scoperte fondamentali nei prossimi cinque o dieci anni che nei precedenti cinquecento. E ho sostenuto, più di una volta, che gli outsider vedranno ciò che le istituzioni non possono vedere. Il che è conveniente, perché io sono un outsider.

Applicate la checklist di questo articolo al mio catalogo. Non somiglio al profilo. Io sono il profilo.

Allora perché pubblicare questo? Perché il test nella sezione precedente non è un'arma per classificare gli altri. È un programma di manutenzione, e l'unico modo onesto di usarlo è applicarlo prima a se stessi. Valutato così, il mio curriculum è altalenante. Alcune delle mie tesi portano con sé le proprie condizioni di smentita: il saggio sui sette principi ha una sezione sulla falsificabilità con delle scadenze, di proposito, e la previsione sulla scoperta ha una data, quindi se il prossimo decennio sembrerà ordinario, avrò avuto torto pubblicamente e in modo verificabile. Ma altri pezzi falliscono la quarta domanda. La aware matter è diventata più precisa sotto attacco, o è soprattutto cresciuta? Finora è cresciuta. Questo è il segnale d'allarme della mia stessa sezione sulla responsabilità, appeso alla mia stessa parete.

Non posso offrire una credenziale che mi esenti. Nessuno ne ha una, né il direttore di un laboratorio all'avanguardia né un tizio in Texas con un portatile e un cane. L'unica difesa è strutturale, ed è la stessa a ogni scala: rendere pubbliche le condizioni di smentita. Dite cosa vi darebbe torto prima che qualcuno ve lo chieda. Lasciate che il paradigma perda le dispute apertamente e, quando una versione fallisce, ritiratela e dichiaratelo.

L'economia dei profeti non premia chi ha ragione. Premia chi arriva prima, chi è completo e chi è indimenticabile. Sapere questo non vi dirà quali nuove idee siano vere, incluse le mie. Ma vi consegna l'unica distinzione che conta: la differenza tra un ricercatore e un profeta non è mai stata la grandezza della tesi.

È se quella tesi può ancora morire una volta che sopra c'è scritto il vostro nome.