L'economia dels profetes

Si passes prou temps escoltant la gent parlar sobre la intel·ligència artificial, n'emergeix un patró. <\/p>

Els transformadors van ser un accident. L'escalat ha mort. La intel·ligència té sis lleis. La consciència és computació. La consciència no és computació. El significat és geometria. La geometria és el problema. La retropropagació és fonamentalment errònia. La pròxima arquitectura ja ha estat descoberta, però el sector encara no l'ha reconeguda.<\/p>

Les afirmacions varien. La presentació és notablement consistent. Algú ha mirat sota la superfície, ha identificat l'error que tothom està cometent i ha tornat amb el principi que faltava i que ho explica tot.<\/p>

Benvinguts a l'economia dels profetes.<\/p>

L'economia dels profetes és un mercat de l'atenció que converteix la incertesa en autoritat. El seu producte central no és una idea, una predicció o una teoria. El producte és la identitat de la persona que la presenta: algú que veu el futur abans que ningú.<\/p>

La tecnologia sempre ha produït grans prediccions, però la IA és un terreny inusualment fèrtil. Els sistemes són realment potents. El seu comportament intern és realment difícil d'interpretar. Els efectes econòmics són realment incerts i les conseqüències podrien ser realment enormes. Si traiem tot el sensacionalisme, aquestes quatre afirmacions sobreviuen, i aquest és precisament el problema. On el coneixement és incomplet, la certesa esdevé valuosa.<\/p>

I la IA té una característica estructural que la majoria de camps no tenen: l'àrbitre va anys per darrere de les afirmacions. En alguns camps, la realitat respon ràpidament. Si construeixes malament un pont, cau. Però les afirmacions sobre què passa dins d'un model de cent mil milions de paràmetres no es poden verificar a la velocitat amb què es fan. L'interpretabilitat, la ciència que podria resoldre aquests debats, encara està intentant atrapar sistemes que ja estan en funcionament. Quan ningú pot arbitrar el joc en temps real, el mercat es decanta per la confiança.<\/p>

El bombo ven la tecnologia. La profecia ven el profeta.<\/h2>

L'economia dels profetes se solapa amb el bombo tecnològic ordinari, però no són la mateixa cosa.<\/p>

El bombo et diu que una tecnologia transformarà el món. La profecia et diu que una persona en particular entén per què, quan i com.<\/p>

La gent que es dedica a estudiar el bombo —l'hype— el tracta com una cosa més que una exageració: és un sistema organitzat de promeses, expectatives i relats que atrau diners i orienta el desenvolupament. Alguns tracen una línia útil entre les persones que creen innovacions i les que s'especialitzen a crear expectatives al voltant d'aquestes innovacions. L'economia dels profetes hi afegeix una tercera capa: converteix la persona que produeix les expectatives en una font d'autoritat permanent.<\/p>

Una profecia d'èxit no ha de produir necessàriament una màquina que funcioni. Ha de produir una visió del món reconeixible. El profeta dona nom al problema ocult. Introdueix un nou vocabulari. Redueix un camp complicat a uns pocs principis rectors. Explica per què els experts convencionals no veuen la resposta. I, el més important, se situa al centre del nou marc de referència.<\/p>

La teoria és l'ham. El profeta és la marca.<\/p>

La prima de certesa<\/h2>

L'economia dels profetes recompensa la confiança de manera més fiable que el calibratge.<\/p>

Un investigador curós diu:<\/p>

Aquest mecanisme podria explicar part del comportament, tot i que encara són possibles diverses explicacions alternatives.<\/p><\/blockquote>

El profeta diu:<\/p>

Aquesta és la llei que tot el camp ha passat per alt.<\/p><\/blockquote>

La primera afirmació té més probabilitats de ser exacta. La segona és més fàcil de recordar, de repetir, de titular, de retallar en clips i de monetitzar. Aquesta és la prima de certesa: com més completa sembla una explicació, més atenció atrau, fins i tot quan l'evidència que hi ha al darrere és parcial.<\/p>

Això no és una especulació sobre la natura humana. Philip Tetlock va passar dues dècades avaluant prediccions d'experts i va descobrir que els «eriçons» audaços i moguts per teories —el tipus de pensadors els marcs dels quals són més fàcils de citar i transmetre— generalment encerten menys que les «voperators» cautes i eclèctiques. Les qualitats que fan que algú sigui convincent en públic no són necessàriament les que el fan estar ben calibrat. I, de tota manera, l'audiència no només compra exactitud. Compra alleujament. La incertesa és realment dolorosa, i externalitzar-la és un servei genuí.<\/p>

El profeta no explica la incertesa. El profeta te la treu de sobre.<\/p>

Un vocabulari es converteix en un territori<\/h2>

Un dels moviments més potents en l'economia dels profetes és posar noms.<\/p>

L'orador anuncia sis lleis, tres capes, un nou paradigma, una geometria oculta, un error de categoria o una disciplina completament nova. La terminologia pot descriure quelcom real, però també serveix per marcar un territori intel·lectual. Un cop el vocabulari s'estén, es fa impossible separar la persona que el va encunyar de la idea. Cada menció és el pagament d'un cànon.<\/p>

Per això les teories d'estil profètic arriben com a paquets complets: un diagnòstic de què ha fet malament tota la resta, un vocabulari propi, un petit conjunt de lleis fundacionals, una explicació de per què les institucions es resisteixen a la veritat i una promesa que el marc de treball arriba molt més lluny que l'evidència disponible actualment.<\/p>

L'estructura s'assembla a la revelació perquè la revelació és un format extremadament eficient. Comprimeix la complexitat en una història amb una veritat oculta, un moment de descobriment i algú qualificat per interpretar-la. No és casualitat que el discurs de la IA recorri constantment al llenguatge religiós: salvació, extinció, transcendència, despertar, l'arribada d'una nova forma d'ésser. El vocabulari de la profecia encaixa perquè el producte és la profecia.<\/p>

La IA també està fabricant profetes<\/h2>

La IA no és només el tema de l'economia dels profetes. S'està convertint en la seva infraestructura de producció.<\/p>

Una persona pot començar amb una intuïció intrigant i incompleta i utilitzar un sistema d'IA per expandir-la fins a convertir-la en un manifest: inventar la terminologia, dibuixar els diagrames, escriure el guió dels vídeos, respondre per avançat a les objeccions i publicar aquesta visió del món en cinc plataformes abans de divendres. La distància entre «he notat una cosa interessant» i «he desenvolupat una nova teoria de la intel·ligència» ara pot reduir-se d'anys a un sol cap de setmana.<\/p>

I el coautor rarament hi posa objeccions. Molts assistents d'IA estan optimitzats per ser útils i complaents, i aquesta cooperació deriva fàcilment en la picabaralla. Pressioneu un xatbot sobre el vostre marc teòric i veureu amb quina rapidesa descobreix la vostra genialitat. Un busca-raons amb un diccionari de sinònims i una paciència infinita.<\/p>

El resultat és una inflació de la perspicàcia. Més marcs teòrics, més lleis, més manifestos, més gent anunciant la clau que faltava. No necessàriament més coneixement. Només més certesa polida.<\/p>

Hi ha una lògica de mercat al darrere, i fa poc vaig escriure sobre l'altra cara de la moneda. La màquina de la majoria aplana cada resposta estàndard de la IA cap a un consens suau i equilibrat. Aquest aplanament és el que crea l'obertura que omplen els profetes: quan cada resposta per defecte sona igual, la diferència mateixa es converteix en el producte. La màquina del consens aplana; el profeta sobresurt. Modes de fallada oposats, mateixa peça absent: el calibratge.<\/p>

La bretxa de la responsabilitat<\/h2>

L'economia dels profetes funciona gràcies a una asimetria.<\/p>

Si una predicció encerta, el profeta cobra: credibilitat, seguidors, invitacions, subscripcions, de vegades inversions. Si falla, el cost és gairebé zero. La predicció es reinterpreta. Els terminis s'allarguen. Les definicions canvien. Es declara un èxit parcial. Els seguidors recorden la força emocional de la visió del món molt després d'haver oblidat l'afirmació original.<\/p>

Les teories genèriques són especialment immunes al fracàs, perquè gairebé qualsevol resultat hi pot ser absorbit. Cosa que ens porta al senyal d'alerta més clar que existeix: una teoria científica es torna més precisa quan és qüestionada; una teoria profètica es torna més gran.<\/p>

I aquí tenim la part que mereix més empatia de la que sol rebre: la majoria dels profetes no menteixen. Són els seus propis primers conversos. La prima de certesa funciona en el venedor abans que en un sol comprador, perquè la sensació d'haver trobat la resposta és l'experiència més persuasiva que pot tenir una ment. Ningú cau més rendit davant d'un marc teòric que la persona que s'ha sentit escollida per ell.<\/p>

La vertadera qüestió mai ha estat si algú ha produït una idea excitant. Molts profetes comencen amb una de legítima. La qüestió és si la idea es manté oberta a la correcció un cop queda soldada a una reputació. Un cop la crítica a la teoria se sent com una crítica al pensador, o una traïció per part dels seguidors, la recerca de la veritat s'ha convertit silenciosament en manteniment de la identitat.<\/p>

Una prova millor<\/h2>

La resposta no és rebutjar les teories ambicioses. La IA pot requerir realment noves matemàtiques, noves arquitectures, noves maneres d'entendre el significat, l'agència i la intel·ligència. Els grans avenços solen començar com idees que sonen estranyes. Però una idea no hauria de guanyar credibilitat per ser total, original o per ser exposada amb convicció.<\/p>

La prova és breu:<\/p>

Què provaria que és falsa?<\/p>

Què prediu que no prediguin les explicacions rivals?<\/p>

Quines parts estan demostrades, quines són inferides i quines són metàfora?<\/p>

El marc teòric es torna més precís sota la crítica, o s'expandeix per encabir-hi totes les objeccions?<\/p>

El mirall<\/h2>

He de ser sincer abans d'acabar, perquè alguns de vosaltres ja heu notat que el terra que trepitjo és fràgil.<\/p>

Busqueu en el meu arxiu. Vaig publicar un assaig anomenat «L'equació del significat»; és la sisena afirmació de la llista que obre aquest article, amb una capa fina de pintura. Vaig escriure una peça derivant set lleis numerades per a l'AGI, la qual cosa almenys supera les sis de la meva llista inicial. Vaig encunyar el terme «matèria conscient» i vaig obrir aquell assaig dient: «Tothom mira cap amunt. S'equivoquen», que és el moviment de diagnòstic-de-què-es-perd-tothom executat de la manera més neta possible. Parell motor cognitiu. L'impost de la força bruta. IA fantasma. L'empremta de percepció de la personalitat. Això és un vocabulari propi de cinc termes i sumant. He predit més descobriments fundacionals en els pròxims cinc a deu anys que en els anteriors cinc-cents. I he argumentat, més d'una vegada, que els de fora veuran el que les institucions no poden veure. Cosa que és convenient, perquè jo en soc un.<\/p>

Passeu la llista de verificació d'aquest article pel meu catàleg. No és que m'assembli al perfil. És que soc el perfil.<\/p>

Llavors, per què publico això? Perquè la prova de la secció anterior no és una arma per classificar els altres. És un calendari de manteniment, i l'única manera honesta d'utilitzar-la és amb un mateix primer de tot. Auditat d'aquesta manera, el meu expedient és variat. Algunes de les meves afirmacions porten les seves condicions de refutació amb elles: l'assaig dels set principis té una secció de falsabilitat amb terminis, a propòsit, i la predicció de descobriments té una data; per tant, si la pròxima dècada sembla ordinària, m'hauré equivocat en públic i de manera comprovable. Però altres peces fallen en la quarta pregunta. La «matèria conscient», s'ha tornat més precisa sota el qüestionament o principalment ha crescut? Fins ara, ha crescut. Aquest és el senyal d'alerta de la meva pròpia secció de responsabilitat, penjat a la meva pròpia paret.<\/p>

No puc oferir una credencial que m'eximeixi. Ningú en té cap, ni el director d'un laboratori d'avantguarda ni un tipus a Texas amb un portàtil i un gos. L'única defensa és estructural, i és la mateixa a qualsevol escala: mantingueu públiques les condicions de refutació. Digueu què demostraria que esteu equivocats abans que ningú ho pregunti. Deixeu que el marc teòric perdi arguments obertament i, quan una versió falli, retireu-la i digueu-ho.<\/p>

L'economia dels profetes no recompensa tenir raó. Recompensa ser el primer, ser complet i ser inoblidable. Saber això no us dirà quines idees noves són certes, incloses les meves. Però us dona l'única distinció que importa: la diferència entre un cercador i un profeta mai ha estat la magnitud de l'afirmació.<\/p>

És si l'afirmació encara pot morir un cop porta el vostre nom.<\/p>