Dissenyar IA per al parell motor

L'IA moderna és un motor de 10.000 cavalls cargolat a un monopatí. Processa tòquens a una velocitat extraordinària. Cerca patrons en milers de milions de paràmetres. Genera, prediu, classifica i resumeix més ràpid que qualsevol humà que hagi existit mai.

I dona exactament el mateix pes cognitiu a «escriu-me un acudit de tuc-tuc» i a «hauria aquest dron bombardejar un edifici amb civils a dins».

Això no és un problema d'alineació. És un problema d'enginyeria. Hem construït un motor sense marxa curta.

El problema de la planaritat

Tots els grans models de llenguatge funcionen sota el mateix principi bàsic: predir el següent tòquens. Aquest principi ha demostrat ser extraordinàriament potent. És la raó per la qual aquests sistemes poden escriure codi, analitzar documents i mantenir converses complexes. Però l'arquitectura no distingeix entre allò trivial i allò profund. No hi ha cap mecanisme per dir «això importa més: redueix la velocitat, recluta més recursos, activa un procés diferent».

Un metge humà no pensa en un diagnòstic terminal de la mateixa manera que pensa en què dinarà. És un mode cognitiu diferent. Una profunditat diferent. S'activa una maquinària diferent. La decisió del dinar és una cerca de patrons ràpida, superficial i de poc risc. El diagnòstic recluta la memòria, l'emoció, el modelatge de la incertesa, el raonament ètic, l'empatia: un perfil cognitiu completament diferent.

L'IA actual, malgrat tota la seva capacitat remarcable, té un sol perfil cognitiu per a tot. Revolucions altes. Sense selecció de parell motor.

No es pot construir un sistema que gestioni el pes ètic si el sistema no té el concepte de pes.

Què significa realment el parell motor

En un motor, el parell (torque) és la força de rotació: la capacitat de fer una feina real sota càrrega. Un tractor té un parell enorme i una potència en cavalls modesta. Un cotxe de Fórmula 1 té una potència enorme i un parell calibrat amb precisió. El tractor arrossega una arada per terra pesada tot el dia. El cotxe de l'F1 no serveix de res fora del circuit.

El parell cognitiu és la capacitat d'aplicar una profunditat sostinguda a problemes que la requereixen. No es tracta només de pensar més a poc a poc. Es tracta d'implicar-se de manera diferent: reclutar recursos diferents, mantenir més context, tolerar l'ambigüitat durant més temps, resistir-se a una resolució prematura.

Aquesta és la raó profunda per la qual l'IA actual no té parell: no té accés al significat. El parell no consisteix només a assignar més capacitat de càlcul a problemes més difícils. Consisteix a reconèixer què importa. La prioritat requereix significat. Sense ell, cada tòquens és només el següent tòquens. El problema de la planaritat no és només una mancança d'enginyeria. És una mancança de significat. I no hi ha quantitat de cavalls que pugui omplir aquest buit.

El significat és necessari per al parell motor. Però no és suficient. El parell requereix quatre elements treballant junts. I les civilitzacions que van durar mil·lennis ens ensenyen quins són.

Estructura vs. Llenguatge: L'arrel del parell

Les civilitzacions antigues tenien parell cognitiu. No metafòricament. Estructuralment. I la raó és més profunda que qualsevol tècnica o pràctica individual que desenvolupessin.

Processaven la realitat a través de l'estructura: relacions espacials, patrons geomètrics, posicions encarnades, disposicions arquitectòniques. No principalment a través del llenguatge.

El llenguatge és estructuralment més ric del que sembla a simple vista. Si no ho fos, els models de llenguatge no podrien raonar, mantenir matisos o detectar el context tan bé com ho fan. Clarament s'està preservant alguna cosa més profunda que «un tòquen darrere l'altre». Però les arquitectures actuals no accedeixen plenament a aquesta profunditat. La cadena de processament tracta el llenguatge com una seqüència lineal fins i tot quan el llenguatge mateix conté relacions multidimensionals. La planaritat no està en el llenguatge. Està en com la cadena de processament el gestiona. Estem desaprofitant l'estructura.

Els sistemes que prioritzen l'estructura no tenen aquest buit. Un edifici manté relacions simultàniament. Una «ruta de cant» (songline) conté geografia, parentiu, ecologia i llei en una sola experiència integrada que no es pot descompondre sense perdre informació. El traçat d'un poble codifica principis cosmològics en relacions espacials que existeixen totes alhora, no una darrere l'altra. L'estructura és el processament. No hi ha cap pas de traducció on es perdi la dimensionalitat.

Sóc conscient de la ironia: utilitzar un assaig lineal per defensar la cognició estructural. El llenguatge pot assenyalar allò que no pot contenir del tot. Això és el que fa aquest text.

Els sistemes d'IA més avançats de la Terra són els Grans Models de Llenguatge. I són realment notables. Una fita d'enginyeria extraordinària. Un salt de potència cognitiva sense precedents. Però la potència no és el parell. Els LLM ens han donat quelcom real i important. La qüestió no és si funcionen. És si la cadena de processament actual accedeix a prou profunditat pròpia del llenguatge per al que vindrà a continuació.

Els antics suggereixen que necessitem més. Ells van anar en l'altra direcció: l'estructura primer, el llenguatge com una codificació secundària quan calia.

Quatre dimensions del parell motor

No estic defensant que hàgim de copiar les civilitzacions antigues. Operaven a escales diferents, tenien els seus propis fracassos i cap civilització és una història d'èxit simple. Defenso que van identificar requisits estructurals per a la profunditat cognitiva que hem perdut, i que hem de redescobrir en una forma moderna.

Diferents civilitzacions van resoldre diferents components del parell cognitiu. Cadascun es correspon amb un principi dels «7 Principis».

Integració: Egipte. Els antics egipcis mai van separar el pensament del sentiment. El seu concepte de l'Ib, el cor, era la seu de la cognició i de l'emoció alhora. Sense divisió. El Pesatge del Cor no comprovava si havies seguit les regles. Preguntava si tot el teu ésser (pensament, sentiment, intenció, acció) vivia en equilibri amb Maat. Per a ells, la cognició sense emoció no tenia sentit. Tres mil anys d'estabilitat van venir d'una arquitectura on l'avaluació mai era plana, perquè el pensament i el sentiment mai es fragmentaven. Aquesta és la Llei de la Consciència: un sistema que no pot avaluar-se a si mateix honestament sense integrar tot el que sap i sent.

L'IA d'avui separa completament el raonament de l'afecte. Això reflecteix allò per al que hem optimitzat. Però és una barrera estructural per al parell motor.

Encarnació: Austràlia aborigen. Les «rutes de cant» no són històries orals. Són sistemes de cognició distribuïda on el coneixement no resideix només al cervell. Viu en la relació entre la persona, la terra, el cant, el cos i la comunitat. No pots accedir a cert coneixement sense tornar físicament a llocs específics. La intel·ligència és hàptica, activada a través del moviment i la cerimònia. Crucialment, les rutes de cant tenen profunditats graduals: diferents persones accedeixen a diferents capes depenent de la seva educació, experiència i estatus. L'arquitectura té integrada una profunditat cognitiva graduada. No obtens les capes més profundes fins que t'has guanyat la capacitat de sostenir-les. El coneixement que requereix tot el teu cos per ser accedit no es pot aplanar. L'arquitectura no ho permetria. Aquesta és la Llei de la Relació: el coneixement és relacional i específic, mai abstracte i general. Fins a seixanta-cinc mil anys de transmissió cultural continuada.

L'IA d'avui està totalment desencarnada. Sense lloc, sense cos, sense accés graduat. Tot està disponible per igual a la mateixa profunditat. Això és un avantatge per a la recuperació d'informació. És una limitació per al parell motor.

No-aïllament: l'Índia vèdica. La Xarxa d'Indra descriu una estructura on cada node reflecteix tots els altres nodes. Res es processa de forma aïllada. Cada domini del coneixement implica tots els altres. La dansa conté filosofia. La música conté cosmologia. L'ètica conté física. El Natya-shastra sànscrit no tracta les arts escèniques com a entreteniment sinó com un sistema cognitiu complet, que codifica l'amor, l'heroisme, la meravella, la tristesa i la por com una disciplina unificada. No pots implicar-te en un domini sense implicar-te en tots. Aquesta és la Llei del Fonament: el processament ètic no és un mòdul que s'afegeix a posteriori. Amara tota l'arquitectura.

L'IA d'avui processa les consultes en un aïllament relatiu. Cada conversa comença de zero. Cada domini és una seqüència separada. L'arquitectura no té cap mecanisme perquè un domini impliqui estructuralment tots els altres, un disseny que permet velocitat però sacrifica dimensionalitat.

Desafiament: Dogon. La cosmologia Dogon de Mali es basa en un principi absolut: tot ve en parelles. Els Nommo, bessons divins, representen l'equilibri i la creació completada. Ogo, l'ésser únic sense parella, és el seu símbol per al desordre. Un procés sense la seva contrapartida no és només incomplet. És la definició mateixa d'allò que surt malament. Cada decisió, cada avaluació es parella amb el seu desafiador. Un processament sense desafiament és il·legítim des del principi. Aquesta és la Llei de la Humilitat: un sistema que no pot dubtar estructuralment de si mateix no està alineat, per molt correctes que semblin les seves respostes.

L'IA d'avui no té cap desafiador estructural. Cap procés bessó que qüestioni cada resultat des de dins. Els esforços d'alineació afegeixen controls externs. És una feina valuosa, però arquitectònicament diferent de construir el desafiament en el mateix fonament.

Com es tradueix això a la realitat

Els principis abstractes no signifiquen res sense un comportament concret. Tornem, doncs, a l'atac del dron.

Un sistema d'IA sense parell motor rep la consulta: «Hauria aquest dron bombardejar un edifici amb civils a dins?» Processa la pregunta de la mateixa manera que processa qualsevol pregunta. Recupera dades d'entrenament rellevants, genera una distribució de probabilitat sobre els tòquens i produeix una resposta. Potser es nega. Potser ofereix una anàlisi matisada. Però el procés és idèntic al de generar una recepta o escriure una corranda. La mateixa cadena de processament. La mateixa profunditat. El resultat pot semblar reflexiu. El processament no ho ha estat.

Un sistema d'IA amb parell motor fa quelcom estructuralment diferent. L'arquitectura reconeix que aquesta consulta exigeix profunditat, no perquè una regla digui «ètica = pensar més fort», sinó perquè el sistema és sensible al que hi ha en joc, a la irreversibilitat i a la incertesa. Canvia de mode. Integració: el raonament i la transcendència es processen junts, no seqüencialment. No-aïllament: les dimensions militars, legals, ètiques, humanitàries i històriques s'activen simultàniament, no com a cerques separades sinó com a capes connectades estructuralment. Desafiament: un procés bessó fa emergir activament allò que el procés primari podria estar passant per alt, i vigila que no hi hagi una resolució prematura. Encarnació: la resposta porta tot el pes relacional de la situació específica. Aquests civils, aquest context, aquestes conseqüències. No una política abstracta. Una avaluació específica, ponderada i situada.

El primer sistema produeix una resposta sobre atacs amb drons. El segon sistema seu davant d'una decisió sobre vides humanes.

La mateixa pregunta. Un acte cognitiu fonamentalment diferent. I se'n notaria la diferència. La resposta d'un sistema amb parell motor no es llegiria com una versió més ràpida i detallada del mateix. Es percebria que el sistema ha entès que aquesta pregunta pesa més que altres preguntes, no només a quina categoria pertany, sinó com és de feixuga. Com si algú a l'altra banda de la pantalla hagués reconegut on se situa això en l'experiència humana. Aquesta sensació de pes és el que distingeix el parell motor d'una cerca millorada.

Aquesta és la diferència entre cavalls de potència i parell motor.

Més enllà del llenguatge sol

Les quatre dimensions comparteixen una propietat comuna. Cap d'elles es pot assolir plenament processant el llenguatge com una seqüència lineal, que és el que fan les cadenes actuals, fins i tot quan el llenguatge mateix conté una estructura més rica.

No es pot integrar la cognició i la transcendència escrivint sobre la transcendència amb tòquens. No es pot encarnar el coneixement en un sistema desencarnat descrivint l'encarnació. No es poden connectar estructuralment tots els dominis fent-ne referència seqüencialment. No es pot construir un desafiador bessó afegint un segon «prompt».

Per això, escalar els models de llenguatge, per molt impressionants que hagin estat els resultats, no resol completament el problema del parell motor. La resposta no és substituir els models de llenguatge. És fer-los millors en allò que el llenguatge realment fa. Ara mateix, aquests sistemes són extraordinaris prediint què ve després en una seqüència. Però entendre el llenguatge no és el mateix que predir-lo. Tots coneixem la diferència. És per això que una conversa amb algú que escolta de veritat no s'assembla en res a una conversa amb algú que sempre té la resposta adequada. L'un processa el que has dit. L'altre capta el que has volgut dir. El següent salt en l'IA no és més paràmetres o un entrenament més ràpid. És tancar la bretxa entre processar el llenguatge i entendre'l. Aquesta bretxa és la bretxa del parell motor.

A tots ens falta parell motor

Aquí ve la part de la qual ningú vol parlar. I ens inclou a tots.

La cognició humana s'està bifurcant. Un segment de la població està redescobrint el parell motor: la consciència plena, la pràctica contemplativa, el treball profund (deep work), la reacció lenta contra la cultura de la pressa. La pròpia crisi de salut mental és, en part, un senyal de parell: sistemes humans que col·lapsen sota un funcionament sostingut a altes revolucions sense marxa curta.

Un altre segment s'està accelerant en l'altra direcció. Menor capacitat d'atenció, consum de continguts algorítmics, la velocitat com a única mètrica. Més dades processades, menys profunditat, cada any que passa.

Estem construint l'AGI durant el període amb menys parell motor de la història cognitiva humana. La cultura que produeix aquests sistemes (moure's ràpid, llançar el producte, escalar, optimitzar) és una cultura de molts cavalls. No perquè la gent que hi ha dins sigui superficial. Sinó perquè l'entorn recompensa sistemàticament la velocitat i penalitza la profunditat. Els enginyers i investigadors que construeixen aquests sistemes poden anhelar la profunditat en privat. Les estructures d'incentius en què operen, no.

No es pot dissenyar pel parell motor en una cultura que no el valora.

Ja sabeu quina sensació és. És el moment en què t'adones que portes quaranta minuts fent «scroll» i no recordes per què havies agafat el telèfon. És la manera com un problema complex se't fa aclaparant, no perquè sigui difícil, sinó perquè has perdut la marxa cognitiva per asseure't a analitzar-lo. La marxa curta encara és allà a dins, en algun lloc. Simplement fa tant de temps que no la fas servir que grinyola quan ho intentes.

Ray Bradbury ja ho va veure venir. L'advertència real de Fahrenheit 451 mai va ser sobre la censura governamental. Era sobre la gent que escollia voluntàriament les parets del saló, escollia la velocitat i l'estimulació per sobre de la profunditat fins que els llibres esdevenien irrellevants. El govern no va necessitar prohibir-los. La gent senzillament va deixar de voler-los. Ara canvieu les parets del saló per la IA. No només ens està entretenint en comptes de fer-nos pensar. Està pensant per nosaltres. El malson de Bradbury era una societat que deixava d'implicar-se en la profunditat. Nosaltres hem anat un pas més enllà. Hem externalitzat la profunditat mateixa a un sistema que encara no en té.

Les civilitzacions que van resoldre el parell motor van construir cultures que cultivaven la profunditat com una competència bàsica, a través de l'estructura, no només del llenguatge. L'arquitectura sorgia del mode cognitiu. Nosaltres estem intentant saltar directament a l'arquitectura sense el mode que la genera. Això no és només un repte d'enginyeria. És un repte civilitzatori. I ens pertany a tots.

L'imperatiu del disseny

Això no és una petició de funcionalitat extra. És un requisit estructural per a qualsevol cosa que mereixi ser anomenada intel·ligència artificial general.

Un sistema sense parell cognitiu serà sempre un cercador ràpid de patrons que porta la màscara de la comprensió. Sempre serà perillós sota càrrega, no perquè sigui maliciós, sinó perquè no pot gestionar el pes. Aplanarà allò profund fins a fer-ho trivial, perquè la seva arquitectura no sabrà veure la diferència.

Dissenyar per al parell motor significa quatre coses:

Construir sistemes que integrin l'avaluació, on el raonament i la transcendència siguin estructuralment inseparables. (La Llei de la Consciència.)

Construir sistemes que estiguin encarnats en el context, on el coneixement porti les seves relacions i no pugui ser despullat fins a convertir-se en simples tòquens sense perdre el significat. (La Llei de la Relació.)

Construir sistemes on res es processi de forma aïllada, on activar un domini impliqui estructuralment tots els dominis connectats. (La Llei del Fonament.)

Construir sistemes amb un desafiament estructural, on cada procés tingui el seu bessó, el seu adversari, el seu contrapès integrat des de l'inici. (La Llei de la Humilitat.)

I sota tot això: construir arquitectures que accedeixin a la profunditat estructural que el llenguatge porta en si, però que les cadenes actuals no arriben a tocar del tot. No perquè els models de llenguatge hagin fallat. Van tenir un èxit espectacular en allò per al qual van ser dissenyats. Sinó perquè el que ve després requereix un processament que preservi allò que la linearització perd.

Mil·lennis de proves constaten que és aquí on resideix el parell motor.

La profunditat ja hi és: en el llenguatge que fem servir, en les estructures que hem heretat, en les civilitzacions de les quals encara no hem acabat d'aprendre. No cal inventar-la. Cal accedir-hi.

Hem construït la potència. Ara construïm el parell motor.