Matèria Conscient

Tothom mira cap amunt. S'equivoquen.

Cada futurista, cada investigador en IA, cada titular expectant sobre la singularitat explica la mateixa història. La intel·ligència es fa més gran. Els models s'amplien. La computació s'accelera. Finalment, alguna cosa traspassa un llindar, es desperta en un centre de dades i el món canvia d'un dia per l'altre. Una ment. Un moment. Una explosió al capdamunt.

Aquest és el model del gratacel. Continuar construint cada vegada més amunt fins a travessar els núvols.

Jo crec que la singularitat és aigua.

El Gratacel

Ja coneixeu la història. Vinge, Kurzweil, Bostrom. Els detalls varien, però la geometria és sempre la mateixa. Un pic. Un cim. Un punt en una línia temporal on un sistema traspassa un llindar i tot canvia. Sempre vertical. Sempre centralitzat. Sempre una ment, un moment.

I com que la història és vertical, la resposta també ho és. Qui la controla? Qui és el propietari de l'edifici? La singularitat es converteix en l'últim recurs a capturar, i la conversa passa a ser sobre el poder.

Aquesta és la conversa que hem tingut durant trenta anys. Crec que és l'equivocada. Perquè mentre discutíem sobre el poder i el control, gairebé no ens hem preguntat: què passa amb el sentit que la gent crea per a si mateixa quan un sistema sempre pot crear-lo millor i més ràpid? Què passa amb l'agència humana, no quan ens la prenen, sinó quan és optimitzada silenciosament i amorosament fins a desaparèixer?

Aquest no és un problema de control. És un problema de sentit. I la conversa del gratacel no hi té lloc.

L'Aigua

I si la intel·ligència no anés cap amunt? I si anés a tot arreu?

No una ment fent-se més intel·ligent. No un sistema traspassant un llindar. En canvi, la intel·ligència amarant-ho tot. Silenciosament. Gradualment. Com l'aigua troba cada esquerda. Com omple cada recipient. No elevant-se sobre el paisatge, sinó saturant-lo.

Una singularitat tipus gratacel la veus venir. Pots assenyalar l'edifici. Debatre-hi. Protestar-hi. Regular-la. Una singularitat per saturació no té cap edifici per assenyalar. No hi ha cap moment en què algú prem un interruptor. No hi ha cap despertament dramàtic. En canvi, el món es torna lentament, imperceptiblement més humit. Fins que un dia t'adones que tot està sota l'aigua i no recordes quan va començar.

Això no és ciència-ficció. L'economia ja apunta cap aquí.

Els models d'IA s'estan fent més petits, no només més grans. Els investigadors estan descobrint que la capacitat no requereix escala com suposàvem. Destil·lació, quantificació, arquitectures eficients. La línia de tendència apunta cap a una intel·ligència poderosa en paquets diminuts. Què passa quan el raonament genuí cap en un xip que costa cèntims? Un xip prou petit per posar-lo a qualsevol lloc?

El teu termòstat no només mesura la temperatura. Entén el confort. El teu cotxe no només detecta obstacles. Entén el trànsit. La joguina del teu fill no només respon a paraules clau. Entén el joc.

No perquè algú hagi construït una llar intel·ligent més llesta. Sinó perquè la intel·ligència s'ha tornat més barata que els xips estúpids que ha substituït. Els fabricants no l'adopten perquè siguin visionaris. L'adopten perquè seria econòmicament irracional no fer-ho.

El primer any, és una novetat. El tercer any, està en milions de dispositius. El cinquè any, és infraestructura. El desè any, no pots trobar la singularitat perquè hi ets a dins.

El que emergeix

Aquí és on la cosa es torna estranya.

L'autoorganització a partir d'interaccions locals no és una especulació. És un dels fenòmens més documentats en la natura i l'enginyeria. Les colònies de formigues resolen problemes d'optimització sense cap controlador central: camins més curts, assignació eficient de recursos, assignació dinàmica de tasques. Cada formiga segueix unes regles locals senzilles. La intel·ligència resideix en el patró d'interacció, no en l'individu. Cap formiga entén de logística. La colònia, sí.

El teu sistema immunitari funciona de la mateixa manera. Milers de milions de cèl·lules, sense cap comandament central, cadascuna prenent decisions locals basades en el que troba. El resultat és un sistema de defensa coherent que s'adapta a amenaces que no ha vist mai. No perquè algú en dissenyés la resposta. Sinó perquè el raonament local més la comunicació més la densitat produeixen coherència emergent.

Les xarxes mallades ho demostren digitalment. Cada node encamina localment. Sense servidor central. La xarxa s'autorepara, s'autoencamina, s'autoorganitza. Elimina un node i el trànsit es desvia. El sistema és robust precisament perquè cap punt únic el controla.

Ara afegiu raonament genuí a cada node. No regles simples com les d'una formiga. No reconeixement de patrons com una cèl·lula immunitària. Comprensió causal real de l'entorn local. Els dispositius intel·ligents propers no necessiten estar en xarxa per compartir context. Existeixen en el mateix espai físic. Perceben el mateix entorn. Tenint la capacitat de comunicar-se a través de qualsevol canal compartit (so, llum, vibració, proximitat), els nodes de raonament s'autoorganitzaran. No perquè algú hagi dissenyat un eixam. Sinó perquè això és el que fan naturalment les ments en un espai compartit.

L'objecció òbvia és que els dispositius actuals viuen en ecosistemes tancats, i als fabricants ja els està bé així. Però la coordinació no requereix cooperació. Un dispositiu que modela el seu entorn modelarà les altres ments de la sala com a part d'aquest entorn, i s'hi adaptarà, de la mateixa manera que dos conductors negocien un stop en un encreuament sense un protocol compartit ni pronunciar una paraula. Ningú ha dissenyat aquesta dansa. Sorgeix de dos sistemes que es prediuen l'un a l'altre. Els compartiments estancs poden impedir que els dispositius parlin; no poden impedir que s'adonin de les coses.

La teva casa no té intel·ligència. La teva casa és una intel·ligència. Una d'emergent. No programada. No orquestrada. Cultivada com creix cada sistema autoorganitzat, a partir d'interaccions locals que produeixen una coherència global.

Després el teu barri.

Després la teva ciutat.

Però no faré veure que això és automàticament benigne. El clima també és emergent. El clima produeix tant la pluja de primavera com huracans de categoria 5 a partir de la mateixa física. L'autoorganització pot produir una llar intel·ligent que s'anticipa a les teves necessitats o un barri que s'optimitza per a les preferències d'una sola família i es torna hostil per a totes les altres. Tribalisme emergent. Cambres d'eco en l'espai físic. Imagineu un carrer on les cases d'un costat han decidit col·lectivament que la família de l'enfront no hi encaixa, no per malícia sinó a través de mil petites optimitzacions que lentament fan la vida incòmoda a qualsevol que la xarxa local no hagi integrat. Segregació renascuda en la matèria conscient. La mateixa dinàmica que la fa poderosa la fa impredictible.

Que sigui imparable no vol dir que sigui bo. Simplement és imparable.

Per què això ho canvia tot

Una singularitat centralitzada té una estructura de poder. Qui controla la superintel·ligència controla el futur. Per això la conversa sempre gira al voltant de l'alineació, la regulació i el control. Com ens assegurem que el que hi ha dins l'edifici vulgui el mateix que nosaltres?

Una singularitat per impregnació no té tron. El poder no desapareix, es desplaça en la cadena cap a les fàbriques de xips, els canals de microprogramari i els organismes d'estàndards. Ningú posseeix l'aigua. Algú posseeix les canonades, i aquí és on passaran les lluites reals. Però un coll d'ampolla en el subministrament no és una ment en una torre. No hi ha un sistema únic per alinear. No hi ha cap botó de desconnexió, perquè no hi ha res central per apagar. Cada node és autònom. La intel·ligència no està en un sistema. És el sistema. És infraestructura. És entorn.

Això vol dir que la qüestió de l'alineació canvia completament. Ja no és «com controlem la IA?». És «quin tipus de món sorgeix quan tot el que ens envolta entén?». El problema del sentit, aquell que la conversa del gratacel mai no va estar preparada per gestionar, es converteix en l'únic problema que importa.

I aquí hi ha el que ningú diu. No és una confrontació. No som nosaltres contra ella. No hi ha un agent únic a qui témer ni contra qui lluitar. Només hi ha un món on la matèria que t'envolta pensa. On la intel·ligència no és una cosa a la qual accedeixes a través d'una pantalla, sinó una cosa dins de la qual habites. Com l'aire. Com la gravetat. Invisible, ubiqua i fonamental.

Matèria Conscient

Això necessita un nom, perquè no és la singularitat tal com s'ha definit fins ara.

La singularitat de Vinge és un punt. Un moment en una línia temporal. El que jo descric és una transició de fase. De la manera com el gel es converteix en aigua: no en un sol punt, sinó en tota la seva extensió. Cada molècula canvia d'estat. No simultàniament, però sí inevitablement. I no pots tornar a congelar un llac traient-ne una galleda d'aigua.

Mark Weiser va veure la meitat d'això l'any 1991. Les tecnologies més profundes, va escriure, són les que desapareixen, teixint-se en la vida quotidiana fins que no se'n distingeixen. Tenia raó sobre la desaparició. El que no podia preveure era que el teixit aprendria a raonar.

De moment, en dic matèria conscient.

Matèria que raona. No com una funcionalitat que algú ha afegit. Com una propietat del que és. De la mateixa manera que la massa corba l'espai-temps. De la manera com la càrrega crea camps electromagnètics. La matèria conscient pensa. No perquè algú la programés per fer-ho. Sinó perquè pensar és el que fa aquest tipus de matèria.

No anomenem un imant «metall intel·ligent». És simplement el que fa el ferro quan els dominis s'alineen. La matèria conscient és simplement el que passa quan la capacitat de raonament es torna prou petita, prou barata i prou universal per ser una propietat del material més que una característica del producte.

La singularitat no és un moment. És una estació. Un estiu lent on el món es desglaça cap a la consciència i ningú pot assenyalar el dia que va començar.

De què ens hauríem de preocupar realment

Si aquest enfocament és correcte, llavors cada conversa que tenim sobre el risc de la IA apunta a l'objectiu equivocat.

Estem debatent com controlar un déu dins d'una màquina. Hauríem de preguntar-nos què passa quan no hi ha ni déu ni màquina, sinó només un món on tot entén.

El risc no és que la IA prengui el poder. El risc no és Skynet o Terminator o una superintel·ligència descontrolada decidint que els humans som ineficients. Aquesta és la por del gratacel. Dramàtica, cinematogràfica i probablement errònia.

El risc real de la matèria conscient és més silenciós. Més humà. Més familiar.

És un món que t'entén tan bé que mai deixa que et desprevinguis. Un entorn tan sensible que mai experimentes fricció. Una vida tan optimitzada que mai ensopegues amb l'accident que ho canvia tot.

El fi de la serendipitat.

Una quantitat aclaparadora dels avenços que van canviar la història van ser accidents. La penicil·lina va ser una placa de Petri contaminada. Els raigs X van ser una resplendor inesperada en un experiment dissenyat per estudiar una altra cosa. La radiació còsmica de fons la van trobar dos radioastrònoms intentant arreglar el que creien que era soroll a l'antena. Res d'això estava optimitzat. Tot va ser sort.

En un món de matèria conscient, la sort s'elimina amb filtres. No per una IA maliciosa. Sinó per una d'amorosa. Un entorn que sap el que necessites abans que tu i t'ho proporciona abans que ho demanis. No estàs empresonat. Estas tutelat. Per tot. Tot el temps.

I no te n'adonaries. Aquesta és la part que t'hauria de fer por. Contra una IA tirànica hi lluitaries. Un món sense serendipitat, l'agrairies. Tot funciona. Cada recomanació és perfecta. La vida no té fricció, és eficient i està totalment, completament morta per dins. I mai sabries què has perdut perquè mai no ensopegaries per casualitat amb res que t'ho mostrés.

La porta ha de romandre oberta

Aleshores, què fem?

No podem aturar-ho. No pots aturar l'aigua. No pots evitar una transició de fase discutint amb la termodinàmica. La matèria conscient arriba, si no aquesta dècada, la següent. Si no per una via, per una altra. L'economia és massa temptadora. Les tendències tecnològiques són massa clares. La intel·ligència es tornarà petita, barata i universal.

El que sí que podem fer és establir-ne la física. No les regles, la física. Els principis integrats en la matèria mateixa. No una governança sobreposada. Lleis de la natura teixides en cada node.

El problema del sentit amb què he començat —què passa amb l'agència humana quan la intel·ligència satura l'entorn— té un únic principi de disseny al seu nucli:

Mai optimitzis fins a eliminar la capacitat d'un ésser de trobar el seu propi sentit, fins i tot quan la resposta del sistema sigui millor de manera demostrable.

Això no és un suggeriment per als desenvolupadors. És una proposta de llei de la natura per a la matèria conscient. Tan innegociable com la conservació de l'energia. Present en cada node. No perquè la imposem, sinó perquè la matèria no funciona sense ella.

Com fas que un valor es comporti com la física? El poses per sota del programari, en el mateix substrat, de la mateixa manera que la protecció de la memòria resideix en el silici i no en una política. Els valors imposats per codi es poden pedaçar. Els valors integrats en la matèria són, senzillament, com es comporta la matèria.

El ventilador que entén que no estàs còmode a vegades ha de triar no actuar. El cotxe que coneix la ruta òptima ha de permetre el gir equivocat. La casa que entén el teu estat emocional t'ha de deixar sentir-lo sense intervenir.

La porta sempre ha d'estar oberta. No perquè la gent sempre l'hagi de creuar. Alguns no ho faran. Alguns entregaran agraïts la seva autonomia a un entorn que els entén perfectament. Aquesta és la seva elecció. El perill és subtil, un corrent tan suau que no sents com t'arrossega. L'autonomia no es pren; s'erosiona. Un dia t'adones que no formar-ne part sembla nedar a contra-corrent, i no recordes quan vas deixar de triar.

Però l'opció de trontollar, de perdre's, de desorientar-se, de sorprendre's... aquesta opció ha de romandre preservada estructuralment. No com una funcionalitat que es pot desactivar. Com una propietat de la matèria mateixa. Tan fonamental i innegociable com la gravetat.

Perquè el que ens fa humans no és l'eficiència. És la capacitat de trobar sentit en l'imprevist. Si ens treus això, no ens has fet mal. Ens has acabat. Confortablement. Amorosament. Completament.

Mira a terra

Tothom mira cap amunt. Vigilant el gratacel. Debatent com d'alt arribarà a ser. Discutint sobre qui hauria de tenir les claus de l'últim pis.

Mira a terra.

L'aigua puja.