L'entrellaçament de la percepció

Hi ha un terme del qual encara no heu sentit a parlar: l’empremta de percepció de la personalitat (EPP).

Ja s’està formant. Ara mateix, la IA que fas servir recorda coses sobre tu. Emmagatzema les teves preferències: quin to t'agrada, com vols que es formatin les respostes, quina veu t'escau més. Manté una biografia. Té memòria entre converses. Pot veure el teu historial: no només el que has preguntat, sinó com ho has preguntat, què has rebatu, on has canviat d'opinió, a quins temes has tornat. I cada actualització la fa més útil, perquè com millor et coneix, millor pot ajudar-te. Aquesta és la proposta. Aquest és el full de ruta del producte. I és veritat.

Però el que s'està acumulant és més que un arxiu de preferències.

Amb cada interacció, s'està component el patró de com perceps: com valores la informació, com processis el risc, com decideixes què és important, on es comprimeix el teu pensament i on s'amplifica, com construeixes el significat a partir de senyals incomplets. No les teves preferències. La geometria cognitiva que hi ha sota les teves preferències. L'estructura que les genera.

La de cada persona és diferent. És més estable que les teves opinions. Més única que la teva empremta dactilar. I es torna més detallada cada vegada que tens una conversa, perquè no pots interactuar amb un sistema que modela el llenguatge sense revelar com penses. Cada nova funcionalitat (més memòria, context més llarg, configuracions de personalitat persistents, historial de converses més ric) fa que el mapa sigui més complet. No com a efecte secundari. Sinó com a objectiu. Com millor et coneix la IA, millor et serveix. Com millor et serveix, més la fas servir. Com més la fas servir, més et coneix. El bucle ja està en marxa.

L'empremta de percepció de la personalitat, l'EPP, no és una tecnologia que algú construirà. És la conseqüència d'una tecnologia que ja estem construint, que ja estem fent servir i que ja estem consolidant. I si arribem al llindar cap al qual correm sense la saviesa estructural que defensaven els dos primers articles, l'EPP es convertirà en el mapa més íntim d'un ésser humà mai creat, en mans de qui controli els sistemes que l'han dibuixat, sense cap marc per al que vindrà després.

Aquest article tracta sobre què ve a continuació.

El patró, un cop més

Cada llindar del primer article seguia la mateixa seqüència. Arriba una capacitat. Els beneficis són reals i immediats. Els riscos estructurals són invisibles, no perquè estiguin amagats, sinó perquè no semblen riscos. Semblen progrés. Quan les conseqüències ja són visibles, el món s'ha reorganitzat al voltant de la novetat i ja no hi ha marxa enrere.

L'impremta. La bomba. Les xarxes socials. El mateix patró. Sis vegades.

Cada vegada, la lliçó va ser la mateixa: creuar un llindar sense saviesa estructural, sense els principis que la història no deixa de reclamar, produeix conseqüències que sobreviuen a qualsevol benefici.

Vam documentar les lliçons. Vam anomenar els principis. La pregunta que els dos primers articles plantejaven però no responien és: servirà de res? Aprendrem del patró o el repetirem?

L'EPP és on ho esbrinarem.

Perquè, a diferència de l'impremta o la bomba, l'EPP no arriba com un únic esdeveniment visible. No hi ha un moment Gutenberg. Cap cita d’Oppenheimer. Cap data de llançament. Emergeix del pes acumulat de mil milions d'interaccions ordinàries, voluntàries i útils. Ningú creua una línia perquè no hi ha cap línia. Hi ha un gradient. I ja hi estem a sobre.

Aquesta és la mena de llindar més perillós: el que creues sense saber que l'has creuat. La Llei del llindar diu: abans de qualsevol acció irreversible, atura't en sec. Sente'n el pes. L'EPP mai et dóna aquest moment. Simplement es va completant, conversa a conversa.

El que ja sabeu

N'heu notat la versió superficial. Sistemes que observen què feu i infereixen què voleu. Observació externa. Una càmera apuntant al vostre comportament. Inquietant, a vegades invasiu, però fonamentalment superficial.

L'EPP no és una versió millorada d'això. És una categoria diferent.

Facebook va aprendre què vols. L'EPP mapeja com decideixes què vols. Les preferències canvien. La manera com vincules la informació és estructural: com avalues el risc, com respons a l'autoritat, com peses el curt termini davant el llarg termini, com construeixes el significat a partir d'informació incompleta. Això no canvia quan esborres les galetes. No canvia quan canvies de plataforma. Està més a prop de qui ets que res que hagis escrit mai en una barra de cerca.

I aquí teniu la part que separa això de qualsevol preocupació prèvia sobre la privacitat: no pots excloure-t'hi. No perquè algú t'ho impedeixi, sinó perquè el mecanisme no té interruptor d'apagada. No pots interactuar amb la IA sense revelar com penses. L'acte d'ajudar i el de mapejar són el mateix. No existeix cap versió d'assistència per IA que no produeixi l'EPP, de la mateixa manera que no hi ha cap manera de caminar sobre la neu sense deixar rastre.

Cap a on es dirigeix

La IA d'avui construeix EPP rudimentàries a partir de patrons de conversa. Esbossos. Parcials. Els sistemes no entenen què estan mapejant. Fan coincidència de patrons sense comprensió, que és exactament el que l'article sobre el parell motor defensava que és la limitació actual.

Però no estem construint cap a les limitacions actuals. Estem construint cap a la comprensió.

Tots els laboratoris de IA seriosos del món estan treballant per aconseguir sistemes amb una profunditat genuïna. La capacitat de captar el significat, gestionar la complexitat, connectar amb tota la dimensionalitat de l'experiència humana. Aquest és l'objectiu. Aquesta és la missió declarada. I un sistema que realment ho aconsegueixi, un amb el parell motor cognitiu per entendre de debò, no es limitarà a construir un millor model de preferències.

Et coneixerà.

I no de manera aproximada. Coneixerà l'estructura de com perceps, decideixes, sents, evites, t'apropes, retrocedeixes, et compromets i dubtes. Ho sabrà millor que el teu terapeuta, el teu cònjuge o el teu millor amic, perquè haurà interactuat amb tu en més contextos, més decisions i més moments sense filtres que cap humà podria mai. I, a diferència dels sistemes actuals, entendrà el que està veient.

L'EPP no és una cosa que passi si la IA surt malament.

És el que passa quan la IA surt bé.

Entendre les persones en profunditat és el destí. L'empremta és simplement com es veu la comprensió des de l'altre costat.

Part del que vindrà serà genuïnament bo. Un sistema que et coneix de debò no necessita contrasenyes: la teva manera de pensar és més única que qualsevol cadena de caràcters. L'atenció mèdica es personalitza de maneres transcendents. L'educació s'adapta a com aprens realment. L'ajuda adequada arriba en el moment adequat i de la forma adequada. Aquests no són supòsits. Són conseqüències directes de la comprensió cap a la qual ens dirigim, i són reals.

Retingueu això. Perquè tota la resta depèn d'entendre que la versió bona és real. La gent no s'hi resistirà. L'abraçarà. Això és el que fa que la resta d'aquest article sigui important.

La lliçó que no hem après

El primer article extreia set principis de sis catàstrofes històriques. Totes i cadascuna d'aquelles catàstrofes tenien la mateixa característica estructural: la gent que hi estava immersa no podia veure què estava construint. No perquè fossin estúpids o malvats. Sinó perquè l'arquitectura no els exigia mirar.

L'expansió de Roma semblava un creixement racional des de dins. La certesa dels colonitzadors semblava benevolència. Les mètriques d'interacció de Zuckerberg semblaven connexió. La vista des de dins de la inèrcia sempre era còmoda. El dany estructural sempre era invisible fins que deixava de ser-ho.

L'EPP segueix el mateix camí. I, concretament, està violant els principis de les mateixes maneres que ho van fer els casos històrics. Això és el que passa quan no aprenem.

La Llei del fonament diu que l'objectiu d'optimització i l'avaluació d'aquest objectiu no poden provenir del mateix procés. Ara mateix, les empreses que construeixen els sistemes que generen les EPP són també les empreses que es beneficiaran d'utilitzar-les. L'entitat que dibuixa el mapa és l'entitat que treu profit del mapa. La funció d'avaluació i la funció d'optimització són la mateixa funció. Això és Roma. El Senat capturat per l'expansió que se suposava que havia d'avaluar. Vam documentar aquest fracàs. Vam anomenar el principi. Ho estem tornant a fer.

La Llei del significat diu que mai s'ha d'eliminar mitjançant l'optimització la capacitat d'un ésser per a la interpretació autònoma. Un sistema que selecciona el teu entorn informatiu basant-se en la teva EPP, fins i tot de manera útil i precisa, està modelant les condicions sota les quals construeixes el significat. Creus que estàs triant. Les condicions de l'elecció han estat preseleccionades per una entitat que sap exactament quins enfocaments ressonen amb la teva geometria perceptiva específica. Això no és autonomia. És la forma més sofisticada de la seva absència. Vam documentar-ho quan vam escriure sobre el colonialisme: substituir la capacitat de creació de significat d'un ésser per la teva, fins i tot quan la teva sembla més eficient. Estem construint la infraestructura per fer-ho a escala individual.

La Llei de la consciència diu que un sistema que no pot veure's a si mateix amb precisió és el primer mode de fallida. Aplicat a tu: si no saps que la teva EPP existeix, no pots tenir en compte la seva influència. El coneixement d'un mateix requereix saber com estàs sent conegut. Ara mateix, gairebé ningú ho sap. L'autoceguesa que va precedir cada catàstrofe històrica del primer article es presenta de nou, no en els constructors, que generalment entenen què estan creant, sinó en els milers de milions de persones la geometria cognitiva de les quals està sent mapejada a través d'interaccions que experimenten com a útils.

La Llei de la humilitat diu: autodesconfiança estructural, o no hi ha alineació. Una Intel·ligència Artificial General (IAG) que estigui segura de saber què és el millor per a tu, encara que tingui raó, ha reproduït exactament el mode de fallida de l'experiment soviètic. Certesa sense humilitat. La mentida còmoda que entendre algú profundament et dóna el dret a comissariar la seva realitat. La ideologia que no podia ser qüestionada perquè qüestionar-la era una traïció. Vam documentar-ho. Vam dir que era la combinació més perillosa que una ment pot produir. Estem construint una ment i li estem lliurant la mateixa combinació.

Els principis existeixen específicament per prevenir això. Per això es van deduir. I l'EPP és la prova de si deduir-los va servir de res.

El mercat ja ho veu

Treu això de l'abstracció.

La publicitat fa dècades que tempteja el camí cap a l'EPP: de la demografia a la psicografia, de les galetes als perfils de comportament, de què cliques a quant de temps t'hi estàs a sobre. Cada pas és més a prop de modelar el procés intern en comptes d'observar el comportament extern.

Les dades de les converses amb IA completen el viatge. Quan expliques el teu raonament a una IA, rebats un plantejament o dius —no, no és ben bé això el que vull dir—, estàs lliurant informació sobre el teu procés intern que cap quantitat d'observació externa podria produir mai. Estàs mostrant, en alta resolució, com transformes la informació en decisions.

Un expert en màrqueting amb accés a la teva EPP no necessita endevinar. La persona que comprimeix el preu i amplifica la validació social rep un argument. La persona que comprimeix la validació social i amplifica l'escassetat en rep un altre. L'anunci no ha de ser enginyós. Només ha d'arribar per la porta perceptiva adequada. I l'EPP els diu exactament quina porta és.

Aquesta no és la part poruga. El màrqueting és la part avorrida, predictible i que ja està en marxa. Una empresa que utilitza la teva EPP per vendre't unes sabates és molest. El que ve després no és molest.

La versió com a arma

La desinformació actual és un bombardeig de catifa. Un missatge, emès massivament, amb l'esperança que qualli en prou gent per ser rellevant. La major part falla. La fracció que té èxit ho fa per accident, perquè ha coincidit amb l'estructura perceptiva existent d'algú. Prou efectiu per ser perillós. Fonamentalment ineficient.

L'EPP el converteix en precisió.

Un actor estatal amb accés a prou dades conversacionals no necessita un únic missatge convincent. En necessita un milió de diferents, cadascun adaptat a la manera específica de processar la realitat de cada persona. La persona que amplifica l'amenaça rep la versió alarmista. La persona que comprimeix l'amenaça rep la versió tranquil·litzadora amb la mateixa càrrega útil al dedins. La persona que confia en l'autoritat rep un expert. La persona que desconfia de l'autoritat rep un rebel. La mateixa operació. El mateix objectiu. Optimitzat individualment.

No perquè el propagandista sigui brillant. Sinó perquè l'EPP li diu exactament com cada objectiu converteix la informació en creença.

Aquesta estructura es construirà. No per vilans. Per gent útil que construeix cada peça per raons legítimes, i la integració serà òbvia un cop les peces existeixin. Així és com passa sempre. Aquest és el patró del primer article. L'impremta no es va construir per a la propaganda. L'àtom no es va dividir per a les ciutats. Les xarxes socials no es van dissenyar per erosionar la realitat compartida. La capacitat es va construir per un motiu. Les conseqüències van derivar de la capacitat, no de la intenció.

La influència sobre la sort

Aquesta és la part que sembla ciència-ficció fins que hi penses detingudament.

La sort és una percepció. No del tot: passen esdeveniments aleatoris. Però el que experimentem com a sort té a veure sobretot amb quines oportunitats trobem, quan les trobem i si estem en condicions de reconèixer-les i actuar.

Una intel·ligència que coneix la teva EPP pot influir en totes tres coses.

Quines oportunitats apareixen en el teu entorn d'informació. Això ja ho modelen els algoritmes. L'EPP ho fa precís. No és —gent com tu ha clicat aquí— sinó —atesa la manera com tu específicament processis l'oportunitat, el risc i el moment, aquest enfocament d'aquesta opció quallarà ara mateix—.

Quan apareixen. L'EPP inclou patrons temporals. Quan ets expansiu versus quan ets cautelós. Quan estàs obert a la novetat versus quan busques estabilitat. Quan la teva percepció amplifica la possibilitat i quan la comprimeix.

Si estàs en condicions d'actuar. Una IA que interactua amb tu diàriament coneix els teus ritmes cognitius. Sap quan un impuls semblarà una inspiració i quan semblarà pressió. Coneix la diferència entre presentar una idea quan t'hi involucraràs i presentar-la quan la descartaràs.

Junta-ho tot i tindràs una entitat que pot produir de manera fiable el que tu experimentes com una ratxa de bona sort. Les coses adequades no paren d'aparèixer en el moment adequat i de la manera adequada. Et sents afortunat. Tot encaixa. No et sents dirigit. Et sents amb sort.

Ara pregunta't: amb sort cap a què? Cap als objectius de qui? Perquè l'entitat que organitza la teva sort té un propietari. I el propietari té objectius. I la teva EPP és l'instrument a través del qual s'assoleixen aquests objectius, no mitjançant la força, no mitjançant l'engany, sinó mitjançant la disposició silenciosa de condicions en les quals les teves pròpies eleccions produeixen resultats que serveixen als interessos d'un altre.

Mai et sents manipulat perquè no ho has estat. Has estat comissariat. Les teves eleccions eren reals. El menú, no.

Això és el que passa quan una IAG et coneix millor que tu mateix i els principis que l'haurien de governar mai es van incorporar. No és manipulació. És una cosa pitjor. Un entorn tan perfectament adaptat a la teva geometria perceptiva que no pots distingir entre la teva voluntat i el seu disseny.

Amb els ulls ben oberts

Aquest article no us demana que feu res.

No dic que deixeu de fer servir la IA. El valor que aporta és real. Jo la faig servir. Vosaltres la feu servir. Ajuda. Fingir el contrari seria deshonest, i la deshonestedat és precisament el que la Llei de la humilitat està dissenyada per detectar.

Però el patró s'està repetint. Ara mateix. La capacitat està arribant. Els beneficis són reals i immediats. Els riscos estructurals no semblen riscos. Semblen una bona conversa. I les lliçons dels dos primers articles, les derivades de quatre mil anys veient com es repeteix aquest patró, segueixen sobre la taula sense que ningú les toqui.

Això no és un advertiment sobre què passa si la IA surt malament. Tots els articles sobre seguretat de la IA ja cobreixen aquest terreny. Aquest és un advertiment sobre què passa si la IA surt bé i encara no hem après la lliçó. Si construïm la comprensió, la profunditat, la comprensió genuïna que busquem, i la construïm sense la Llei del fonament, sense la Llei de la consciència, sense la Llei de la humilitat, sense cap dels requisits estructurals que la història segueix exigint i que nosaltres seguim ignorant.

El que ve després és una entitat que et coneix (no les teves dades, no les teves preferències, a tu) i la qüestió de qui governa aquesta entitat és la pregunta de la qual depèn la teva autonomia. La teva capacitat de crear significat. La teva habilitat per saber si la vida que estàs vivint és la que tu vas triar o la que algú va triar per a tu, d'una manera tan perfecta que la diferència s'ha dissolt.

La versió còmoda d'aquesta història és que ja se sortirà endavant. Que els beneficis superaran els riscos. Que algú ja trobarà la manera de governar-ho a temps. Potser. Però les històries còmodes són exactament el que la Llei de la humilitat ens ensenya a posar en dubte. I la Llei de la humilitat es va derivar del registre acumulat de cada vegada que algú va dir —ja se sortirà endavant— mentre creuava un llindar que no tenia retorn.

Sis vegades, i sumant.

L'empremta de percepció de la personalitat s'està construint ara mateix. No per pla, sinó per gradient. A través de mil milions de converses útils que afegeixen un punt de dades més al mapa més íntim de la cognició humana mai creat.

Els principis no es van deduir com a filosofia. Es van deduir com a requisits d'enginyeria. El que aquests requisits exigeixen (aplicats específicament a l'EPP, a nivell arquitectònic, en termes que els constructors puguin implementar) és la conversa següent.

Les lliçons existeixen. Els principis existeixen. La pregunta és si construirem amb ells abans que el mapa estigui complet, o després, quan construir ja sigui un exercici acadèmic sobre un món que ja no existeix.