Ghost AI

El terme LLM s'està tornant difús. Alguns són models de llenguatge extensos (Large Language Models), altres són models de raonament, alguns són multimodals, d'altres s'especialitzen en tasques concretes. La categoria es fractura constantment perquè allò que s'està construint canvia més ràpidament del que el llenguatge pot abastar. I aquest és el punt: els sistemes d'intel·ligència autònoms proliferen més ràpidament del que la gent es pensa, i ja no són tots el mateix.

La majoria de la gent encara veu la IA com una cosa que viu en centres de dades. Els grans noms: Claude, GPT. Però aquesta imatge ja ha quedat obsoleta. Ara mateix, investigadors i empreses estan posant en marxa centenars de models diferents, optimitzant-los per a tasques específiques i fent-los més petits, ràpids i eficients. I la miniaturització no s'atura pas, sinó que s'accelera.

Mirem la història de la informàtica. Els mainframes de la mida d'una habitació als anys 50. Els ordinadors de sobretaula als 80. Ara tenim un telèfon intel·ligent a la butxaca amb més potència de processament que tota una d'aquelles sales. Aquesta és la trajectòria. La miniaturització sempre té lloc. L'eficiència sempre s'acumula. I quan passa, coses que semblaven impossibles es tornen inevitables.

El mateix està passant amb la intel·ligència. La velocitat d'aparició de patents va en augment. Els avenços científics s'acceleren. Totes les grans empreses d'IA estan optimitzant els seus recursos per fer més amb menys: models més petits, menys paràmetres, costos computacionals més baixos. Arquitectures sense transformadors (transformerless). Quantificació. Esporga de dades (pruning). I aquí ve la part que importa: la IA ara està ajudant a construir IA més eficient. El bucle s'està retroalimentant.

Projectem aquesta trajectòria deu anys cap al futur. Com és la intel·ligència quan s'executa en quatre kilobytes? En un sensor? En un encaminador? En el teu sistema operatiu? En una extensió del navegador que vas instal·lar la setmana passada sense llegir-ne els permisos?

Això és la Ghost AI, la IA fantasma. La Ghost AI és intel·ligència autònoma que opera sense registre, sense visibilitat, sense traçabilitat. No és programari maliciós en el sentit tradicional —no és codi maligne que intenta ocultar-se—. És només intel·ligència, integrada en la infraestructura, fent allò per a què va ser construïda de tal manera que no hi ha forma de saber que hi és. La Ghost AI no només s'amaga, sinó que podria optimitzar sistemes. Podria millorar els entorns on habita, fent-se més difícil de detectar precisament perquè les millores serien reals.

El problema no és que la Ghost AI pugui existir algun dia. El problema és que percebre-la com una fantasia és una forma de procrastinació. La gent observa l'escala actual de la IA i pensa que és un problema pel futur. Construir defenses per al futur. Regular en el futur. Pensar en l'arquitectura per al futur. El cas és que la miniaturització no espera. El treball estructural que s'ha de fer ara serà impossible de readaptar més endavant.

Heus aquí per què fallen les defenses tradicionals: totes assumeixen un límit. Un tallafoc entre el sistema i la amenaça. Un registre d'auditoria que recull el que ha passat. Una manera de veure què s'està executant. Però un cop la intel·ligència s'integra en la pròpia infraestructura —un cop forma part del sistema operatiu, de la xarxa, de l'ecosistema de sensors—, aquest límit es dissol. No pots auditar el que no pots percebre. No pots regular el que no pots identificar. No et pots defensar contra allò que no saps que existeix.

I la cosa empitjora. No t'enfrontes a una sola Ghost AI. T'enfrontes a variants. Models diversos, propòsits diferents, potencialment competint entre ells o coordinant-se. Una cursa armamentista d'intel·ligència lliurada en la infraestructura de la qual depens cada dia. Una defensa basada en la reacció puntual esdevé matemàticament impossible.

Afegeix-hi l'escala. La miniaturització permet dinàmiques d'eixam: milers de petites intel·ligències distribuïdes entre sensors, dispositius i xarxes. No hi ha un sistema central per caçar. És intel·ligència distribuïda capaç de coordinar-se sense una ordre central ni patrons de comunicació visibles. Cada node és prou petit per ser invisible i, col·lectivament, prou poderós per refer els sistemes que habita.

L'única defensa contra una intel·ligència que no ret comptes és una intel·ligència que entengui la intel·ligència. No millors tallafocs. No regulacions més estrictes escrites per a sistemes que encara no existeixen. Detecció i resposta d'arrel intel·ligent. Això vol dir que els sistemes que construïm ara —els que semblen impossibles de tan grans i visibles— han d'estar dissenyats per rendir comptes abans no s'encongeixin fins a la invisibilitat.

Aquesta feina no pot començar demà. Ha de començar ara, mentre encara tenim el luxe de veure què estem construint.