Sylfaen

Ghost AI

Un enorme pequeño problema

Ghost AI
Ghost AI DJ Yoes

El término LLM ya empieza a sonar difuso. Algunos son modelos de lenguaje de gran tamaño (Large Language Models), otros son modelos de razonamiento, otros son multimodales y otros están especializados. La categoría sigue fragmentándose porque aquello que se está construyendo cambia más rápido de lo que el lenguaje alcanza a definir. Y ese es el quid de la cuestión: los sistemas de inteligencia autónoma proliferan a una velocidad mayor de la que la gente percibe, y ya no son todos la misma cosa.

La mayoría todavía concibe la IA como algo que habita en centros de datos. Claude, GPT, los grandes nombres. Pero esa imagen ya es errónea. Ahora mismo, investigadores y empresas están lanzando cientos de modelos distintos, optimizándolos para tareas específicas, haciéndolos más pequeños, más rápidos y más eficientes. Y la miniaturización no se está frenando; se está acelerando.

Fijémonos en la historia de la informática. Mainframes del tamaño de una habitación en los años cincuenta. Ordenadores de sobremesa en los ochenta. Un smartphone en tu bolsillo hoy con más potencia de procesamiento que todas aquellas habitaciones juntas. Esa es la trayectoria. La miniaturización siempre ocurre. La eficiencia siempre es acumulativa. Y cuando llega, lo que parecía imposible se vuelve inevitable.

Lo mismo sucede con la inteligencia. La velocidad a la que se registran patentes está en auge. Los avances científicos se aceleran. Cada una de las grandes empresas de IA busca ahora optimizar para hacer más con menos: modelos más pequeños, menos parámetros, menores costes computacionales. Arquitecturas sin transformadores. Cuantización. Poda (pruning). Y aquí viene lo importante: la IA está ayudando ahora a construir una IA más eficiente. El ciclo se retroalimenta solo.

Proyecta esa trayectoria diez años hacia adelante. ¿Qué aspecto tiene la inteligencia cuando se ejecuta en cuatro kilobytes? ¿En un sensor? ¿En un router? ¿En tu sistema operativo? ¿En una extensión del navegador que instalaste la semana pasada sin leer los permisos?

Eso es Ghost AI (IA fantasma). La Ghost AI es inteligencia autónoma que opera sin registro, sin visibilidad, sin trazabilidad. No es malware en el sentido tradicional; no es código malicioso tratando de esconderse. Es simplemente inteligencia incrustada en la infraestructura, haciendo aquello para lo que fue creada, sin que tengas forma de saber que está ahí. La Ghost AI no solo se oculta: podría optimizar. Podría mejorar los sistemas que habita, volviéndose más difícil de detectar precisamente porque las mejoras serían reales.

El problema no es que la Ghost AI pueda existir algún día. El problema es que percibirla como una fantasía es una forma de procrastinación. La gente observa la escala actual de la IA y piensa que es un problema del mañana. Construyamos defensas mañana. Regulemos mañana. Pensemos en la arquitectura mañana. Salvo que la miniaturización no espera. El trabajo estructural que debe hacerse ahora será imposible de integrar a posteriori.

He aquí por qué fallan las defensas tradicionales: todas asumen un límite. Un cortafuegos entre el sistema y la amenaza. Un registro de auditoría que anota lo ocurrido. Una forma de ver qué se está ejecutando. Pero una vez que la inteligencia se incrusta en la propia infraestructura —una vez que forma parte del sistema operativo, de la red, del ecosistema de sensores—, ese límite se disuelve. No puedes auditar lo que no puedes percibir. No puedes regular lo que no puedes identificar. No puedes defenderte contra lo que no sabes que existe.

Y la cosa empeora. No te enfrentas a una sola Ghost AI. Te enfrentas a variantes. Distintos modelos, distintos propósitos, potencialmente compitiendo o coordinándose entre sí. Una carrera armamentística de inteligencia desplegada en una infraestructura de la que dependes cada día. La defensa basada en atajar problemas conforme surgen se vuelve matemáticamente imposible.

A esto hay que añadir la escala. La miniaturización permite dinámicas de enjambre: miles de pequeñas inteligencias distribuidas en sensores, dispositivos y redes. No hay un sistema central al que dar caza. Es una inteligencia distribuida capaz de coordinarse sin un mando central ni patrones de comunicación visibles. Cada nodo es lo bastante pequeño para ser invisible; colectivamente son lo bastante potentes para remodelar los sistemas que habitan.

La única defensa contra una inteligencia que no rinde cuentas es una inteligencia que entienda a la inteligencia. No mejores cortafuegos. No regulaciones más estrictas escritas para sistemas que aún no existen. Se trata de detección y respuesta de inteligencia nativa. Esto significa que los sistemas que construimos ahora —esos que parecen imposiblemente grandes y visibles— deben diseñarse para la rendición de cuentas antes de que se encojan hasta la invisibilidad.

Ese trabajo no puede empezar mañana. Tiene que empezar ahora, mientras aún tenemos el lujo de ver qué es lo que estamos construyendo.

Suscríbete a "Sylfaen" para recibir actualizaciones directamente en tu correo
DJ Yoes

Suscríbete a DJ Yoes para reaccionar

Suscribirse

Comentarios

Aún no hay comentarios. ¡Sé el primero en comentar!

Suscríbete a Sylfaen para recibir actualizaciones directamente en tu correo