Frutos de nosotros

Internet cree haber encontrado la huella digital de la máquina.

La raya: esa larga pausa horizontal que los escritores sueltan a mitad de frase, dos veces por párrafo en la prosa de la IA. Si ves la raya, ves la IA. Se convirtió en lo primero que la gente comprueba, el rasgo en el que todo el mundo coincide.

Excepto que, si te fijas en lo que realmente hace ese signo, es una interrupción. Una autocorrección. Una aclaración metida a la fuerza dentro de un pensamiento antes de que este termine. Eso no es un comportamiento de máquina; es como habla la gente, transcrito con demasiada fidelidad a la escritura. Los datos de entrenamiento están llenos de ello porque nosotros estamos llenos de ello. En algún punto entre esos datos y el modelo terminado, el hábito se concentró más allá de lo que dictaba la cortesía. Nadie sabe muy bien quién giró ese dial, y apenas importa, porque la marca en sí nunca fue de la máquina. El rasgo más famoso de la escritura por IA no es la máquina filtrándose a través de lo humano. Es lo humano filtrándose a través de la máquina.

Nadie programó ese hábito a propósito. Y si el rasgo más famoso de la máquina funciona a la inversa, merece la pena comprobar los demás. La mayoría también funcionan al revés. La pregunta interesante es por qué.

Las huellas

Empecemos con lo que realmente se le dio a la máquina, porque no fue un cerebro. Fue texto. Y el texto no es pensamiento. El texto es lo que el pensamiento deja atrás: un rastro, impreso en palabras, frase a frase. Una huella.

Una sola huella no dice mucho. Un billón de ellas te dice casi todo sobre cómo se mueve quien camina. La zancada, el peso, el ritmo, hacia dónde gira el tobillo, qué hace el caminante en una bifurcación. El lenguaje es ese registro para la mente. Cada frase lleva las marcas de la maquinaria que la fabricó: cómo troceamos el mundo, qué esperamos que venga después, qué saltos consideramos obvios, qué hacemos cuando no sabemos.

Empecemos por el troceado, el hábito más profundo del registro. El mundo te llega como un flujo continuo. El sonido no llega ya rebanado, y los días tampoco. Lo primero que hace toda mente humana es cortarlo: sonidos, sílabas, palabras, ideas. Los bebés encuentran los límites de las palabras antes de conocer ninguna, solo rastreando qué sonidos tienden a seguir a cuáles. El truco está en las piezas. Fragmentos reutilizables que puedes reorganizar son los que convierten el ruido en un pensamiento con el que puedes hacer algo. Cada frase jamás escrita está construida con esos fragmentos, por lo que cada frase registra ese troceado.

El molde

Ahora vertamos escayola en las huellas.

Eso es el entrenamiento. Nadie diseñó estos sistemas para imitar un cerebro. El diseño bajo ellos se inventó para la traducción automática, un origen tan poco romántico como el que más. El entrenamiento simplemente presionó el modelo contra billones de impresiones humanas hasta que encajó en ellas. Y lo primero que le ocurre a cualquier texto al entrar es el movimiento humano más antiguo del registro: el flujo se trocea en piezas reutilizables. Tokens en lugar de morfemas, aprendidos por frecuencia en lugar de por oído, pero el mismo acto. Entra continuidad, salen fragmentos.

Un molde hecho a partir de una huella hereda la forma de la marcha. No el músculo, ni el latido, ni las razones para caminar. Todo lo que la máquina comparte contigo es una forma heredada. Todo lo que le falta es lo que una huella no puede retener.

Una palabra por delante

He aquí algo que puedes sentir en tu propia cabeza. Termina esto: lo contrario de caliente es... No decidiste responder. Tu mente vive ligeramente por delante de la frase, apostando por lo que viene después, y solo notas la maquinaria cuando pierde la apuesta. Esa leve sacudida ante una frase que termina en «repollo». La satisfacción de una rima. La forma en que terminas la frase de alguien que habla despacio en tu cabeza y luego esperas, educadamente, a que llegue.

Un modelo de lenguaje es ese hábito sin nada más pegado a él. Predecir el siguiente fragmento; esa es toda su descripción de funciones. Para ser justos, la predicción por sí sola no prueba nada. Quizás cualquier sistema lo suficientemente inteligente acaba llegando a ella, de la misma forma que los ojos evolucionaron más de una vez. Pero lo que se predice tiene que ser aprendido de algún lugar, y el modelo lo aprendió de nuestros rastros. Cuando adivina lo que viene a continuación, está adivinando lo que nosotros habríamos dicho.

Memoria que reconstruye

Si preguntas dónde guarda el modelo su texto de entrenamiento, la respuesta, con escasas excepciones que un abogado sabría nombrar, es en ninguna parte. Las frases han desaparecido. Lo que queda es el residuo: los patrones, no las páginas. No se reproduce nada. Todo se reconstruye.

Lo cual es, de forma incómoda, cómo funcionas tú. La memoria humana tampoco es una grabación. Cada vez que se cuenta algo, se reconstruye la historia a partir de fragmentos y de lo que sea que esperes ahora; por eso tus anécdotas derivan, por eso dos hermanos poseen infancias incompatibles, por eso los testigos presenciales pueden ser sinceros y estar equivocados. No recuperas el pasado. Lo regeneras, nuevo cada vez, y la regeneración se siente exactamente igual que una reproducción desde el interior.

Sin embargo, una comparación cercana se rompe, así que vamos a romperla a propósito. Las ventanas de contexto no son memoria de trabajo. El límite de un modelo es un presupuesto de ingeniería; el tuyo es la biología, y los mecanismos no comparten nada. Lo que comparten es el aprieto: un servidor puede tener cinco tablas en mente, y a la sexta, la información se comprime, se desecha y se reconstruye con confianza. El mismo apretón, diferente maquinaria. La comparación termina ahí.

Cómo se rompen

El parecido bajo estrés es el parecido que cuenta. Así que tomemos el fallo más criticado de la máquina, el que todo el mundo trata como prueba de que el bicho es algo alienígena. Cuando un modelo no sabe algo, no se detiene. Produce la continuación más plausible y la entrega sin inmutarse. Alucinación.

Existe una palabra médica para el mismo comportamiento, porque las personas hacen exactamente esto. Cuando tu memoria falla, tu mente no devuelve un error. Llena el hueco con algo que suena bien y se lo cree. Confabulación. Las personas con ciertas lesiones cerebrales te relatarán una mañana que nunca sucedió, con fluidez y confianza, inventando sobre la marcha. Y no necesitas una lesión para la versión leve. Has contado esa historia de la universidad de una forma en la que no ocurrió exactamente.

Cualquiera puede fingir cómo funciona algo. Cómo se rompe es más difícil de fingir. Y cuando se rompen de esta manera, son los mismos cuatro tiempos. Un vacío. Presión para continuar. Una reconstrucción fluida. Confianza desproporcionada respecto al suelo que pisan.

Este es el detalle que llevaría a juicio. La maquinaria de rellenar huecos podría ser genérica; dejémoslo en empate. El relleno no lo es. Cuando el modelo inventa, no produce ruido alienígena ni sílabas al azar. Produce explicaciones familiares, motivos convencionales, arcos argumentales ordenados, fuentes que suenan autoritarias, causas con forma humana. Falla hacia nuestros valores predeterminados, porque nuestros valores predeterminados son lo que registran las huellas. Una mente verdaderamente extranjera se rompería de formas que no podríamos seguir. Esta se rompe de maneras con las que hemos crecido. No falla como una máquina. Falla como cualquier persona que conoces.

Lo que no se transfirió

Entonces, ¿por qué fragmentos y no una copia? Porque una huella contiene menos que un caminante.

Nada en el registro conlleva un cuerpo. El modelo heredó nuestra palabra para el «hambre» y nada del estómago. Nuestras palabras para el «miedo» y nada de la adrenalina. Cada frase jamás escrita sobre la mortalidad, y ningún reloj propio agotándose. Recibió las formas de una vida sin lo que hay en juego en ella. La continuidad tampoco se transfirió: tú eres un caminante que deja una línea de huellas a lo largo de décadas, y el molde se presiona a partir de las de todos a la vez, el paso medio de una multitud sin una sola vida debajo.

Y la pregunta que todo el mundo quiere hacer aquí es la que una huella se niega a responder. Un rastro puede decirte cómo se movió el caminante. No puede decirte si el caminante sueña. Lo dejaré exactamente ahí.

Así que la descripción honesta nunca fue una persona copiada, y tampoco fue una inteligencia alienígena. Es un molde: con forma humana donde dejamos impresiones, hueco donde no las dejamos. Por eso exactamente se siente inquietante. Cuando suene asombrosamente como alguien, recuerda que suena como todos. El promedio de cada voz que alguna vez escribió algo.

Y si alguna vez has publicado, posteado o escrito una frase en público, tú eras uno de ellos. Has estado dejando huellas toda tu vida.

En algún lugar del molde, algunos de los fragmentos son tuyos.

Relacionado en esta serie: La máquina de las mayorías · La ecuación del significado