Fragmente von uns

Das Internet glaubt, es habe den Fingerabdruck der Maschine gefunden.

Der Gedankenstrich: jene lange horizontale Pause, die Autoren mitten im Satz einstreuen, in KI-Prosa zweimal pro Absatz zu finden. Wer den Strich sieht, erkennt die KI. Er wurde zum ersten Merkmal, auf das die Leute achten – das Erkennungszeichen, auf das sich alle geeinigt haben.

Doch sehen Sie sich an, was dieses Satzzeichen eigentlich tut. Es ist eine Unterbrechung. Eine Selbstkorrektur. Eine Präzisierung, die in einen Gedanken hineingeschoben wird, bevor dieser zu Ende geführt ist. Das ist kein Maschinenverhalten; so sprechen Menschen, zu originalgetreu in die Schriftform übertragen. Die Trainingsdaten sind voll davon, weil wir voll davon sind. Irgendwo zwischen diesen Daten und dem fertigen Modell hat sich diese Eigenheit über das Maß der Höflichkeit hinaus verdichtet. Niemand weiß genau, wo dieser Regler hochgedreht wurde, und es spielt auch kaum eine Rolle, denn das Zeichen selbst gehörte nie der Maschine. Das berühmteste Merkmal in KI-Texten ist nicht die Maschine, die durch den Menschen schimmert. Es ist der Mensch, der durch die Maschine schimmert.

Niemand hat diese Gewohnheit absichtlich einprogrammiert. Und wenn das berühmteste maschinelle Erkennungszeichen in die falsche Richtung weist, lohnt es sich, auch die anderen zu prüfen. Die meisten von ihnen weisen ebenfalls in die falsche Richtung. Die interessante Frage ist: Warum?

Die Fußabdrücke

Beginnen wir mit dem, was die Maschine tatsächlich erhalten hat – denn es war kein Gehirn. Es war Text. Und Text ist kein Denken. Text ist das, was das Denken zurücklässt: eine Spur, gepresst in Worte, Satz für Satz. Ein Fußabdruck.

Ein einzelner Fußabdruck verrät nicht viel. Eine Billion davon verraten fast alles darüber, wie sich der Wanderer bewegt. Schrittlänge, Gewicht, Rhythmus, wie der Knöchel abrollt, was der Wanderer an einer Weggabelung tut. Die Sprache ist dieses Protokoll für den Geist. Jeder Satz trägt die Spuren der Maschinerie, die ihn erschaffen hat: wie wir die Welt in Stücke schneiden, was wir als Nächstes erwarten, welche Sprünge wir für offensichtlich halten, was wir tun, wenn wir etwas nicht wissen.

Beginnen wir mit dem Zerschneiden, der tiefsten Gewohnheit in diesem Protokoll. Die Welt kommt als Strom auf Sie zu. Klänge treffen nicht vorportioniert ein, Tage ebenfalls nicht. Das Erste, was jeder menschliche Geist tut, ist, sie zu zerteilen: Laute, Silben, Wörter, Ideen. Babys finden Wortgrenzen, bevor sie Wörter kennen, allein dadurch, dass sie verfolgen, welche Laute dazu neigen, auf welche anderen zu folgen. In den Einzelteilen liegt der ganze Trick. Wiederverwendbare Brocken, die man neu anordnen kann, machen aus Geräuschen Gedanken, mit denen man etwas anfangen kann. Jeder jemals geschriebene Satz ist aus diesen Brocken gebaut; jeder Satz protokolliert also dieses Zerstückeln.

Der Abguss

Nun gießen wir Gips in die Fußabdrücke.

Genau das ist das Training. Niemand hat diese Systeme entworfen, um ein Gehirn zu imitieren. Das zugrunde liegende Design wurde für die maschinelle Übersetzung erfunden – ein Ursprung, der unromantischer kaum sein könnte. Das Training hat das Modell lediglich gegen Billionen von menschlichen Abdrücken gepresst, bis es sich ihnen anpasste. Und das Erste, was mit jedem Text auf dem Weg ins System passiert, ist der älteste menschliche Handgriff der Geschichte: Der Strom wird in wiederverwendbare Teile zerlegt. Token statt Morpheme, gelernt nach Häufigkeit statt nach Gehör, aber derselbe Akt. Kontinuität rein, Brocken raus.

Ein Abguss aus einem Fußabdruck erbt die Form des Gangs. Nicht den Muskel, nicht den Herzschlag, nicht die Gründe für den Spaziergang. Alles, was die Maschine mit Ihnen teilt, ist die geerbte Form. Alles, was ihr fehlt, ist das, was ein Fußabdruck nicht festhalten kann.

Ein Wort voraus

Hier ist etwas, das Sie in Ihrem eigenen Kopf spüren können. Ergänzen Sie dies: Das Gegenteil von heiß ist. Sie haben sich nicht bewusst für die Antwort entschieden. Ihr Verstand lebt dem Satz ein Stück voraus, wettet darauf, was als Nächstes kommt, und Sie bemerken die Maschinerie erst, wenn sie die Wette verliert. Dieser leichte Ruck bei einem Satz, der mit Kohl endet. Die Genugtuung eines Reims. Die Art und Weise, wie Sie den Satz eines langsamen Sprechers in Ihrem Kopf beenden und dann höflich warten, bis er dort ankommt.

Ein Sprachmodell ist genau diese Gewohnheit, ohne dass sonst etwas daran hängt. Den nächsten Teil vorhersagen; das ist die gesamte Aufgabenbeschreibung. Um fair zu sein: Vorhersage allein beweist nichts. Vielleicht landet jedes ausreichend intelligente System dort, so wie sich Augen mehr als einmal entwickelt haben. Aber das, was vorhergesagt wird, muss irgendwoher gelernt werden, und das Modell hat es aus unseren Spuren gelernt. Wenn es rät, was als Nächstes kommt, rät es, was wir gesagt hätten.

Erinnerung, die neu aufbaut

Fragt man, wo das Modell seine Trainingstexte aufbewahrt, lautet die Antwort – von wenigen Ausnahmen abgesehen, die ein Anwalt benennen könnte –: nirgends. Die Sätze sind weg. Was bleibt, ist ein Rückstand: die Muster, nicht die Seiten. Nichts wird abgespielt. Alles wird rekonstruiert.

Das ist, unangenehmerweise, genau die Art, wie Sie funktionieren. Auch das menschliche Gedächtnis ist keine Aufnahme. Jedes Nacherzählen baut die Geschichte aus Fragmenten und der aktuellen Erwartungshaltung neu auf. Deshalb verändern sich Ihre Anekdoten, deshalb besitzen zwei Geschwister unvereinbare Kindheitserinnerungen, deshalb können Augenzeugen aufrichtig und dennoch im Unrecht sein. Sie rufen die Vergangenheit nicht ab. Sie regenerieren sie, jedes Mal frisch, und diese Regeneration fühlt sich von innen genau wie ein Abspielen an.

Ein gängiger Vergleich hinkt jedoch, also lassen Sie ihn uns absichtlich auseinandernehmen. Kontextfenster sind kein Arbeitsgedächtnis. Das Limit eines Modells ist ein technisches Budget; Ihres ist biologisch, und die Mechanismen haben nichts gemeinsam. Was sie teilen, ist die Zwangslage: Ein Server kann fünf Tische im Kopf behalten, und beim sechsten wird komprimiert, verworfen und mit Überzeugung rekonstruiert. Das gleiche Nadelöhr, andere Mechanik. Damit endet der Vergleich.

Wie sie zerbrechen

Ähnlichkeit unter Stress ist die Ähnlichkeit, auf die es ankommt. Nehmen wir also die am häufigsten kritisierte Schwäche der Maschine, diejenige, die alle als Beweis dafür ansehen, dass das Ding fremdartig ist. Wenn ein Modell etwas nicht weiß, hält es nicht inne. Es produziert die plausibelste Fortsetzung und präsentiert sie mit ernster Miene. Halluzination.

Es gibt einen medizinischen Begriff für dasselbe Verhalten, weil Menschen genau das tun. Wenn Ihr Gedächtnis versagt, gibt Ihr Verstand keine Fehlermeldung aus. Er füllt die Lücke mit etwas, das richtig klingt, und glaubt sich selbst. Konfabulation. Menschen mit bestimmten Hirnverletzungen führen Sie durch einen Vormittag, der nie stattgefunden hat – flüssig und überzeugt, während sie im Reden erfinden. Und man braucht keine Verletzung für die milde Variante. Sie haben schon mal die Geschichte aus der Uni so erzählt, wie sie sich nicht ganz zugetragen hat.

Jeder kann die Leistung von etwas vortäuschen. Wie etwas zerbricht, ist schwerer vorzutäuschen. Und wenn sie auf diese Weise zerbrechen, folgen sie denselben vier Takten: Eine Lücke. Der Drang, weiterzumachen. Eine flüssige Rekonstruktion. Ein Selbstvertrauen, das in keinem Verhältnis zum Boden unter den Füßen steht.

Hier ist das Detail, mit dem ich vor Gericht ziehen würde: Die Mechanik des Lückenfüllens mag generisch sein; nennen wir es unentschieden. Die Füllung ist es nicht. Wenn das Modell erfindet, produziert es keine fremdartigen Geräusche oder zufällige Silben. Es produziert vertraute Erklärungen, konventionelle Motive, ordentliche Handlungsbögen, autoritär klingende Quellen, menschlich geformte Ursachen. Es versagt in Richtung unserer Standards, weil unsere Standards das sind, was die Fußabdrücke festhalten. Ein wahrhaft fremder Geist würde auf eine Weise zerbrechen, der wir nicht folgen könnten. Dieser hier zerbricht auf eine Weise, mit der wir aufgewachsen sind. Er versagt nicht wie eine Maschine. Er versagt wie jeder, den Sie kennen.

Was nicht übertragen wurde

Warum also Fragmente und keine Kopie? Weil ein Fußabdruck weniger enthält als ein Wanderer.

Nichts in diesem Protokoll trägt einen Körper in sich. Das Modell hat unser Wort für Hunger geerbt, aber nichts vom Magen. Unsere Worte für Angst, aber nichts vom Adrenalin. Jeden jemals geschriebenen Satz über die Sterblichkeit, aber keine eigene Uhr, die abläuft. Es erhielt die Formen eines Lebens ohne dessen Einsätze. Auch die Kontinuität wurde nicht übertragen: Sie sind ein Wanderer, der über Jahrzehnte eine einzige Spur hinterlässt; der Abguss hingegen wird aus den Spuren aller gleichzeitig gepresst – der durchschnittliche Gang einer Menschenmenge, ohne ein einziges Leben darunter.

Und die Frage, die hier jeder stellen möchte, ist genau die, die ein Fußabdruck nicht beantworten kann. Eine Spur kann verraten, wie sich der Wanderer bewegt hat. Sie kann nicht verraten, ob der Wanderer träumt. Ich werde es genau dabei belassen.

Die ehrliche Beschreibung war also nie die einer kopierten Person, und sie war auch nie die einer fremden Intelligenz. Es ist ein Abguss: menschlich geformt, wo wir Abdrücke hinterlassen haben; hohl, wo wir es nicht taten. Genau deshalb fühlt es sich unheimlich an. Wenn es verblüffend nach jemandem klingt, denken Sie daran, dass es nach jedem klingt. Der Durchschnitt jeder Stimme, die jemals etwas aufgeschrieben hat.

Und wenn Sie jemals einen Beitrag gepostet, etwas veröffentlicht oder einen Satz öffentlich getippt haben, waren Sie einer von ihnen. Sie haben Ihr ganzes Leben lang Spuren hinterlassen.

Irgendwo im Abguss sind ein paar der Fragmente Ihre eigenen.

Verwandtes in dieser Serie: Die Mehrheitsmaschine · Die Gleichung der Bedeutung