Training und Inferenz: Die zwei Leben eines KI-Modells

Die Antwort beginnt lange vor dem Prompt

Eine Frage wird abgeschickt, der Cursor blinkt, dann erscheint Wort für Wort eine Antwort. Für den Nutzer sieht es so aus, als beginne die Arbeit des Modells genau in diesem Moment. Technisch ist der sichtbare Vorgang jedoch bereits sein zweites Leben.

Das erste fand früher statt. Dabei wurden Trainingsdaten verarbeitet, Fehlerwerte berechnet und numerische Parameter verändert. Im zweiten Leben, der Inferenz, bleiben diese Parameter normalerweise unangetastet. Das Modell erzeugt eine Ausgabe aus dem, was in seinen Gewichten angelegt ist, und dem, was ihm gerade als Kontext vorliegt.

Diese Trennung erklärt, warum eine Korrektur im Chat nicht automatisch erhalten bleibt, wie aktuelle Dokumente ein älteres Modell ergänzen können und weshalb zwei Anwendungen mit demselben Modellkern verschieden wirken. Gemeint sind hier vor allem generative, transformerbasierte Sprachmodelle. Bei anderen Modellklassen unterscheiden sich Details, die Trennlinie zwischen Lernen und Ausführen bleibt jedoch bestehen.

Lernen heißt, Gewichte zu verändern

Bevor ein Sprachmodell Text verarbeiten kann, zerlegt ein Tokenizer die Eingabe in Einheiten und ordnet ihnen numerische Kennungen zu. Diese Tokenisierung folgt nicht zuverlässig den Grenzen natürlicher Wörter. Ein Token kann ein vollständiges Wort, einen Wortteil, ein Satzzeichen oder eine andere häufige Zeichenfolge repräsentieren. Welche Einheiten entstehen, hängt vom verwendeten Tokenizer ab.

Beim Vortraining eines autoregressiven Sprachmodells besteht die Kernaufgabe darin, aus vorangegangenen Tokens das nächste vorherzusagen. Weil die tatsächliche Fortsetzung in den Trainingsdaten bekannt ist, lässt sich die berechnete Wahrscheinlichkeitsverteilung mit dem beobachteten Token vergleichen. Eine Verlustfunktion fasst die Abweichung als Loss zusammen.

Dann folgt die Backpropagation. Sie berechnet mithilfe der Kettenregel, wie empfindlich der Loss auf Änderungen der einzelnen trainierbaren Parameter reagiert. Diese Gradienten sind keine Erklärung dafür, welcher Parameter einen Fehler „verursacht“ hat. Sie geben die lokale Richtung an, in der ein Optimierungsverfahren die Gewichte anpassen kann.

Der Vorgang wiederholt sich über viele Datenpakete. Es gibt dabei keinen einzelnen Augenblick, in dem das Modell einen Begriff vollständig verstanden hätte. Schritt für Schritt verändert sich die Wahrscheinlichkeitslandschaft, aus der später Antworten entstehen. Das Trainingsziel belohnt zunächst passende Fortsetzungen, nicht automatisch Wahrheit, Quellenkenntnis oder logische Verlässlichkeit.

Vortraining ist nur die erste Formung

Auf das breite Vortraining können weitere Trainingsphasen folgen. Beim Fine-Tuning wird ein vorhandenes Modell mit ausgewählten Beispielen auf Aufgaben, Formate oder Fachbereiche ausgerichtet. Präferenzbasierte Verfahren können zusätzlich bestimmtes Antwortverhalten fördern.

Auch parameter-effiziente Methoden gehören auf die Trainingsseite der Trennlinie. Dabei können die ursprünglichen Modellgewichte unverändert bleiben, während kleinere Adapter oder andere zusätzliche Parameter gelernt werden. Entscheidend ist nicht, ob alle Gewichte verändert werden. Entscheidend ist, ob überhaupt trainierbare Parameter anhand eines Fehlersignals aktualisiert werden.

Das erklärt einen Teil des unterschiedlichen Ressourcenbedarfs. Training benötigt neben den Vorwärtsberechnungen auch Gradienten, gespeicherte Zwischenwerte und Optimierungszustände. Eine einzelne Inferenz ist meist leichter, wird dafür aber für jede Anfrage und jedes erzeugte Token erneut ausgeführt.

Bei der Inferenz bleibt die Vergangenheit eingefroren

Für die LLM-Inferenz werden Systemanweisungen, Nutzereingabe, Gesprächsverlauf und gegebenenfalls beigefügte Dokumente tokenisiert. Das Modell verarbeitet diese Sequenz mit den vorhandenen Parametern und berechnet Werte für mögliche nächste Tokens.

Die Eingabephase wird häufig als Prefill bezeichnet. Dabei kann das Modell viele Positionen des bereits bekannten Prompts parallel verarbeiten. Eine kausale Maske verhindert, dass eine Position auf spätere Tokens zugreift.

Beim Erzeugen der Antwort ändert sich die Lage. Das jeweils nächste Token hängt von den zuvor gewählten Tokens ab. Nach jeder Auswahl wird es an die Sequenz angehängt, bevor der nächste Schritt berechnet werden kann. Ein deterministisches Verfahren kann jeweils die wahrscheinlichste Fortsetzung wählen; Sampling-Verfahren ziehen innerhalb einer gesteuerten Wahrscheinlichkeitsverteilung. Die Antwort liegt nicht als fertiger Absatz im Modell bereit. Sie entsteht autoregressiv.

Ein KV-Cache speichert bereits berechnete Schlüssel- und Wertrepräsentationen der Aufmerksamkeit. Dadurch muss das Modell frühere Teile der Sequenz nicht bei jedem Schritt vollständig neu berechnen. Die Abhängigkeit vom bisherigen Verlauf verschwindet aber nicht. Längere Eingaben und Ausgaben beanspruchen weiterhin Rechenzeit und Speicher.

Das Kontextfenster ist eine Arbeitsfläche, kein Gedächtnis

Das Kontextfenster begrenzt, wie viele Tokens ein Modell in einem Lauf berücksichtigen kann. Dazu zählen je nach System der Prompt, eingebundene Dokumente, der Gesprächsverlauf und die bereits erzeugte Antwort. Was außerhalb des verfügbaren Fensters liegt, kann das Modell in diesem Lauf nicht direkt einbeziehen.

Korrigiert ein Nutzer eine falsche Antwort und reagiert das Modell anschließend besser, wirkt das wie Lernen. In der gewöhnlichen Inferenz ist jedoch nur die Korrektur in den aktuellen Kontext gelangt. Die Gewichte bleiben gleich; verändert hat sich der temporäre Rechenzustand.

Eine Anwendung kann Chats speichern, Profile laden oder frühere Korrekturen bei einer neuen Anfrage wieder einfügen. Sie kann daraus später auch Trainingsdaten erzeugen. Das sind zusätzliche Systemprozesse. Ein scheinbar erinnerndes Modell ist deshalb oft eine Anwendung, die alte Informationen erneut bereitstellt.

Die Schulmetapher führt nur bis zur Tür

Training wird gern mit Unterricht verglichen, Inferenz mit einer Prüfung. Das Bild hilft zunächst: In der ersten Phase wird gelernt, in der zweiten wird das Gelernte angewendet. An der entscheidenden Stelle bricht die Metapher jedoch auseinander.

Menschen können während einer Prüfung eine neue Einsicht gewinnen und sie später erinnern. Ein übliches Sprachmodell schreibt während der Inferenz keine solche Erfahrung in seine Gewichte. Es durchsucht auch nicht zwingend ein inneres Archiv fertiger Sätze. Seine Parameter enthalten verteilte statistische Strukturen, aus denen unter den Bedingungen des aktuellen Kontexts eine Fortsetzung berechnet wird.

Darum ist auch das Wort Wissen heikel. Ein Modell kann einen Sachverhalt überzeugend wiedergeben, ohne aus seinen Gewichten eine belastbare Herkunftsangabe ableiten zu können. Umgekehrt kann eine Fähigkeit in den Parametern angelegt sein, durch eine ungünstige Anfrage aber nicht zuverlässig zum Vorschein kommen. Training schafft Möglichkeiten; es garantiert keine bestimmte Antwort.

Inferenz ist damit weniger eine Prüfung eines stabilen Wissensbestands als eine situative Rekonstruktion aus Gewichten, Kontext und Auswahlverfahren.

Ein neuer Text stellt die Trennung auf die Probe

Nehmen wir als Beispiel einen gerade fertiggestellten Fachbeitrag, für den ein Sprachmodell eine Meta Description formulieren soll. Es erhält den Artikel, Hinweise zur Tonalität und aktuelle Suchrichtlinien. Der erste Vorschlag klingt sauber, lässt aber den entscheidenden Gedanken des Beitrags aus.

Die Fähigkeit, Texte zu verdichten und Sätze zu formen, stammt aus dem Training. Den neuen Artikel kann das Modell dort noch nicht gesehen haben. Er gelangt erst während der Inferenz in das Kontextfenster. Dasselbe gilt für aktuelle Dokumentation, etwa Googles Hinweise zum Einsatz KI-generierter Inhalte.

Fordert die Redaktion nun eine Überarbeitung mit stärkerem Fokus auf den ausgelassenen Gedanken, reagiert das Modell auf die neue Anweisung und den bisherigen Verlauf. Es hat sich nicht dauerhaft weitergebildet. In einer neuen Sitzung müsste die Korrektur erneut im Kontext stehen oder aus einem gespeicherten Regelwerk geladen werden.

Auch Retrieval ändert diese Logik nicht. Ein Suchsystem kann passende Dokumente für den aktuellen Lauf liefern, ein Werkzeug kann Längen oder formale Anforderungen prüfen. Solche Komponenten machen eine Anwendung aktueller und belastbarer, ohne automatisch die Modellgewichte zu verändern.

Erst wenn Beispiele oder Korrekturen später in einen Trainingsprozess eingehen und trainierbare Parameter angepasst werden, beginnt wieder das erste Leben.

Das Modell ist nicht der Chat

Dasselbe Basismodell kann sich in zwei Anwendungen deutlich anders verhalten. Systemanweisungen, eingebundene Quellen, Auswahlparameter, Werkzeuge und gespeicherte Zustände formen den jeweiligen Inferenzlauf. Das Modell stellt einen Möglichkeitsraum bereit; die Anwendung bestimmt, welcher Ausschnitt davon in diesem Moment erreichbar ist.

Auch wechselnde Antworten werden dadurch weniger rätselhaft. Sampling kann einen anderen Tokenpfad eröffnen. Ein veränderter Gesprächsverlauf verschiebt den Kontext. Eine neue Modellversion kann wiederum auf anderen Gewichten beruhen. Was von außen wie ein einziges Gegenüber erscheint, besteht aus mehreren technischen Schichten mit unterschiedlichen Lebenszeiten.

Eine KI-Antwort ist deshalb keine kleine Trainingseinheit. Sie ist der Augenblick, in dem eine in Gewichten geronnene Vergangenheit unter den flüchtigen Bedingungen der Gegenwart fortgeschrieben wird.