Message-History

Nach jeder Antwort legen wir auf - der nächste Anruf beginnt bei null. Kontext entsteht erst, wenn wir das Protokoll des Gesprächs jedes Mal komplett vorlesen.

Basics

Für alle frei: das Konzept, die Analogie, das Warum.

Der Call aus Bauteil 1 ist zustandslos. Damit ein Gespräch entsteht, führt der Harness ein Protokoll und liest es bei jedem Anruf von vorn vor. Das ist die Message-History - und der Grund, warum „Gedächtnis“ bei LLMs etwas völlig anderes bedeutet, als man denkt.

Jeder LLM-Aufruf ist zustandslos. Damit ein Agent über mehrere Schritte kohärent bleibt, musst du die Message-History mitschicken - und zahlst dafür mit Tokens. Gedächtnis ist deshalb immer ein Abwägen: genug Kontext für Kohärenz, wenig genug für Kosten und Fokus.

In Arbeit

Diese Stufe wird gerade geschrieben. Das ist die Gliederung - so wird sie aufgebaut sein:

Das messages-Array - Rollen system, user und assistant - wie aus einzelnen Anrufen ein Gespräch wird.
Vorlesen kostet - Warum bei jedem Turn der komplette Verlauf mitgeht und was das in Tokens bedeutet.
Der Härtetest - Eine Nachricht aus dem Protokoll streichen und zusehen, was der Agent sofort vergisst.