Harness, Teil 8: Kontext-Kompaktierung
Wenn das Gespräch das Fenster sprengt: Ältere Runden werden zusammengefasst - der Faden bleibt, der Verbrauch sinkt.
Worum es geht
In Teil 2 hast du es zum ersten Mal gespürt: Die ganze History fährt bei jeder Runde mit, und Runde zehn bezahlt die Runden eins bis neun noch einmal mit. Bisher war das ein Schulterzucken - jetzt, wo dein Agent per Trigger allein läuft und Aufträge abarbeitet, wird es eine Rechnung. Und irgendwann wird es eine Wand: Das Kontextfenster ist endlich.
Die Antwort darauf gehört zu den Erweiterungen aus Block II und heißt Kompaktierung: Älteres wird zur Zusammenfassung, Jüngstes bleibt wörtlich. Wird das Gespräch zu lang, fasst ein eigener Aufruf an dasselbe Modell die alten Runden zusammen; die Zusammenfassung ersetzt sie in der History, der System-Prompt und die letzten Runden bleiben unangetastet. Das ist das „kontextsparend" dieser Serie in seiner reinsten Form - und es ist eine Wette: Die Zusammenfassung behält, was später noch gebraucht wird, und wirft weg, was nicht. Worauf du diese Wette setzt, entscheidest du im Interview.
Am Ende dieses Teils läuft: Ein langes Gespräch läuft einfach weiter - und du siehst an echten Zahlen, was die Kompaktierung gespart hat.
So funktioniert der Bau
Wie gehabt: Prompt kopieren, deinem Coding-Agenten geben, Fragen beantworten. Der Prompt liest die harness-doku.html und setzt den Stand aus Teil 7 voraus.
Diese Sektion gehört zur Stufe Pro. Du bekommst Zugriff auf den vollständigen Code, weiterführende Erklärungen und das Rabbit-Hole-Material.
Stufen ansehen →Funktioniert, wenn
Die Kompaktierung greift nachweisbar, das Gespräch behält den Faden - eine Frage zu etwas Zusammengefasstem wird trotzdem richtig beantwortet - und die Token-Zahlen vor und nach dem Schnitt stehen als Beleg in deiner Doku. Ein Baustein fehlt noch, das Finale: Teil 9: Tool-Call-Optimierung - ein kleines Modell übernimmt den Werkzeuggriff.