Vorschau-Umgebung - hier siehst du auch noch nicht freigegebenen Content.
Bauteil 01 / 05Block III · Inferenz

Die Modell-Landschaft

„Das eine LLM" gibt es nicht - es gibt hunderte Modelle, in allen Größen, offen und geschlossen. Die gute Nachricht: Dein Harness bleibt derselbe. Nur die Nummer, die er wählt, ändert sich.

Basics

Für alle frei: das Konzept, die Analogie, das Warum.

Beim LLM-Call haben wir eine Nummer gewählt: model. Bisher stand da einfach ein Name drin, und am anderen Ende hat jemand abgenommen. Jetzt schauen wir uns an, wen man überhaupt anrufen kann - denn die Auswahl ist größer, als die bekannten Namen vermuten lassen.

Zwei Welten: API und Open Weights

Die erste Weiche ist nicht „welches Modell", sondern „wo läuft es". API-Modelle (Claude, GPT, Gemini) wohnen beim Anbieter: Du schickst deinen Request hin, bezahlst pro Token und bekommst das jeweils stärkste Modell, ohne je eine Grafikkarte anzufassen. Dafür verlassen deine Daten das Haus, und der Anbieter kann Preise, Verhalten oder das Modell selbst jederzeit ändern.

Open-Weights-Modelle (Llama, Qwen, Mistral, Hermes …) kannst du herunterladen - die Gewichte, also die eigentlichen Zahlen des Netzes, liegen dann als Datei auf deiner Platte. Läuft auf deiner Hardware, deine Daten bleiben bei dir, das Modell ändert sich nie ohne dich. Dafür bist du jetzt der Betreiber.

Nebenbei: „Open Weights" ist nicht dasselbe wie „Open Source". Du bekommst die fertigen Zahlen, aber selten die Trainingsdaten oder das Rezept, mit dem sie entstanden sind.

Die Größe: was „7B" bedeutet

Das B steht für Milliarden - Parameter, die gelernten Zahlen im Netz. Ein 7B-Modell hat sieben Milliarden davon, ein 70B-Modell zehnmal so viele. Mehr Parameter heißt grob: mehr Weltwissen, besseres Schlussfolgern - aber auch mehr Speicher, mehr Rechenzeit, mehr Kosten pro Antwort.

Der Reflex „nimm das größte" ist trotzdem oft falsch. Für „fasse diese E-Mail zusammen" oder „ist diese Antwort ein Ja oder ein Nein?" ist ein kleines Modell schneller, billiger - und praktisch genauso gut. Die Kunst ist, die Aufgabe zu kennen, nicht die Rangliste.

Familien und Varianten

Modelle kommen in Familien: gleiche Architektur, verschiedene Größen (Llama 3.1 gibt es als 8B, 70B und 405B). Innerhalb einer Familie begegnen dir Beinamen:

  • Base - das rohe Modell nach dem Training. Vervollständigt Text, führt aber keine Gespräche.
  • Instruct / Chat - nachtrainiert darauf, Anweisungen zu folgen. Das ist es, was du für Agenten willst.
  • Spezialisten - für Code, für Bilder (Vision), fürs Einbetten von Text (Embeddings).

Und welches nehme ich jetzt?

Am schnellsten wird das alles begreifbar, wenn man es an echten Modellen sieht. Die folgende Fläche ist genau dafür da: kein Ranking, sondern ein Spektrum - vom 3B-Modell fürs Notebook bis zum Flaggschiff, das nur im Rechenzentrum läuft.

Stöbern

Zwölf offene Modelle zum Anschauen

Kein Ranking und kein Benchmark-Ersatz - ein Schaufenster. Jede Kachel zeigt die Begriffe aus diesem Kapitel an einem echten Modell; ein Klick öffnet die Einordnung und den Weg zum Repo.

Stand 2026-07-25 - jedes Repo an diesem Tag geprüft. Die Modell-Landschaft altert schnell: Was hier steht, ist eine Momentaufnahme, keine Bestenliste.

Größenklasse
Wofür
Bauart

12 Modelle

Die Modellwahl ist eine Engineering-Entscheidung, kein Glaubenskrieg: Aufgabe, Budget und Datenschutz bestimmen, wer angerufen wird - nicht die Schlagzeile der Woche.

Und die Architektur deines Agenten hat das längst eingepreist: model ist ein Feld im Request. Der Harness - Gespräch, Rolle, Werkzeuge, Loop - bleibt exakt derselbe, ob am anderen Ende ein 3B-Modell auf deinem Laptop abnimmt oder das größte API-Modell der Saison.

Vertiefung

Mit kostenlosem Konto: Experimente, Quizze und die Vertiefung.

Anmelden, um diesen Inhalt zu sehen

Dieser Bereich ist Mitgliedern vorbehalten. Logge dich ein, um weiterzulesen.

Jetzt anmelden

Deep-Dive

Für Pro-Mitglieder: die Tiefe für alle, die es wirklich bauen wollen.

Anmelden, um diesen Inhalt zu sehen

Dieser Bereich ist Mitgliedern vorbehalten. Logge dich ein, um weiterzulesen.

Jetzt anmelden

Diskussion· noch keine Beiträge

Unser Kommentar-Agent liest jeden neuen Beitrag, bedankt sich oder empfiehlt passende Inhalte.

Sei die erste Stimme - was denkst du dazu?

Melde dich an, um mitzudiskutieren.

Anmelden