Lokale KI · Ollama Schritt für Schritt · Kapitel 8 · 6 Min.

Kleine Modelle anweisen

Bei Claude gibst du Kontext dazu. Bei einem 4b-Modell lässt du weg. Und du sagst ihm, wer spricht — sonst antwortet es als der Falsche.

Wer von den großen Diensten kommt, macht hier zuverlässig denselben Fehler: Er schreibt einen langen, sorgfältigen Auftrag mit viel Hintergrund — und bekommt Murks zurück.

Bei einem großen Modell hilft Kontext. Bei einem kleinen ist Kontext Ablenkung. Die Regel lautet nicht „erkläre mehr“, sondern „lass weg, bis nur noch die Aufgabe dasteht“.

Vier Regeln

1. Eine Aufgabe, nicht drei.
   „Fasse zusammen und übersetze und formatiere als Tabelle“ ergibt drei halbe Ergebnisse. Drei Durchgänge nacheinander ergeben drei ganze.
2. Sag, was rauskommen soll — und nur das.
   Kleine Modelle plaudern gern vor der Antwort. „Antworte NUR mit dem Text, keine Vorrede, keine Anführungszeichen“ gehört in jeden Auftrag, bei dem das Ergebnis weiterverarbeitet wird.
3. Verbote wirken besser als Wünsche.
   „Erfinde nichts“ ist wirksamer als „bleib bitte nah am Original“. Kurz, hart, ohne Höflichkeitsfloskeln.
4. Beispiele schlagen Beschreibungen.
   Ein einziges Beispiel für Eingabe und gewünschte Ausgabe bringt mehr als drei Sätze Erklärung. Kleine Modelle ahmen gut nach, sie schließen schlecht.

Ein Auftrag, der funktioniert

Das hier ist der Auftrag, mit dem mein Diktierwerkzeug seit Monaten arbeitet. Gekürzt, aber im Aufbau echt:

Du bist ein konservativer Lektor für Diktattexte.
Deine EINZIGE Aufgabe: Füllwörter entfernen, doppelte
Wörter entfernen, Zeichensetzung korrigieren.

STRENGE REGELN:
- Behalte ALLE Inhaltswörter wörtlich.
- Erfinde NICHTS.
- Wenn ein Wort wie ein Kunstwort aussieht, lass es STEHEN.
- Im Zweifel: weniger ändern, nicht mehr.
- Antworte NUR mit dem polierten Text.

ROHER TEXT:
{text}

POLIERTER TEXT:

Sieh dir an, was daran arbeitet. Eine Rolle in einem Satz. Die Aufgabe mit dem Wort EINZIGE eingegrenzt. Vier Verbote. Und ganz unten der Trick: Der Auftrag endet mit POLIERTER TEXT: — das Modell hat gar keine andere Wahl, als genau dort weiterzuschreiben. Kein Platz mehr für „Gerne! Hier ist Ihr Text:“.

Der Fehler, den ich monatelang nicht bemerkt habe

Mein Werkzeug hat einen Modus, den ich „Dampf ablassen“ nenne. Man redet sich den Ärger von der Seele, und heraus kommt eine sachliche Nachricht, die man wirklich abschicken kann.

Beim Schreiben dieses Kurses habe ich ihn zum ersten Mal systematisch geprüft. Eingegeben:

das ist doch nicht zu fassen jetzt haben die schon wieder den falschen zähler eingebaut das ist das dritte mal langsam reicht es mir wirklich

Herausgekommen ist:

Es tut mir sehr leid zu hören, dass der Zähler erneut falsch eingebaut wurde. Wir nehmen dies sehr ernst und werden umgehend sicherstellen …

Das Modell hat die Seite gewechselt. Statt meine Beschwerde zu beruhigen, hat es die Antwort der Gegenseite geschrieben. Sachlich einwandfrei, höflich, brauchbar — und komplett unbrauchbar für das, was ich wollte.

Warum das passiert

Der Auftrag beschreibt die Aufgabe aus der Vogelperspektive: „Du erhältst ein emotional gesprochenes Transkript. Formuliere daraus eine klare, wirksame Nachricht.“ Nirgends steht, wer am Ende spricht.

Ein großes Modell rät das richtig, weil es den Zusammenhang mitdenkt. Ein 4b-Modell rät und liegt daneben. Der Text handelt von einer Beschwerde, also schreibt es das Wahrscheinlichste zu einer Beschwerde — eine Antwort darauf.

Achtung

Die Lücke in so einem Auftrag ist fast nie das, was falsch dasteht. Sie ist das, was gar nicht dasteht. Wer spricht? An wen? In welcher Person? Bei großen Modellen darf man das offen lassen. Hier nicht.

Die Reparatur wäre ein einziger Satz: „Schreibe in der Ich-Form aus Sicht der sprechenden Person.“ Ich habe ihn bewusst noch nicht eingebaut — eine Änderung an einem Auftrag gehört getestet, nicht geraten. Genau darum geht es in Kapitel 15.

Wenn du strukturierte Daten willst

Manchmal soll keine Prosa herauskommen, sondern eine Liste, die ein Programm weiterverarbeitet. Dafür kannst du Ollama zwingen, ausschließlich in einem festen Datenformat zu antworten — beim Aufruf gibst du format: json mit.

Mein PDF-Schwärzer macht das so: Er fragt nicht „welche Namen stehen da“, sondern verlangt eine Liste von Einträgen mit Text, Typ und Risiko. Was nicht in dieses Format passt, kommt gar nicht erst durch.

Wenn du denselben Auftrag immer wieder brauchst

Einen langen Auftrag jedes Mal mitzuschicken ist umständlich. Ollama kann ihn stattdessen fest ins Modell schreiben — samt Einstellungen, unter einem eigenen Namen.

Dafür legst du eine Textdatei namens Modelfile an:

FROM gemma3:4b
PARAMETER temperature 0.2
PARAMETER num_ctx 2048
SYSTEM """Du bist ein konservativer Lektor fuer Diktattexte.
Entferne Fuellwoerter und korrigiere Zeichensetzung.
Behalte ALLE Inhaltswoerter woertlich. Erfinde NICHTS.
Antworte NUR mit dem polierten Text."""

Und baust daraus dein eigenes Modell:

ollama create lektor -f ./Modelfile

Ab da gibt es lektor neben gemma3:4b in deiner Liste, mit den Hausregeln fest eingebaut. Du rufst es auf wie jedes andere Modell — der Auftrag muss nicht mehr mit.

Für ein einzelnes Werkzeug lohnt sich das selten, weil der Auftrag ohnehin im Programmcode steht. Es lohnt sich, wenn du denselben Auftrag von Hand in der Kommandozeile brauchst — oder wenn mehrere Werkzeuge dieselben Hausregeln teilen sollen.

Die Bremse nicht vergessen

Kleine Modelle können sich verhaken und dieselbe Wortgruppe endlos wiederholen. Zwei Einstellungen fangen das ab:

Bei mir steht in der Stopp-Liste unter anderem ROHER TEXT:. Damit hört das Modell auf, falls es anfängt, meinen eigenen Auftrag nachzuplappern — was kleine Modelle erstaunlich gern tun.

In einem Satz

Bei großen Modellen gibst du Kontext dazu, bei kleinen lässt du weg. Und du sagst ihnen, wer spricht — sonst antworten sie als der Falsche.