Lokale KI

Kapitel 01

Warum lokal

Was „lokal“ heißt, was dieser Kurs abdeckt — und was er bewusst weglässt.

4 Min. lesen

Kapitel 02

Die Vokabeln

Modell, Parameter, Quantisierung, Token, Kontextfenster, Inferenz. Sechs Wörter, ohne die der Rest keinen Sinn ergibt.

5 Min. lesen

Kapitel 03

Was dein Rechner hergibt

Der ehrliche Rahmen: warum es ohne Grafikkarte zäh wird, was drei Messreihen daran geändert haben — und was die integrierte Grafik bringt. Dreimal gemessen, zuletzt am 03.11.2026.

10 Min. lesen

Kapitel 04

Welches Modell

Klein, mittel oder groß — und warum das kleinste bei mir im Test erst den halben Satz verschluckte und heute den Text gar nicht mehr anfasst.

8 Min. lesen

Kapitel 05

Ollama einrichten und der erste Satz

Installieren, ein Modell holen, den ersten Satz tippen — und den Modellordner dahin legen, wo Platz ist.

4 Min. lesen

Kapitel 06

Modelle holen, ansehen, loswerden

Sieben Befehle, mit denen du den Überblick behältst — und verhinderst, dass dir die Platte volläuft.

4 Min. lesen

Kapitel 07

Die Schnittstelle

Der Punkt, an dem Ollama vom Spielzeug zum Bauteil wird — und an dem alles andere in diesem Kurs andockt.

5 Min. lesen

Kapitel 08

Kleine Modelle anweisen

Bei Claude gibst du Kontext dazu. Bei einem 4b-Modell lässt du weg. Und du sagst ihm, wer spricht — sonst antwortet es als der Falsche.

6 Min. lesen

Kapitel 09

Whisper — Sprache wird Text

Das Werkzeug, das man am schnellsten nicht mehr missen will. Wie es funktioniert, welche Größe du brauchst und wo es Sätze erfindet.

4 Min. lesen

Kapitel 10

Diktieren im Alltag

Taste halten, sprechen, loslassen — und wie das Ding dahinter gebaut ist. Absichtlich plump, und genau deshalb lehrreich.

4 Min. lesen

Kapitel 11

Die sechs Modi

Whisper schreibt auf, Ollama räumt auf. Dieselbe Taste, sechs verschiedene Ergebnisse — je nachdem, was du dazu gedrückt hältst.

4 Min. lesen

Kapitel 12

Dem Werkzeug Wörter beibringen

Whisper kennt deine Fachwörter nicht. Der Trick: das Sprachmodell verrät dir selbst, welche fehlen.

4 Min. lesen

Kapitel 13

Schwärzen, bevor etwas hochgeht

Der beste Grund für lokale KI ist nicht Ideologie. Er ist ein Vertrag, den du von einer Cloud-KI lesen lassen willst — ohne die Namen darin.

4 Min. lesen

Kapitel 14

Der Anonymisierer von innen

Drei Schichten, die nacheinander suchen — jede findet, was die anderen übersehen. Mit einem echten Testlauf, Treffer für Treffer.

5 Min. lesen

Kapitel 15

Nie blind vertrauen

Das Muster hinter allen drei Werkzeugen — und der einzige Grund, warum man kleinen Modellen überhaupt etwas anvertrauen kann.

4 Min. lesen

Kapitel 16

Typische Fehler

Was schiefgeht, woran man es erkennt und was hilft. Alles selbst erlebt, das meiste mehrfach.

4 Min. lesen

Kapitel 17

Was es kostet

Kein Kontingent, keine Rechnung. Dafür Wartezeit, Plattenplatz und Strom — und der Punkt, ab dem die Cloud die vernünftigere Wahl ist.

4 Min. lesen

Kapitel 18

Kniffe, die man nicht auf Anhieb findet

Acht Handgriffe für die lokale KI — vom Denken abschalten bis zur Cloud ganz aus. Und warum es dieses Kapitel bis vor Kurzem gar nicht geben sollte.

13 Min. lesen

Kapitel 19

Glossar A–Z

Jedes Wort aus diesem Kurs in einem Satz. Zum Nachschlagen, wenn es mitten im Tun fehlt.

4 Min. lesen

Kapitel 20

Quellen und Weiterlesen

Woher das Wissen stammt, was ich selbst gemessen habe — und warum eigene Messung hier über der Dokumentation steht.

8 Min. lesen