Lokale KI

Kapitel 01

Warum lokal

Was „lokal“ heißt, was dieser Kurs abdeckt — und was er bewusst weglässt.

4 Min. lesen

Kapitel 02

Die Vokabeln

Modell, Parameter, Quantisierung, Token, Kontextfenster, Inferenz. Sechs Wörter, ohne die der Rest keinen Sinn ergibt.

4 Min. lesen

Kapitel 03

Was dein Rechner hergibt

Der ehrliche Rahmen: warum es ohne Grafikkarte zäh wird, was ein Versionssprung daran geändert hat — und warum das größte Modell plötzlich Minuten braucht. Zweimal gemessen, ein Jahr Software dazwischen.

7 Min. lesen

Kapitel 04

Welches Modell

Klein, mittel oder groß — und warum das kleinste bei mir im Test still den halben Satz verschluckt hat.

7 Min. lesen

Kapitel 05

Ollama einrichten und der erste Satz

Installieren, ein Modell holen, den ersten Satz tippen — und den Modellordner dahin legen, wo Platz ist.

3 Min. lesen

Kapitel 06

Modelle holen, ansehen, loswerden

Sechs Befehle, mit denen du den Überblick behältst — und verhinderst, dass dir die Platte volläuft.

3 Min. lesen

Kapitel 07

Die Schnittstelle

Der Punkt, an dem Ollama vom Spielzeug zum Bauteil wird — und an dem alles andere in diesem Kurs andockt.

4 Min. lesen

Kapitel 08

Kleine Modelle anweisen

Bei Claude gibst du Kontext dazu. Bei einem 4b-Modell lässt du weg. Und du sagst ihm, wer spricht — sonst antwortet es als der Falsche.

6 Min. lesen

Kapitel 09

Whisper — Sprache wird Text

Das Werkzeug, das man am schnellsten nicht mehr missen will. Wie es funktioniert, welche Größe du brauchst und wo es Sätze erfindet.

4 Min. lesen

Kapitel 10

Diktieren im Alltag

Taste halten, sprechen, loslassen — und wie das Ding dahinter gebaut ist. Absichtlich plump, und genau deshalb lehrreich.

4 Min. lesen

Kapitel 11

Die sechs Modi

Whisper schreibt auf, Ollama räumt auf. Dieselbe Taste, sechs verschiedene Ergebnisse — je nachdem, was du dazu gedrückt hältst.

4 Min. lesen

Kapitel 12

Dem Werkzeug Wörter beibringen

Whisper kennt deine Fachwörter nicht. Der Trick: das Sprachmodell verrät dir selbst, welche fehlen.

4 Min. lesen

Kapitel 13

Schwärzen, bevor etwas hochgeht

Der beste Grund für lokale KI ist nicht Ideologie. Er ist ein Vertrag, den du von einer Cloud-KI lesen lassen willst — ohne die Namen darin.

4 Min. lesen

Kapitel 14

Der Anonymisierer von innen

Drei Schichten, die nacheinander suchen — jede findet, was die anderen übersehen. Mit einem echten Testlauf, Treffer für Treffer.

5 Min. lesen

Kapitel 15

Nie blind vertrauen

Das Muster hinter allen drei Werkzeugen — und der einzige Grund, warum man kleinen Modellen überhaupt etwas anvertrauen kann.

4 Min. lesen

Kapitel 16

Typische Fehler

Was schiefgeht, woran man es erkennt und was hilft. Alles selbst erlebt, das meiste mehrfach.

4 Min. lesen

Kapitel 17

Was es kostet

Kein Kontingent, keine Rechnung. Dafür Wartezeit, Plattenplatz und Strom — und der Punkt, ab dem die Cloud die vernünftigere Wahl ist.

4 Min. lesen

Kapitel 18

Kniffe, die man nicht auf Anhieb findet

Sieben Handgriffe für die lokale KI — einer davon macht das größte Modell zehnmal schneller. Und warum es dieses Kapitel bis vor Kurzem gar nicht geben sollte.

9 Min. lesen

Kapitel 19

Glossar A–Z

Jedes Wort aus diesem Kurs in einem Satz. Zum Nachschlagen, wenn es mitten im Tun fehlt.

4 Min. lesen

Kapitel 20

Quellen und Weiterlesen

Woher das Wissen stammt, was ich selbst gemessen habe — und warum eigene Messung hier über der Dokumentation steht.

6 Min. lesen