Lokale KI · Praxis · Kapitel 15 · 4 Min.

Nie blind vertrauen

Das Muster hinter allen drei Werkzeugen — und der einzige Grund, warum man kleinen Modellen überhaupt etwas anvertrauen kann.

Wenn du aus diesem Kurs einen einzigen Satz mitnimmst, dann diesen:

Ein kleines lokales Modell lässt man nie handeln. Man lässt es vorschlagen und prüft maschinell nach.

Das ist keine Vorsichtsregel für Ängstliche. Es ist der Grund, warum die drei Werkzeuge in diesem Kurs überhaupt brauchbar sind — obwohl jedes einzelne von ihnen regelmäßig Unsinn produziert.

Dreimal dasselbe Muster

In keinem der drei Fälle darf das Modell etwas festlegen. Es darf zeigen, wo man hinsehen soll. Entschieden wird woanders — von einer schlichten Regel oder von einem Menschen.

Warum das gerade lokal so wichtig ist

Bei den großen Diensten kann man sich eine gewisse Nachlässigkeit leisten. Die Modelle sind so gut, dass grober Unsinn selten wird. Bei einem Modell, das auf deinem Bürorechner läuft, ist Unsinn nicht die Ausnahme, sondern eine Betriebsgröße, mit der man plant.

Aus diesem Kurs allein, alles selbst gemessen:

• Das kleine Modell hat beim Aufräumen stillschweigend einen halben Satz gestrichen — obwohl im Auftrag stand, alle Inhaltswörter zu behalten.
• Der Dampf-ablassen-Modus hat die Seite gewechselt und die Antwort der Gegenseite geschrieben.
• Der E-Mail-Modus hat „in meiner Wohnung“ dazuerfunden — obwohl im Auftrag steht, nichts zu erfinden.
• Das größte Modell lief unter einer bestimmten Einstellung viermal von vier in Endlosschleifen, einmal auf Vietnamesisch.
• Whisper schreibt bei Stille „Untertitelung des ZDF, 2020“ in dein Textfeld.

Kein einziger dieser Fehler war ein Absturz. Alle sahen aus wie ein Ergebnis.

Achtung

Die gefährliche Sorte Fehler ist nicht die, bei der etwas abstürzt. Es ist die, die sich flüssig liest. Ein gestrichener Halbsatz fällt niemandem auf — der Text klingt ja rund. Man merkt es erst, wenn der Termin platzt.

Wie eine Nachprüfung aussehen darf

Das Erstaunliche: Keine der Prüfungen in diesem Kurs hat mit KI zu tun. Es sind vier Arten, alle stumpf, alle wirksam:

Die letzte ist die, die mir gefehlt hat. Beim Polieren würde ein simpler Abgleich der Inhaltswörter — was war vorher da, was ist noch da — genau den Fehler fangen, der mir im Test aufgefallen ist. Er steht auf meiner Liste.

Zwei Werkzeuge sind besser als ein besseres

Der Kniff mit dem Lexikon aus Kapitel 12 ist das schönste Beispiel dafür. Zwei unzuverlässige Werkzeuge — Whisper und das Sprachmodell — werden nicht besser gemacht. Man stellt sie einander gegenüber und wertet den Widerspruch aus.

Wo beide dasselbe sagen, ist es vermutlich richtig. Wo sie sich unterscheiden, lohnt ein Blick. Das ist billiger, als ein größeres Modell zu kaufen, und es funktioniert auf Hardware, die man schon hat.

Und wo du selbst nachprüfen musst

Manches lässt sich nicht automatisieren. Für den Alltag reichen drei Gewohnheiten:

1. Lies, was du abschickst.
   Alles, was aus einem der Umschreib-Modi kommt, geht durch deine Augen, bevor es aus dem Haus geht. Immer.
2. Prüfe auf Vollständigkeit, nicht auf Schönheit.
   Die Frage ist nie „liest sich das gut“. Die Frage ist „steht alles noch drin, was ich gesagt habe“. Besonders Zahlen, Termine und Namen.
3. Miss nach jeder Änderung neu.
   Neues Modell, neuer Auftrag, neuer Schalter — vorher und nachher dieselbe Aufgabe rechnen lassen und vergleichen. Ohne das änderst du blind.

In einem Satz

Keine der Prüfungen in diesem Kurs braucht selbst wieder KI. Zählen, ob noch alles dasteht, ist stumpf — und stumpf ist hier ein Kompliment.