Prüfen und absichern
KIKI-generiertMade in EUDie KI klingt oft sehr überzeugend. Das ist ihre größte Stärke — und ihre größte Falle. Denn überzeugend heißt nicht immer richtig. Deshalb: prüfe, was sie baut. Vertrau nicht blind.
Die KI kann sich Dinge „ausdenken"
Manchmal behauptet eine KI etwas völlig selbstsicher, das gar nicht stimmt — Fachleute nennen das „halluzinieren". Bei Zahlen, Fakten und Namen gilt deshalb: nachhaken. Frag ruhig: „Woher weißt du das?" oder „Bist du sicher?". Und prüfe wichtige Dinge selbst nach.
Der stärkste Trick: die KI soll sich selbst prüfen lassen
Das Beste, was du tun kannst, ist der KI eine Möglichkeit zu geben, ihre eigene Arbeit zu testen. Bei Software heißt das: kleine automatische Tests, die nach jeder Änderung sagen „läuft" oder „kaputt". Sag der KI: „Schreib mir dazu auch einen Test, der beweist, dass es funktioniert." Ein wichtiger Kniff dabei — lass den Test vorher festlegen, was richtig ist; sonst passt die KI im Zweifel den Test an, statt den Fehler zu beheben.
Bei uns ist die Regel eisern: Jede Änderung am Kern bekommt einen Test, und die ganze Test-Sammlung muss grün sein, bevor etwas als „fertig" gilt. Das hat uns schon oft davor bewahrt, einen Fehler live gehen zu lassen. Prüfen ist nicht die lästige Pflicht am Schluss — es ist der Grund, warum man ruhig schlafen kann.
Was ein Test eigentlich ist — ganz einfach
Das Wort „Test" klingt technisch, ist aber simpel. Ein Test ist nur eine kleine automatische Kontrolle, die sagt: „Wenn ich hier ‚Anna' eintrage, muss danach ‚Anna' in der Liste stehen." Die KI schreibt solche Kontrollen für dich. Der Wert: Änderst du später etwas anderes und machst dabei aus Versehen die Liste kaputt, meldet der Test sofort „stimmt nicht mehr" — bevor es dir im echten Betrieb auffällt. Ein Test ist ein Wächter, der nie schläft.
Drei Fragen, die du der KI immer stellen darfst
- „Woher weißt du das?" — trennt Wissen von Raten.
- „Was könnte hier schiefgehen?" — bringt die Fälle ans Licht, an die du nicht gedacht hast.
- „Bist du sicher, oder rätst du?" — die KI ist oft ehrlicher, als man denkt, wenn man direkt fragt.
„Klingt gut" ist nicht „ist gut"
Das ist die wichtigste Unterscheidung im ganzen Kapitel. KI-Ergebnisse klingen fast immer überzeugend — flüssig, selbstsicher, professionell. Genau das ist die Gefahr: Der Ton verführt dazu, nicht mehr hinzuschauen. Mach es dir zur festen Gewohnheit, bei allem Wichtigen den kurzen Extra-Blick zu wagen. Bei uns hat dieser eine Reflex — nachprüfen statt vertrauen — schon manchen Fehler abgefangen, bevor er jemandem wehtun konnte.