Kapitel 6: „Klingt gut“ ist nicht „ist gut“
Die KI ist überzeugend — auch wenn sie danebenliegt. Drei Fragen, die du immer stellen darfst, und Tests als Wächter, der nie schläft.
Die KI klingt oft sehr überzeugend. Das ist ihre größte Stärke — und ihre größte Falle. Denn überzeugend heißt nicht immer richtig. Deshalb: Prüfe, was sie baut. Vertrau nicht blind.
Die KI kann sich Dinge ausdenken
Manchmal behauptet eine KI etwas völlig selbstsicher, das gar nicht stimmt — Fachleute nennen das „halluzinieren“. Bei Zahlen, Fakten und Namen gilt deshalb: nachhaken. Ein belegtes Beispiel: KI-Werkzeuge haben immer wieder Zusatz-Bausteine empfohlen, die es gar nicht gab. Wer sie ungeprüft übernimmt, baut auf Sand. Wenn du es nicht überprüfen kannst, liefere es nicht aus.
Drei Fragen, die du der KI immer stellen darfst
- „Woher weißt du das?“ — trennt Wissen von Raten.
- „Was könnte hier schiefgehen?“ — bringt die Fälle ans Licht, an die du nicht gedacht hast.
- „Bist du sicher, oder rätst du?“ — die KI ist oft ehrlicher, als man denkt, wenn man direkt fragt.
Woher weißt du das? Bist du sicher, oder rätst du?
Was könnte hier schiefgehen? Nenn mir die drei wahrscheinlichsten Probleme und wie wir sie abfangen.
Ich habe [X] gemacht. Erwartet habe ich [Y]. Passiert ist [Z]. Finde die Ursache und erklär sie mir, bevor du sie behebst.
Der stärkste Trick: Lass die KI ihre Arbeit beweisen
Das Beste, was du tun kannst: Gib der KI eine Möglichkeit, ihre eigene Arbeit zu prüfen. Bei Software heißt das Tests — kleine automatische Kontrollen, die nach jeder Änderung sagen „läuft“ oder „kaputt“. Das Wort klingt technisch, ist aber simpel: „Wenn ich hier ‚Anna‘ eintrage, muss danach ‚Anna‘ in der Liste stehen.“ Die KI schreibt solche Kontrollen für dich. Änderst du später etwas anderes und machst dabei aus Versehen die Liste kaputt, meldet der Test sofort „stimmt nicht mehr“ — bevor es dir im echten Betrieb auffällt.
Ein Test ist ein Wächter, der nie schläft.
Ein wichtiger Kniff dabei: Lass den Test vorher festlegen, was richtig ist. Sonst passt die KI im Zweifel den Test an, statt den Fehler zu beheben.
Schreib mir zu dieser Funktion einen automatischen Test, der beweist, dass sie funktioniert. Leg zuerst fest, was das richtige Ergebnis ist — dann teste dagegen.
Führe alle Tests aus und zeig mir das Ergebnis. Nichts gilt als fertig, solange ein Test rot ist.
„Klingt gut“ ist nicht „ist gut“
Das ist die wichtigste Unterscheidung im ganzen Kapitel. KI-Ergebnisse klingen fast immer überzeugend — flüssig, selbstsicher, professionell. Genau das ist die Gefahr: Der Ton verführt dazu, nicht mehr hinzuschauen. Mach es dir zur festen Gewohnheit, bei allem Wichtigen den kurzen Extra-Blick zu wagen. Nachprüfen statt vertrauen — dieser eine Reflex fängt mehr Fehler ab als jedes Werkzeug.
Aus dem Lesen soll Arbeit werden, die läuft.
Wir bauen Systeme wie die hier beschriebenen und halten sie am Laufen — bei uns oder auf deinem Server, es gehört dir. Oder wir bringen dich dahin, es selbst zu bauen.
🔁 Immer dabei: Exit-Garantie — kündigst du, ziehen wir alles kostenfrei auf einen Server deiner Wahl.
Handbuch „Eigene Software mit KI bauen“ — geschrieben aus eigener Erfahrung beim Aufbau von Sales-Engine, neu gefasst im September 2026. Kostenlos, ohne Anmeldung.