Drei KI-Berater, eine Wissensbasis: Karli, Rob und der Handbuch-Chat

Ein Chatbot, der Produkte erfindet, die es gar nicht gibt, ist schlimmer als kein Chatbot. Genau deshalb steht bei unseren drei KI-Beratern nicht das Sprachmodell im Mittelpunkt, sondern das Drumherum: die Leitplanken, die verhindern, dass eine falsche Antwort überhaupt beim Kunden landet. Karli berät Besucher auf unserer Website, Rob Macher ist auf mach-mich.de unterwegs, und der Handbuch-Chat beantwortet intern Fragen aus unserem technischen Wissen. Drei Anwendungen, ein Prinzip – und keine einzige Anfrage, die in eine fremde Cloud wandert.

Warum das Sprachmodell nicht das Wichtigste ist

Stell Dir vor, Du fragst einen Berater nach einem Etikettendrucker für Deine Produktionslinie – und bekommst eine Antwort, die sich flüssig liest, aber ein Gerät beschreibt, das es nie gab. Genau dieses Risiko kennt jeder, der schon einmal mit einem frei laufenden Chatbot gesprochen hat. Die Ursache ist nicht Bosheit, sondern Statistik: Ein Sprachmodell erzeugt die wahrscheinlichste Fortsetzung eines Satzes, nicht die wahrheitsgemäße.

Unsere Antwort darauf ist unspektakulär, aber wirksam: Wir geben dem Modell nur das Material, mit dem es arbeiten darf – und wir prüfen hinterher, ob es sich daran gehalten hat. Das ist der ganze Trick.

RAG: Erst suchen, dann sprechen

Bevor ein einziges Wort generiert wird, durchsucht das System unsere eigene Wissensdatenbank. Dort liegen Produktdaten, Handbücher, technische Spezifikationen und Antworten auf wiederkehrende Fragen – als Vektorindex, der auch inhaltliche Ähnlichkeit findet und nicht nur exakte Stichworte.

Die Regel, die alles zusammenhält

• Das Modell darf ausschließlich mit dem antworten, was die Suche tatsächlich liefert.
• Steht die Antwort nicht im gefundenen Material, muss das System das sagen – statt zu raten.
• Jede Antwort kennt ihre Quellen und kann sie mitliefern.

Dieses „Nein sagen“ ist die schwierigste Disziplin überhaupt. Ein Modell, das zu allem etwas weiß, wirkt im ersten Moment beeindruckend – im Kundengespräch ist es eine Falle. Deshalb testen wir systematisch, wie oft unser System lieber schweigt als fantasiert. Wie so ein Test aufgebaut ist, haben wir in unserem Werkzeugtest mit 29 Fallen beschrieben – dieselbe Denkweise steckt hinter jeder Prüfung unserer Berater.

Der zweite Blick: eine KI kontrolliert die andere

Selbst mit gutem Quellenmaterial kann eine Antwort danebenliegen. Deshalb gibt es einen zweiten Schritt: einen Grounding-Prüfer, der die fertige Antwort noch einmal gegen die gefundenen Quellen hält. Er fragt nicht „Klingt das gut?“, sondern „Steht das wirklich da?“.

• Quellentreue: Deckt das Material jede Aussage der Antwort?
• Vollständigkeit: Fehlt ein wichtiger Hinweis, den die Quelle enthält?
• Klarheit: Ist die Antwort für einen Menschen verständlich – ohne Fachjargon-Wolken?

Fällt eine Antwort durch, wird sie überarbeitet oder ehrlich abgelehnt. Für Dich als Nutzer heißt das: Was Du liest, hat zwei Prüfungen überstanden.

Die Lernschleife: Das System wird durch Benutzung besser

Der dritte Baustein ist der, der unsere Berater von einem starren FAQ unterscheidet. Jede Bewertung, jede Korrektur und jede häufig gestellte Frage fließt zurück in die Wissensbasis.

So wächst die Qualität

• Häufig gestellte Fragen bekommen geprüfte Antworten, die das Modell künftig bevorzugt nutzt.
• Korrekturen werden zu festen Regeln, die zukünftige Antworten binden.
• Neue Produktdaten landen im Index – ohne dass ein Modell neu trainiert werden muss.

Das ist der entscheidende Unterschied zu einem trainierten Modell: Wir müssen nichts umlernen, wir ergänzen Wissen. Ein neuer Drucker, eine geänderte Spezifikation, ein häufiger Kundenwunsch – all das ist nach dem Einpflegen sofort Teil der Antworten. Genau so arbeiten wir auch bei der Auswahl der Modelle selbst: nicht raten, sondern messen, wie in unserem Beitrag zur Modellwahl durch Tests beschrieben. Und das Beste- Kundendaten fließen nicht in den neuen Lernprozess sondern werden dort gegen Max Mustermann und andere anonymisierte Adressen ausgetauscht.

Alles bleibt im Haus – und das ist kein Nebensatz

Chat-Verläufe, Kundendaten, internes Handbuchwissen: Nichts davon geht an einen Cloud-Anbieter. Der interne Handbuch-Chat bedeutet für unsere Mitarbeiter, dass sie frei fragen können – nach Fehlercodes, Ersatzteilen, Konfigurationen –, ohne dass Firmenwissen das Haus verlässt.

Für die Praxis heißt das: Ein Mitarbeiter tippt eine Frage ein und hat den ersten Antwortbaustein in Sekundenbruchteilen auf dem Bildschirm. Die Maschine im Haus bedient dabei mehrere Aufgaben gleichzeitig – Website-Chat, ERP-Anbindung und Hintergrunddienste laufen parallel, ohne dass die Antwortqualität einbricht. Wenn Du wissen willst, wie sich so ein Betrieb im Alltag anfühlt, lohnt der Blick in unsere Praxis zur On-Premise-KI im Mittelstand.

Was Du daraus für Deine eigene Produktwelt mitnimmst

Die drei Berater sind kein Zufallsprodukt, sondern ein Muster, das sich übertragen lässt:

• Eigene Wissensbasis zuerst: Sammle Produktdaten, Handbücher und FAQ, bevor Du über ein Modell sprichst.
• Antworten nur aus Quellen: Erlaube dem Modell, „das weiß ich nicht“ zu sagen.
• Prüfschritt einbauen: Lass eine zweite Instanz die Antwort gegen die Quellen kontrollieren.
• Lernschleife schließen: Korrekturen aus dem Betrieb müssen dauerhaft wirken.
• Hardware im eigenen Haus: Erst damit sind Kundendaten und Firmenwissen wirklich geschützt.

Wer so vorgeht, bekommt keinen Chatbot, der schlau klingt, sondern einen Berater, dem man vertrauen kann. Und wenn Du das live sehen möchtest: Probiere Karli direkt auf unserer Website aus. Wenn Du Deinen eigenen Berater für Deine Produktwelt aufsetzen willst, vereinbare einen Termin mit unserem Team – wir zeigen Dir im Showroom in Recklinghausen, wie so ein System auf eigener Hardware aussieht, und stellen Dir auf Wunsch ein Testgerät zur Verfügung, damit Du vor dem Kauf prüfen kannst, ob es zu Deinen Abläufen passt.

Aktuelles rund um KI-Berater