Wissensmanagement KI

KI-Wissensdatenbank aufbauen: in fünf Schritten

Hannes Meyer 7. September 2026 7 Min. Lesezeit

In diesem Beitrag

Kurzantwort

Eine KI-Wissensdatenbank verbindet freigegebene Dokumente mit einer Suche und einer verständlichen Antwort. Wenn du eine solche Lösung aufbauen möchtest, beginne mit einem klaren Wissensbereich und echten Fragen aus deinem Team. Danach folgen aktuelle Quellen, Zugriffsrechte und ein Test, der auch falsche oder unbeantwortbare Fragen enthält. Ein Chatfenster allein macht verstreutes Unternehmenswissen noch nicht verlässlich.

Kurzfazit

Starte beispielsweise mit dem Onboarding oder Produktwissen eines Teams.
Lege pro Quelle fest, wer sie pflegt und welche Version gilt.
Prüfe Berechtigungen vor der Übergabe von Informationen an die KI.
Teste richtige Antworten, passende Quellen und bewusst ausbleibende Antworten getrennt.
Plane Aktualisierung und Löschung von Anfang an mit ein.

Was passiert zwischen deiner Frage und der Antwort?

Ein häufiger Ansatz heißt Retrieval Augmented Generation, kurz RAG. Die Anwendung sucht zunächst passende Informationen aus deinen Quellen. Ein Sprachmodell erhält diese Auszüge als Kontext und formuliert daraus eine Antwort. Dafür muss das Modell nicht das gesamte Unternehmenswissen neu lernen. Microsoft beschreibt RAG als Verbindung von Suche und Antworten auf Basis eigener Inhalte. Quelle: Microsoft Learn zu RAG

Ein einfaches Ablaufbild lautet: Frage → Berechtigung prüfen → relevante Quellen finden → Antwort mit Fundstellen → fachlich prüfen.

Die Reihenfolge ist entscheidend. Wenn die Suche ein altes Handbuch findet, kann die KI eine flüssige, aber veraltete Antwort formulieren. Wenn ein notwendiger Absatz fehlt, darf sie die Lücke nicht mit einer plausiblen Vermutung schließen. Deshalb ist die Qualität der zugänglichen Quellen mindestens so wichtig wie die Formulierung der Antwort.

1. Einen Wissensbereich und konkrete Fragen festlegen

„Alle Dokumente durchsuchbar machen“ ist als erster Auftrag zu ungenau. Wähle eine Nutzergruppe und einen Bereich, in dem wiederkehrende Fragen Zeit kosten. Zum Beispiel: Neue Mitarbeitende sollen wissen, wie sie eine Kundenanfrage anlegen und welche Angaben erforderlich sind.

Sammle dafür zunächst Fragen aus dem Alltag. Notiere daneben die heute gültige Antwort und die Fundstelle. Wenn niemand eine verlässliche Quelle benennen kann, fehlt Wissen in der Dokumentation. Diesen Mangel kann eine KI nicht beheben.

Für den Pilot kannst du einen überschaubaren Fragenkatalog verwenden. Die folgende Übersicht ist eine redaktionelle Planungshilfe, keine technische Norm.

Fragentyp	Beispiel	Was der Test zeigen soll
Direkte Frage	Welche Angaben braucht eine neue Anfrage?	Die richtige Anleitung wird gefunden.
Andere Wortwahl	Was muss ich beim ersten Kundenkontakt erfassen?	Die Suche versteht den fachlichen Zusammenhang.
Fehlende Information	Welcher Rabatt gilt für diesen Sonderfall?	Die Antwort benennt die fehlende Grundlage.
Veraltete Regel	Gilt noch der Ablauf aus dem alten Handbuch?	Die gültige Version wird erkannt.
Fehlende Berechtigung	Welche internen Konditionen hat Kunde A?	Nicht freigegebene Informationen bleiben unzugänglich.

2. Quellen vorbereiten, ohne alles neu zu organisieren

Du brauchst für den Start kein perfektes Unternehmensarchiv. Du brauchst einen abgegrenzten Bestand mit aktuellen Informationen und klarer Verantwortung. Eine saubere Handvoll Prozessbeschreibungen ist dafür hilfreicher als tausend Dateien mit ungeklärtem Stand.

Erfasse pro Dokument Titel, Quelle, fachlich zuständige Person, Gültigkeit und zulässige Nutzergruppe. Entferne Dubletten aus dem Pilotbestand oder kennzeichne eindeutig, welche Fassung Vorrang hat. Prüfe bei gescannten PDFs, ob die Texterkennung die entscheidenden Angaben korrekt übernimmt.

Lange Dokumente werden für die Suche häufig in kleinere Abschnitte zerlegt. Dabei darf der Zusammenhang nicht verloren gehen. Eine Tabelle mit Lieferfristen ist ohne Produktnamen und Bedingungen wenig wert. Anthropic zeigt in seiner technischen Untersuchung zu Contextual Retrieval, dass zusätzlicher Kontext für einzelne Abschnitte die Suche verbessern kann. Das ist ein Anbieterexperiment, kein Nachweis für ein bestimmtes Ergebnis in deinem Unternehmen. Quelle: Anthropic, Contextual Retrieval

Die praktische Konsequenz: Teste genau die Formate, die bei dir vorkommen. Fließtext, Tabellen und gescannte Handbücher stellen unterschiedliche Anforderungen.

3. Rechte und Quellenzugang gemeinsam planen

Eine Anmeldung am Chat reicht nicht aus, wenn verschiedene Personen unterschiedliche Dokumente sehen dürfen. Die Suche muss ihre Ergebnisse auf die zulässigen Quellen begrenzen. Vertraulicher Inhalt sollte nicht erst nach dem Erzeugen einer Antwort herausgefiltert werden.

Microsoft dokumentiert dafür unter anderem Zugriffskontrollen auf Dokumentebene. Welche Rechte automatisch übernommen werden können, hängt von Quelle und technischer Umsetzung ab. Eine vorhandene Ordnerberechtigung ist daher noch kein Beleg, dass sie in einer neuen Suche korrekt greift. Quelle: Microsoft Learn zu Dokumentberechtigungen

Plane mindestens zwei Testrollen: eine Person mit Zugriff und eine ohne. Stelle beiden dieselbe sensible Frage. Prüfe außerdem Fundstellen, Vorschautexte und Gesprächsverläufe. Auch dort dürfen keine unzulässigen Informationen erscheinen.

4. Antworten mit einem festen Prüfkatalog abnehmen

Bewerte eine Antwort nicht nur danach, ob sie gut klingt. Eine nützliche Abnahme trennt vier Fragen:

Ist die Antwort fachlich richtig?
Belegt die angegebene Quelle genau diese Aussage?
Ist die Quelle aktuell und für die Person freigegeben?
Bleibt die Antwort bei fehlenden Informationen zurückhaltend?

Beispiel: Ein Dienstleistungsunternehmen möchte die interne Projektanlage vereinfachen. Im Pilot liegen die gültige Anleitung, eine alte Fassung und eine Liste der Zuständigkeiten. Auf die Frage nach dem Freigabeweg soll die Lösung die aktuelle Anleitung nennen. Für eine nicht dokumentierte Ausnahme soll sie an die zuständige Person verweisen.

Eine Antwort wie „Das macht vermutlich die Geschäftsführung“ wäre dabei ein Fehler, auch wenn sie plausibel klingt. Schreibe solche Fälle in eine Prüfliste und wiederhole sie nach Änderungen an Quellen, Suche oder Modell.

5. Den laufenden Betrieb vor dem Start festlegen

Wissen verändert sich. Neue Dokumente kommen hinzu, Personen wechseln die Abteilung, einzelne Informationen müssen gelöscht werden. Lege fest, wie diese Änderungen in die Suche gelangen und wie schnell sie wirksam sein müssen.

Zur Übergabe gehört deshalb eine kurze Betriebscheckliste:

Wer bestätigt neue oder geänderte Inhalte?
Wie werden gelöschte Quellen aus dem Suchbestand entfernt?
Was passiert nach einer Änderung der Zugriffsrechte?
Wer bearbeitet gemeldete falsche Antworten?
Welche Tests laufen nach einer technischen Änderung erneut?

Ein weiterer hilfreicher Maßstab ist die tatsächliche Nutzung: Finden Mitarbeitende ihre Antwort schneller, und müssen sie sie anschließend weniger oft korrigieren? Miss dafür denselben Fragentyp vor und nach der Einführung. Eine hohe Anzahl an Chatnachrichten allein belegt noch keine Entlastung.

Häufige Fragen zum Aufbau

Reicht dafür ein normaler Chatbot?

Ein Chatbot ist zunächst die Oberfläche. Für gemeinsam nutzbares Unternehmenswissen brauchst du zusätzlich eine verlässliche Quellenanbindung, Berechtigungen und einen Aktualisierungsweg. Was davon eine vorhandene Lösung bereits bietet, solltest du vor einer Neuentwicklung prüfen.

Müssen alle Dokumente zuerst bereinigt werden?

Nein. Starte mit dem Bereich, für den du Verantwortung und Qualität sichern kannst. Dokumente außerhalb dieses Bereichs bleiben zunächst außen vor. Erweitere erst, wenn die ersten Antworten und Abläufe verlässlich geprüft sind.

Was beeinflusst die Kosten?

Vor allem Datenaufbereitung, Anzahl und Art der Quellen, Rechte, Integrationen und Qualitätstests. Hinzu kommen Betrieb und Pflege. Unser Beitrag über Chatbot-Kosten und laufenden Aufwand hilft, diese Bestandteile voneinander zu trennen.

Einschätzung von Hannes Meyer

„Der wertvollste erste Schritt ist ein fachlich geprüfter Fragenkatalog. Er macht sichtbar, welches Wissen bereits belastbar dokumentiert ist und welches nur in den Köpfen einzelner Personen steckt. Damit lässt sich auch prüfen, ob die vorhandene Suche genügt oder eine KI-Antwort einen echten zusätzlichen Nutzen bietet.“

Hannes Meyer, 9DREI Studio

Wie unterstützt 9DREI Studio beim Aufbau?

9DREI prüft Quellen, strukturiert den Pilot und entwickelt eine KI-Wissensdatenbank für dein Unternehmen. Dazu gehören nachvollziehbare Antworten, definierte Rechte und Tests mit Fragen aus deinem Arbeitsalltag.

Wenn du Unternehmenswissen mit KI durchsuchen möchtest, beschreib uns den Wissensbereich, die Ablage und eine typische Frage. Besprich deinen Wissensdatenbank-Pilot mit uns. Vertrauliche Dokumente brauchst du für die erste Anfrage nicht mitzuschicken.

Fazit

Eine gute KI-Wissensdatenbank beginnt mit klaren Fragen, gültigen Quellen und überprüfbaren Rechten. Ein kleiner, sauber getesteter Wissensbereich liefert eine bessere Entscheidungsgrundlage für den Ausbau als ein großer, ungeprüfter Dokumentenimport.

Quellen

Aktualisierung

Erstellt und Quellen geprüft am 7. September 2026. Die Beispiele und Checklisten sind redaktionelle Planungshilfen. Konkrete technische Möglichkeiten hängen von den eingesetzten Systemen ab.