Wie du dein HR-Handbuch als lokalen Chatbot aufsetzt
Der Aufbau ist der einfache Teil. Die Antwortqualität kostet zwei Entscheidungen.
YouTube-Video wird erst beim Klick geladen · cookie- & trackingfrei bis zur Interaktion
Ein HR-Handbuch beantwortet jedes Jahr dieselben Fragen. Ferien, Kündigungsfrist, Spesen, Homeoffice. Nur beantwortet sie meistens nicht das Handbuch, sondern eine Person — und zwar immer dieselbe.
In der letzten Lektion stand der Satz: Ollama allein macht noch kein RAG. Diese Lektion zeigt, was dazukommt, und zwar an genau diesem Fall. Der technische Aufbau ist dabei der einfache Teil — er ist schnell erledigt.
Interessant wird es an den zwei Stellen, über die kaum jemand spricht: welche Sprache dein einlesendes Modell versteht, und wie die Datei abgelegt ist. Dort entscheidet sich, ob die Antworten stimmen. Du bekommst hier die fünf Entscheidungen, die dieser Aufbau verlangt — und den Test, mit dem du merkst, ob du sie richtig getroffen hast.
Das Werkzeug ist die kleinste Entscheidung
Zwei Werkzeuge kommen für diesen Aufbau in Frage, und sie unterscheiden sich weniger im Können als im Aufwand.
- AnythingLLM — der schnellere Einstieg. Installieren, Handbuch reinziehen, fertig.
- Open WebUI — das, was im Dauerbetrieb bleibt. Kann mehr, die Einrichtung dauert dafür länger.
Für die erste Runde nimmst du AnythingLLM. Du willst herausfinden, ob deine Ablage taugt — nicht ein System betreiben.
Dahinter läuft Ollama. Und hier lohnt eine Präzisierung, weil sie oft falsch wiedergegeben wird: Beide Tools könnten auch einen Cloud-Dienst anzapfen. Ollama ist keine technische Voraussetzung. Es ist eine Entscheidung über die Daten — dein HR-Handbuch soll das Haus nicht verlassen.
Zwei Modelle — und beim zweiten schaust du aufs falsche Kriterium
Beim Aufbau sind zwei verschiedene Modelle beteiligt. Das eine formuliert die Antwort, die du liest — welches du dafür nimmst, ist eine eigene Lektion. Das andere liest deine Dokumente ein: das Embedding-Modell.
Beim zweiten greifen die meisten zum grössten, das auf ihren Rechner passt. Das ist die naheliegende Bewegung und an dieser Stelle die falsche.
Dieses Modell schreibt keine Sätze. Es vergleicht.
Ein kleines genügt also. Nur entscheidet hier nicht die Grösse, sondern die Sprache — und genau daran scheitert der bequeme Weg. AnythingLLM bringt all-MiniLM-L6-v2 mit, Open WebUI setzt dasselbe Modell als Standard ein. Die AnythingLLM-Dokumentation schreibt dazu, es sei «primarily trained on English documents».
Dein HR-Handbuch ist auf Deutsch. Nimm deshalb ein mehrsprachiges Modell über Ollama — snowflake-arctic-embed2 etwa führt Deutsch ausdrücklich unter den geprüften Sprachen. Es ist grösser als die Voreinstellung, und das ist der einzige Grund, von ihr abzuweichen: nicht mehr Qualität, sondern die richtige Sprache.
Eines noch, weil es sonst Arbeit kostet: Diese Wahl triffst du vor dem ersten Einlesen. Wer das Embedding-Modell später wechselt, liest alle Dokumente noch einmal ein.
Die Ablage entscheidet, nicht die Modellgrösse
Das ist die einzige der fünf Entscheidungen, die wirklich zählt. Dein Handbuch ist eine Datei — aber es sind dreissig verschiedene Fragen.
Beide Werkzeuge zerteilen dein Dokument automatisch, und zwar nach Zeichenzahl: Open WebUI empfiehlt für lokale Modelle 1000 Zeichen pro Stück mit 100 Zeichen Überlappung. Der Schnitt fällt dort, wo die Zählung endet — nicht dort, wo dein Kapitel endet. Die AnythingLLM-Dokumentation sagt das offen: «There is no guarantee that relevant text stays together during this step!»
Die Folge siehst du an deiner Ferienregelung: Die Hälfte liegt im einen Stück, der Rest im nächsten. Auf jede Frage kommt etwas Halbes zurück. Es klingt brauchbar, und genau das macht es gefährlich — du merkst erst spät, dass es nichts taugt.
Die Lösung steht schon in deinem Dokument. Trenn es dort, wo das Handbuch sich selbst trennt: ein Kapitel, eine Datei. Die Überschriften lässt du drin — sie sind die Wegweiser.
Damit ist der Pareto-Hebel dieser Lektion benannt: Nicht das grössere Modell macht die Antwort besser, sondern die saubere Ablage deiner eigenen Daten.
Die eine Frage, mit der du alles prüfst
Dein Handbuch schreibt Ferienanspruch. Der neue Mitarbeiter fragt: Wie viele Tage habe ich? Genau diese Lücke prüfst du — und zwar bevor du den Bot jemandem gibst.
Formuliere eine Frage so, wie du sie einem Kollegen stellen würdest. Bewusst ohne die Fachwörter aus dem Dokument.
- Kommt die richtige Stelle zurück, obwohl du ein anderes Wort getippt hast, arbeiten Modell und Ablage so, wie sie sollen.
- Kommt gar nichts Passendes, prüf zuerst das Embedding-Modell — ein englisch trainiertes findet die deutsche Umschreibung nicht.
- Kommt eine halbe Antwort, liegt es an der Ablage: Der Schnitt ging mitten durch das Kapitel.
Der schärfere Test kostet nichts: Lass jemanden fragen, der den Bot nicht aufgesetzt hat. Wer die Struktur nicht kennt, tippt automatisch die richtigen falschen Wörter.
Was gar nicht erst hineinkommt
Wer fragen darf, sieht alles, was in der Ablage liegt. Diese eine Regel entscheidet, was du befüllst.
Ein HR-Handbuch ist dafür meistens unproblematisch: Die Regeln gelten für alle, also dürfen sie auch alle lesen. Die Lohntabelle, eine einzelne Kündigung, ein Arztzeugnis sind etwas anderes. Das ist kein Handbuch mehr, das ist eine Personalakte.
In der Schweiz ist das nicht nur eine Frage des Anstands. Art. 328b OR erlaubt dem Arbeitgeber nur, Personendaten zu bearbeiten, «die die Eignung der Arbeitnehmerin oder des Arbeitnehmers für das Arbeitsverhältnis betreffen oder zur Durchführung des Arbeitsvertrages erforderlich sind». Eine Lohntabelle, die jeder im Betrieb abfragen kann, erfüllt das nicht.
Zwei getrennte Ablagen also — in AnythingLLM sind das zwei Workspaces, jeder mit seinen eigenen Dokumenten. Dieselbe Trennung, die auch beim Recherchieren mit Ollama gilt. Entschieden, bevor du befüllst. Danach kannst du nur noch aufräumen, und das ist etwas anderes, als es gar nicht erst hineinzugeben.
In 5 Schritten — direkt anwendbar
Typische Fehler — und wie du sie vermeidest
Fünf Fehler, nach denen der Bot Antworten gibt, die plausibel klingen und nichts taugen:
Fazit
Ein Chatbot auf dem eigenen HR-Handbuch ist kein Projekt. Er ist etwas Installationsarbeit und zwei Entscheidungen. Die Arbeit ist die Installation, die Entscheidungen sind das Modell und die Ablage — und nur diese beiden entscheiden darüber, ob jemand das Ergebnis benutzt.
Wer das einmal gesehen hat, stellt andere Fragen. Nicht mehr, welches Modell das grösste ist, sondern welches seine Sprache spricht — und wie sein eigenes Dokument eigentlich gegliedert ist. Das ist selten eine technische Frage.
Nimm dir diese Woche dein HR-Handbuch, lies es zweimal ein — einmal als ganze Datei, einmal kapitelweise — und stell beiden dieselbe Frage in Alltagsworten. Der Unterschied in den beiden Antworten ist die ganze Lektion — und er kostet dich zehn Minuten, nicht ein Projekt.
Weiterlernen statt warten
Die letzten 10 Prozent schaffst du selbst: Lies dein Handbuch heute einmal ganz und einmal kapitelweise ein — und hol dir das nächste Thema im Lernbereich. Kostenlos, ohne Anmeldung.
Zum LernbereichHäufige Fragen
Brauche ich einen Server dafür?
Nein. Für den Einstieg genügt der Rechner, an dem du ohnehin arbeitest. Ein HR-Handbuch ist ein überschaubarer Bestand — die Einmalkosten beim Einlesen halten sich in Grenzen, und danach passiert beim Fragen nur noch wenig.
AnythingLLM oder Open WebUI — was nehme ich?
Für die erste Runde AnythingLLM: schneller aufgesetzt, schneller beim Testen. Open WebUI lohnt sich, wenn der Aufbau bleiben soll und mehrere Leute damit arbeiten. Modell- und Ablage-Entscheidung aus dieser Lektion gelten für beide gleich — beide starten sogar mit demselben englischen Standardmodell.
Muss ich Ollama benutzen?
Technisch nicht — beide Werkzeuge können auch einen Cloud-Dienst anzapfen. Der Grund für Ollama ist ein anderer: Dein HR-Handbuch verlässt damit das Haus nicht. Das ist eine Entscheidung über deine Daten, keine über die Technik.
Reicht ein kleines Modell zum Einlesen?
Ja — es schreibt keine Sätze, sondern vergleicht Bedeutung. Nur muss es Deutsch können, und die Voreinstellung von AnythingLLM wie Open WebUI ist auf englischen Dokumenten trainiert. Nimm ein mehrsprachiges Modell über Ollama. Grösser wird es dadurch, aber nicht wegen der Qualität — wegen der Sprache.
Wie fein muss ich das Handbuch aufteilen?
So fein, wie es sich selbst aufteilt. Ein Kapitel wird eine Datei, die Überschriften bleiben stehen. Du musst keine neue Struktur erfinden — du musst nur die vorhandene stehen lassen, statt sie dem Automatismus zu überlassen, der stur nach Zeichenzahl schneidet.
Darf die Lohntabelle mit hinein?
Nein. Wer fragen darf, sieht alles, was in der Ablage liegt. Ein Handbuch gilt für alle, eine Lohntabelle nicht — und Art. 328b OR erlaubt dem Arbeitgeber nur Personendaten, die für das Arbeitsverhältnis erforderlich sind. Solche Dokumente gehören in eine zweite Ablage, entschieden bevor du befüllst.
Quellen & Zahlen
Die zwei Aussagen, an denen diese Lektion hängt — englisch trainiertes Standardmodell und Schnitt nach Zeichenzahl — stehen in den Dokumentationen der Werkzeuge selbst. Dazu die Schweizer Grenze für Personendaten.
- AnythingLLM Default Embedder Mintplex Labs, AnythingLLM Docs — Der eingebaute Standard-Embedder ist all-MiniLM-L6-v2 und laut Doku «primarily trained on English documents» — Beleg dafür, dass die Voreinstellung für ein deutsches Handbuch die falsche Wahl ist.
- Why does the LLM not use my documents (RAG in AnythingLLM) Mintplex Labs, AnythingLLM Docs — Dokumente werden beim Einlesen automatisch zerteilt, und die Doku hält fest: «There is no guarantee that relevant text stays together during this step!» — Beleg für den Schnitt mitten im Kapitel.
- RAG Troubleshooting — Embedding Model und Chunk Settings Open WebUI Docs — Open WebUI nutzt all-MiniLM-L6-v2 als Standard und empfiehlt für lokale Modelle «Chunk Size: 1000» mit «Chunk Overlap: 100» — Beleg dafür, dass nach Zeichenzahl geschnitten wird und beide Werkzeuge dasselbe englische Standardmodell mitbringen.
- snowflake-arctic-embed2 Ollama Model Library / Snowflake — «Arctic Embed 2.0 adds multilingual support without sacrificing English performance or scalability» — Deutsch gehört zu den ausgewiesen geprüften Sprachen; Beleg für die Empfehlung eines mehrsprachigen Embedding-Modells.
- Datenbearbeitung durch den Arbeitgeber (Art. 328b OR) Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter EDÖB — «Nach Artikel 328b ist nur die Bearbeitung von Personendaten zulässig, die die Eignung der Arbeitnehmerin oder des Arbeitnehmers für das Arbeitsverhältnis betreffen oder zur Durchführung des Arbeitsvertrages erforderlich sind» — Beleg für die Trennung von Handbuch und Personalakte.
Abgerufen am 18. September 2026, Wortlaut auf den Originalseiten geprüft. Standardwerte und Modellnamen ändern sich mit neuen Versionen — die Mechanik dahinter nicht.
Lieber als PDF mitnehmen?
Den vollständigen Inhalt dieser Seite gibt es zusätzlich als strukturiertes PDF-Paket — zum Offline-Lesen, Markieren und Weitergeben. Eine reine Komfort-Leistung. Der gesamte Inhalt bleibt weiter kostenlos auf dieser Seite — kein Login, keine Paywall, kein versteckter Bezahl-Inhalt.
Was im Paket enthalten ist
- PDF-Anleitung Aufbau: AnythingLLM mit Ollama verbinden, Embedding-Modell umstellen, Handbuch einlesen — mit den Klickpfaden.
- Checkliste Ablage: Was ins Handbuch-Workspace darf und was in die zweite Ablage gehört, inklusive der Grenze aus Art. 328b OR.
- Direkt-Link zur ungelisteten Langversion des Videos
9 EUR · einmalig · ohne Abo
Auf CopeCart öffnen →Abwicklung über CopeCart GmbH (DE) als Merchant of Record. Details in AGB §12.