Latzerus · Ein echtes RAG-System von innen

So läuft eine Suchanfrage

Beispiel-Frage«Wo erkläre ich, was Qwen2.5-VL ist?»
Claudeder KI-AssistentSuchprogrammvermittelt · MCPOllamaübersetzt in ZahlenQdrantdas ArchivRerankerder Prüfer1Frage weitergeben2Frage übersetzen34096 Zahlen4in Wörter zerlegen5zwei Suchen6Kandidaten7die besten 30830 Paare9Noten 0 bis 110aussortieren11Treffer zurück



Wenn der Prüfer nicht antwortet
Nach einer Pause braucht der Prüfer rund 33 Sekunden zum Aufwachen. Früher wartete das Suchprogramm nur 30 Sekunden und lieferte dann ungeprüfte Treffer, ohne Warnung. Heute wartet es 2 Minuten. Und fehlt der Prüfer trotzdem, steht oben eine Warnung.[!] Reranker nicht erreichbar — Treffer sind ungerankt (RRF).


Pfeiltasten oder Klick auf einen Schritt


1–4 Übersetzen5–7 Suchen8–9 Prüfen10–11 Antworten
Das SuchprogrammEin kleines Programm, das Claude beim Start mitöffnet. Es kennt Ollama, das Archiv und den Prüfer und stellt die Antwort zusammen.


Der Prüfer (Reranker)Ein eigenes Programm im Hintergrund. Wacht auf, wenn eine Frage kommt, und schläft nach 10 Minuten Ruhe wieder ein, damit der Speicher frei wird.




Werte gemessen am 13.09. und 24.09.2026 in meinem System. Vereinfachte Darstellung — der Nachbau zum Lesen liegt als demo_suchserver_mcp.py und demo_reranker_dienst.py bei.