Wie du mit Ollama sicher recherchierst, ohne Spuren zu hinterlassen

Was «recherchieren» bei einem lokalen Modell überhaupt meint

Zuerst ein Missverständnis aus dem Weg: Nachschlagen im Internet ist nie lokal — dafür muss etwas nach draussen. Wie du schon aus der Lektion zum Arbeiten ohne Netz weisst: Ohne Verbindung fällt nicht die KI aus, es fällt das Nachschlagen aus.

Recherche bedeutet hier also etwas anderes als im Browser. Gemeint ist das Suchen in dem, was ohnehin schon bei dir liegt: deine Dokumente, deine Notizen, dein angesammeltes Wissen. Du fragst nicht die Welt. Du fragst deinen eigenen Bestand.

Und genau daraus folgt die Frage, um die es heute geht. Denn damit etwas durchsuchbar wird, muss es erst einmal irgendwo liegen. Diese Entscheidung — wo liegt es? — triffst du, bevor du tippst.

In der ersten Lektion dieses Lehrgangs hiess es: Bei lokaler KI stellt sich die Frage nicht mehr, ob ein Text da überhaupt rein darf. Für fast alles stimmt das. Für eine Sorte nicht — die tippst du gar nicht erst ein.

Drei Ablagen — und was von dir in jeder zurückbleibt

Das ganze Prinzip passt in drei Zeilen. Jede Ablage hat einen Inhalt, der hineingehört, und einen Rückstand, den sie erzeugt:

• Papier — hinein gehört: das wirklich Geheime, das nirgends hingehört. Zurück bleibt: keine digitale Spur.
• Lokal — hinein gehören: Kundendaten, firmeninterne Geheimnisse wie Finanzen, dein eigenes Wissen und deine Ideen. Zurück bleibt: eine Spur, aber nur auf deinem Gerät.
• Cloud — hinein gehört: alles andere, so wenig wie nötig, oder nur was du auch mit der Welt teilen würdest. Zurück bleibt: eine Spur beim Anbieter.

Die dritte Spalte ist die wichtige. Nicht «sicher» oder «unsicher» — das sind Etiketten, die dir beim Entscheiden nicht helfen. Sondern was bleibt von mir zurück. Diese Frage trägt auch in Fällen, die du noch nie hattest.

Und sie erklärt, warum Papier oben steht. Papier erzeugt kein Verzeichnis, keinen Index und keine Kopie, die irgendwo mitläuft. Das klingt altmodisch. Es ist trotzdem die einzige Ablage ohne digitale Spur. Eine lokale Wissensablage dagegen ist genau das, was Papier nicht ist: ein Index — bei dir, aber einer.

Zwei Wissensablagen — getrennt danach, wer sie lesen darf

So sieht das bei mir konkret aus. Lokale Modelle verwende ich für Kundendaten, firmeninterne Geheimnisse und mein eigenes Wissen. Ich habe zwei Wissensablagen: Auf die eine greift auch eine Cloud-KI zu. Die zweite durchsucht ausschliesslich mein lokales Modell — da liegt mein ganzes Wissen drin, meine Ideen, alles.

Dazu kommt ein Demo-Projekt mit rund zehntausend Seiten, zum Beispiel zu Finanzen, in dem ich wichtige Dokumente schnell durchsuche und Zusammenhänge finde. Genau solche Dokumente gehen ChatGPT oder Gemini nichts an.

Das Trennkriterium zwischen den beiden Ablagen ist eine einzige Frage: Wer darf sie lesen? Die eine darf auch eine Cloud-KI lesen, die andere nur mein lokales Modell.

«So wenig wie nötig» — und wo dieser Grundsatz nicht gilt

Alles, was weder auf Papier noch ins lokale Modell gehört, nutze ich ganz normal in der Cloud. Mit einem Grundsatz: so wenig wie nötig eingeben. Oder nur das, was ich auch mit der Welt teilen würde — dann ist es kein Problem.

Und hier muss ich mich selbst sofort einschränken, sonst wird daraus ein Freipass:

Kundendaten gehen nie in die Cloud. Auch nicht ein bisschen. Das war der ganze Inhalt der Lektion zum DSG-Check. «So wenig wie nötig» gilt für alles andere — nicht für Kundendaten.

Der Unterschied zwischen den beiden Sätzen ist kein sprachlicher. Bei Kundendaten gibt es keine erlaubte Restmenge, bei der es dann doch in Ordnung wäre. Bei deinem Entwurf für einen Blogtext gibt es sehr wohl ein sinnvolles Mass.

Was in der Cloud zurückbleibt, ist eine Spur beim Anbieter. Nicht mehr und nicht weniger: Die Eingabe verlässt dein Gerät. Was danach damit geschieht, hängt vom Anbieter und von deinen Einstellungen ab — darüber sagt dieser Artikel bewusst nichts. Für die Ablage-Entscheidung reicht die erste Tatsache völlig aus.

Was «lokal» nicht bedeutet

Zum Schluss drei Dinge, die in der Begeisterung für lokale KI gern untergehen. Sie machen das Prinzip nicht kaputt — sie machen es belastbar.

1. Lokal heisst: die Spur bleibt auf deinem Gerät. Nicht: es gibt keine. Die Ollama-App speichert deinen Chatverlauf bei dir. Wer das nicht will, löscht den Chat. Das ist ein Handgriff — aber einer, den du kennen musst. Wer Ollama auch im Terminal nutzt: Dort landen deine Eingaben zusätzlich in der Datei ~/.ollama/history, und die erwischt das Löschen in der App nicht.
2. Nicht jedes Modell in der App läuft bei dir. Es gibt Cloud-Modelle. Sie tragen «cloud» im Namen, etwa gpt-oss:120b-cloud, und laufen auf den Servern von Ollama, mit Konto. Für die Websuche gilt dasselbe. Wer etwas in die lokale Ablage gibt, schaut vorher auf den Modellnamen.
3. Papier bleibt die einzige Ablage ohne digitale Spur. Deshalb steht es oben und nicht aus Nostalgie.

Punkt zwei ist der teuerste. Wer annimmt, dass alles in der Ollama-App automatisch bei ihm rechnet, gibt unter Umständen lokal etwas ab, das gar nicht lokal bleibt. Der Modellname ist der Ort, an dem du das siehst — ein Blick, zwei Sekunden.

Noch einfacher ist es, die Möglichkeit ganz wegzunehmen. Ollama lässt sich so einstellen, dass die Cloud-Funktionen aus sind: mit dem Eintrag "disable_ollama_cloud": true in der Datei ~/.ollama/server.json oder mit der Umgebungsvariable OLLAMA_NO_CLOUD=1. Nach einem Neustart von Ollama sind Cloud-Modelle und Websuche weg. Einmal eingestellt, musst du nicht mehr bei jeder Eingabe daran denken.