Claude Desktop Ollama: lokale Modelle in der App 2026

Micha, Private-AI-Berater bei Pexon Consulting | 9 Min. Lesezeit | 04.09.2026

TL;DR: Claude Desktop Ollama kurz erklärt

Claude Desktop Ollama verbindet Anthropics Desktop-App mit lokalen oder Cloud-Modellen über Ollama als Third-Party-Gateway. Seit Ollama v0.33.0 vom 21. August 2026 reicht ein Toggle in der Mac-App. Pexon Consulting (80 Mitarbeiter, Deutschland, Microsoft Partner) sieht das als sauberen Laptop-POC, nicht als Flottenbetrieb. Daten bleiben lokal, solange kein Ollama-Cloud-Modell gewählt wird.

Das Problem: Die App ist gut, das Modell darf nicht immer raus

Claude Desktop ist für viele Entwickler die Oberfläche, mit der sie Dateien anfassen, Subagents starten und im Auto-Mode Rechte vergeben. Das Modell dahinter war bis vor kurzem Anthropic. Genau das stoppt den Rollout in regulierten Teams. Sobald der Assistent in Angeboten, Specs oder Kundendaten liest, ist „die Prompts gehen nach US-Cloud“ kein Detail mehr, sondern ein Nein vom Datenschutz.

Die übliche Ausweichbewegung kennen wir aus Projekten: Open WebUI auf einem Ubuntu-Kasten, oder der Entwickler bleibt in der CLI. Beides funktioniert. Beides wirft die Desktop-Oberfläche weg, die das Team schon gelernt hat. Claude Desktop Ollama schließt genau diese Lücke: dieselbe App, anderes Gehirn.

Das ist kein Schönheitsupdate. Es ist die Trennung von Harness und Modell, und die hat Ollama am 25. August 2026 öffentlich gemacht, drei Tage nach dem Release von v0.33.0. Wer das als „jetzt ist Private AI fertig“ liest, liegt falsch. Wer es als den saubersten Laptop-POC des Spätsommers liest, liegt richtig.

Warum der erste Anlauf im April 2026 scheiterte

Ollama hat das nicht beim ersten Versuch hinbekommen. Im Januar 2026 kam die Anthropic-Messages-API, damit zeigte Claude Code schon auf http://localhost:11434. Im April öffnete Anthropic in Claude Desktop die Third-Party-Inference. Ollama zog mit ollama launch claude-desktop nach.

Tage später war die Integration tot. Ein Claude-Desktop-Update akzeptierte die Gateway-Verbindung, wies aber jede nicht-anthropische Modell-ID zurück. Ollama zog das Feature zurück, mit der Begründung, die Desktop-Anbindung sei auf Anthropic-Modelle begrenzt.

Der zweite Anlauf sitzt woanders. Ab v0.33.0 startet Ollama einen eigenen lokalen Proxy. Claude Desktop spricht mit einem Endpunkt, der sich wie ein legitimes Anthropic-Gateway benimmt. Die Übersetzung auf Qwen oder Kimi passiert erst dahinter. Deshalb reicht jetzt ein Schalter, und deshalb müssen Sie kein HTTPS-Reverse-Proxy mehr vor Port 11434 setzen, wie ältere englische Anleitungen das noch beschreiben.

v0.33.2 (27. August 2026) hat nachgelegt: Der Proxy bricht laufende Requests nicht mehr ab, wenn sich der Modellkatalog aktualisiert. Aktuell ist v0.33.3 vom 2. September 2026. Das GitHub-Repo liegt bei 180.118 Sternen, Abruf 4. September 2026.

Unsere klare Empfehlung: Wenn jemand im Team noch Developer Mode, Gateway-URL und selbst gebautes TLS konfiguriert, ist das der alte Weg. Den Toggle in der Ollama-App nehmen, den Rest lassen.

Claude Desktop Ollama einrichten: drei Schritte, dann Modellwahl

Voraussetzung ist Ollama v0.33.0 oder neuer auf dem Mac, plus mindestens ein heruntergeladenes Modell, wenn Sie lokal bleiben wollen. Die offizielle Doku sagt es unmissverständlich: Windows kommt später. Cloud-Modelle brauchen Login bei Ollama, manche einen bezahlten Plan.

1. Ollama öffnen, zu Apps gehen.
2. Claude auf On stellen. Fehlt die Desktop-App, bietet Ollama den Download an.
3. Unter Settings → Apps das Modell zuweisen, dann Claude neu starten.

Dasselbe Modell dürfen Sie mehreren Slots zuweisen. Die App bleibt um Opus- und Sonnet-Namen herum gebaut, Ollama mappt die Slots um. In öffentlichen Beispielen landet hinter „Opus 5“ etwa Kimi K3, hinter „Sonnet 5“ DeepSeek V4 Pro. Das ist praktisch. Es ist auch eine Falle, sobald zwei Kollegen denselben Slot unterschiedlich belegen und hinterher über „Opus war heute schlecht“ diskutieren.

Lokal ein Modell holen und prüfen, ob der Daemon antwortet:

# Modell laden (Beispiel aus der aktuellen Ollama-Doku)
ollama pull qwen3.5

# Läuft der lokale Endpunkt, und welche Modelle sind da?
curl -s http://localhost:11434/api/tags 
  | python3 -c "import json,sys; d=json.load(sys.stdin); print('n'.join(m['name'] for m in d.get('models',[])))"

Für Agent-Arbeit ist der Default-Kontext oft zu klein. Das steht in der Ollama-Doku zu Claude Code, gilt aber genauso für die Desktop-App: 64k oder mehr, sonst sterben Tool-Calls und lange Dateien still.

# Modelfile: Kontext für Desktop-Agenten, nicht für den Schnellchat
FROM qwen3.5
PARAMETER num_ctx 65536

ollama create qwen3.5-agent -f Modelfile

Danach in den Ollama-Settings qwen3.5-agent auf den gewünschten Slot legen und Claude neu starten. Zurück auf Anthropic geht über denselben Schalter, oder per Terminal:

# Claude Desktop auf die vorherige Anthropic-Konfiguration zurücksetzen
ollama launch claude-desktop --restore

Ein Detail, das in keinem Marketing-Satz steht: Wenn Sie Ollama beenden, während Claude noch verbunden ist, stellt Ollama die alte Konfiguration wieder her. Für einen Laptop-POC ist das nett. Für einen „immer an“-Arbeitsplatz ist es ein Betriebsrisiko.

Was die Integration laut Ollama-Doku mitnimmt: Subagents, Cowork, Auto-Mode, Websuche über Ollamas eigene Suche. Die Websuche ist der Punkt, an dem „lokal“ aufhört, lokal zu sein. Ein Modell auf der GPU schützt Sie nicht, wenn die Suche trotzdem nach draußen geht.

Was lokal bleibt, und was Ollama trotzdem nach draußen trägt

Ollama schreibt: Telemetrie ist standardmäßig aus, Zero Data Retention gilt für Cloud und lokale Modelle. Für einen Entwickler-Laptop mit einem lokalen GGUF-Modell stimmt die Kernaussage: Der Prompt geht nicht zu Anthropic.

Drei Einschränkungen, die wir in Erstgesprächen immer zuerst klären.

Erstens: Ollama Cloud ist nicht lokal. Derselbe Toggle, derselbe Slot, aber der Traffic geht an Ollama. Zero Data Retention ist ein Anbieterversprechen, keine Architektur. Wer Kundendaten in kimi-k2.7-code:cloud oder gemma4:cloud schiebt, hat den Datenschutzfall nicht gelöst, nur den Anbieter gewechselt.

Zweitens: Websuche läuft über Ollama, nicht über euer Firmennetz. Für lokale Modelle verlangt Ollama an anderer Stelle sogar ollama signin. Wenn der Assistent „mal schnell googelt“, verlässt mindestens die Suchanfrage das Gerät.

Drittens: Die App bleibt Claude Desktop. MCP-Server, Dateizugriff, Auto-Mode, das ganze Harness arbeitet weiter auf dem Laptop. Ein lokales Modell ändert nicht, welche Ordner die App lesen darf. Die Governance-Frage aus dem MCP-Setup bleibt. Wer interne Systeme anbindet, braucht weiterhin Least Privilege, nicht nur ein anderes LLM.

Wir raten aktuell davon ab, diesen Toggle intern als „Private AI fürs Unternehmen“ zu verkaufen. Er ist Private Inference auf einem Mac, unter Bedingungen. Für eine souveräne Desktop-Strecke mit Guardrails und Netzgrenze bleibt der Weg über eine deutschland-gehostete AI-App, nicht über einen Menüpunkt.

41 Prozent der deutschen Unternehmen nennen Datenschutz-Unsicherheit als zentrale Hürde beim KI-Einsatz (Bitkom 2026). Genau diese 41 Prozent brauchen eine ehrliche Antwort, kein Slot-Mapping namens Opus.

Wann der Toggle reicht, und wann er Geldverbrennung wird

Für einen Entwickler, der Specs zusammenfasst, ohne dass etwas das Haus verlässt: ja. Für einen Architektur-POC, der der Fachseite zeigt, dass die Claude-Oberfläche ohne Anthropic-Call funktioniert: ja. Für zehn Laptops, die „mal eben“ denselben Toggle bekommen: nein. Pexon Consulting hat 80 Mitarbeiter in Deutschland und baut genau diese Trennung (Laptop-POC hier, Gateway und Serving dort) als Azure-, AWS- und GCP-Partner.

Die Gründe sind langweilig und trotzdem die richtigen. Die Integration ist macOS-only. Es gibt keine MDM-Verteilung dieses Schalters, kein Entra-Login am Gateway, kein zentrales Audit, welches Modell hinter welchem Slot steckt. Anthropic kann Third-Party-Inference für Enterprise über verwaltete Settings ausrollen, inkl. OIDC gegen LiteLLM oder Kong. Das ist die Spur, auf der Flotten fahren. Der Ollama-Toggle ist die Spur für den einzelnen Mac.

Dazu kommt die Engine. Ollama ist der richtige Runner für den Laptop. Sobald mehrere Nutzer gleichzeitig denselben Host belasten, ist es der falsche. Den Schnitt haben wir getrennt aufgeschrieben, im Vergleich der Inference-Engines Ollama, vLLM und TGI. Wer den Toggle auf einem geteilten GPU-Server „skaliert“, kauft sich Schwankung, keine Plattform.

Und Claude Code ist nicht Claude Desktop. ollama launch claude verdrahtet die CLI. Der Desktop-Toggle verdrahtet die App. Beides kann parallel existieren, beides darf man nicht in derselben Anleitung vermischen. Die Third-Party-Landschaft um Cowork (Bedrock, Vertex, Foundry, Gateway) ist ein eigenes Entscheidungsfeld.

Worauf Sie bei der Auswahl achten sollten:

1. Nur lokale Modelle als „privat“ bezeichnen. Cloud-Tags (:cloud) und Websuche gehören in die Datenschutzfolgeabschätzung, nicht in die Demo-Folie.
2. Slots benennen, nicht Anthropic-Namen weiterverwenden. Ein internes Mapping „Slot A = qwen3.5-agent“ verhindert den Opus-Mythos.
3. Kontext explizit setzen. Default-num_ctx ist für Agent-Arbeit zu klein.
4. Mac-POC von Windows-Flotte trennen. Wer auf den Windows-Toggle wartet, verliert zehn Tage Lernzeit. Wer ihn vorab per GPO verteilt, verteilt Luft.
5. Ollama beenden heißt Konfiguration zurück. Für Dauerbetrieb brauchen Sie einen Prozess, der den Proxy am Leben hält, oder Sie gehen auf ein richtiges Gateway.

Häufig gestellte Fragen

Was ist Claude Desktop Ollama?

Claude Desktop Ollama ist die offizielle Anbindung, bei der Ollama als Third-Party-Gateway in Claude Desktop hängt. Die App bleibt Anthropics Harness, das Modell kommt aus Ollama, lokal oder aus Ollama Cloud. Eingeführt in v0.33.0 am 21. August 2026, öffentlich beschrieben am 25. August 2026.

Was kostet Claude Desktop mit Ollama?

Die Integration selbst kostet nichts. Lokal zahlen Sie Hardware und Strom, nicht Token. Ollama Cloud und größere Modelle können einen bezahlten Ollama-Plan brauchen. Das Claude-Abo bleibt relevant, sobald Sie auf Anthropic-Modelle zurückschalten. Für ein Team mit GPU-Server und Governance liegt die Rechnung im Gateway- und Serving-Betrieb, nicht im Toggle.

Claude Desktop Ollama vs Claude Code: was soll ich nehmen?

Kommt drauf an, aber die Trennung ist klar. Claude Code ist die CLI, Start über ollama launch claude. Claude Desktop ist die App mit Dateien, Cowork und Auto-Mode, Start über den Apps-Toggle. Wer im Terminal arbeitet, bleibt in der CLI. Wer die Oberfläche will, nimmt Desktop. Beides parallel ist möglich, ein gemeinsames „wir haben Ollama an Claude gehängt“ ist es nicht.

Bleiben meine Prompts wirklich lokal?

Ja, wenn das gewählte Modell lokal läuft, Telemetrie aus bleibt und keine Websuche rausgeht. Sobald ein Cloud-Modell, Ollama-Suche oder ein MCP-Server nach draußen zeigt, gilt das nicht mehr. Ollama verspricht Zero Data Retention. Das ersetzt in regulierten Umgebungen keine eigene Architektur.

Geht Claude Desktop Ollama unter Windows?

Noch nicht offiziell. Die Doku von Ollama sagt „Windows support coming soon“. Der Toggle sitzt in der macOS-App. Bis der Windows-Client denselben Proxy mitbringt, ist der Unternehmensrollout auf Mac-Nutzer begrenzt. Wir würden darum heute keinen firmenweiten Standard daraus machen.

Nächster Schritt

Der Toggle ist in fünf Minuten da. Die Frage ist, ob Ihre Prompts danach noch auf einem Laptop-Prozess landen oder hinter einem Gateway mit Identität, Caps und Audit.

Verwandte Themen