← Alle Werkzeuge

Werkzeug · Lokaler Runner

Ollama

von Ollama

Offene Modelle einfach lokal auf dem eigenen Rechner ausführen.

Open SourcemacOSWindowsLinuxCLI

Einschätzung

Offene Modelle lokal, einfach

Erste Wahl, um offene Modelle ohne Cloud auf dem eigenen Rechner zu betreiben – für Datenschutz, Kostenkontrolle und Offline-Nutzung. Die Spitzen-Antwortqualität der großen Cloud-Flaggschiffe erreichst du damit nicht.

Ollama ist nach eigener Beschreibung der einfachste Weg, mit offenen Modellen zu bauen: Es führt open-weightModell, dessen trainierte Gewichte öffentlich herunterladbar sind, sodass man es selbst (lokal oder auf eigener Hardware) betreiben kann. Nicht zwingend vollständig quelloffen – die Lizenz bestimmt die erlaubte Nutzung.Mehr im Wissen →-Sprachmodelle lokal auf dem eigenen Rechner aus – ein Plus für Datenschutz, Kostenkontrolle und Offline-Nutzung.

Der Fokus liegt auf lokalem Betrieb mit optionaler Cloud-Skalierung; mehrere Betriebssysteme werden unterstützt.

Wofür es gut ist

  • Offene Modelle lokal und offline betreiben
  • Vertrauliche Daten ohne Cloud verarbeiten
  • Experimentieren ohne Token-Gebühren

Stärken

  • Offene Modelle lokal und offline betreiben – ohne Token-Gebühren
  • Vertrauliche Daten bleiben auf dem eigenen Rechner
  • Einfacher Einstieg, mehrere Betriebssysteme

Schwächen

  • Leistung durch die eigene Hardware begrenzt
  • Open-Weight-Modelle liegen oft hinter den Cloud-Flaggschiffen

Im Vergleich

Wofür dieses Werkzeug die bessere Wahl ist – und wann ein direkter Konkurrent.

  • Gegenüber LM Studio ist Ollama CLI-first und quelloffen (MIT) mit schlanker REST-API – ideal zum Einbetten in eigene Skripte und Apps; LM Studio punktet dafür mit grafischer Oberfläche. Beide setzen auf llama.cpp, die Roh-Geschwindigkeit ist also ähnlich.

Stimmen aus der Community

Subjektive Einschätzungen Dritter – keine belegten Fakten, jeweils verlinkt.

Direkt ausprobieren

ollama.com

Zur offiziellen Seite ↗

Verwandte Werkzeuge

Lokaler RunnerLM StudioOffene Modelle lokal ausführen – mit grafischer Oberfläche, Modell-Browser und lokalem OpenAI-kompatiblem Server.Agenten-ArbeitsplatzClaude CoworkAnthropics Agenten-Arbeitsplatz für Nicht-Entwickler: dieselbe Architektur wie Claude Code, „with no terminal required“ – Aufgabe übergeben, Claude arbeitet in ausgewählten Ordnern und angebundenen Diensten weiter.Coding-AgentClaude CodeAgentisches Coding-Werkzeug von Anthropic – im Terminal, als Desktop-App, in der IDE und im Browser.