Ollama ist für viele der einfachste Weg, KI-Sprachmodelle lokal auf dem eigenen Rechner zu betreiben. Jetzt hat das Projekt gleich zwei Neuigkeiten geliefert: die Version v0.32.0 mit spürbar mehr Tempo und eine Finanzierungsrunde über 65 Millionen Dollar. Beides zeigt, wie ernst lokale KI inzwischen genommen wird.
Was Ollama v0.32.0 neu macht
Das am 11. Juli 2026 veröffentlichte Release Ollama v0.32.0 bringt vor allem Geschwindigkeit. Auf Apple-Silicon-Macs erzeugt das Modell Gemma 4 laut Projektangaben rund 90 Prozent mehr Token pro Sekunde – also fast doppelt so schnell. Möglich macht das eine Kombination aus Multi-Token-Vorhersage und automatischer Feinabstimmung.
Darüber hinaus verbessert das Update das Tool-Calling und die mehrstufige Argumentation von Gemma 4, behebt ein Speicherleck im MLX-Cache und beschleunigt das Laden von Snapshots. Neu ist außerdem ein interaktiver Agenten-Modus, der beim Aufruf startet und beim Programmieren oder beim Delegieren von Aufgaben hilft. Ollama entwickelt sich damit vom reinen Modell-Starter zum kleinen KI-Werkzeugkasten.
65 Millionen Dollar für lokale KI
Am 9. Juli 2026 gab das Team eine Series-B-Runde über 65 Millionen Dollar bekannt, angeführt von Theory Ventures. Damit steigt das insgesamt eingesammelte Kapital auf 88 Millionen Dollar. Das Geld soll in Entwicklerwerkzeuge rund um lokal betriebene KI fließen.
Der Trend dahinter ist klar: Wer Modelle selbst hostet, behält seine Daten im Haus, spart laufende Abo-Kosten und ist unabhängig von der Verfügbarkeit einzelner Anbieter. Gerade aus CISO-Sicht ist das ein starkes Argument – sensible Prompts verlassen den eigenen Rechner erst gar nicht.
Ollama in der Praxis: Was du dafür brauchst
Ollama ist nur die Software-Schicht. Wie gut lokale KI läuft, entscheidet am Ende die Hardware – vor allem Grafikspeicher und Arbeitsspeicher. Kompakte Modelle wie Gemma 4 12B oder Qwen 3.6 27B laufen bereits auf gut ausgestatteten Consumer-Geräten, während echte Schwergewichte wie das neue Kimi K3 Rechenzentrums-Hardware verlangen.
Wenn du überlegst, in einen Rechner für lokale Modelle zu investieren, lohnt ein Blick in meinen Ratgeber zur Hardware für lokale KI. Dort steht, wie viel VRAM welche Modellgröße wirklich braucht und wo du dein Budget am sinnvollsten einsetzt. Kurz gesagt: Ollama senkt die Einstiegshürde weiter – die spannendste Entwicklung ist derzeit, wie klein und schnell brauchbare Modelle werden.
Quellen
- Ollama Blog & Release Notes
- Open Source For You: Ollama Secures $65M Series B
- Thunder Compute: Best Open Source LLMs (Juli 2026)
Klartext zu KI, Security, Crypto
Einordnung statt Hype: was hinter den Tech-News steckt und was davon für dich zählt. Startbonus: die AD-Checkliste mit 12 Sofortmaßnahmen als PDF.
Mit der Anmeldung erhältst du die AD-Checkliste als PDF und danach den Tech-&-Tacheles-Newsletter mit Einordnungen zu Security, KI und Crypto sowie gelegentlichen Hinweisen auf meine Bücher und Produktempfehlungen (auch Affiliate-Links) – eingetragen bist du erst nach Klick auf den Bestätigungslink in der E-Mail (Double-Opt-in). Abmeldung jederzeit über den Link in jeder E-Mail, Details in der Datenschutzerklärung.
Ohne MCP-Server greift Claude Desktop nicht auf deine lokalen Ordner zu
Das MCP Starter Kit liefert fertige Server dafür: Vol. 1 mit 5 Servern und 18 Tools, Vol. 2 mit 4 Servern und 20 Tools für lokale Werkzeuge. Vol. 1 29 €, Vol. 2 39 €, beide zusammen 59 € (inkl. 20 % USt für Österreich). Englischsprachig, Kauf über Gumroad. Kein offizielles Anthropic-Produkt.
Server ansehenBeide Bände im Bundle für 59 €