Werbung: Dieser Beitrag enthält Amazon-Affiliate-Links (mit * markiert). Kaufst du darüber, unterstützt du meine Arbeit – ohne Mehrkosten für dich.
Lokale KI ist 2026 endgültig im Alltag angekommen. Ein eigenes Sprachmodell auf dem eigenen Rechner – kein Cloud-Abo, keine Daten, die das Haus verlassen, volle Kontrolle. Die Idee ist großartig. Nur: Bevor du dafür Geld in die Hand nimmst, solltest du diese drei Hardware-Fehler kennen. Ich sehe sie ständig, und sie kosten entweder unnötig viel Geld oder ruinieren die Performance. Ich mache seit über 25 Jahren beruflich IT – hier kommt Klartext, kein Marketing.
Klartext ins Postfach
KI, Security & Crypto – die wichtigsten Analysen, kein Spam. Jederzeit abbestellbar.
Fehler 1: Auf die Rechenleistung schauen statt auf den VRAM
Der häufigste Irrtum: Leute vergleichen Grafikkarten nach Rechenleistung oder Preis und übersehen die Zahl, die bei lokaler KI wirklich zählt – den VRAM, also den Speicher der Grafikkarte.
Ein Sprachmodell (LLM) muss komplett in den VRAM passen, damit es schnell läuft. Passt es nicht rein, weicht dein System auf den langsamen Arbeitsspeicher aus – oder das Modell startet gar nicht. Das Ergebnis: eine teure Grafikkarte, die deine KI trotzdem quälend langsam macht.
Faustregel 2026: 16 GB VRAM sind der vernünftige Einstieg. Damit läuft ein richtig brauchbares Modell flüssig. 8 GB reichen nur für kleine Modelle und Basics; 24 GB und mehr brauchst du erst für große Modelle oder mehrere parallele Nutzer.
💡 Merke: Nicht „Welche ist die schnellste Karte?“, sondern „Welche hat genug VRAM für das Modell, das ich nutzen will?“
Fehler 2: Die falsche Grafikkarte für dein Modell kaufen
VRAM ist die halbe Miete – die andere ist das Zusammenspiel von Modell und Karte. Wer eine 2000-Euro-Karte kauft, um am Ende nur ein 8-Milliarden-Parameter-Modell laufen zu lassen, hat Geld verbrannt. Wer umgekehrt am VRAM spart und ein zu großes Modell erzwingt, wartet sich zu Tode.
Sinnvoll ist, zuerst den Anwendungsfall zu definieren und dann Hardware und Modell aufeinander abzustimmen:
| VRAM | Sinnvolle Modellgröße | Typischer Einsatz |
|---|---|---|
| 8 GB | kleine Modelle (bis ~8B, quantisiert) | Basics, Textzusammenfassungen, Experimente |
| 16 GB | mittlere Modelle (bis ~14B) | solider Alltag, Coding-Hilfe, Chat |
| 24 GB+ | große Modelle (30B+) | anspruchsvolle Aufgaben, mehrere Nutzer |
Preis-Leistung 2026: Der Gebrauchtmarkt ist für lokale KI interessant – eine ältere Karte mit viel VRAM schlägt oft eine neue mit wenig. Achte auf den VRAM, nicht auf die Modellgeneration im Namen.
Meine aktuellen Empfehlungen nach Budget:
- Einsteiger (16 GB VRAM): MSI GeForce RTX 5060 Ti 16G Ventus 2X OC*
- Preis-Leistung (24 GB VRAM): ASUS TUF Gaming RTX 3090 24GB (neu teuer – gebraucht oft die klügere Wahl)*
Fehler 3: Alles um die GPU herum vergessen
Die Grafikkarte ist der Star – aber ohne das richtige Umfeld läuft nichts stabil. Drei Dinge werden regelmäßig unterschätzt:
- Arbeitsspeicher: Auch wenn das Modell im VRAM liegt – zu wenig RAM (unter 32 GB) bremst das Gesamtsystem. 64 GB sind für ernsthafte Nutzung eine gute Basis.
- Netzteil: Moderne KI-Grafikkarten ziehen unter Last kräftig Strom. Ein zu schwaches oder billiges Netzteil führt zu Abstürzen unter Volllast – genau dann, wenn die KI rechnet.
- Kühlung: Dauerlast erzeugt Dauerhitze. Ohne vernünftige Gehäusebelüftung drosselt die Karte (Thermal Throttling) und wird langsamer.
Passende Komponenten:
- RAM-Kit 64 GB: Crucial Pro DDR5 64 GB (2×32 GB) 6000 MHz*
- Netzteil (ausreichend dimensioniert): be quiet! Pure Power 13 M 850W 80+ Gold (ATX 3.1)*
Fazit: Erst denken, dann kaufen
Lokale KI ist kein „viel hilft viel“-Thema. Wer weiß, dass VRAM die Schlüsselgröße ist, Hardware und Modell aufeinander abstimmt und die GPU nicht isoliert betrachtet, spart Geld und Frust. Für die meisten ist eine 16-GB-Karte mit 64 GB RAM der Sweet Spot – kein Vermögen nötig.
Wie geht’s weiter? Wenn die Hardware steht, zeige ich dir im nächsten Schritt, wie du mit Ollama in 15 Minuten deine erste lokale KI einrichtest . Und wenn du wissen willst, wie du das Ganze auch noch datenschutzkonform betreibst, lies den kommenden Artikel „Lokale KI & DSGVO“.
Welche Hardware nutzt du – oder planst du gerade? Schreib deinen geplanten Einsatz in die Kommentare.
❓ FAQ
Wie viel VRAM brauche ich für lokale KI?
16 GB sind 2026 der empfehlenswerte Einstieg; 8 GB nur für kleine Modelle.
Reicht eine gebrauchte Grafikkarte?
Ja – für lokale KI zählt vor allem der VRAM, nicht die Modellgeneration. Gebraucht mit viel VRAM ist oft die klügere Wahl.
Brauche ich eine besonders schnelle CPU?
Nein, die GPU macht die Hauptarbeit. Wichtiger sind VRAM, RAM und ein stabiles Netzteil.
Richard Kuhn – IT Business Analyst, 25+ Jahre IT, Fachbuchautor. YouTube: Tech & Tacheles · Instagram · Bücher.
Diese Analysen als Newsletter
Ein Mal pro Woche Klartext zu KI, Security & Crypto – direkt in dein Postfach.
Jetzt anmelden