Inkling-Small: Kompaktes offenes KI-Modell von Thinking Machines

Mit Inkling-Small hat das KI-Labor Thinking Machines Ende Juli 2026 sein zweites Modell veröffentlicht – und es ist ein echtes Statement. Das Start-up der ehemaligen OpenAI-Technikchefin Mira Murati liefert ein offenes Sprachmodell, das mit weniger als einem Drittel der Größe seines großen Vorgängers fast dessen Leistung erreicht. Freigegeben ist es unter der freizügigen Apache-2.0-Lizenz, also auch für den kommerziellen Einsatz.

Was Inkling-Small kann

Technisch ist Inkling-Small ein Mixture-of-Experts-Modell mit 276 Milliarden Parametern insgesamt, von denen pro Anfrage nur rund 12 Milliarden aktiv sind. Trainiert wurde es auf NVIDIA-GB300-NVL72-Systemen. Wie das größere Inkling beherrscht es natives Reasoning über Text, Bild und Audio, erlaubt einen einstellbaren „Denk-Aufwand“ und verarbeitet einen Kontext von bis zu einer Million Token. Der sparsame MoE-Ansatz senkt die Rechenkosten im Betrieb spürbar, ohne die Kapazität eines großen Modells aufzugeben.

Newsletter

Klartext zu KI, Security, Crypto

Einordnung statt Hype: was hinter den Tech-News steckt und was davon für dich zählt. Startbonus: die AD-Checkliste mit 12 Sofortmaßnahmen als PDF.

E-Mail-Adresse *

Mit der Anmeldung erhältst du die AD-Checkliste als PDF und danach den Tech-&-Tacheles-Newsletter mit Einordnungen zu Security, KI und Crypto sowie gelegentlichen Hinweisen auf meine Bücher und Produktempfehlungen (auch Affiliate-Links) – eingetragen bist du erst nach Klick auf den Bestätigungslink in der E-Mail (Double-Opt-in). Abmeldung jederzeit über den Link in jeder E-Mail, Details in der Datenschutzerklärung.

Benchmarks nah am großen Bruder

Bemerkenswert ist, wie knapp der Abstand zum Flaggschiff ausfällt. In mehreren Tests zieht das kleinere Modell sogar gleich oder vorbei:

• Humanity’s Last Exam: 31,6 % (Inkling: 29,7 %)
• SWEBench-Verified: über 80 %
• IFBench: 83,4 % gegenüber 79,8 % beim Flaggschiff
• Artificial Analysis Intelligence Index: 40 Punkte (Inkling: 41)

Diese Werte erreicht Inkling-Small mit deutlich weniger Parametern – ein Beleg dafür, dass Effizienz zunehmend über schiere Größe siegt. In dieselbe Richtung zielen auch offene Schwergewichte wie das Modell Kimi K3, allerdings mit einem Vielfachen an Rechenbedarf.

Warum ein kleineres Modell so interessant ist

Ein kompaktes, offenes Modell lässt sich günstiger betreiben und leichter selbst hosten. Genau das macht Inkling-Small für Unternehmen attraktiv, die Daten nicht in fremde Clouds geben wollen. Die frei einstellbare Denk-Tiefe hilft zusätzlich beim Sparen: Für einfache Aufgaben lässt sich der Rechenaufwand niedrig halten, für schwierige Fragen hochdrehen. Wer ein solches Modell lokal betreiben möchte, braucht die passende Basis – in unserem Ratgeber zur Hardware für lokale KI und LLMs zeigen wir, worauf es bei GPU, Speicher und Setup ankommt.

Einordnung: ein Gegengewicht aus dem Westen

Der offene Modellmarkt wird seit Monaten von chinesischen Laboren dominiert. Dass mit Thinking Machines ein US-Start-up ein leistungsstarkes Modell unter Apache 2.0 stellt, ist deshalb mehr als eine Randnotiz. Bemerkenswert ist auch das Tempo: Inkling-Small ist erst das zweite Modell des Labors und folgt nur rund zwei Wochen auf das große Inkling. Für Entwickler bedeutet das vor allem eines: mehr Auswahl bei offenen, kommerziell nutzbaren Modellen – und eine echte Alternative zu den großen, teuren Cloud-APIs.

Quellen

• Thinking Machines Lab: Introducing Inkling-Small
• VentureBeat: Thinking Machines debuts Inkling-Small
• Artificial Analysis: Inkling-Small im Intelligence Index