Einfach, kurz erklärt
Das Start-up Zyphra hat mit ZAYA1-8B ein frei verfügbares, sparsames KI-Modell vorgestellt. Das Besondere: Es wurde komplett auf Chips von AMD trainiert statt auf den sonst üblichen Nvidia-Chips. Das zeigt, dass leistungsfähige KI auch ohne Nvidia entstehen kann – gut für Wettbewerb und Preise.
Das KI-Startup Zyphra hat mit ZAYA1-8B ein offenes Reasoning-Modell vorgestellt, das in zweierlei Hinsicht aus der Masse heraussticht: Es wurde end-to-end auf AMD-Hardware trainiert und ist unter der permissiven Apache-2.0-Lizenz frei verfügbar. Damit setzt Zyphra ein Zeichen gegen die nahezu vollständige Nvidia-Dominanz beim Training großer Sprachmodelle.
Klartext ins Postfach
KI, Security & Crypto – die wichtigsten Analysen, kein Spam. Jederzeit abbestellbar.
Klein, aber clever: die Mixture-of-Experts-Architektur
ZAYA1-8B ist ein Mixture-of-Experts-Modell (MoE) mit gut 8 Milliarden Parametern, von denen pro Token jedoch nur rund 760 Millionen aktiv sind. Dieses Prinzip – viele spezialisierte “Experten”, aber nur wenige gleichzeitig aktiv – sorgt für hohe Effizienz: Das Modell rechnet schnell und günstig, ohne die Leistungsfähigkeit eines größeren Netzes komplett aufzugeben.
Eine architektonische Besonderheit ist die sogenannte Compressed Convolutional Attention (CCA). Sie verarbeitet Sequenzen in einem komprimierten latenten Raum und reduziert den Speicherbedarf des KV-Cache laut Zyphra um den Faktor acht – ein klarer Vorteil bei langen Kontexten und beim mehrstufigen “Nachdenken”.
Trainiert auf AMD Instinct MI300
Der vielleicht bemerkenswerteste Punkt: ZAYA1-8B ist nach Angaben von Zyphra das erste MoE-Modell, das vollständig – also Pretraining, Midtraining und Supervised Fine-Tuning – auf AMD-Instinct-MI300-Hardware entstanden ist. Zum Einsatz kam ein Cluster aus 1.024 MI300X-Knoten, der gemeinsam mit IBM aufgebaut wurde.
Das ist mehr als eine technische Fußnote. Bislang galt das Training von Spitzenmodellen als faktisch an Nvidias Ökosystem gebunden. ZAYA1 zeigt, dass auch eine durchgängig AMD-basierte Trainingspipeline konkurrenzfähige Ergebnisse liefern kann – ein Signal für mehr Wettbewerb und potenziell sinkende Kosten im KI-Infrastrukturmarkt.
Leistung: dichter als die Parameterzahl vermuten lässt
Trotz der kompakten Größe schlägt sich ZAYA1-8B in unabhängigen Benchmarks beachtlich. Laut Zyphra hält das Modell mit deutlich größeren Systemen wie GPT-5-High und DeepSeek-V3.2 mit. Mithilfe einer neuartigen Test-Time-Compute-Methode namens Markovian RSA übertrifft es nach Herstellerangaben beim Mathematik-Wettbewerb HMMT’25 sogar Claude 4.5 Sonnet und GPT-5-High (89,6 gegenüber 88,3 Punkten).
Solche Hersteller-Benchmarks sind stets mit Vorsicht zu genießen und sollten durch unabhängige Tests bestätigt werden. Die Richtung ist dennoch klar: Zyphra optimiert nicht auf maximale Größe, sondern auf maximale “Intelligenzdichte” pro Parameter.
Auch als Vision-Language-Modell verfügbar
Neben dem Basismodell veröffentlichte Zyphra mit ZAYA1-VL-8B eine multimodale Variante, die auf ZAYA1-8B aufbaut und Bilder verarbeiten kann. Auch sie steht unter Apache-2.0-Lizenz. Beide Modelle sind auf Hugging Face sowie als Endpunkt über Zyphra Cloud zugänglich.
Fazit
ZAYA1-8B ist gleich aus mehreren Gründen interessant: als effizientes, offenes Reasoning-Modell, als Beleg dafür, dass ernsthaftes Training auch außerhalb von Nvidias Welt möglich ist, und als Beispiel für den anhaltenden Trend zu kleineren, dichteren Modellen. Für Entwickler, die offene Gewichte und planbare Lizenzbedingungen schätzen, ist es einen genauen Blick wert.
Quellen
- VentureBeat: Meet ZAYA1-8B, trained on AMD Instinct MI300 GPUs
- MarkTechPost: Zyphra Releases ZAYA1-8B
- Zyphra: ZAYA1-VL-8B
- Hugging Face: Zyphra/ZAYA1-VL-8B
- PR Newswire: Zyphra Releases ZAYA1-8B
Diese Analysen als Newsletter
Ein Mal pro Woche Klartext zu KI, Security & Crypto – direkt in dein Postfach.
Jetzt anmelden