Qwen 2.5 32B
Alibaba · 32 Mrd. Parameter · Apache-2.0
Stärkstes offenes Modell mit echter Apache-2.0-Lizenz in dieser Größe. Multilinguales Training inkl. Deutsch.
Lizenz: Apache-2.0. Apache 2.0 ist eine der permissivsten Open-Source-Lizenzen — kommerzielle Nutzung, Modifikation und Weiterverbreitung uneingeschränkt erlaubt, inklusive Patent-Klausel. Das macht Qwen 2.5 32B besonders interessant für On-Prem-Deployments in Unternehmen, kommerzielle SaaS-Produkte und Embedded-Lösungen.
Mit 32 Mrd. Parametern braucht Qwen 2.5 32B echte Workstation-Hardware: Q4_K_M belegt etwa 21 GB VRAM. RTX 3090 oder 4090 (24 GB) sind das Minimum, RTX 6000 Ada (48 GB) gibt komfortablen Headroom. Apple Mac Studio M4 Max oder M3 Ultra sind die produktivste Mac-Option.
Mit 128k Tokens Kontext (~96k Wörter) eignet sich Qwen 2.5 32B für lange Texte, Multi-Dokument-RAG und umfangreiche System-Prompts ohne Chunking-Overhead.
Deutsch-Qualität: exzellent. Praktisch nicht von Frontier-Cloud-Modellen unterscheidbar in der deutschen Ausgabe — kohärent, idiomatisch, fachlich korrekt.
Welche GPU brauche ich für Qwen 2.5 32B lokal?
Qwen 2.5 32B hat 32 Milliarden Parameter und stammt von Alibaba. Laut VRAM-Rechner der KI-Rundschau braucht Qwen 2.5 32B in der Quantisierung Q4_K_M rund 20,9 GB Grafikspeicher, in Q8_0 rund 34,5 GB (berechnet für 8k Kontext mit mindestens 0,5 GB Reserve). Von 22 erfassten GPUs und Apple-Rechnern haben 16 genug Speicher für Q4_K_M und 9 auch für Q8_0. Die kleinste passende Karte hat 24 GB: AMD Radeon RX 7900 XTX, NVIDIA GeForce RTX 3090 Ti, NVIDIA GeForce RTX 3090, NVIDIA GeForce RTX 4090, NVIDIA Tesla M40 24GB und NVIDIA Tesla P40.
16 GPUs können Qwen 2.5 32B in mindestens einer praktikablen Quantisierung fahren — sortiert nach VRAM-Kapazität. Tokens/Sek-Werte werden manuell aus Community-Benchmarks gepflegt (siehe Confidence-Badges auf den Detailseiten).
| GPU | Beste Quant | VRAM-Bedarf |
|---|---|---|
| Apple Mac Studio M3 Ultra 192GB | Q8_0 | 34.5 GB |
| Apple MacBook Pro M4 Max 128GB | Q8_0 | 34.5 GB |
| Apple Mac Studio M3 Ultra 96GB | Q8_0 | 34.5 GB |
| NVIDIA H100 80GB | Q8_0 | 34.5 GB |
| Apple Mac mini M4 Pro 64GB | Q8_0 | 34.5 GB |
| Apple MacBook Pro M4 Max 64GB | Q8_0 | 34.5 GB |
| NVIDIA L40S | Q8_0 | 34.5 GB |
| NVIDIA RTX 6000 Ada Generation | Q8_0 | 34.5 GB |
| NVIDIA RTX A6000 | Q8_0 | 34.5 GB |
| NVIDIA GeForce RTX 5090 | Q4_K_M | 20.9 GB |
| AMD Radeon RX 7900 XTX | Q4_K_M | 20.9 GB |
| NVIDIA GeForce RTX 3090 Ti | Q4_K_M | 20.9 GB |
| NVIDIA GeForce RTX 3090 | Q4_K_M | 20.9 GB |
| NVIDIA GeForce RTX 4090 | Q4_K_M | 20.9 GB |
| NVIDIA Tesla M40 24GB | Q4_K_M | 20.9 GB |
| NVIDIA Tesla P40 | Q4_K_M | 20.9 GB |
Was kostet Qwen 2.5 32B über eine Cloud-API?
Qwen 2.5 32B ist in der Preistabelle der KI-Rundschau bei 5 Cloud-Anbietern erfasst. Den niedrigsten Input-Preis hat DeepInfra mit 0,13 € pro Million Tokens (Output 0,24 €). Als Anbieter mit EU-Hosting eingestuft ist Nebius. Die Preise sind aggregiert erfasst und in Euro umgerechnet; verbindlich ist die Preisseite des jeweiligen Anbieters.
5 Anbieter hosten dieses Modell. Sortiert nach Input-Preis. EU-Hosting-Spalte zeigt DSGVO-relevante Optionen.
| Anbieter | EU-Hosting | Input €/1M | Output €/1M |
|---|---|---|---|
| DeepInfra | — | 0.13 | 0.24 |
| OpenRouter | — | 0.13 | 0.24 |
| Nebius | ✓ | 0.18 | 0.55 |
| Together AI | — | 0.74 | 0.74 |
| Fireworks AI | — | 0.83 | 0.83 |