KI-Rundschau

Gemma 2 9B

Google · 9 Mrd. Parameter · Gemma

Googles offenes Modell. Gemma-Lizenz mit Restriktionen — KEIN echtes Open-Source.

Lizenz: Gemma. Googles Gemma-Lizenz enthält Use-Case-Restriktionen und ist deshalb nicht als echtes Open-Source anerkannt. Für die meisten kommerziellen Anwendungen aber dennoch nutzbar. Das macht Gemma 2 9B besonders interessant für spezifische Workloads über die Anbieter-API — lokales Hosten ist nicht vorgesehen.

Gemma 2 9B hat 9 Mrd. Parameter und braucht in Q4_K_M-Quantisierung rund 6-7 GB VRAM. Damit läuft das Modell auf praktisch jeder modernen GPU ab RTX 3060 12GB aufwärts. Apple-Silicon-Geräte mit 16+ GB Unified Memory sind ebenfalls bestens geeignet.

Mit nur 8k Tokens Kontext ist Gemma 2 9B auf kürzere Eingaben ausgelegt — für lange Dokumente brauchst du Chunking-Strategien.

Deutsch-Qualität: mittel. Verständlich auf Deutsch, aber spürbar englisch-trainiert — Stilebenen-Übergänge sind nicht immer sauber, fachsprachlich limitiert.

Parameter
9 B
Lizenz
Gemma
Wirklich offen?
⚠ Restriktionen
Deutsch-Qualität
mittel
Kontextfenster
8k Tokens
Vendor
Google
Release
27.6.2024
Familie
Gemma
Auf Hugging Face öffnen
Gemma 2 9B ist nicht lokal lauffähig.

Als proprietäres Closed-Source-Modell ist Gemma 2 9B ausschließlich über die Hersteller-API verfügbar — Gewichte können nicht heruntergeladen, quantisiert oder auf eigener Hardware ausgeführt werden. Vergleiche stattdessen die Cloud-Preise unten, oder schau dir offene Modelle in vergleichbarer Größe an.