KI-Rundschau

Claude 3.5 Sonnet

Anthropic · 200 Mrd. Parameter · proprietary

Anthropic's Flagship. 200k Kontext. Nicht lokal lauffähig.

Lizenz: proprietary. Proprietäres Modell — nicht lokal lauffähig, nur über die Hersteller-API. Das macht Claude 3.5 Sonnet besonders interessant für spezifische Workloads über die Anbieter-API — lokales Hosten ist nicht vorgesehen.

Claude 3.5 Sonnet ist ein 200-Mrd.-Parameter-Schwergewicht. Q4_K_M braucht etwa 43 GB VRAM — eine einzelne Consumer-GPU reicht nicht. RTX 6000 Ada (48 GB), zwei RTX 4090 mit Tensor-Parallelism oder ein Apple Mac Studio M3 Ultra mit 96+ GB Unified Memory sind die realistischen Optionen.

Mit 195k Tokens Kontext (~146k Wörter) eignet sich Claude 3.5 Sonnet für lange Texte, Multi-Dokument-RAG und umfangreiche System-Prompts ohne Chunking-Overhead.

Deutsch-Qualität: exzellent. Praktisch nicht von Frontier-Cloud-Modellen unterscheidbar in der deutschen Ausgabe — kohärent, idiomatisch, fachlich korrekt.

Parameter
200 B
Lizenz
proprietary
Wirklich offen?
⚠ Restriktionen
Deutsch-Qualität
exzellent
Kontextfenster
195k Tokens
Vendor
Anthropic
Release
22.10.2024
Familie
Claude
Claude 3.5 Sonnet ist nicht lokal lauffähig.

Als proprietäres Closed-Source-Modell ist Claude 3.5 Sonnet ausschließlich über die Hersteller-API verfügbar — Gewichte können nicht heruntergeladen, quantisiert oder auf eigener Hardware ausgeführt werden. Vergleiche stattdessen die Cloud-Preise unten, oder schau dir offene Modelle in vergleichbarer Größe an.

Claude 3.5 Sonnet API: Cloud-Anbieter im Vergleich

1 Anbieter hosten dieses Modell. Sortiert nach Input-Preis. EU-Hosting-Spalte zeigt DSGVO-relevante Optionen.

AnbieterEU-HostingInput €/1MOutput €/1M
Anthropic2.7613.80