KI-Rundschau

Inferenz-Preisvergleich für LLM-APIs

Cloud-LLM-APIs unterscheiden sich um den Faktor 50 im Preis pro Million Tokens — von 0,05 € bei DeepInfra bis 13,80 € für Claude 3.5 Sonnet Output. Wer in Produktion geht, sollte vor der Anbieterwahl wissen, wo die eigenen Daten landen.

Diese Tabelle listet 12 Provider mit DSGVO-relevanten Attributen: EU-Hosting, AVV verfügbar, Datenresidenz. Genau die Information, die in den offiziellen Pricing-Pages meist auf Seite 3 steht — oder gar nicht.

Was kostet eine Million Tokens bei LLM-APIs?

Eine Million Input-Tokens kostet in der Preistabelle der KI-Rundschau zwischen 0,05 € (Llama 3.1 8B bei DeepInfra) und 2,76 € (Claude 3.5 Sonnet bei Anthropic). Für eine Million Output-Tokens reicht die Spanne von 0,05 € (Llama 3.1 8B bei DeepInfra) bis 13,80 € (Claude 3.5 Sonnet bei Anthropic). Erfasst sind 25 Preise von 12 Anbietern. Die Preise sind aggregiert erfasst und in Euro umgerechnet; verbindlich ist die Preisseite des jeweiligen Anbieters.

Cloud-API oder eigene GPU?

Konkretes Beispiel: 100 Mio. Tokens pro Monat über GPT-4o kosten rund 230 € Input + 920 € Output = 1.150 € / Monat. Eine RTX-4090-Workstation (ca. 2.500 € Einmalig + 30 €/Monat Strom) hat sich nach ~3 Monaten amortisiert.

Eigene Hardware lohnt bei hohem konstantem Volumen und sensiblen Daten. Cloud bleibt sinnvoll für Spitzen und multimodale Frontier-Modelle (GPT-4o, Claude Sonnet). Mehr dazu im Pillar-Artikel zu RAG mit eigenen Daten →

🇪🇺 EU-Hosting-Anbieter (DSGVO-freundlich)

Die KI-Rundschau führt 5 Inferenz-Anbieter mit EU-Hosting: IONOS AI Model Hub, Mistral AI, Nebius, OVHcloud AI Endpoints und OpenAI. 5 von 5 bieten laut Datenbank einen Auftragsverarbeitungsvertrag (AVV) an. Der niedrigste erfasste Input-Preis in dieser Gruppe liegt bei 0,14 € pro Million Tokens (GPT-4o mini bei OpenAI). Einschränkung bei OpenAI: EU-Data-Residency-Add-on (Enterprise/Team).

AnbieterHQResidenzAVVAb €/1M InputModelle
IONOS AI Model HubDEEU-only✓0.18 €2
Mistral AIFREU-only✓0.18 €1
NebiusNLEU-only✓0.18 €2
OVHcloud AI EndpointsFREU-only✓0.18 €2
OpenAIUSconfigurable✓0.14 €2

🌍 Globale Anbieter (kein dediziertes EU-Hosting)

Die KI-Rundschau führt 7 Inferenz-Anbieter ohne dediziertes EU-Hosting: Anthropic, DeepInfra, DeepSeek, Fireworks AI, Groq, OpenRouter und Together AI. 1 von 7 bietet laut Datenbank einen Auftragsverarbeitungsvertrag (AVV) an. Der niedrigste erfasste Input-Preis in dieser Gruppe liegt bei 0,05 € pro Million Tokens (Llama 3.1 8B bei DeepInfra). Die erfasste Datenresidenz: „us-only“ bei Anthropic, DeepInfra und Groq; „china-only“ bei DeepSeek; „us-default“ bei Fireworks AI und Together AI; „configurable“ bei OpenRouter.

AnbieterHQResidenzAVVAb €/1M InputModelle
AnthropicUSus-only✓0.92 €2
DeepInfraUSus-only—0.05 €3
DeepSeekCNchina-only—0.50 €1
Fireworks AIUSus-default—0.18 €3
GroqUSus-only—0.05 €2
OpenRouterUSconfigurable—0.13 €2
Together AIUSus-default—0.17 €3

Alle Preise in EUR pro 1 Mio. Tokens. USD-Konvertierung mit Kurs ~0.92. Preisstand-Drift-Detection läuft wöchentlich — Detailseite zeigt jeweils Quell-URL und letztes Verifikationsdatum.