Cloud-GPU

Cloud-GPU

Auf einen Blick

Cloud-GPU-Dienste wie RunPod, Vast und Lambda ermöglichen das stundenweise Mieten von Grafikprozessoren, ohne teure Hardware kaufen zu müssen. Ideal für KI-Training, Rendering und rechenintensive Aufgaben.

KategorieCloud Computing
Lesezeit8 Min
ZielgruppeKI-Entwickler, Forscher, Unternehmen
SchwierigkeitFortgeschritten
Stand2026-05
QuellenAnbietervergleich

Hardware

Cloud-GPU — GPU stundenweise mieten (RunPod, Vast, Lambda) — Hardware ohne Investition.

Beispiel

Eine H100-Stunde kostet je nach Anbieter 2–5 €. Du startest sie, machst dein Inferenz/Fine-Tuning, killst sie.

Verwandt: GPU

Mehr im Glossar

Alle Begriffe auf einen Blick →

Eine Cloud-GPU ist ein Grafikprozessor (GPU), den Unternehmen nicht selbst kaufen und betreiben, sondern als Dienstleistung von einem Cloud-Anbieter mieten.

In einfachen Worten

Stellen Sie sich vor, Sie brauchen für ein Projekt einen Hochleistungsrechner, der aber nur drei Wochen läuft. Statt diesen Rechner für mehrere zehntausend Euro zu kaufen, mieten Sie ihn für die drei Wochen. Das spart Geld und Lagerplatz. Genauso funktioniert eine Cloud-GPU: Sie mieten Rechenleistung für KI-Aufgaben, ohne eigene Hardware anschaffen zu müssen. Sie zahlen nur für die Zeit, in der Sie die GPU tatsächlich nutzen. Das ist wie beim Strom: Sie zahlen den Verbrauch, nicht das Kraftwerk.

Was bedeutet das technisch

Eine GPU (Graphics Processing Unit) ist ein spezialisierter Chip, der viele Berechnungen gleichzeitig ausführen kann. Während eine normale CPU (Prozessor) wenige Aufgaben sehr schnell nacheinander erledigt, bearbeitet eine GPU tausende einfache Rechenoperationen parallel. Genau das brauchen KI-Modelle wie große Sprachmodelle oder Bildgeneratoren.

Cloud-GPUs sind physische Grafikkarten in den Rechenzentren von Anbietern wie AWS, Google Cloud, Microsoft Azure oder spezialisierten Diensten wie Lambda Labs oder RunPod. Sie nutzen diese Karten über das Internet. Der Anbieter kümmert sich um Kühlung, Stromversorgung und Wartung. Sie bekommen in der Regel eine virtuelle Maschine mit vorinstallierten Treibern und Bibliotheken. Die Abrechnung erfolgt meist stundenweise oder minütengenau. Wichtig: Cloud-GPUs sind nicht mit herkömmlichen Grafikkarten für Spiele vergleichbar. Sie haben oft mehr Speicher (16 GB bis 80 GB RAM) und sind für Dauerlast ausgelegt.

Warum es für KMU relevant ist

Für kleine und mittlere Unternehmen ist der Kauf eigener KI-Hardware oft unwirtschaftlich. Eine einzelne professionelle GPU für KI-Arbeit kostet zwischen 5.000 und 30.000 Euro. Dazu kommen Kosten für einen leistungsfähigen Rechner, Kühlung, Strom und einen Administrator. Eine Cloud-GPU hingegen kostet je nach Modell zwischen 0,50 Euro und 5 Euro pro Stunde. Für ein Projekt, das 100 Stunden läuft, zahlen Sie also zwischen 50 und 500 Euro – statt einer fünfstelligen Investition.

Konkrete Anwendungsfälle für KMU: Sie trainieren ein maßgeschneidertes Sprachmodell für Ihre Kundenkommunikation. Oder Sie lassen ein KI-Modell regelmäßig Ihre Produktbilder optimieren. Auch für die Feinabstimmung (Fine-Tuning) eines bestehenden Modells auf Ihre Daten ist eine Cloud-GPU ideal. Der größte Vorteil ist die Flexibilität: Sie können innerhalb von Minuten eine leistungsstarke GPU zuschalten, wenn Sie sie brauchen, und sie wieder abschalten, wenn Sie fertig sind. Das Risiko: Die Kosten können bei Dauerbetrieb unerwartet hoch werden. Achten Sie auf die Datenübertragungskosten und darauf, dass Sie die Instanz wirklich stoppen, wenn Sie sie nicht nutzen. Ein weiteres Risiko: Sie sind auf eine stabile Internetverbindung angewiesen. Bei Ausfällen steht Ihre Arbeit still.

Verwandte Begriffe

Edge-KI (KI direkt auf dem Gerät, nicht in der Cloud)
Feinabstimmung (Anpassen eines KI-Modells an eigene Daten)
Trainingsdaten (Daten, mit denen Sie das Modell füttern)
Latenz (Verzögerung bei der Datenübertragung)
API (Schnittstelle, über die Sie die GPU ansteuern)

Häufige Fragen

Was ist eine Cloud-GPU?

Eine Cloud-GPU ist ein Grafikprozessor, der über das Internet gemietet wird. Sie ermöglicht rechenintensive Aufgaben wie KI-Training oder 3D-Rendering, ohne dass man eigene Hardware besitzen muss.

Welche Anbieter gibt es für Cloud-GPUs?

Bekannte Anbieter sind RunPod, Vast.ai und Lambda Labs. Sie bieten stundenweise Abrechnung, verschiedene GPU-Modelle und oft auch vorinstallierte Software für KI-Workloads.

Wie viel kostet eine Cloud-GPU pro Stunde?

Die Preise variieren je nach GPU-Modell und Anbieter. Günstige GPUs wie die NVIDIA RTX 3090 kosten ab etwa 0,20 € pro Stunde, High-End-Modelle wie die A100 können mehrere Euro pro Stunde kosten.

Für welche Aufgaben eignet sich eine Cloud-GPU?

Cloud-GPUs eignen sich besonders für maschinelles Lernen, Deep Learning, wissenschaftliche Simulationen, Videobearbeitung und 3D-Rendering. Sie sind flexibel skalierbar und reduzieren Investitionskosten.

Zuletzt aktualisiert: 2026-06-01 · Autor: Florian Neuhuber

× 📊 KI-Reality-Check
Wie nutzt der Mittelstand wirklich KI? 2 Min, anonym. Jetzt mitmachen →