NVIDIA GeForce RTX 4090 vs NVIDIA GeForce RTX 3090

NVIDIA GeForce RTX 4090 vs. NVIDIA GeForce RTX 3090: Was ist der Unterschied für lokale KI?

Die NVIDIA GeForce RTX 4090 hat 24 GB GDDR6X mit 1.008 GB/s Bandbreite, die NVIDIA GeForce RTX 3090 24 GB GDDR6X mit 936 GB/s Bandbreite. Beim Speicher für KI-Modelle liegen beide gleichauf. Die TDP beträgt 450 Watt gegenüber 350 Watt. Erschienen ist die NVIDIA GeForce RTX 4090 2022, die NVIDIA GeForce RTX 3090 2020. Laut VRAM-Rechner der KI-Rundschau passen von 10 erfassten Modellen mit offenen Gewichten 9 auf die NVIDIA GeForce RTX 4090 und 9 auf die NVIDIA GeForce RTX 3090 (Q4_K_M, berechnet für 8k Kontext mit mindestens 0,5 GB Reserve). Das größte passende Modell ist auf beiden Qwen 2.5 32B.