NVIDIA GeForce RTX 4090 vs AMD Radeon RX 7900 XTX

NVIDIA GeForce RTX 4090 vs. AMD Radeon RX 7900 XTX: Was ist der Unterschied für lokale KI?

Die NVIDIA GeForce RTX 4090 hat 24 GB GDDR6X mit 1.008 GB/s Bandbreite, die AMD Radeon RX 7900 XTX 24 GB GDDR6 mit 960 GB/s Bandbreite. Beim Speicher für KI-Modelle liegen beide gleichauf. Die TDP beträgt 450 Watt gegenüber 355 Watt. Beide sind 2022 erschienen. Laut VRAM-Rechner der KI-Rundschau passen von 10 erfassten Modellen mit offenen Gewichten 9 auf die NVIDIA GeForce RTX 4090 und 9 auf die AMD Radeon RX 7900 XTX (Q4_K_M, berechnet für 8k Kontext mit mindestens 0,5 GB Reserve). Das größte passende Modell ist auf beiden Qwen 2.5 32B.