W7800 vs RX 7900 XTX
İki kartta birebir aynı Q4_K_M dosyasını ve aynı Ollama sürümünü çalıştırdım: tüketici kartı 7900 XTX üretimde %29, prefill'de %44 hızlı. Fark bant genişliğini değil hesap gücünü izliyor — W7800'ün asıl sunduğu şey 48 GB'ı.
- Test tarihi
- Kurulum
Radeon Pro W7800 48 GB — fiziksel iş istasyonuFiziksel makine, Linux, ROCm (Ollama) · AMD Ryzen 5 7600 (6 çekirdek / 12 iş parçacığı, AVX-512) · 64 GB DDR5-6400
Radeon RX 7900 XTX 24 GB — fiziksel makineFiziksel makine, Ollama (ROCm)
- Çalışma ortamı
- İkisinde de Ollama 0.32.14, flash attention açık, q8_0 KV önbelleği
- Modeller
qwen3.8:27bQ4_K_Mtest edilen
Karar
Model 24 GB'a sığıyorsa 7900 XTX'i alın — her hız ölçümünü kazanıyor. W7800'ü kapasite için alın: iki kat VRAM tek üstünlüğü ve düşük bitli kuantizasyonlarda 70 CU'su ağırlıkları açmakta zorlanıyor.
İşe yarayan
- 7900 XTX: prefill +%44, kısa prompt üretimi +%29, uzun bağlam üretimi +%32
- Prefill kazancı (+%44) CU × saat hızı farkıyla (+%45) neredeyse birebir örtüşüyor
- 7900 XTX sonuçları iki model ailesinde ve iki Ollama sürümünde tutarlı (33,6 → 33,2 tok/s)
Yaramayan
- num_ctx farklıydı (262K'ya karşı 32K) — hızı etkilemediği önceden ölçüldü ama birebir değil
- Tek model ve tek kuantizasyon; Q8_0 24 GB'lık karta sığmıyor
- Prefill kazancı, 7900 XTX
- +43,9%
- Üretim kazancı (kısa)
- +29,2%
- Bant genişliği farkı
- +11%
- CU × saat hızı farkı
- +45%
Üretim hızı
yüksek olan iyi- W7800 48 GB
- RX 7900 XTX 24 GB
Veri
| W7800 48 GB | RX 7900 XTX 24 GB | |
|---|---|---|
| Kısa prompt (21 tok) | 25,68 tok/s | 33,19 tok/s |
| Uzun prompt (31.073 tok) | 20,75 tok/s | 27,49 tok/s |
Prefill, 31.073 token'lık prompt
yüksek olan iyi- W7800 48 GB
- RX 7900 XTX 24 GB
Veri
| W7800 48 GB | RX 7900 XTX 24 GB | |
|---|---|---|
| Prefill | 498,0 tok/s | 716,5 tok/s |
Avantaj nereden geliyor
7900 XTX'in W7800'e üstünlüğü, yüzde
Veri
| 7900 XTX avantajı | |
|---|---|
| VRAM bant genişliği (teknik özellik) | 11% |
| Ölçülen üretim | 29% |
| Ölçülen prefill | 44% |
| CU × saat hızı (teknik özellik) | 45% |
Kurulum — tek değişken
Temmuz’daki karşılaştırmam ekran kartıyla kuantizasyonu birbirine karıştırıyordu (W7800’de Q8_0, 7900 XTX’te Q4_K_M); kartın kendi katkısını ayırmanın yolu yoktu. Bu sefer kart dışında her şeyi sabit tuttum:
| Sabit tutulan | Değer |
|---|---|
| Model | qwen3.8:27b-q4_K_M — aynı dosya, SHA-256 doğrulandı |
| Motor | İkisinde de Ollama 0.32.14 (7900 XTX’li makine bu test için yükseltildi) |
| Ayarlar | FLASH_ATTENTION=1, KV_CACHE_TYPE=q8_0 |
| Prompt’lar | Aynı kısa (21 tok) ve uzun (31.073 tok) prompt |
| Taşma | İkisi de %100 GPU, doğrulandı |
Tek asimetri: num_ctx W7800’de 262.144, 7900 XTX’te 32.768 (262K 24 GB’a sığmıyor). Ayrılan bağlamın hızı
değiştirmediğini daha önce ölçmüştüm, yani karşılaştırma geçerli.
Kartlar
| W7800 | RX 7900 XTX | Fark | |
|---|---|---|---|
| Mimari | Navi 31 / gfx1100 | Navi 31 / gfx1100 | aynı |
| Compute unit | 70 | 96 | +%37 |
| VRAM | 48 GB | 24 GB | −%50 |
| Bant genişliği | 864 GB/s | 960 GB/s | +%11 |
| Yük altında saat hızı | ort. 2.352 / en çok 2.495 MHz | en çok 2.639 MHz | ~+%6 |
Sonuçlar
| W7800 | 7900 XTX | 7900 XTX avantajı | |
|---|---|---|---|
| Prefill (31.073 tok) | 498,0 tok/s (62,4 sn) | 716,5 tok/s (43,4 sn) | +%43,9 |
| Üretim — kısa | 25,68 tok/s | 33,19 tok/s | +%29,2 |
| Üretim — uzun | 20,75 tok/s | 27,49 tok/s | +%32,5 |
| Uzun bağlamda yavaşlama | −%19,2 | −%17,2 | benzer |
| Bant genişliği verimi (kısa) | %52,7 | %61,3 |
7900 XTX’in kısa prompt koşuları 33,32 / 33,23 / 33,03 çıktı — sapma çok düşük.
Fark bant genişliğinden değil, hesap gücünden
| Ölçü | Fark | Ne söylüyor |
|---|---|---|
| VRAM bant genişliği | +%11 | saf bant genişliği avantajı |
| Ölçülen üretim | +%29 | bant genişliği farkının iki katından fazla — gerisi hesaptan |
| Ölçülen prefill | +%44 | prefill saf hesap |
| CU × saat hızı | 1,37 × 1,06 = +%45 | prefill’le neredeyse birebir |
- Prefill hesaba bağlı: teorik +%45 hesap gücüne karşı +%44 ölçtüm.
- Üretim bant genişliğine bağlı ama saf değil: +%29, +%11 (bant genişliği) ile +%45 (hesap) arasına düşüyor. Aradaki fark Q4_K_M’in açılması — her token’ın ağırlıkları okunurken CU’larda açılıyor.
Bu, W7800’de Q4_K_M veriminin neden %53’e düştüğünü bağımsız olarak açıklıyor: açma maliyetini karşılayacak daha az CU var. Aynı kart, açması ucuz olan Q8_0’da %69 verim tutturuyor.
Satın alacaksanız ne anlama geliyor
- Model 24 GB’a sığıyorsa → 7900 XTX açık ara daha iyi kart.
- Model 24 GB’tan fazlasını istiyorsa → tek kartlık tek seçenek W7800; hız kaybı da kapasite için ödediğiniz bedel.
Ara not: modelleri makineler arasında taşımak
İkinci makinede ollama pull ~4,6 Mbps’te sürünüyordu (nedenini kurcalamadım). Bunun yerine beş dosyayı LAN üzerinden
akıtınca 16 GB’lık katman 150 sn’de (106 MB/s) geldi; her dosyayı SHA-256 adına karşı kontrol ettim.