DavidAU TURBO & Swift vs Qwen3.8-27B: düşünme token'ları
Çok daha az düşünme token'ı vaat eden iki ince ayar sözünü tutmadı: TURBO üçü içinde en çok düşünen (çıktısının %58'i), Swift'in iddia ettiği %58'lik azalma ise %15 çıktı. Prompt başına tek koşu bana tam tersini söylerdi.
- Test tarihi
- Kurulum
Radeon Pro W7800 48 GB — fiziksel iş istasyonuFiziksel makine, Linux, ROCm (Ollama) · AMD Ryzen 5 7600 (6 çekirdek / 12 iş parçacığı, AVX-512) · 64 GB DDR5-6400
- Çalışma ortamı
- Ollama 0.34.0, Q8_0 + MTP referans
- Modeller
qwen3.8:27b-q8_0-mtpQ8_0 + MTPreferans
Qwen3.8-27B TURBOtest edilen
Qwen3.8-27B Swifttest edilen
Karar
İki iddia da benim prompt'larımda tutmuyor. TURBO'nun cevapları kısa, ama düşünme payı en yüksek ve son derece tutarsız (aynı soruda ±3.580 token). Swift ~%15 daha az düşünüyor, %58 değil. Varsayılanım değişmedi.
İşe yarayan
- İki ince ayar da soru başına referanstan ~%15 hızlı cevaplıyor
- Swift referansın üretim hızını koruyor (44,4 tok/s)
Yaramayan
- TURBO: çıktısının %58'i düşünme — iddia 1/2 ile 1/10 arası
- TURBO: tek soruda koşudan koşuya ±3.580 token'a varan fark
- Swift: 'düşünmede %58'e varan azalma' %15 olarak ölçüldü
- Düşünme payı: referans / TURBO / Swift
- 31 / 58 / 30%
- Cevap başına saniye
- 50,3 / 42,0 / 42,9
- Sıcaklık 1'de gereken tekrar
- ≥ 3
Cevap başına token
düşük olan iyi5 prompt × 3 tekrar, sıcaklık 1
- Düşünme
- Toplam
Veri
| Düşünme | Toplam | |
|---|---|---|
| Resmi Q8_0 + MTP | 648 token | 2.112 token |
| DavidAU TURBO | 938 token | 1.631 token |
| Swift | 553 token | 1.836 token |
Cevap başına saniye
düşük olan iyiVeri
| Süre | |
|---|---|
| Resmi Q8_0 + MTP | 50,3 sn |
| DavidAU TURBO | 42,0 sn |
| Swift | 42,9 sn |
Nasıl test ettim
“Thinkbench” olarak kullandığım beş gündelik prompt — iki kod görevi, bir Türkçe bilgi sorusu, bir Türkçe yaratıcı görev ve bir mantık bulmacası — her biri sıcaklık 1’de, düşünme açıkken üç kez. Cevap başına toplam token’ı, düşünme token’ını, süreyi ve üretim hızını ölçtüm.
Sonuçlar
| Resmi Q8_0 + MTP | DavidAU TURBO | Swift | |
|---|---|---|---|
| Cevap başına token | 2.112 | 1.631 | 1.836 |
| Cevap başına düşünme | 648 (%31) | 938 (%58) | 553 (%30) |
| Cevap başına saniye | 50,3 | 42,0 | 42,9 |
| Üretim hızı | 43,8 tok/s | 38,7 tok/s | 44,4 tok/s |
Bulduklarım
- DavidAU’nun “1/2 ile 1/10 düşünme token’ı” iddiası tutmuyor — düşünme payı üçü içinde en yüksek. Toplamı yalnızca son cevabı kısa olduğu için düşük. Üstelik çok dağınık: bir soruda koşular arasında ±3.580 token’a varan fark var.
- Swift’in “%58 daha az düşünme” iddiası abartılı — ben %15’lik bir azalma ölçtüm.
- Tek koşu beni kandırırdı. İlk turda TURBO en tutumlu modeldi; ikincide en uzun düşünen oldu. Sıcaklık 1’de üç tekrar en az olması gereken.
İki ince ayarı da ölçtükten sonra sildim.