Bir yöntem seçin

Eğer kontrol noktanız zaten kuantize edilmişse, yöntem kontrol noktası tarafından belirlenir. Bunu Önceden kuantize edilmiş bir kontrol noktası yükleme bölümünde gösterildiği gibi yükleyin. Aksi takdirde, donanımınıza ve kontrol noktasını yükledikten sonra modelle yapacaklarınıza göre bir yöntem seçin.

Hedefinizden başlayın

Her satır, denemek için ilk olarak denenecek bir yöntem önerir. Bir yönteme karar vermeden önce tam karşılaştırma tablosunu kontrol edin.

Hedef	Şunla başlayın	Neden
En az kurulumla, daha az bellek kullanarak bir model eğitin	bitsandbytes	Kalibrasyon gerektirmeden yükleme sırasında 4 veya 8 bitle kuantize eder, CUDA, XPU, HPU ve CPU üzerinde çalışır ve kaydetmeyi ve ince ayarı destekler.
QLoRA ile ince ayar yapın	bitsandbytes	PEFT ile 4-bit NF4 desteklenir. HQQ, EETQ, GPTQ, SINQ ve Quanto da ince ayarı destekler.
`torch.compile` ile çıkarımı hızlandırın	torchao	`generate`, statik bir önbellekle torchao modellerini otomatik olarak derler ve torchao, CUDA, XPU ve CPU için int4, int8 ve FP8 şemalarına sahiptir.
En iyi 4-bit doğruluğunu alın	GPTQ	Yükleme sırasında bir veri seti üzerinde kalibre eder. Bunun yerine AWQ veya AutoRound kullanmak için, bu kütüphanelerle kuantizasyon yapın ve kontrol noktasını yükleyin.
Ada, Hopper veya Intel XPU üzerinde FP8 çalıştırın	İnce taneli FP8	CUDA hesaplama yeteneği 8.9 veya daha yüksek, ya da bir XPU gerektirir. FBGEMM FP8 hesaplama yeteneği 9.0 veya daha yüksek, ya da bir XPU gerektirir.
Blackwell'de FP4 çalıştırın	NVFP4	Yükleme sırasında NVIDIA’nın 4 bitlik kayan nokta biçimine kuantize eder. MXFP4, hesaplama yeteneği 7.5 veya daha yüksek olan sistemlerde, XPU ve CPU üzerinde çalışır.
Apple silikon üzerinde çalıştırın	Metal	Yükleme sırasında MPS üzerinde 2, 4 veya 8 bit olarak kuantize eder. GGUF dosyaları da MPS üzerinde yüklenir.
llm-compressor ile oluşturulan denetim noktalarını yükleyin	compressed-tensors	FP8, int4 ve int8 kontrol noktalarını compressed-tensors biçiminde yükler.
4 bitin altında sıkıştır	HQQ veya SINQ	Kalibrasyon olmadan yüklerken 2 veya 3 bite kuantize edin. AQLM, VPTQ ve SpQR kontrol noktaları daha düşük bitlere inebilir ancak kendi kütüphaneleriyle kuantize edilmelidir.

Show the full comparison table

Yöntem	`quant_method`	İş Akışı	Bitler	Donanım	Kaydet	İnce ayar	Otomatik derleme
AQLM	`aqlm`	Sadece önceden kuantize edilmiş	1–2	CUDA, CPU	✅	✅ `aqlm>=1.0.2` ile	❌
AutoRound	`auto-round`	Sadece önceden kuantize edilmiş	2–8	CUDA, XPU, CPU	✅	❌	❌
AWQ	`awq`	Sadece önceden kuantize edilmiş	4	CUDA, ROCm, XPU, CPU	✅ ExLlama arka uçları hariç	✅ `gptqmodel>=5.0.0` ile	❌
BitNet	`bitnet`	Sadece önceden kuantize edilmiş	1.58	CUDA	✅	Yalnızca `online` modundaki `autobitlinear`	❌
bitsandbytes	`bitsandbytes`	Yüklenirken	4, 8	CUDA, XPU, HPU, CPU	✅	✅	❌
compressed-tensors	`compressed-tensors`	Sadece önceden kuantize edilmiş	Kontrol noktası tarafından ayarlanır	CUDA, XPU, MPS, CPU	✅	✅ FP8 çekirdekleri hariç	✅
EETQ	`eetq`	Yüklenirken	8	CUDA	✅	✅	❌
FBGEMM FP8	`fbgemm_fp8`	Yüklenirken	8	CUDA (hesaplama yeteneği 9.0+), XPU	✅	❌	❌
İnce taneli FP8	`fp8`, `mxfp8`	Yüklenirken	8	CUDA (hesaplama yeteneği 8.9+), XPU	✅	❌	✅
Dört Altı	`fouroversix`	Yüklenirken	4	CUDA (Blackwell'de en hızlı), CPU	✅	Yalnızca `keep_master_weights=True` ile	❌
FP-Quant	`fp_quant`	Yüklenirken	4	CUDA, XPU	✅	Yalnızca `store_master_weights=True` ile	❌
GGUF	`gguf`	Sadece önceden kuantize edilmiş	1–8	CUDA, MPS, XPU, CPU	❌	❌	✅
GPTQ	`gptq`	Yükleme sırasında, kalibrasyonla	2, 3, 4, 8	CUDA, ROCm, XPU, CPU	✅	✅	❌
HIGGS	`higgs`	Yüklenirken	2, 3, 4	CUDA	✅	❌	❌
HQQ	`hqq`	Yüklenirken	1, 2, 3, 4, 8	CUDA, XPU	✅	✅	❌
Metal	`metal`	Yüklenirken	2, 4, 8	MPS	✅	❌	❌
MXFP4	`mxfp4`	Yüklenirken	4	CUDA (hesaplama yeteneği 7.5+), XPU, CPU	✅	❌	❌
NVFP4	`nvfp4`	Yüklenirken	4	Tek bir Blackwell GPU	❌	❌	✅
Quanto	`quanto`	Yüklenirken	2, 4, 8	CUDA, MPS, XPU, CPU	❌	✅	❌
Quark	`quark`	Sadece önceden kuantize edilmiş	Kontrol noktası tarafından ayarlanır	CUDA, ROCm, CPU	❌	❌	❌
SINQ	`sinq`	Yüklenirken	2, 3, 4, 6, 8	Bir CUDA GPU, CPU	✅	✅	❌
SpQR	`spqr`	Sadece önceden kuantize edilmiş	3	CUDA	✅	❌	❌
torchao	`torchao`	Yüklenirken	4, 8	CUDA, XPU, CPU	✅	Yalnızca 8-bit şemaları	✅
VPTQ	`vptq`	Sadece önceden kuantize edilmiş	1–8	CUDA	✅	❌	❌

Kantizasyon seçicisiyle belleği kontrol edin

Kantizasyon seçicisi, KV önbellek dahil olmak üzere, bir modelin her hassasiyet seviyesinde donanımınıza sığıp sığmadığını tahmin eder. Bir model, donanımınızı ve yöntemin yapması gerekeni seçtiğinizde Karşılaştır görünümü, eşleşen yöntemleri listeler.

Benchmarks

Aşağıdaki kıyaslamalar, Llama 3.1 8B ve 70B modellerinde çeşitli yöntemleri karşılaştırır. Doğruluk, saniyede token cinsinden işleme hızı, GB cinsinden tepe bellek kullanımı ve kuantizasyon süresi raporlanır.

Llama 3.1 70B, bf16 ile 2 NVIDIA A100 80GB GPU üzerinde çalıştırıldı. FP8 yöntemleri 1 NVIDIA H100 80GB GPU üzerinde, diğer tüm yöntemler ise 1 NVIDIA A100 80GB GPU üzerinde çalıştırıldı. Verimlilik, batch boyutu 1 ve 64 token üretimi ile ölçüldü. Sonuçlar, bir yöntemin desteklemesi durumunda torch.compile ve Marlin çekirdeklerini içerir.

Sonuçlar üç bit aralığında gruplanır.

Bitler	Karşılaştırılan yöntemler	Bellek vs. bf16	Doğruluk
8	bitsandbytes int8, HQQ, Quanto, torchao, FP8	Yaklaşık 2 kat daha küçük	bf16'ya çok yakın
4	AWQ, GPTQ, HQQ, bitsandbytes NF4, SINQ	Yaklaşık 4 kat daha küçük	Yüksek. AWQ ve GPTQ genellikle öne çıkar ancak kalibrasyon gerektirir.
4'ün altı	VPTQ, AQLM, 2-bit GPTQ	4 kat daha küçük	Özellikle 2 bit'te belirgin bir düşüş. AQLM ve VPTQ, kuantizasyon için uzun bir süre gerektirir.

Üretim için bir yöntem seçmeden önce, kendi göreviniz ve donanımınız üzerinde doğruluğu ve hızı ölçün.

Update on GitHub

Transformers

Bir yöntem seçin

Hedefinizden başlayın

Kantizasyon seçicisiyle belleği kontrol edin

Benchmarks