Aynı modelin farklı dosyaları

Detayz’ın Hugging Face profilinde LFM2.5-2.6B-heretic için bir GGUF deposu var. Kayıtlı model açıklamasında F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M ve Q4_0 seçenekleri listeleniyor.

İndirmeden önce

Kullanacağın aracın GGUF dosyasını desteklediğini kontrol et. Model kartındaki kullanım ve lisans bilgilerini oku; seçtiğin dosyanın boyutunu cihazının kullanılabilir belleğiyle birlikte değerlendir.

Dosya adından performans sonucu çıkmaz

Bu seçeneklerden hangisinin senin görevinde daha iyi çalıştığını söylemek için aynı koşullarda ölçüm gerekir. Burada bir hız, kalite veya belirli bir cihazda çalışma garantisi vermiyoruz. Güncel dosya listesi ve ayrıntılar aşağıdaki depoda.