Xwin-LM is a model based on Llama 2 using various techniques to improve its quality.
xwinlm
Conversational model based on Llama 2 that performs competitively on various benchmarks.
7b
13b
Hızlı Kurulum (Ollama kuruluysa)
ollama run xwinlm
Ollama kurulu değil mi? ollama.com/download — Windows, macOS ve Linux için ücretsiz. İlk çalıştırmada model indirilir, sonrası tamamen çevrimdışıdır.
Varyantlar
Boyut büyüdükçe kalite artar, donanım ihtiyacı yükselir. Başlangıç için küçük varyantı deneyin.
| Etiket | Boyut | Bağlam | Girdi | Komut |
|---|---|---|---|---|
| latest | 3.8GB | 4K | Text |
ollama run xwinlm:latest
|
| 7b | 3.8GB | 4K | Text |
ollama run xwinlm:7b
|
| 13b | 7.4GB | 4K | Text |
ollama run xwinlm:13b
|
| 7b-v0.1 | 3.8GB | 4K | Text |
ollama run xwinlm:7b-v0.1
|
| 7b-v0.1-q2_K | 2.8GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q2_K
|
| 7b-v0.1-q3_K_S | 2.9GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q3_K_S
|
| 7b-v0.1-q3_K_M | 3.3GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q3_K_M
|
| 7b-v0.1-q3_K_L | 3.6GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q3_K_L
|
| 7b-v0.1-q4_0 | 3.8GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q4_0
|
| 7b-v0.1-q4_1 | 4.2GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q4_1
|
| 7b-v0.1-q4_K_S | 3.9GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q4_K_S
|
| 7b-v0.1-q4_K_M | 4.1GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q4_K_M
|
| 7b-v0.1-q5_0 | 4.7GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q5_0
|
| 7b-v0.1-q5_1 | 5.1GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q5_1
|
| 7b-v0.1-q5_K_S | 4.7GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q5_K_S
|
| 7b-v0.1-q5_K_M | 4.8GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q5_K_M
|
| 7b-v0.1-q6_K | 5.5GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q6_K
|
| 7b-v0.1-q8_0 | 7.2GB | 4K | Text |
ollama run xwinlm:7b-v0.1-q8_0
|
| 7b-v0.1-fp16 | 13GB | 4K | Text |
ollama run xwinlm:7b-v0.1-fp16
|
| 7b-v0.2 | 3.8GB | 4K | Text |
ollama run xwinlm:7b-v0.2
|
| 7b-v0.2-q2_K | 2.8GB | 4K | Text |
ollama run xwinlm:7b-v0.2-q2_K
|
| 7b-v0.2-q3_K_S | 2.9GB | 4K | Text |
ollama run xwinlm:7b-v0.2-q3_K_S
|
| 7b-v0.2-q3_K_L | 3.6GB | 4K | Text |
ollama run xwinlm:7b-v0.2-q3_K_L
|
| 7b-v0.2-q4_0 | 3.8GB | 4K | Text |
ollama run xwinlm:7b-v0.2-q4_0
|
| 7b-v0.2-q4_1 | 4.2GB | 4K | Text |
ollama run xwinlm:7b-v0.2-q4_1
|
55 varyant daha var — tümü için ollama.com.