A large model used by merging the layers of two models: Xwin and Euryale.
goliath
A language model created by combining two fine-tuned Llama 2 70B models into one.
Hızlı Kurulum (Ollama kuruluysa)
ollama run goliath
Ollama kurulu değil mi? ollama.com/download — Windows, macOS ve Linux için ücretsiz. İlk çalıştırmada model indirilir, sonrası tamamen çevrimdışıdır.
Varyantlar
Boyut büyüdükçe kalite artar, donanım ihtiyacı yükselir. Başlangıç için küçük varyantı deneyin.
| Etiket | Boyut | Bağlam | Girdi | Komut |
|---|---|---|---|---|
| latest | 66GB | 4K | Text |
ollama run goliath:latest
|
| 120b-q2_K | 50GB | 4K | Text |
ollama run goliath:120b-q2_K
|
| 120b-q3_K_S | 51GB | 4K | Text |
ollama run goliath:120b-q3_K_S
|
| 120b-q3_K_M | 56GB | 4K | Text |
ollama run goliath:120b-q3_K_M
|
| 120b-q3_K_L | 62GB | 4K | Text |
ollama run goliath:120b-q3_K_L
|
| 120b-q4_0 | 66GB | 4K | Text |
ollama run goliath:120b-q4_0
|
| 120b-q4_1 | 74GB | 4K | Text |
ollama run goliath:120b-q4_1
|
| 120b-q4_K_S | 66GB | 4K | Text |
ollama run goliath:120b-q4_K_S
|
| 120b-q4_K_M | 71GB | 4K | Text |
ollama run goliath:120b-q4_K_M
|
| 120b-q5_0 | 81GB | 4K | Text |
ollama run goliath:120b-q5_0
|
| 120b-q5_1 | 88GB | 4K | Text |
ollama run goliath:120b-q5_1
|
| 120b-q5_K_S | 81GB | 4K | Text |
ollama run goliath:120b-q5_K_S
|
| 120b-q5_K_M | 83GB | 4K | Text |
ollama run goliath:120b-q5_K_M
|
| 120b-q6_K | 97GB | 4K | Text |
ollama run goliath:120b-q6_K
|
| 120b-q8_0 | 125GB | 4K | Text |
ollama run goliath:120b-q8_0
|
| 120b-fp16 | 236GB | 4K | Text |
ollama run goliath:120b-fp16
|