glm4

A strong multi-lingual general language model with competitive performance to Llama 3.

9b
Hızlı Kurulum (Ollama kuruluysa)
ollama run glm4

Ollama kurulu değil mi? ollama.com/download — Windows, macOS ve Linux için ücretsiz. İlk çalıştırmada model indirilir, sonrası tamamen çevrimdışıdır.

Varyantlar

Boyut büyüdükçe kalite artar, donanım ihtiyacı yükselir. Başlangıç için küçük varyantı deneyin.

EtiketBoyutBağlamGirdiKomut
latest 5.5GB 128K Text ollama run glm4:latest
9b 5.5GB 128K Text ollama run glm4:9b
9b-chat-q2_K 4.0GB 128K Text ollama run glm4:9b-chat-q2_K
9b-chat-q3_K_S 4.6GB 128K Text ollama run glm4:9b-chat-q3_K_S
9b-chat-q3_K_M 5.1GB 128K Text ollama run glm4:9b-chat-q3_K_M
9b-chat-q3_K_L 5.3GB 128K Text ollama run glm4:9b-chat-q3_K_L
9b-chat-q4_0 5.5GB 128K Text ollama run glm4:9b-chat-q4_0
9b-chat-q4_1 6.0GB 128K Text ollama run glm4:9b-chat-q4_1
9b-chat-q4_K_S 5.8GB 128K Text ollama run glm4:9b-chat-q4_K_S
9b-chat-q4_K_M 6.3GB 128K Text ollama run glm4:9b-chat-q4_K_M
9b-chat-q5_0 6.6GB 128K Text ollama run glm4:9b-chat-q5_0
9b-chat-q5_1 7.1GB 128K Text ollama run glm4:9b-chat-q5_1
9b-chat-q5_K_S 6.7GB 128K Text ollama run glm4:9b-chat-q5_K_S
9b-chat-q5_K_M 7.1GB 128K Text ollama run glm4:9b-chat-q5_K_M
9b-chat-q6_K 8.3GB 128K Text ollama run glm4:9b-chat-q6_K
9b-chat-q8_0 10.0GB 128K Text ollama run glm4:9b-chat-q8_0
9b-chat-fp16 19GB 128K Text ollama run glm4:9b-chat-fp16
9b-text-q2_K 4.0GB 8K Text ollama run glm4:9b-text-q2_K
9b-text-q3_K_S 4.6GB 8K Text ollama run glm4:9b-text-q3_K_S
9b-text-q3_K_M 5.1GB 8K Text ollama run glm4:9b-text-q3_K_M
9b-text-q3_K_L 5.3GB 8K Text ollama run glm4:9b-text-q3_K_L
9b-text-q4_0 5.5GB 8K Text ollama run glm4:9b-text-q4_0
9b-text-q4_1 6.0GB 8K Text ollama run glm4:9b-text-q4_1
9b-text-q4_K_S 5.8GB 8K Text ollama run glm4:9b-text-q4_K_S
9b-text-q4_K_M 6.3GB 8K Text ollama run glm4:9b-text-q4_K_M

7 varyant daha var — tümü için ollama.com.

Model Detayları ve Benchmarklar (kaynak: ollama.com)

Note: this model requires Ollama 0.2 or later.

In the evaluation of data sets in semantics, mathematics, reasoning, code, and knowledge, this model has shown superior performance beyond even Llama 3 8B.

This generation of models includes multi-language support, supporting 26 languages including Japanese, Korean, and German.

References

GitHub

Hugging Face