mistral-small3.2

An update to Mistral Small that improves on function calling, instruction following, and less repetition errors.

Görüntü Araç Kullanımı 24b
Hızlı Kurulum (Ollama kuruluysa)
ollama run mistral-small3.2

Ollama kurulu değil mi? ollama.com/download — Windows, macOS ve Linux için ücretsiz. İlk çalıştırmada model indirilir, sonrası tamamen çevrimdışıdır.

Varyantlar

Boyut büyüdükçe kalite artar, donanım ihtiyacı yükselir. Başlangıç için küçük varyantı deneyin.

EtiketBoyutBağlamGirdiKomut
latest 15GB 128K Text, Image ollama run mistral-small3.2:latest
24b 15GB 128K Text, Image ollama run mistral-small3.2:24b
24b-instruct-2506-q4_K_M 15GB 128K Text, Image ollama run mistral-small3.2:24b-instruct-2506-q4_K_M
24b-instruct-2506-q8_0 26GB 128K Text, Image ollama run mistral-small3.2:24b-instruct-2506-q8_0
24b-instruct-2506-fp16 48GB 128K Text, Image ollama run mistral-small3.2:24b-instruct-2506-fp16

Model Detayları ve Benchmarklar (kaynak: ollama.com)

Mistral-Small-3.2-24B-Instruct-2506 is a minor update of Mistral-Small-3.1-24B-Instruct-2503.

Small-3.2 improves in the following categories:

  • Instruction following: Small-3.2 is better at following precise instructions
  • Repetition errors: Small-3.2 produces less infinite generations or repetitive answers
  • Function calling: Small-3.2’s function calling template is more robust (see here and examples)

In all other categories Small-3.2 should match or slightly improve compared to Mistral-Small-3.1-24B-Instruct-2503.

References

Hugging Face