mistral-nemo:12b-instruct-2407-q4_K_M: requisitos de GPU NVIDIA | LocalAIReady
← Todos los modelos Ollama

Variante exacta de Ollama

Mistral Nemo

Esta página evalúa el blob de modelo inmutable detrás de mistral-nemo:12b-instruct-2407-q4_K_M. Los resultados siguientes usan 8k de contexto y 32 GB de RAM del sistema.

Q4_K_M cuantización 6.96 GB blob exacto del modelo 1000k contexto declarado

Versión exacta del modelo verificada

Detalles técnicos

Digest SHA-256: sha256:dd3af152229f92a3d61f3f115217c9c72f4b94d8be6778156dab23f894703c28

Ejecutar con Ollamaollama run mistral-nemo:12b-instruct-2407-q4_K_M
Comprobar una configuración de hardware personalizada →

Comparación de hardware NVIDIA

GPU exacta VRAM Contexto Estado Limitación principal
GeForce RTX 3060 Laptop GPU 6GB 6.00 GB 8k Estimado Probablemente offload CPU/GPU VRAM
GeForce RTX 4060 8GB 8.00 GB 8k Estimado Probablemente offload CPU/GPU VRAM
GeForce RTX 3060 12GB 12.0 GB 8k Estimado Probablemente full GPU physical test data
GeForce RTX 5070 12GB 12.0 GB 8k Estimado Probablemente full GPU physical test data
GeForce RTX 4060 Ti 16GB 16.0 GB 8k Estimado Probablemente full GPU physical test data
GeForce RTX 5060 Ti 16GB 16.0 GB 8k Estimado Probablemente full GPU physical test data
GeForce RTX 3090 24GB 24.0 GB 8k Estimado Probablemente full GPU physical test data
GeForce RTX 4090 24GB 24.0 GB 8k Estimado Probablemente full GPU physical test data
GeForce RTX 5090 32GB 32.0 GB 8k Estimado Probablemente full GPU physical test data

Probado significa que la GPU, el digest, el runtime y el contexto exactos se probaron físicamente. Estimado nunca significa probado.

Método

Qué se incluye

La comparación incluye el blob exacto del modelo, una estimación explícita de la caché KV 8k, un margen de planificación conservador y un posible offload con RAM del sistema. No predice velocidad ni afirma una prueba física donde no exista.