nekomata 7B instruction: requisitos de hardware y compatibilidad GPU en local
← Todos los modelos

Modelo de IA local

nekomata 7B instruction

de rinna

Los pesos caben enteros en la memoria del acelerador en 13 de 22 máquinas de referencia. La caché KV o el estado del runtime no están modelados del todo: es un mínimo de memoria, no un veredicto de «funciona».

7.7B Parámetros 32k Contexto máximo 1 Cuantización Parcial Cobertura de compatibilidad
Comprobar mi PC

Resumen

Editor
rinna
Familia
Rinna
Serie
nekomata 7B
Tarea
Generación de texto
Arquitectura
denso · qwen
Parámetros
7.7B
Contexto máximo
32.768 tokens
Licencia
tongyi-qianwen-license-agreement
Publicación
2023-12-19
Formatos
gguf, safetensors
Caché KV por token (f16)
desconocido
Cobertura de compatibilidad
Parcial: solo mínimo de memoria
Repositorio de origen
rinna/nekomata-7b-instruction
Página oficial
https://rinna.co.jp/

Cuantizaciones y tamaños de archivo

Cuantización Runtime Pesos Mínimo de memoria a 4k Identidad
Q4_K_Mgguf llama.cpprinna/nekomata-7b-instruction-gguf/nekomata-7b-instruction.Q4_K_M.gguf 4.56 GB 4.56 GB digest verificado

Los tamaños proceden del registro del runtime o del listado del repositorio. El mínimo de memoria suma la caché KV de 4.096 tokens cuando esa cifra no puede sobrestimar; es una estimación, no un requisito.

Runtimes

Compatibilidad en máquinas de referencia

Contexto 8k, 32 GB de RAM del sistema, mejor cuantización catalogada por máquina.

Máquina Memoria Respuesta Datos conocidos
GeForce RTX 3060 Laptop GPU 6GB 6.00 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 6.00 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 4060 8GB 8.00 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 8.00 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 3080 10GB 10.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 10.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 3060 12GB 12.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 12.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 4070 12GB 12.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 12.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 5070 12GB 12.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 12.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 4060 Ti 16GB 16.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 4080 16GB 16.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 5060 Ti 16GB 16.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 5080 16GB 16.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 3090 24GB 24.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 24.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 4090 24GB 24.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 24.0 GB VRAM: cabenCaché KV a 8k: desconocido
GeForce RTX 5090 32GB 32.0 GB VRAM Potencial: los pesos caben sin verificar · Q4_K_M Pesos 4.56 GB frente a 32.0 GB VRAM: cabenCaché KV a 8k: desconocido
Radeon RX 7600 8GB 8.00 GB VRAM Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 8.00 GB VRAM: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Intel Arc B580 12GB 12.0 GB VRAM Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 12.0 GB VRAM: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Radeon RX 7800 XT 16GB 16.0 GB VRAM Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Radeon RX 9070 XT 16GB 16.0 GB VRAM Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Intel Arc A770 16GB 16.0 GB VRAM Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 16.0 GB VRAM: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Radeon RX 7900 XTX 24GB 24.0 GB VRAM Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 24.0 GB VRAM: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Mac mini M4 24GB 24.0 GB unificada Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 24.0 GB unificada: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
Mac mini M4 Pro 24GB 24.0 GB unificada Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 24.0 GB unificada: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown
MacBook Pro 14-inch M4 Max 36GB 36.0 GB unificada Datos insuficientes sin verificar · Q4_K_M Pesos 4.56 GB frente a 36.0 GB unificada: cabenCaché KV a 8k: desconocidosoporte del runtime en esta máquina: unknown

Las respuestas definitivas («funciona», «no cabe») salen del motor calibrado o de una prueba física. Las filas «potencial» solo comparan los pesos con la memoria: el resto del requisito no está modelado, así que no son veredictos. Desconocido nunca es un fallo.

Hardware para este modelo

Hacen falta al menos 8 GB de VRAM solo para cargar los pesos más pequeños (4.56 GB). El requisito completo es mayor y aún no está modelado.

  • Artefacto catalogado más pequeño: 4.56 GB de pesos (Q4_K_M).
  • Una GPU con al menos 8 GB de VRAM contiene esos pesos.
  • Aún sin modelar: desconocido.
Ver GPU de 8 GB de VRAM
Estos enlaces abren una búsqueda por categoría de hardware, no una recomendación de producto concreto. Affiliate link — I may earn a commission from qualifying purchases. Estos enlaces nunca cambian una respuesta de compatibilidad. Siguen la memoria que los datos justifican, no la comisión.

Fuentes y evidencias

0 campos medidos, 19 con fuente, 4 estimados y 3 desconocidos.

Ficha de catálogo verificada el 2026-09-17.

¿Qué más puede ejecutar tu PC?

Elige tu GPU y tu RAM para ver cada modelo catalogado que cabe, con respuestas probadas, estimadas y potenciales por separado.

Comprobar mi PC