AQI AIAQI · Observatorio de IA
⌕
Documentación oficialNo probado por AQI AI

SmolLM2-135M-Instruct

Solo estimación de capacidad; sin descargas ni conexión automática al equipo.

Última comprobación: Versión: 12fd25f77366

Catálogo y comparación de modelos

Familia
SmolLM2
Base del tamaño de pesos
0.13 B
Límite de contexto documentado/configurado
8192
Identificador de licencia (ver fuente)
apache-2.0
Uso
Chat de texto
Pesos estimados GiB
0.08 · 4-bit

Comparar con iguales ajustes; el tamaño usa elementos de tensores públicos y puede diferir del nombre. Leer licencias, modelo base y condiciones.

Escenario de capacidad, no benchmark: elementos de pesos × bits ÷ 8 más 20 %; KV F16 según capas, cabezas y contexto, más 1,5 GiB de ejecución. Reservar al menos 4 GiB o 25 % de RAM y 2 GiB de VRAM. Un modelo, una secuencia de texto; no es tamaño GGUF medido ni garantía.

Arquitecturas híbridas, formatos especiales o configuraciones ausentes requieren revisión manual. Se excluyen imágenes/audio. MoE usa pesos totales, no parámetros activos. Los escenarios 4/8 bits no prueban disponibilidad ni compatibilidad.

Glosario rápido

Los modelos generan contenido y razonan. Los agentes usan herramientas para realizar tareas. Un Harness gestiona el entorno de un agente. MCP conecta herramientas y datos. Los Skills son instrucciones de trabajo reutilizables.

Notas de investigación

Catálogo local por chat, código, búsqueda, reordenación y voz. Incluye varias generaciones, sin abarcar todo el mercado ni cada novedad. Calidad y velocidad no medidas de forma uniforme.

Coste

Software gratuito; comprueba la licencia y los costes de cómputo

El código fuente es público; las licencias de los modelos, el hardware, la electricidad y el alojamiento se contabilizan aparte. El coste total no está verificado.

Límites y alcance

Arquitecturas híbridas, formatos especiales o configuraciones ausentes requieren revisión manual. Se excluyen imágenes/audio. MoE usa pesos totales, no parámetros activos. Los escenarios 4/8 bits no prueban disponibilidad ni compatibilidad.

Fuentes originales

  1. HuggingFaceTB/SmolLM2-135M-Instruct ↗

    huggingface.co · · Documentación oficial

Recursos relacionados

Entorno de ejecución localSoftware gratuito; comprueba la licencia y los costes de cómputo

Ollama

Un entorno de ejecución de modelos locales y herramienta de API compatible con un subconjunto de los endpoints de OpenAI.

Documentación oficial
Entorno de ejecución localSoftware gratuito; comprueba la licencia y los costes de cómputo

LM Studio

Una herramienta de escritorio para modelos locales con endpoints compatibles con Chat Completions y Responses.

Documentación oficial