Prueba de endpoint local: Ollama y Qwen3 8B

Versión

Ollama 0.34.4 / qwen3:8b Q4_K_M

Tarea actual

Prueba de endpoint local: Ollama y Qwen3 8B

Método de validación

Dos endpoints de Windows existentes verificados con entradas sintéticas; se conserva el primer fallo de respuesta vacía.

Requisitos previos

Prepare un entorno de prueba aislado y autorizado, fije las versiones de dependencias y modelos y haga una copia de seguridad antes de los cambios.

Tiempo estimado

El tiempo de aprendizaje varía según el entorno; no se afirma una duración medida.

Método de validación

Dos endpoints de Windows existentes verificados con entradas sintéticas; se conserva el primer fallo de respuesta vacía.

Método de validación

Confirme que la solicitud se dirige a localhost y compare las respuestas de la interfaz y la API.

Límites y alcance

Puerto incorrecto, modelo sin cargar, recursos insuficientes o ID de modelo incorrecto.

Alternativas

ollama

lm-studio

Coste

Pendiente de verificar

Precios no verificados; compruebe por separado los costes de software, modelo, API, hardware y alojamiento.

Pasos de implementación

1. 01
   Fije versiones y hash. La API nativa devolvió BLUEFISH_OK con CPU, contexto 2048 y salida de 24 tokens.
2. 02
   El chat compatible quedó vacío con length a 24 tokens; con 256 y reasoning_effort=none del proveedor, 2+2 devolvió 4.
3. 03
   Chat compatible con GPU predeterminada: contexto 4096 y unos 5,58 GB VRAM observados. Servidor detenido; no demuestra VRAM mínima ni herramientas de agentes.

Límites y alcance

• Resultado limitado a estas versiones, modelo y entradas; sin pruebas prolongadas, entre dispositivos, regionales, imágenes o herramientas.

Probado por BlueFish · JSON ↗

Fuentes originales

1. Ollama · Generate API ↗

   docs.ollama.com · 2026-10-16 · Documentación oficial

2. Ollama · OpenAI compatibility ↗

   docs.ollama.com · 2026-10-16 · Documentación oficial