Test endpoint locale: Ollama e Qwen3 8B

Versione

Ollama 0.34.4 / qwen3:8b Q4_K_M

Attività attuale

Test endpoint locale: Ollama e Qwen3 8B

Metodo di verifica

Due endpoint Windows esistenti verificati con input sintetici; conservato il primo errore con risposta vuota.

Prerequisiti

Preparare un ambiente di test isolato e autorizzato, fissare le versioni di dipendenze e modelli ed eseguire un backup prima delle modifiche.

Tempo stimato

Il tempo di apprendimento varia in base all’ambiente; non viene dichiarata una durata misurata.

Metodo di verifica

Due endpoint Windows esistenti verificati con input sintetici; conservato il primo errore con risposta vuota.

Metodo di verifica

Confermare che la richiesta sia diretta a localhost e confrontare le risposte dell’interfaccia e dell’API.

Limiti e ambito

Porta errata, modello non caricato, risorse insufficienti o ID del modello errato.

Alternative

ollama

lm-studio

Costo

Da verificare

Prezzi non verificati; controllare separatamente i costi di software, modello, API, hardware e hosting.

Passaggi di implementazione

1. 01
   Fissare versioni e hash. L’API nativa ha restituito BLUEFISH_OK con CPU, contesto 2048 e output 24 token.
2. 02
   Chat compatibile vuota con length a 24 token; con 256 e reasoning_effort=none specifico del fornitore, 2+2 ha restituito 4.
3. 03
   Chat compatibile con GPU predefinita: contesto 4096 e circa 5,58 GB VRAM osservati. Server fermato; nessuna prova di VRAM minima o strumenti Agent.

Limiti e ambito

• Esito limitato a versioni, modello e input indicati; nessun test prolungato, multi-dispositivo, regionale, immagini o strumenti.

Testato da BlueFish · JSON ↗

Fonti originali

1. Ollama · Generate API ↗

   docs.ollama.com · 2026-10-16 · Documentazione ufficiale

2. Ollama · OpenAI compatibility ↗

   docs.ollama.com · 2026-10-16 · Documentazione ufficiale