Test local : Ollama et Qwen3 8B

Version

Ollama 0.34.4 / qwen3:8b Q4_K_M

Tâche actuelle

Test local : Ollama et Qwen3 8B

Méthode de validation

Deux points d’accès Windows existants vérifiés avec des entrées synthétiques ; le premier échec avec réponse vide est conservé.

Prérequis

Préparez un environnement de test isolé autorisé, fixez les versions des dépendances et des modèles, et sauvegardez avant modification.

Durée estimée

Le temps d’apprentissage varie selon l’environnement ; aucune durée mesurée n’est avancée.

Méthode de validation

Deux points d’accès Windows existants vérifiés avec des entrées synthétiques ; le premier échec avec réponse vide est conservé.

Méthode de validation

Confirmez que la requête vise localhost et comparez les réponses de l’interface et de l’API.

Limites et périmètre

Port incorrect, modèle non chargé, ressources insuffisantes ou identifiant de modèle incorrect.

Solutions de remplacement

ollama

lm-studio

Coût

À vérifier

Tarifs non vérifiés ; vérifiez séparément les coûts du logiciel, du modèle, de l’API, du matériel et de l’hébergement.

Étapes de mise en œuvre

1. 01
   Fixer les versions et l’empreinte. L’API native a renvoyé BLUEFISH_OK avec CPU, contexte 2048 et sortie 24 tokens.
2. 02
   Le chat compatible était vide avec length à 24 tokens ; à 256 et avec reasoning_effort=none propre au fournisseur, 2+2 a donné 4.
3. 03
   Chat compatible avec déchargement GPU par défaut : contexte 4096 et environ 5,58 Go VRAM observés. Serveur arrêté ; aucun minimum VRAM ni usage d’outils Agent démontré.

Limites et périmètre

• Résultat limité à ces versions, modèle et entrées ; aucun test prolongé, multiappareil, régional, image ou outils.

Testé par BlueFish · JSON ↗

Sources originales

1. Ollama · Generate API ↗

   docs.ollama.com · 2026-10-16 · Documentation officielle

2. Ollama · OpenAI compatibility ↗

   docs.ollama.com · 2026-10-16 · Documentation officielle