Lokaler Endpunkttest: Ollama und Qwen3 8B

Version

Ollama 0.34.4 / qwen3:8b Q4_K_M

Aktuelle Aufgabe

Lokaler Endpunkttest: Ollama und Qwen3 8B

Prüfverfahren

Zwei Endpunkte einer vorhandenen Windows-Installation mit synthetischen Eingaben geprüft; erster Fehler mit leerer Antwort bleibt erhalten.

Voraussetzungen

Bereiten Sie eine autorisierte isolierte Testumgebung vor, fixieren Sie Abhängigkeits- und Modellversionen und sichern Sie vor Änderungen.

Geschätzter Zeitaufwand

Die Lernzeit hängt von der Umgebung ab; es wird keine gemessene Dauer angegeben.

Prüfverfahren

Zwei Endpunkte einer vorhandenen Windows-Installation mit synthetischen Eingaben geprüft; erster Fehler mit leerer Antwort bleibt erhalten.

Prüfverfahren

Bestätigen Sie localhost als Anfrageziel und vergleichen Sie Antworten aus Oberfläche und API.

Grenzen und Einschränkungen

Falscher Port, nicht geladenes Modell, unzureichende Ressourcen oder falsche Modell-ID.

Alternativen

ollama

lm-studio

Kosten

Nicht geprüft

Preise sind nicht verifiziert; prüfen Sie Software-, Modell-, API-, Hardware- und Hostingkosten getrennt.

Umsetzungsschritte

1. 01
   Versionen und Modellhash festhalten. Native API lieferte BLUEFISH_OK mit CPU, Kontext 2048 und Ausgabe 24 Token.
2. 02
   Kompatibler Chat blieb bei 24 Token mit length leer; bei 256 und anbieterspezifischem reasoning_effort=none ergab 2+2 die Antwort 4.
3. 03
   Kompatibler Chat mit Standard-GPU-Auslagerung: Kontext 4096 und etwa 5,58 GB VRAM beobachtet. Server beendet; kein Nachweis für Mindest-VRAM oder Agent-Werkzeuge.

Grenzen und Einschränkungen

• Ergebnis nur für diese Versionen, Modell und Eingaben; keine Dauer-, Geräte-, Regional-, Bild- oder Werkzeugtests.

Von BlueFish getestet · JSON ↗

Originalquellen

1. Ollama · Generate API ↗

   docs.ollama.com · 2026-10-16 · Offizielle Dokumentation

2. Ollama · OpenAI compatibility ↗

   docs.ollama.com · 2026-10-16 · Offizielle Dokumentation