本地端点实测：Ollama 与 Qwen3 8B

版本

Ollama 0.34.4 / qwen3:8b Q4_K_M

当前任务

本地端点实测：Ollama 与 Qwen3 8B

验收方法

Windows 既有安装的两种接口通过合成输入检查；首次兼容接口的空回答失败一并保留。

前置条件

准备获授权的独立测试环境，固定依赖与模型版本，先备份再修改。

预计时间

学习者时间因环境而异，非实测耗时。

验收方法

Windows 既有安装的两种接口通过合成输入检查；首次兼容接口的空回答失败一并保留。

验收方法

确认请求确实发往 localhost，并比较界面与 API 的回答。

边界与限制

端口不一致、模型未加载、资源不足或模型 ID 拼写错误。

替代方案

ollama

lm-studio

费用

待核验

价格尚未核验；软件、模型、API、硬件和托管费用需分别确认。

实施步骤

1. 01
   固定版本和模型摘要。原生 /api/generate 使用 CPU、2048 上下文、24 输出 Token，返回 BLUEFISH_OK。
2. 02
   兼容接口首次 max_tokens=24 返回空内容和 length；改为 256 并使用该提供商 reasoning_effort=none 后，2+2 返回 4。
3. 03
   兼容接口使用默认 GPU 卸载，观察到上下文 4096、显存约 5.58 GB。停止本次临时服务；不据此推断最低显存或 Agent 工具调用能力。

边界与限制

• 仅本次指定版本、模型与合成输入通过；无长时间稳定性、跨设备、地域网络、图像或工具调用测试。

本站实测 · JSON ↗

原始来源

1. Ollama · Generate API ↗

   docs.ollama.com · 2026-10-16 · 官方文档说明

2. Ollama · OpenAI compatibility ↗

   docs.ollama.com · 2026-10-16 · 官方文档说明