阿鳍 AI阿鳍 AI 情报局
⌕
官方文档说明本站未实测

Qwen3 × LM Studio：第一次本地对话

从4B/8B官方GGUF到文件核验、预览导入和首次对话；原创导学，本站未实测。

最近核验:

要检查的型号

Qwen3-4B

型号详情与下载来源 →带着这个型号检查硬件容量 →

Qwen3-8B

型号详情与下载来源 →带着这个型号检查硬件容量 →
术语速读

模型负责生成与推理；Agent 使用工具完成任务；Harness 管理 Agent 的运行环境；MCP 是连接工具与数据的协议；Skill 是可复用的任务指导。

研究说明

目标

用已核验的Qwen3文件完成第一段本地文本对话。

适合谁

面向初次使用本地模型的人。操作以LM Studio界面为主；代码示例仅适用于Windows PowerShell。

开始前准备

前置条件

需要兼容的LM Studio、足够磁盘/RAM、已核验的GGUF。应用与运行时版本必须记录；不承诺固定最低配置或速度。

模型 / 服务

仅示范Qwen3-4B/8B官方GGUF的Q4_K_M或Q8_0文件，具体版本、哈希和容量见型号详情。

Agent / 运行环境

本流程先在LM Studio内对话，不需要先接Agent、MCP或开启HTTP服务。后续接入需单独核验权限与数据去向。

预计时间

学习者时间因环境而异，非实测耗时。

实施步骤

  1. 先核对容量与运行环境

    阶段练习: 从下方Qwen3-4B或8B详情进入硬件检查，保持4096上下文与所选量化；容量候选仍需单独核对LM Studio系统及运行时支持。

    本阶段来源: LM Studio · Get startedQwen · LM Studio

  2. 固定官方模型与文件

    阶段练习: 使用Qwen作者仓库，区分Qwen3-4B与8B；文件选Q4_K_M或Q8_0。固定版文件链接、字节大小、SHA256及原核验日见型号页，不把文件大小当运行内存。

    本阶段来源: Qwen/Qwen3-4B-GGUFQwen/Qwen3-8B-GGUF

  3. 先设置保存位置

    阶段练习: 从官方渠道安装并打开LM Studio，在My Models设置有足够空间的模型目录，再下载。示例用G:\code\models；按自己的磁盘调整，复制导入还需保留原文件与目标副本的空间。

    本阶段来源: LM Studio · Download an LLM

  4. 核验文件并预览导入

    阶段练习: 下方是Windows PowerShell预览示例，默认4B/Q4_K_M。改路径后先核对文件SHA；换成8B或Q8_0必须同步换预期哈希。检查本机lms帮助支持--dry-run与--copy，再预览目标；此段不会执行复制。

    本阶段来源: LM Studio · lms CLILM Studio · lms import

  5. 确认后复制导入

    阶段练习: 目标目录正确后，单独执行示例最后打印的lms import命令，保留--copy并阅读交互提示。默认不带复制选项会移动文件。macOS/Linux按官方导入文档换路径；不要直接运行Windows示例。

    本阶段来源: LM Studio · lms importLM Studio · Import Models

  6. 加载后做短文本验证

    阶段练习: 在Chat的加载器选择已导入文件，先用4096上下文；等待加载完成。用虚构文本问“只回复READY /no_think”，记录回复、耗时和内存；偏离格式不直接等于模型损坏。无需先开API服务。

    本阶段来源: LM Studio · Get startedQwen/Qwen3-8B-GGUF

  7. 记录结果与失败边界

    阶段练习: 保存应用/运行时版本、文件名/SHA、上下文、卸载到GPU的设置及错误。内存不足先卸载其他模型、减小上下文或改查4B；未知架构/格式先核对运行时。离线复测前准备全部文件，MCP/远程工具另验。

    本阶段来源: LM Studio · offline operation

命令与示例

本站未实测

# Windows PowerShell: verify a prepared Qwen3-4B Q4_K_M file, then preview only.
$aqiFile = 'G:\code\models\Qwen3-4B-Q4_K_M.gguf'
$aqiExpected = '7485fe6f11af29433bc51cab58009521f205840f5b4ae3a32fa7f92e8534fdf5'
if (-not (Test-Path -LiteralPath $aqiFile -PathType Leaf)) { throw 'Set the path to your verified local GGUF file.' }
if ((Get-FileHash -LiteralPath $aqiFile -Algorithm SHA256).Hash.ToLowerInvariant() -ne $aqiExpected) { throw 'SHA256 mismatch: stop and check the model source.' }
$aqiHelp = (& lms import --help | Out-String)
if ($LASTEXITCODE -ne 0 -or $aqiHelp -notmatch '--dry-run' -or $aqiHelp -notmatch '--copy') { throw 'Check your local lms version and official import documentation.' }
& lms import $aqiFile --dry-run
if ($LASTEXITCODE -ne 0) { throw 'Import preview failed; keep the error and review it.' }
# Review the preview destination before running the command printed below separately.
Write-Output ('lms import "' + $aqiFile + '" --copy')

验收检查

成功标准由你实际确认：文件SHA匹配、预览目录正确、My Models可见、加载完成并能返回文本。导入成功不等于所有功能/设备适配；保留失败记录。

已记录的测试结果

已核验官方资料，本站未执行该组合或设备实测。

常见问题

找不到lms：先启动应用并查官方CLI帮助；SHA不同：停止，不跳过核验；看不到模型：核对当前模型目录、文件是否完整及层级；缺运行时：准备匹配的官方运行时后再复测。

费用

待核验

价格尚未核验；软件、模型、API、硬件和托管费用需分别确认。

边界与限制

权限与风险

Agent、MCP、网页搜索和远程API需分别核验。这些步骤不是本站对你设备的隔离实测。

替代与后续路线

免费替代以开源软件为主，硬件与模型调用可能收费。

优先考虑已有设备上的公开软件方案；不将 API、硬件、电费或托管写成保证免费。

原始来源

  1. LM Studio · Download an LLM ↗

    lmstudio.ai · · 官方文档说明

  2. LM Studio · Import Models ↗

    lmstudio.ai · · 官方文档说明

  3. LM Studio · lms import ↗

    lmstudio.ai · · 官方文档说明

  4. LM Studio · Get started ↗

    lmstudio.ai · · 官方文档说明

  5. Qwen · LM Studio ↗

    qwen.readthedocs.io · · 官方文档说明

  6. LM Studio · lms CLI ↗

    lmstudio.ai · · 官方文档说明

  7. Qwen/Qwen3-4B-GGUF ↗

    huggingface.co · · 官方文档说明

  8. Qwen/Qwen3-8B-GGUF ↗

    huggingface.co · · 官方文档说明

  9. LM Studio · offline operation ↗

    lmstudio.ai · · 官方文档说明

关联资源

本地运行环境免费软件；许可与资源成本另核验

Ollama

本地模型运行与 API 工具，提供部分 OpenAI 接口兼容。

官方文档说明
本地运行环境免费软件；许可与资源成本另核验

LM Studio

桌面本地模型工具，提供 Chat Completions、Responses 等兼容端点。

官方文档说明
模型免费软件；许可与资源成本另核验

Qwen3

阿里巴巴 Qwen 团队发布的开放模型系列。

官方文档说明
模型免费软件；许可与资源成本另核验

Qwen3-4B

纯容量估算；不自动下载或连接你的电脑。

官方文档说明
模型免费软件；许可与资源成本另核验

Qwen3-8B

纯容量估算；不自动下载或连接你的电脑。

官方文档说明