Qwen3 × LM Studio: 첫 로컬 대화

연구 메모

시작 전 준비

실행 단계

1. 01

   먼저 용량·실행 환경 확인

   단계 실습: 아래 4B/8B 상세에서 용량을 확인하세요. 컨텍스트4096과 양자화를 맞추고 LM Studio 시스템·런타임 지원을 별도로 확인하세요.

   이 단계의 출처: LM Studio · Get startedQwen · LM Studio
2. 02

   공식 모델·파일 고정

   단계 실습: Qwen 제작자 저장소에서4B/8B를 구분하고 Q4_K_M 또는 Q8_0를 고르세요. 고정 링크·바이트·SHA256·원래 검토일은 모델 상세에 있으며 파일 크기는 실행 메모리가 아닙니다.

   이 단계의 출처: Qwen/Qwen3-4B-GGUFQwen/Qwen3-8B-GGUF
3. 03

   저장 위치 먼저 설정

   단계 실습: 공식 설치 후 앱을 열고 My Models에서 여유 있는 폴더를 설정한 뒤 다운로드하세요. 예시G:\code\models는 환경에 맞게 바꾸고 원본·복사본 공간을 확보하세요.

   이 단계의 출처: LM Studio · Download an LLM
4. 04

   파일 검증·가져오기 미리보기

   단계 실습: 아래 Windows PowerShell 예시는4B/Q4_K_M입니다. 경로·SHA를 맞추고 모델·양자화를 바꾸면 해시도 바꾸세요. lms 도움말에서--dry-run/--copy를 확인하고 대상을 미리 보며 복사는 실행하지 않습니다.

   이 단계의 출처: LM Studio · lms CLILM Studio · lms import
5. 05

   확인 후 복사로 가져오기

   단계 실습: 대상 확인 후 출력된 lms import를--copy와 함께 따로 실행하고 안내를 읽으세요. 복사 옵션이 없으면 이동합니다. macOS/Linux는 공식 문서에 맞게 경로를 바꾸고 Windows 예시를 그대로 실행하지 마세요.

   이 단계의 출처: LM Studio · lms importLM Studio · Import Models
6. 06

   로딩 후 짧은 텍스트 확인

   단계 실습: Chat 로더에서 파일을 선택하고 컨텍스트4096으로 시작해 로딩을 기다리세요. 합성 문장“Reply only READY /no_think”로 출력·시간·메모리를 기록하세요. 형식 이탈만으로 손상을 판단하지 않으며 API는 먼저 켤 필요 없습니다.

   이 단계의 출처: LM Studio · Get startedQwen/Qwen3-8B-GGUF
7. 07

   결과·실패 조건 기록

   단계 실습: 앱·런타임 버전,파일/SHA,컨텍스트,GPU 설정,오류를 기록하세요. 메모리 부족은 다른 모델 해제·컨텍스트 축소·4B 재검토로 확인하세요. 형식 오류는 런타임을 확인하고 오프라인 전 파일을 준비하며 MCP·원격 도구는 별도로 검증하세요.

   이 단계의 출처: LM Studio · offline operation

명령과 예제

AQI AI에서 직접 테스트하지 않음

# Windows PowerShell: verify a prepared Qwen3-4B Q4_K_M file, then preview only.
$aqiFile = 'G:\code\models\Qwen3-4B-Q4_K_M.gguf'
$aqiExpected = '7485fe6f11af29433bc51cab58009521f205840f5b4ae3a32fa7f92e8534fdf5'
if (-not (Test-Path -LiteralPath $aqiFile -PathType Leaf)) { throw 'Set the path to your verified local GGUF file.' }
if ((Get-FileHash -LiteralPath $aqiFile -Algorithm SHA256).Hash.ToLowerInvariant() -ne $aqiExpected) { throw 'SHA256 mismatch: stop and check the model source.' }
$aqiHelp = (& lms import --help | Out-String)
if ($LASTEXITCODE -ne 0 -or $aqiHelp -notmatch '--dry-run' -or $aqiHelp -notmatch '--copy') { throw 'Check your local lms version and official import documentation.' }
& lms import $aqiFile --dry-run
if ($LASTEXITCODE -ne 0) { throw 'Import preview failed; keep the error and review it.' }
# Review the preview destination before running the command printed below separately.
Write-Output ('lms import "' + $aqiFile + '" --copy')

검증 항목

자주 발생하는 문제

비용

미확인

가격은 아직 검증하지 않았습니다. 소프트웨어, 모델, API, 하드웨어, 호스팅 비용을 각각 확인하세요.

대안과 다음 단계

원본 출처

1. LM Studio · Download an LLM ↗

   lmstudio.ai · 2026-10-17 · 공식 문서

2. LM Studio · Import Models ↗

   lmstudio.ai · 2026-10-17 · 공식 문서

3. LM Studio · lms import ↗

   lmstudio.ai · 2026-10-17 · 공식 문서

4. LM Studio · Get started ↗

   lmstudio.ai · 2026-10-17 · 공식 문서

5. Qwen · LM Studio ↗

   qwen.readthedocs.io · 2026-10-17 · 공식 문서

6. LM Studio · lms CLI ↗

   lmstudio.ai · 2026-10-17 · 공식 문서

7. Qwen/Qwen3-4B-GGUF ↗

   huggingface.co · 2026-10-16 · 공식 문서

8. Qwen/Qwen3-8B-GGUF ↗

   huggingface.co · 2026-10-16 · 공식 문서

9. LM Studio · offline operation ↗

   lmstudio.ai · 2026-10-17 · 공식 문서