AQI AIAQI AI 정보국
⌕

AQI AI / MODELS

모델 목록 및 비교

도구는 실행과 연결, 모델은 생성을 담당합니다. 따로 비교하세요.

대화·코딩·검색·재순위·음성 등 용도별 로컬 모델 목록입니다. 여러 세대를 포함하며 시장 전체나 모든 최신 모델을 망라하지 않습니다. 품질과 속도의 통일된 실측은 없습니다.

텍스트 임베딩 · 검색 결과 재순위 · 음성 텍스트 변환

임베딩은 검색 벡터를 만들고 재순위 모델은 후보 문서를 평가하며 음성 모델은 오디오를 텍스트로 변환합니다. 대화 품질로 비교할 수 없습니다. 배치·활성화·오디오 메모리는 계산하지 않아 실행 용량은 수동 확인이 필요합니다.

같은 조건으로 비교합니다. 용량은 공개 텐서 요소 수로 계산해 명칭의 매개변수 수와 다를 수 있습니다. 기반 모델과 사용 조건도 확인하세요.

DeepSeek-R1-Distill-Qwen-1.5B

모델 계열
DeepSeek R1 Distill
가중치 용량 근거
1.78 B
문서·설정 컨텍스트 한도
131,072
라이선스 식별자(원문 참조)
mit + Apache-2.0 base
용도
텍스트 대화 · 추론

용량 추정만 하며 자동 다운로드나 PC 연결은 하지 않습니다.

제작자 출처·검토일 ↗

DeepSeek-R1-Distill-Qwen-7B

모델 계열
DeepSeek R1 Distill
가중치 용량 근거
7.62 B
문서·설정 컨텍스트 한도
131,072
라이선스 식별자(원문 참조)
mit + Apache-2.0 base
용도
텍스트 대화 · 추론

용량 추정만 하며 자동 다운로드나 PC 연결은 하지 않습니다.

제작자 출처·검토일 ↗

벤치마크가 아닌 용량 가정입니다. 공개 가중치 요소 수×비트÷8에 20% 여유, 층·KV 헤드·컨텍스트 기반 F16 KV와 실행 여유 1.5GiB를 더합니다. RAM 최소 4GiB 또는 25%, 전용 VRAM 2GiB를 남깁니다. 단일 모델·텍스트 대화이며 GGUF 실측이나 실행 보장이 아닙니다.

크기와 SHA는 제작자 파일 목록에서 가져왔으며 가중치는 다운로드하지 않았습니다. 파일 크기는 전체 실행 메모리가 아닙니다. 일치 정밀도의 검토된 파일 크기를 일반 추정보다 우선하고 캐시와 실행 여유를 더합니다.

벤치마크가 아닌 용량 가정입니다. 공개 가중치 요소 수×비트÷8에 20% 여유, 층·KV 헤드·컨텍스트 기반 F16 KV와 실행 여유 1.5GiB를 더합니다. RAM 최소 4GiB 또는 25%, 전용 VRAM 2GiB를 남깁니다. 단일 모델·텍스트 대화이며 GGUF 실측이나 실행 보장이 아닙니다.

혼합 구조, 특수 패킹, 설정 누락 모델은 추가 확인이 필요합니다. 이미지·음성 비용은 제외합니다. MoE는 활성 수가 아닌 전체 가중치 기준입니다. 4/8비트 가정은 양자화 파일 출시나 호환성을 뜻하지 않습니다.

모델 목록 보기 · 46

46

BGE Reranker

bge-reranker-v2-m3

가중치 용량 근거: 0.57 B

라이선스 식별자(원문 참조): apache-2.0

용도: 검색 결과 재순위

미확인

가중치 추정 GiB: 0.3 · 4-bit / 4096

구조·형식 추가 확인 필요

DeepSeek R1 Distill

DeepSeek-R1-Distill-Qwen-7B

가중치 용량 근거: 7.62 B

라이선스 식별자(원문 참조): mit + Apache-2.0 base

용도: 텍스트 대화 · 추론

문서·설정 컨텍스트 한도: 131,072

가중치 추정 GiB: 4.3 · 4-bit / 4096

DeepSeek R1 Distill

DeepSeek-R1-Distill-Llama-8B

가중치 용량 근거: 8.03 B

라이선스 식별자(원문 참조): mit + Llama 3.1 base

용도: 텍스트 대화 · 추론

문서·설정 컨텍스트 한도: 131,072

가중치 추정 GiB: 4.5 · 4-bit / 4096

DeepSeek R1 Distill

DeepSeek-R1-Distill-Qwen-14B

가중치 용량 근거: 14.77 B

라이선스 식별자(원문 참조): mit + Apache-2.0 base

용도: 텍스트 대화 · 추론

문서·설정 컨텍스트 한도: 131,072

가중치 추정 GiB: 8.3 · 4-bit / 4096

DeepSeek R1 Distill

DeepSeek-R1-Distill-Qwen-32B

가중치 용량 근거: 32.76 B

라이선스 식별자(원문 참조): mit + Apache-2.0 base

용도: 텍스트 대화 · 추론

문서·설정 컨텍스트 한도: 131,072

가중치 추정 GiB: 18.3 · 4-bit / 4096

Gemma 3

gemma-3-1b-it

가중치 용량 근거: 1.00 B

라이선스 식별자(원문 참조): gemma

용도: 텍스트 대화

미확인

가중치 추정 GiB: 0.6 · 4-bit / 4096

구조·형식 추가 확인 필요

Gemma 3

gemma-3-4b-it

가중치 용량 근거: 4.30 B

라이선스 식별자(원문 참조): gemma

용도: 텍스트 대화 · 시각·멀티모달

미확인

가중치 추정 GiB: 2.4 · 4-bit / 4096

구조·형식 추가 확인 필요

Gemma 3

gemma-3-12b-it

가중치 용량 근거: 12.19 B

라이선스 식별자(원문 참조): gemma

용도: 텍스트 대화 · 시각·멀티모달

미확인

가중치 추정 GiB: 6.8 · 4-bit / 4096

구조·형식 추가 확인 필요

Gemma 3

gemma-3-27b-it

가중치 용량 근거: 27.43 B

라이선스 식별자(원문 참조): gemma

용도: 텍스트 대화 · 시각·멀티모달

미확인

가중치 추정 GiB: 15.3 · 4-bit / 4096

구조·형식 추가 확인 필요

Gemma 4

gemma-4-12B

가중치 용량 근거: 11.96 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 시각·멀티모달

문서·설정 컨텍스트 한도: 262,144

가중치 추정 GiB: 6.7 · 4-bit / 4096

구조·형식 추가 확인 필요

gpt-oss

gpt-oss-20b

가중치 용량 근거: 20.91 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 추론

문서·설정 컨텍스트 한도: 131,072

가중치 추정 GiB: 11.7 · 4-bit / 4096

구조·형식 추가 확인 필요

gpt-oss

gpt-oss-120b

가중치 용량 근거: 116.83 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 추론

문서·설정 컨텍스트 한도: 131,072

가중치 추정 GiB: 65.3 · 4-bit / 4096

구조·형식 추가 확인 필요

Phi-4

phi-4

가중치 용량 근거: 14.66 B

라이선스 식별자(원문 참조): mit

용도: 텍스트 대화

문서·설정 컨텍스트 한도: 16,384

가중치 추정 GiB: 8.2 · 4-bit / 4096

Qwen3

Qwen3-0.6B

가중치 용량 근거: 0.75 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 0.4 · 4-bit / 4096

Qwen3

Qwen3-1.7B

가중치 용량 근거: 2.03 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 1.1 · 4-bit / 4096

Qwen3

Qwen3-14B

가중치 용량 근거: 14.77 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 8.3 · 4-bit / 4096

Qwen3

Qwen3-30B-A3B

가중치 용량 근거: 30.53 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 17.1 · 4-bit / 4096

Qwen3

Qwen3-32B

가중치 용량 근거: 32.76 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 18.3 · 4-bit / 4096

Qwen3 Embedding

Qwen3-Embedding-0.6B

가중치 용량 근거: 0.60 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 임베딩

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 0.3 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3 Embedding

Qwen3-Embedding-4B

가중치 용량 근거: 4.02 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 임베딩

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 2.2 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3 Embedding

Qwen3-Embedding-8B

가중치 용량 근거: 7.57 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 임베딩

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 4.2 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3 Reranker

Qwen3-Reranker-0.6B

가중치 용량 근거: 0.60 B

라이선스 식별자(원문 참조): apache-2.0

용도: 검색 결과 재순위

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 0.3 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3 Reranker

Qwen3-Reranker-4B

가중치 용량 근거: 4.02 B

라이선스 식별자(원문 참조): apache-2.0

용도: 검색 결과 재순위

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 2.2 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3 Reranker

Qwen3-Reranker-8B

가중치 용량 근거: 8.19 B

라이선스 식별자(원문 참조): apache-2.0

용도: 검색 결과 재순위

문서·설정 컨텍스트 한도: 32,768

가중치 추정 GiB: 4.6 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3.5

Qwen3.5-4B

가중치 용량 근거: 4.66 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 시각·멀티모달

문서·설정 컨텍스트 한도: 262,144

가중치 추정 GiB: 2.6 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3.5

Qwen3.5-9B

가중치 용량 근거: 9.65 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 시각·멀티모달

문서·설정 컨텍스트 한도: 262,144

가중치 추정 GiB: 5.4 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3.5

Qwen3.5-27B

가중치 용량 근거: 27.78 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 시각·멀티모달

문서·설정 컨텍스트 한도: 262,144

가중치 추정 GiB: 15.5 · 4-bit / 4096

구조·형식 추가 확인 필요

Qwen3.8

Qwen3.8-27B

가중치 용량 근거: 27.78 B

라이선스 식별자(원문 참조): apache-2.0

용도: 텍스트 대화 · 시각·멀티모달

문서·설정 컨텍스트 한도: 262,144

가중치 추정 GiB: 15.5 · 4-bit / 4096

구조·형식 추가 확인 필요