BlueFish 직접 테스트BlueFish 직접 테스트
로컬 엔드포인트 실측: Ollama와 Qwen3 8B
기존 Windows 환경에서 두 엔드포인트를 합성 입력으로 확인했으며 첫 빈 응답 실패도 보존했습니다.
핵심 용어 안내
모델은 생성과 추론을 담당합니다. 에이전트는 도구를 사용해 작업을 수행합니다. Harness는 에이전트의 실행 환경을 관리합니다. MCP는 도구와 데이터를 연결하는 프로토콜입니다. Skill은 재사용 가능한 작업 지침입니다.
버전
Ollama 0.34.4 / qwen3:8b Q4_K_M
현재 작업
로컬 엔드포인트 실측: Ollama와 Qwen3 8B
검증 방법
기존 Windows 환경에서 두 엔드포인트를 합성 입력으로 확인했으며 첫 빈 응답 실패도 보존했습니다.
사전 조건
승인된 격리 테스트 환경을 준비하고 의존성과 모델 버전을 고정하며, 변경 전에 백업하세요.
예상 소요 시간
학습 시간은 환경마다 다르며 실측 시간을 주장하지 않습니다.
검증 방법
기존 Windows 환경에서 두 엔드포인트를 합성 입력으로 확인했으며 첫 빈 응답 실패도 보존했습니다.
검증 방법
요청 대상이 localhost인지 확인하고 UI 응답과 API 응답을 비교하세요.
제한과 적용 범위
잘못된 포트, 로드되지 않은 모델, 부족한 리소스 또는 잘못된 모델 ID.
대안
ollama
lm-studio
비용
미확인
가격은 아직 검증하지 않았습니다. 소프트웨어, 모델, API, 하드웨어, 호스팅 비용을 각각 확인하세요.
구현 단계
- 01버전과 모델 해시를 고정합니다. 기본 API는 CPU, 컨텍스트 2048, 출력 24토큰에서 BLUEFISH_OK를 반환했습니다.
- 02호환 채팅은 출력 24에서 빈 응답과 length를 반환했습니다. 256과 제공업체 전용 reasoning_effort=none으로 변경하자 2+2에 4를 반환했습니다.
- 03호환 API는 기본 GPU 설정에서 컨텍스트 4096, VRAM 약 5.58GB를 보였습니다. 임시 서버는 종료했으며 최소 VRAM이나 에이전트 도구 사용 능력을 뜻하지 않습니다.
제한과 적용 범위
- 지정 버전, 모델, 합성 입력에만 해당하며 장시간, 다른 기기, 지역 접속, 이미지, 도구 호출 시험은 하지 않았습니다.
권한과 위험
- 로컬에만 바인딩하세요. 로컬 실행이어도 모델 라이선스 제한이 사라지지 않습니다.
원본 출처
- Ollama · Generate API ↗
docs.ollama.com · 2026-10-16 · 공식 문서
- Ollama · OpenAI compatibility ↗
docs.ollama.com · 2026-10-16 · 공식 문서