官方文档说明本站未实测
Mistral-Small-3.1-24B-Instruct-2503
纯容量估算;不自动下载或连接你的电脑。
模型目录与对比
- 模型系列
- Mistral Small
- 权重体量估算依据
- 24.01 B
- 文档或配置上下文上限
- 131,072
- 许可标识(见原文)
- apache-2.0
- 用途
- 文本对话
- 权重估算 GiB
- 13.42 · 4-bit
相同条件下比较;权重体量采用公开元数据张量元素数,可能与型号命名的参数数不同。许可需连同基座和使用条款阅读。
容量情景而非跑分:公开权重张量数×位宽÷8,再留20%量化/混合精度余量;F16 KV缓存按层数、KV头和上下文计算,另加1.5GiB运行余量。系统内存预留至少4GiB或25%,独显预留2GiB。单模型、单会话、纯文本;不是指定GGUF文件的实测大小或可运行保证。
混合架构、特殊打包或配置缺失的型号仅列目录,需进一步核验;多模态图片/音频开销未计。MoE按总权重,不按激活参数计。4/8位是容量假设,不表示该量化文件已发布或后端已兼容。
术语速读
模型负责生成与推理;Agent 使用工具完成任务;Harness 管理 Agent 的运行环境;MCP 是连接工具与数据的协议;Skill 是可复用的任务指导。
研究说明
持续扩充的本地模型快照,按聊天、编程、检索、重排和语音等用途区分;包含不同代际,不是全市场或最新型号全集。能力和速度未在本站统一实测。
费用
免费软件;许可与资源成本另核验
软件源码公开;模型许可、硬件、电费与托管另计,未核验完整总成本。
边界与限制
混合架构、特殊打包或配置缺失的型号仅列目录,需进一步核验;多模态图片/音频开销未计。MoE按总权重,不按激活参数计。4/8位是容量假设,不表示该量化文件已发布或后端已兼容。
原始来源
- mistralai/Mistral-Small-3.1-24B-Instruct-2503 ↗
huggingface.co · · 官方文档说明