阿鳍 AI阿鳍 AI 情报局
⌕
官方文档说明本站未实测

Nemotron-3.5-Rerank-8B-BF16

重排模型,对问题与候选文档对进行相关性打分;不能代替召回模型或聊天模型。

最近核验: 版本: f88f8d910472

模型目录与对比

模型系列
Nemotron 3.5
权重体量估算依据
8.38 B
文档或配置上下文上限
待核验
许可标识(见原文)
openmdw-1.1
用途
结果重排 / Reranker
权重估算 GiB
待核验

相同条件下比较;权重体量采用公开元数据张量元素数,可能与型号命名的参数数不同。许可需连同基座和使用条款阅读。

向量模型用于生成检索向量,重排模型为候选内容评分,语音模型把音频转成文字;这些用途不能用聊天质量直接比较。此类任务的批量、激活和音频开销尚未建模,保留人工核验,不使用聊天缓存公式判断能否运行。

混合架构、特殊打包或配置缺失的型号仅列目录,需进一步核验;多模态图片/音频开销未计。MoE按总权重,不按激活参数计。4/8位是容量假设,不表示该量化文件已发布或后端已兼容。

从选型到运行

  1. 带着这个型号检查硬件容量 →
  2. 型号详情与下载来源 ↓

    查看下方原始来源中的模型卡、许可和文件列表;有已核验的量化文件时,以上方固定版本链接为准。

  3. 此型号用于检索或语音任务,请从作者模型卡确认对应运行方式;文本聊天导学不适用于它。

术语速读

模型负责生成与推理;Agent 使用工具完成任务;Harness 管理 Agent 的运行环境;MCP 是连接工具与数据的协议;Skill 是可复用的任务指导。

研究说明

向量模型用于生成检索向量,重排模型为候选内容评分,语音模型把音频转成文字;这些用途不能用聊天质量直接比较。此类任务的批量、激活和音频开销尚未建模,保留人工核验,不使用聊天缓存公式判断能否运行。

验收检查

已记录的测试结果

纯容量估算;不自动下载或连接你的电脑。

费用

免费软件;许可与资源成本另核验

软件源码公开;模型许可、硬件、电费与托管另计,未核验完整总成本。

边界与限制

混合架构、特殊打包或配置缺失的型号仅列目录,需进一步核验;多模态图片/音频开销未计。MoE按总权重,不按激活参数计。4/8位是容量假设,不表示该量化文件已发布或后端已兼容。

原始来源

  1. nvidia/Nemotron-3.5-Rerank-8B-BF16 · card ↗

    huggingface.co · · 官方文档说明

  2. nvidia/Nemotron-3.5-Rerank-8B-BF16 · metadata ↗

    huggingface.co · · 官方文档说明