Qwen3-Reranker-0.6B

简介

通义千问 Qwen3-Reranker-0.6B 是一款专为提升检索增强生成（RAG）准确度而设计的极轻量级重排模型。在端侧复杂的知识检索链路中，它扮演着“终极裁判”的关键角色。当向量检索（Embedding）模型完成初步召回后，它能够对候选文档与用户提问进行深度的交互式语义分析和二次打分排序，精准剔除相关性低的“噪音”信息。尽管参数量仅为6亿（0.6B），但它具备极其强大的上下文理解与逻辑判别能力。经过针对高通骁龙平台的深度适配与编译优化，该模型能够在极低内存占用和功耗下，实现毫秒级的重排响应。对于希望在移动终端构建高精度本地知识库、智能文档助手或离线问答系统的开发者而言，Qwen3-Reranker-0.6B 是有效消除大模型幻觉、保障高质量回答的最后一道防线。

效果视频

规格与下载

技术细节

Context length:2048
Number of parameters:0.6B
Precision:W4A16 (4-bit weights, 16-bit activations)

应用领域

Dialogue
Content Generation
Customer Support

授权信息

Source Model: APACHE-2.0
Deployable Model: AI-HUB-MODELS-LICENSE