Qwen3-8B

简介

Qwen3-8B 是通义千问系列在端侧部署的又一里程碑之作，标志着 8B 参数模型在复杂推理与指令遵循能力上的全面进化。基于新一代混合注意力机制与稀疏化训练技术，Qwen3-8B 在数学计算、逻辑推演、多语言交互及代码生成等核心维度实现了显著突破。针对高通骁龙最新一代 AI 引擎，该模型完成了从算子级到内存调度的全链路协同优化，支持更高的并发吞吐量与更低的推理延迟。它完美契合了当前端侧 AI 应用对“高智商”与“低功耗”的双重诉求，无论是构建具备深度思考能力的私人 AI 助手、部署企业级本地知识库，还是开发复杂的交互式应用，Qwen3-8B 都能提供媲美云端大模型的卓越体验，是面向未来的端侧旗舰级语言模型。

效果视频

规格与下载

技术细节

Input sequence length for Prompt Processor:128
Context length:8273
Number of parameters:8B
Precision:W4A16 (4-bit weights, 16-bit activations)
Num of key-value heads: The model uses Grouped-Query Attention (GQA).
Information about the model parts: The model is split into 3 parts, and weight sharing is enabled across models with different auto-regression lengths.
Supported languages: Multiple languages

应用领域

Dialogue
Content Generation
Customer Support

授权信息

Source Model: APACHE-2.0
Deployable Model: AI-HUB-MODELS-LICENSE