Qwen3.8-Flash-Next Qwen

类型
model
许可
other
任务
image-text-to-text
框架
transformers
下载量
2,551
点赞
3,375
参数量
179,999,981,459
访问
public
文件
144

标签

  • 多模态
  • 混合专家
  • 大语言模型
  • 视觉模型
  • 文本生成
  • 推理部署
  • transformers
  • Agent

摘要

Qwen3.8-Flash-Next 是通义千问开源的实验性多模态因果语言模型,融合视觉编码器,是 Qwen4 架构的预览版本。它引入混合注意力(Gated DeltaNet + Qwen稀疏注意力QSA)、门控残差、n-gram嵌入等架构创新,总量125B参数但仅激活6B,支持262K原生上下文并可扩展至1M token。模型主打长上下文的低延迟处理与高效参数扩展,适用于 Agent 工作负载和多模态理解等场景,兼容 Transformers、vLLM、SGLang 等框架。

README

--- library_name: transformers license: other license_name: qwen-community-1.0 license_link: LICENSE pipeline_tag: image-text-to-text --- # Qwen3.8-Flash-Next > [!Note] > 本仓库包含以 Hugging Face Transformers 格式存储的后训练模型权重和配置文件。 > > 这些文件与 Hugging Face Transformers、vLLM、SGLang、TokenSpeed 等框架兼容。 > [!Tip] >…

查看完整页面 · 查看原文