Qwen3.8-27B-FP8 Qwen

类型
model
许可
apache-2.0
任务
image-text-to-text
框架
transformers
下载量
352,971
点赞
459
参数量
27,781,427,952
访问
public
文件
81

标签

  • 多模态
  • 视觉语言模型
  • 文本生成
  • 大语言模型
  • 量化
  • 推理部署
  • Agent
  • 模型演示

摘要

这是Qwen3.8-27B模型的FP8量化版本，采用块大小为128的细粒度FP8量化，性能与原版几乎一致，可兼容transformers、vLLM、SGLang等多个推理框架。作为原生视觉语言模型，它支持图像与视频理解、灵活的思考控制以及长时程Agent任务，在编码、专业工作、研究与多步推理方面表现突出。该模型适合需要本地/推理部署、兼顾多模态理解与Agent能力的应用场景。

README

--- base_model: - Qwen/Qwen3.8-27B library_name: transformers license: apache-2.0 pipeline_tag: image-text-to-text --- # Qwen3.8-27B-FP8 > [!Note] > 本仓库包含后训练模型的FP8量化权重和配置文件，格式为Hugging Face Transformers格式。 > > 这些工件与Hugging Face Transformers、vLLM、SGLang、TokenSpeed等框架兼容。 > > 量化方法为块大小为128的细粒度fp8量化，其性能指…

查看完整页面 · 查看原文