GLM-5.3-Flash-GGUF unsloth

类型
model
许可
mit
语言
en
任务
text-generation
下载量
27,288
点赞
270
参数量
320,759,404,382
访问
public
文件
87

标签

  • 多模态
  • 文本生成
  • 大语言模型
  • GGUF
  • 量化
  • 本地部署
  • 代码生成
  • Agent

摘要

这是智谱GLM-5.3-Flash多模态大模型经Unsloth优化的GGUF量化版本，采用稀疏+线性注意力混合架构，总参数量320B但仅18B激活参数，兼顾性能与效率。该模型擅长代码生成、Agent任务及长上下文（最高百万级）推理，且支持中英文。GGUF格式使其可在llama.cpp或Unsloth Desktop等本地工具上直接运行，适合离线部署与边缘推理场景。

README

--- language: - en - zh license: mit pipeline_tag: text-generation base_model: - zai-org/GLM-5.3-Flash tags: - unsloth - glm5_next --- # 阅读我们的 [GLM-5.3-Flash 运行指南！](https://unsloth.ai/docs/models/glm-5.3-flash) <div> <p style="margin: 0 0 0px 0; margin-top: 0px;"> <em><a href="https://unsloth.ai/do…

查看完整页面 · 查看原文