Qwen3.8-27B-Uncensored-GGUF JonathanColetti

类型
model
许可
apache-2.0
语言
en
任务
text-generation
框架
llama.cpp
下载量
766,812
点赞
455
参数量
27,320,697,856
访问
public
文件
19

标签

  • 文本生成
  • 大语言模型
  • GGUF
  • 本地部署
  • 量化
  • 推理部署
  • 多模态

摘要

这是对Qwen3.8-27B进行去审查化（abliteration）处理后发布的GGUF量化模型，通过Heretic工具消除拒答方向而非依赖手工过滤，显著降低拒答行为。模型保留了多token预测（MTP）头，提供融合与分离草稿头两种形态、从IQ2_M到Q8_0共六档量化并附带重要性矩阵，支持本地llama.cpp推理。适合需要较自由、无审查输出的本地文生文应用，也提供vision变体支持图像输入。

README

--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B base_model_relation: quantized pipeline_tag: text-generation library_name: llama.cpp language: - en - zh tags: - gguf - uncensored - qwen3.8 - mtp - speculative-decoding - imatrix - quantized --- # Qwen3.8-27B-Uncensored-GGUF Uncensored [Qwen3.8-…

查看完整页面 · 查看原文