Qwen3.8-27B-Uncensored-GGUF JonathanColetti

種別
model
ライセンス
apache-2.0
言語
en
タスク
text-generation
フレームワーク
llama.cpp
ダウンロード
766,812
いいね
455
パラメータ
27,320,697,856
アクセス
public
ファイル
19

タグ

  • 大言語モデル
  • テキスト生成
  • GGUF
  • 量子化
  • ローカルデプロイ
  • 推論デプロイ
  • マルチモーダル
  • llama.cpp

概要

Qwen3.8-27Bの拒否動作を大幅に軽減(アブリテーション手法による)し、GGUF量子化形式で公開したモデルです。MTP(複数トークン予測)ヘッドを保持・検証し、imatrix対応の多段階量子化ファイル(IQ2_M〜Q8_0)を提供しています。llama.cppでのローカル推論に適し、視覚入力にも対応。主にローカル環境で高性能・検閲緩和の対話を求める用途に向きます。

README

--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B base_model_relation: quantized pipeline_tag: text-generation library_name: llama.cpp language: - en - zh tags: - gguf - uncensored - qwen3.8 - mtp - speculative-decoding - imatrix - quantized --- # Qwen3.8-27B-Uncensored-GGUF Uncensored(検閲解除)版の […

查看完整页面 · 查看原文