Qwen3.8-27B-Uncensored-GGUF JonathanColetti
- Typ
- model
- Lizenz
- apache-2.0
- Sprache
- en
- Aufgabe
- text-generation
- Framework
- llama.cpp
- Downloads
- 766,812
- Likes
- 455
- Parameter
- 27,320,697,856
- Zugriff
- public
- Dateien
- 19
Tags
- Textgenerierung
- Große Sprachmodelle
- Quantisierung
- Lokale Bereitstellung
- GGUF
- Llama.cpp
- Speculative Decoding
- Englisch
Zusammenfassung
Dieses Repository bietet GGUF-Quantisierungen des unzensierten Qwen3.8-27B-Modells für lokale Inferenz über llama.cpp. Die Ablehnungs-Befehle wurden mittels Abliteration ohne Feintuning deutlich reduziert, während der MTP-Kopf (multi-token prediction) beibehalten und verifiziert wurde. Es stellt me…
README
--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B base_model_relation: quantized pipeline_tag: text-generation library_name: llama.cpp language: - en - zh tags: - gguf - uncensored - qwen3.8 - mtp - speculative-decoding - imatrix - quantized --- # Qwen3.8-27B-Uncensored-GGUF Unzensierte [Qwen3.8…