Qwen3.8-27B-Uncensored-GGUF JonathanColetti
- 유형
- model
- 라이선스
- apache-2.0
- 언어
- en
- 태스크
- text-generation
- 프레임워크
- llama.cpp
- 다운로드
- 766,812
- 좋아요
- 455
- 파라미터 수
- 27,320,697,856
- 접근
- public
- 파일
- 19
태그
- 텍스트 생성
- 대규모 언어모델
- GGUF
- 양자화
- 로컬 배포
- 추론 배포
- 대화 생성
- 멀티모달
요약
Qwen3.8-27B 베이스 모델의 거부 반응을 크게 줄인 'uncensored' 변형을 GGUF 형식으로 양자화해 제공하는 모델입니다. Heretic 기법으로 거부 방향(Refusal)만 제거하고 MTP(다중 토큰 예측) 헤드를 보존하여, 성능 저하 없이 사실적·자유로운 텍스트 생성을 지원합니다. 다중 양자화 레벨(IQ2_M~Q8_0)과 imatrix 파일을 제공하여 llama.cpp 기반 로컬 추론 및 추측 디코딩에 적합합니다.
README
--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B base_model_relation: quantized pipeline_tag: text-generation library_name: llama.cpp language: - en - zh tags: - gguf - uncensored - qwen3.8 - mtp - speculative-decoding - imatrix - quantized --- # Qwen3.8-27B-Uncensored-GGUF Uncensored [Qwen3.8-…