GLM-5.3-Flash-GGUF unsloth

유형
model
라이선스
mit
언어
en
태스크
text-generation
다운로드
27,288
좋아요
270
파라미터 수
320,759,404,382
접근
public
파일
87

태그

  • 텍스트 생성
  • GGUF
  • 다중모달
  • 대규모 언어 모델
  • 로컬 배포
  • 양자화
  • 코드 생성
  • 추론 배포

요약

unsloth가 제공하는 GLM-5.3-Flash의 GGUF 양자화 버전으로, 320B 전체 파라미터 중 18B만 활성화되는 효율적인 하이브리드 아키텍처를 갖췄습니다. 희소 및 선형 어텐션을 결합해 장문 컨텍스트 처리 비용을 줄이면서 정확도를 유지하며, 코드 생성과 에이전트 벤치마크에서 뛰어난 성능을 보입니다. llama.cpp PR이나 Unsloth Desktop을 통해 로컬에서 실행할 수 있어 개인용 배포 및 추론에 적합합니다.

README

--- language: - en - zh license: mit pipeline_tag: text-generation base_model: - zai-org/GLM-5.3-Flash tags: - unsloth - glm5_next --- # GLM-5.3-Flash 실행 방법 [가이드](https://unsloth.ai/docs/models/glm-5.3-flash)를 읽어보세요! <div> <p style="margin: 0 0 0px 0; margin-top: 0px;"> <em><a href="https://unsloth…

查看完整页面 · 查看原文