llmfit AlexsJones

Hundreds of models & providers. One command to find what runs on your hardware.

주요 언어
Rust
Stars
32,089
Forks
1,990

태그

  • CLI 도구
  • 로컬 AI
  • LLM 평가
  • 벤치마크
  • 모델 추천
  • 하드웨어 탐지
  • 셀프호스팅

요약

llmfit는 시스템의 RAM, CPU, GPU를 자동 감지해 수백 가지 LLM 모델 중 하드웨어에서 원활히 실행 가능한 모델을 추천하는 Rust 기반 단말 도구입니다. 품질, 속도, 적합도, 컨텍스트 네 가지 차원으로 점수를 매기고, Ollama·llama.cpp·MLX·LM Studio 등 로컬 런타임을 지원하며 커뮤니티 벤치마크 공유 기능도 제공합니다. TUI와 CLI 모드를 모두 갖춰 로컬 LLM 실행 환경 구성을 최적화하는 데 유용합니다.

README

# llmfit <p align="center"> <img src="assets/icon.svg" alt="llmfit icon" width="128" height="128"> </p> <p align="center"> <a href="README.md">English</a> · <b>中文</b> · <a href="README.ja.md">日本語</a> </p> <p align="center"> <a href="https://github.com/AlexsJones/llmfit/actions/workflows/ci.yml"><im…

查看完整页面