llmfit AlexsJones
Hundreds of models & providers. One command to find what runs on your hardware.
- Hauptsprache
- Rust
- Stars
- 32,089
- Forks
- 1,990
Tags
- CLI-Tool
- Rust
- LLM-Inferenz
- Lokale KI
- TUI
- Quantisierung
- Benchmark
- 跨平台
Zusammenfassung
llmfit ist ein Terminal-Tool in Rust, das anhand von RAM, CPU und GPU automatisch die passenden lokalen LLM-Modelle für das eigene System empfiehlt. Es bewertet Modelle nach Qualität, Geschwindigkeit, Fit und Kontext und unterstützt TUI- sowie klassische CLI-Modi mit Planungs-, Benchmark- und Downl…
README
# llmfit <p align="center"> <img src="assets/icon.svg" alt="llmfit icon" width="128" height="128"> </p> <p align="center"> <a href="README.md">English</a> · <b>Deutsch</b> · <a href="README.ja.md">日本語</a> </p> <p align="center"> <a href="https://github.com/AlexsJones/llmfit/actions/workflows/ci.yml…