llmfit AlexsJones

Hundreds of models & providers. One command to find what runs on your hardware.

主要言語
Rust
Stars
32,089
Forks
1,990

タグ

  • CLIツール
  • ターミナルUI
  • モデル管理
  • ローカルAI
  • ベンチマーク

概要

llmfitは、数百のLLMモデルとプロバイダーの中から、自機のRAM・CPU・GPUに最適なモデルを選定するターミナルツールです。ハードウェアを自動検出し、各モデルを品質・速度・適合度・コンテキストの観点でスコアリングして推奨します。対話型TUIとCLIモードを備え、Ollamaやllama.cppなど各種ローカルランタイムに対応し、実測ベンチマークをコミュニティ共有できます。

README

# llmfit <p align="center"> <img src="assets/icon.svg" alt="llmfit アイコン" width="128" height="128"> </p> <p align="center"> <a href="README.md">English</a> · <a href="README.zh.md">中文</a> · <b>日本語</b> </p> <p align="center"> <a href="https://github.com/AlexsJones/llmfit/actions/workflows/ci.yml"><im…

查看完整页面