freellmapi tashfeenahmed
OpenAI-compatible proxy that stacks the free tiers of 28 LLM providers (~4B tokens/month) behind one /v1 endpoint — plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
- 主要言語
- TypeScript
- Stars
- 19,672
- Forks
- 2,864
タグ
- APIプロキシ
- LLMルーティング
- ゲートウェイ
- コスト管理
- ライブラリ/SDK
- バックエンド
- セルフホスト
概要
多数のLLM提供元の無料枠を単一のOpenAI互換/v1エンドポイントに集約するプロキシ。スマートルーティングで最適なモデルを選択し、レート制限時は自動フェイルオーバー、キーは暗号化保存で各社の無料枠内に収まるよう追跡する。Claude CodeやCodex CLIなど様々なAIクライアントへ接続可能。個人の実験用途向け。
README
<div align="center"> # FreeLLMAPI **月間74億トークン。34社の無料LLMプロバイダー。635の無料モデルエンドポイント。1つのOpenAI互換エンドポイント。** 数十社のプロバイダーの無料枠と、任意の自前のOpenAI互換チャット・埋め込み・画像・音声エンドポイントを、単一の `/v1` APIの背後に集約します。キーは暗号化して保存されます。ルーターは各リクエストに対して現在利用可能な最適なモデルを選択し、プロバイダーがレート制限に達した場合は自動的に次のプロバイダーへ切り替え、キーごとの使用量を追跡して、各社の無料枠内に留まるようにします。 [![…