freellmapi tashfeenahmed
OpenAI-compatible proxy that stacks the free tiers of 28 LLM providers (~4B tokens/month) behind one /v1 endpoint — plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
- Hauptsprache
- TypeScript
- Stars
- 19,672
- Forks
- 2,864
Tags
- API
- Frei-Tier
- LLM-Inferenz
- Router
- Backend
- Docker
- Lokal
- Open-Source-Alternative
Zusammenfassung
FreeLLMAPI aggregiert die kostenlosen Freikontingente von 28–34 LLM-Anbietern (~7,4 Mrd. Tokens/Monat) hinter einem einzigen OpenAI-kompatiblen /v1-Endpoint. Der integrierte Router wählt für jede Anfrage das beste verfügbare Modell, schaltet bei Rate-Limits automatisch auf den nächsten Anbieter um …
README
<div align="center"> # FreeLLMAPI **7,4 Milliarden Tokens pro Monat. 34 kostenlose LLM-Anbieter. 635 kostenlose Modell-Endpunkte. Ein einziger OpenAI-kompatibler Endpunkt.** Bündelt die kostenlosen Kontingente von Dutzenden von Anbietern – zusammen mit beliebigen selbst gehosteten OpenAI-kompatible…