freellmapi tashfeenahmed
OpenAI-compatible proxy that stacks the free tiers of 28 LLM providers (~4B tokens/month) behind one /v1 endpoint — plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
- Lenguaje principal
- TypeScript
- Stars
- 19,672
- Forks
- 2,864
Etiquetas
- Gateway de IA
- API
- CLI
- Autohospedado
- Backend
- Agentes de IA
- Local
Resumen
FreeLLMAPI es un proxy OpenAI-compatible que agrega las cuotas gratuitas de 28+ proveedores de LLM (~7.4B tokens/mes) detrás de un único endpoint /v1, incluyendo endpoints personalizados. Ofrece enrutamiento inteligente, conmutación automática ante límites de uso, claves cifradas y un directorio qu…
README
<div align="center"> # FreeLLMAPI **74 000 millones de tokens al mes. 34 proveedores LLM gratuitos. 635 endpoints de modelos gratuitos. Un único endpoint compatible con OpenAI.** Agrega las cuotas gratuitas de decenas de proveedores, junto con cualquier endpoint de chat, embeddings, imagen y audio …