router workweave
Model router for agentic systems. Routes every prompt to the right model in <50ms. Cut costs 40-70% with just an endpoint change.
- Hauptsprache
- Go
- Stars
- 2,707
- Forks
- 77
Tags
- LLM-Routing
- KI-Kosten
- LLM
- Backend
- Go
- API-Proxy
Zusammenfassung
Dieses Go-basierte Projekt ist ein Modell-Router für agentische Systeme. Es leitet jeden Prompt in unter 50ms automatisch an das passende Large Language Model weiter und kann dadurch die KI-Kosten um 40-70% senken – und das nur durch eine Änderung des Endpunkts. Das Tool ist ideal für Teams, die me…
README
<div align="center"> <img width="7559" height="1200" alt="Group 1(1)" src="https://github.com/user-attachments/assets/139b6a47-f306-4553-a638-764549a1e76b" /> <svg width="7559" height="1200" viewBox="0 0 7559 1200" fill="none" xmlns="http://www.w3.org/2000/svg"> <g clip-path="url(#clip0_15_12)"> <p…