router workweave
Model router for agentic systems. Routes every prompt to the right model in <50ms. Cut costs 40-70% with just an endpoint change.
- 主要言語
- Go
- Stars
- 2,707
- Forks
- 77
タグ
- LLMルーティング
- ライブラリ/SDK
- コスト管理
- AIエージェント
- リアルタイム
- バックエンド
概要
エージェント型AIシステム向けのモデルルーティングツール。すべてのプロンプトを50ms未満で最適なモデルへ自動ルーティングし、エンドポイント変更だけでコストを40〜70%削減できる。多様なLLMを戦略的に使い分けたいエージェントアプリケーションのコスト最適化に有効。
README
<div align="center"> <img width="7559" height="1200" alt="Group 1(1)" src="https://github.com/user-attachments/assets/139b6a47-f306-4553-a638-764549a1e76b" /> <svg width="7559" height="1200" viewBox="0 0 7559 1200" fill="none" xmlns="http://www.w3.org/2000/svg"> <g clip-path="url(#clip0_15_12)"> <p…