router workweave

Model router for agentic systems. Routes every prompt to the right model in <50ms. Cut costs 40-70% with just an endpoint change.

主要语言
Go
Stars
2,707
Forks
77

标签

  • CLI工具
  • 智能路由
  • 跨模型路由
  • 模型管理
  • AI基础设施
  • Go
  • 成本监控

摘要

workweave/router 是一个由 Go 构建的模型路由器,专为 Agent 系统设计。它能在50毫秒内将每个提示词路由到最合适的模型,帮助开发者在只需改动一个端点的情况下将成本降低40-70%,同时兼顾性能与成本优化。适用于需要多模型调度的 Agent 应用、AI 工作流及成本敏感的生成式 AI 场景。

README

<div align="center"> <img width="7559" height="1200" alt="Group 1(1)" src="https://github.com/user-attachments/assets/139b6a47-f306-4553-a638-764549a1e76b" /> <svg width="7559" height="1200" viewBox="0 0 7559 1200" fill="none" xmlns="http://www.w3.org/2000/svg"> <g clip-path="url(#clip0_15_12)"> <p…

查看完整页面