router workweave

Model router for agentic systems. Routes every prompt to the right model in <50ms. Cut costs 40-70% with just an endpoint change.

Lenguaje principal
Go
Stars
2,707
Forks
77

Etiquetas

  • CLI工具
  • 库/SDK
  • Enrutamiento
  • Agentes de IA
  • Optimización de costos
  • Backend

Resumen

Enrutador de modelos (<50ms) para sistemas agénticos. Analiza cada prompt y lo dirige al modelo adecuado, logrando recortar costos 40-70% con solo un cambio de endpoint. Es una herramienta de infraestructura ligera escrita en Go, diseñada para optimizar el uso de modelos LLM en pipelines de agentes…

README

<div align="center"> <img width="7559" height="1200" alt="Group 1(1)" src="https://github.com/user-attachments/assets/139b6a47-f306-4553-a638-764549a1e76b" /> <svg width="7559" height="1200" viewBox="0 0 7559 1200" fill="none" xmlns="http://www.w3.org/2000/svg"> <g clip-path="url(#clip0_15_12)"> <p…

查看完整页面