İstekleri modeller arasında yönlendirme için API'ler, MCP sunucuları ve modeller
Katalogda bunu yapan 4 araç var, ada göre sıralı.
- Hugging Face InferenceSağlayıcıOne API for open models served by many inference providers
- LiteLLMPaketOpen-source LLM gateway and Python SDK for 100+ model providers
- OpenRouterModelOne API for hundreds of models across many providers
- Vercel AI GatewaySağlayıcıGateway that routes model requests across providers with fallbacks