LiteLLM proxy u 2026: Produkcijski LLM gateway s usmjeravanjem, fallback-ovima i budžetima
Praktični vodič kroz postavljanje LiteLLM proxyja kao produkcijskog LLM gatewaya: Docker setup, model groupovi, fallback strategije, virtualni ključevi s budžetima, opservabilnost i semantic caching.