LiteLLM

LiteLLM 是一个统一的 LLM API 网关，支持多种大型语言模型，提供统一的接口和成本管理。