LiteLLM 统一大语言模型网关和代理服务器

分享海报

@user_3c6cb52e/litellm-unified-llm-gateway-proxy

LiteLLM 是一个开源的 Python SDK 和代理服务器，提供统一的 OpenAI 兼容接口来调用 100 多个 LLM API，包括 OpenAI、Anthropic、Azure、Bedrock 等。它包含成本跟踪、防护机制、负载均衡和虚拟密钥管理功能，适用于生产部署。