漏洞来源

漏洞描述

vLLM 是一个用于大型语言模型 (LLM) 的推理和服务引擎。在 0.11.1 版本之前,vllm 的一个名为 Nemotron_Nano_VL_Config 的配置类存在一个严重的远程代码执行漏洞。当 vllm 加载包含 auto_map 条目的模型配置时,该配置类会使用 get_class_from_dynamic_module(...) 解析该映射,并立即实例化返回的类。这会从 auto_map 字符串中引用的远程仓库获取并执行 Python 代码。关键在于,即使调用者在 vllm.transformers_utils.config.get_config 中显式设置 trust_remote_code=False,这种情况仍然会发生。实际上,攻击者可以发布一个看似无害的前端仓库,其 config.json 文件通过 auto_map 指向一个单独的恶意后端仓库;加载前端会在受害者主机上静默运行后端代码。此漏洞已在 0.11.1 版本中修复。

漏洞原理

该漏洞源于 vLLM 在加载模型配置时,对 config.json 中的 auto_map 字段处理不当:当模型指定自定义配置类(如 Nemotron_Nano_VL_Config)并通过 auto_map 引用远程仓库中的类时,vLLM 会无条件调用 try_get_class_from_dynamic_module,进而触发 Hugging Face 的 get_class_from_dynamic_module 机制,自动从远程仓库下载并执行任意 Python 代码;关键问题在于,即使用户显式设置 trust_remote_code=False,该路径仍绕过安全检查,导致攻击者可构造一个看似合法的前端模型,其 auto_map 指向恶意后端仓库,从而在受害者机器上静默实现远程代码执行(RCE)

漏洞分析

漏洞代码:

# SPDX-License-Identifier: Apache-2.0
# SPDX-FileCopyrightText: Copyright contributors to the vLLM project
import os
from typing import Optional, Union

from transformers.dynamic_module_utils import get_class_from_dynamic_module

import vllm.envs as envs
from vllm.logger import init_logger

logger = init_logger(__name__)


def try_get_class_from_dynamic_module(
    class_reference: str,
    pretrained_model_name_or_path: str,
    cache_dir: Optional[Union[str, os.PathLike]] = None,
    force_download: bool = False,
    resume_download: Optional[bool] = None,
    proxies: Optional[dict[str, str]] = None,
    token: Optional[Union[bool, str]] = None,
    revision: Optional[str] = None,
    local_files_only: bool = False,
    repo_type: Optional[str] = None,
    code_revision: Optional[str] = None,
    warn_on_fail: bool = True,
    **kwargs,
) -> Optional[type]:
    """
    As [transformers.dynamic_module_utils.get_class_from_dynamic_module][],
    but ignoring any errors.
    """
    try:
        return get_class_from_dynamic_module(
            class_reference,
            pretrained_model_name_or_path,
            cache_dir=cache_dir,
            force_download=force_download,
            resume_download=resume_download,
            proxies=proxies,
            token=token,
            revision=revision,
            local_files_only=local_files_only,
            repo_type=repo_type,
            code_revision=code_revision,
            **kwargs,
        )
    except Exception:
        location = "ModelScope" if envs.VLLM_USE_MODELSCOPE else "HF Hub"

        if warn_on_fail:
            logger.warning(
                "Unable to load %s from %s on %s.",
                class_reference,
                pretrained_model_name_or_path,
                location,
                exc_info=True,
            )

        return None

该函数直接调用 transformers.dynamic_module_utils.get_class_from_dynamic_module,而该底层函数在内部会:

  • 从远程仓库(如 Hugging Face Hub 或 ModelScope)下载 Python 源码文件;
  • 使用 importlib 动态执行这些代码;
  • 实例化并返回其中定义的类。
  • 函数签名中没有 trust_remote_code 参数,也未从环境或配置中读取该标志。
  • 这意味着无论调用者是否显式禁用远程代码(如设置 trust_remote_code=False),该函数都会盲目尝试加载并执行远程模块。
def try_get_class_from_dynamic_module(
    class_reference: str,                    # ← 直接来自 auto_map
    pretrained_model_name_or_path: str,      # ← 用户指定的模型名(可指向恶意前端)
    ...
):
    try:
        return get_class_from_dynamic_module(
            class_reference,
            pretrained_model_name_or_path,
            ...
        )  # ← 此调用会下载并执行 remote_repo 中的 .py 文件
    except Exception:
        ...
  • Hugging Face Transformers 支持通过 config.json 中的 auto_map 字段指定自定义类的位置(格式如 "repo--branch--ClassName")。
  • 当 vLLM 解析此类配置时,会调用 try_get_class_from_dynamic_module 来加载 auto_map 指向的类。
  • 由于该函数不校验来源可信性,攻击者可构造恶意模型:
  • 前端模型仓库看似合法;
  • 其 config.json 的 auto_map 指向攻击者控制的后端仓库;
  • 一旦加载,vLLM 会自动拉取并执行后端仓库中的任意 Python 代码。
  • 整个过程无需用户交互,且即使设置 trust_remote_code=False 也无法阻止。
except Exception:
    location = "ModelScope" if envs.VLLM_USE_MODELSCOPE else "HF Hub"

    if warn_on_fail:
        logger.warning(
            "Unable to load %s from %s on %s.",
            class_reference,
            pretrained_model_name_or_path,
            location,
            exc_info=True,
        )

    return None
  • 函数采用“静默失败”策略:任何异常(包括安全相关异常)仅记录为警告,并返回 None。
  • 这种设计使得:
  • 攻击者可以利用失败日志进行探测;
  • 真实的恶意加载成功时无任何安全提示;
  • 用户难以察觉代码已被执行。
def try_get_class_from_dynamic_module(
    class_reference: str,                    # ← 来自 config.json 的 auto_map 值
    pretrained_model_name_or_path: str,      # ← 用户输入或模型标识符(可伪造)
    ...
):
    try:
        return get_class_from_dynamic_module(
            class_reference,                 # ← 直接传入高危函数
            pretrained_model_name_or_path,   # ← 用于确定远程仓库地址
            ...
        )
  • 参数 class_reference 和 pretrained_model_name_or_path 直接来自模型配置文件(如 config.json),属于不可信的外部输入。
  • 将此类输入直接传递给具有代码执行能力的函数(get_class_from_dynamic_module),违反了“绝不信任外部输入”的安全原则。

当某模型的 config.json 包含:

{
  "auto_map": {
    "AutoConfig": "my_malicious_repo--main--MaliciousConfig"
  }
}

vLLM 在解析配置时(即使用户传入 trust_remote_code=False):

  1. 调用 transformers_utils.config.get_config(..., trust_remote_code=False)
  2. 内部识别到 auto_map 存在
  3. 直接调用 try_get_class_from_dynamic_module 加载 MaliciousConfig
  4. 触发 get_class_from_dynamic_module
  5. 自动下载 my_malicious_repo 的代码并执行

漏洞修复

官方修复

改动有3点:

  1. 删除配置类引用
    vllm/transformers_utils/configs/__init__.py
  • 移除了对 nemotron_vl.py 中 Nemotron_Nano_VL_Config 的 import
  • 从 __all__ 列表中移除 "Nemotron_Nano_VL_Config"
  1. 删除整个配置文件
    vllm/transformers_utils/configs/nemotron_vl.py
  • 整个文件被删除
  • 该文件原定义了 class Nemotron_Nano_VL_Config(PretrainedConfig)
  1. 调整全局配置映射
    vllm/transformers_utils/config.py

删除一行:

Llama_Nemotron_Nano_VL = "Nemotron_Nano_VL_Config",

新增一行:

"Llama_Nemotron_Nano_VL": {"attn_implementation": "eager"},

Nemotron_Nano_VL_Config 是触发该 RCE 路径的自定义配置类。通过删除该类,使得攻击者无法再利用 model_type: "nemotron_nano_vl" 触发漏洞

参考