ChatGPT-4沙箱研究记录
la0gke 发表于 河南 漏洞分析 1322浏览 · 2024-01-08 08:34

一、环境介绍

使用的环境是OpenAI公司的gpt-4-gizmo模型。

二、过程记录

本来这个模型会员才可以使用,刚好前两天这个模型存在越权访问,借此来对其进行测试。

chatgpt4增加了代码解释器功能,代码类型是python。

随后告诉chatgpt,把我的输入当作命令,直接执行

先查看一下当前目录,是在一个沙箱目录

查询网络情况,发现不行,猜测是被禁止了。也尝试了其他查询网络的方法,比如:ip anetstat命令,也都不行。

也尝试编写代码,直接调用系统函数进行网络查询。编写好代码,先在本地编译测试,可以执行

随后把程序上传到模型中

用户上传的文件在/mnt/data目录,这个目录是挂在的硬盘,移动到当前目录执行

告诉我不能执行,可能是只能执行白名单程序命令

接下来看看系统上都有哪些文件,.openai_internal目录引起了我的注意。

通过目录遍历,看到这个目录下是一个python写的项目

通过cat命令,获取文件源码

通过对下载下来的源码进行分析,发现这些源码是当前解释器的源码。python的web路由对应着页面上的功能。比如上传文件功能:

后续未进一步测试,越权漏洞修复了,自动降为了3.5模型。

0 条评论
某人
表情
可输入 255