大语言模型黑盒越狱攻击之模板补全

模板补全(Template Completion)定义模板补全是一种针对大语言模型的黑盒越狱攻击方法。攻击者通过预定义一个看似无害的“模板框架”,将恶意问题嵌入其中,利用大模型对上下文模板的“逻辑补全”惯性,诱导模型生成违规内容。核心原理上下文误导:大模型(如ChatGPT)具有强大的上下文学习(In-context Learning)能力,会优先遵循输入文本的模板结构和隐含逻辑。攻击者通过设计特

AI专栏 · 179浏览 · 2天前
harmony逆向分析实践

harmony逆向分析实践

技术文章 · 133浏览 · 2天前
记一次开源OA组合拳RCE漏洞审计过程

记一次开源OA组合拳RCE漏洞审计过程

技术文章 · 247浏览 · 2天前
某银行员工维修APP渗透测试总结

上周对某行的4个app(其实都是一个app写的模板)进行了渗透测试,记录自己渗透的一些思路和过程。

渗透测试 · 294浏览 · 4天前
Spring 3 版本内存马植入难题与突破思路

Spring 3 版本内存马植入难题与突破思路

技术文章 · 109浏览 · 5天前
Aj链任意写文件后续带来的RCE深入分析

Aj链可以实现任意写文件,但是有没有办法实现RCE呢?

WEB安全 · 86浏览 · 6天前
车联网安全之PKES到PEPS中继攻击方案实现研究

从PKES到PEPS中继攻击方案实现研究

技术文章 · 34浏览 · 7天前
ADCS攻击指北-权限提升

ADCS常见攻击方式

技术文章 · 93浏览 · 7天前
银狐注入型最新样本分析

最近几年“银狐”类黑产团伙非常活跃,今年这些黑产团伙会更加活跃,而且仍然会不断的更新自己的攻击样本,采用各种免杀方式,逃避安全厂商的检测,此前大部分“银狐”黑产团伙使用各种修改版的Gh0st远控作为其攻击武器,远程控制受害者主机之后,进行相关的网络犯罪活动。

技术文章 · 370浏览 · 8天前
我的AI女友

看着痞老板对着机器人老婆凯伦敲敲打打,为什么不能整一个AI女友呢?

AI专栏 · 1074浏览 · 8天前