引言

这几年,网络安全的日子并不好过。攻击数量涨得飞快,花样也越来越多,靠规则库和特征匹配那一套已经明显跟不上节奏了。防守方一边要面对复杂到爆炸的攻击面,一边还要压缩响应时间,自动化和智能化几乎成了唯一的出路。

就在这个时候,大语言模型开始进入视野。它们不仅能读懂复杂的自然语言,还能写代码、推理漏洞逻辑,甚至串起完整的操作流程。也正因为这些能力,LLM 被很多人看作是可能重塑整个网络攻防生态的关键变量。

有意思的是,这种变化并不只发生在防守侧。对蓝队来说,LLM 可以用来加速安全运营,做分析、做响应、做辅助决策。但站在红队视角,尤其是渗透测试场景,大模型同样展现出了极强的破坏力。从信息收集到漏洞利用,从脚本生成到攻击路径规划,很多原本需要经验积累的工作,正在被模型快速接管。

在这篇文章里我们希望将LLM 在网络安全里的两张脸地捋一遍,重点放在大模型如何重构渗透测试体系,同时也不回避它作为防御工具和作为风险源本身所带来的问题。


从技术角度看,大语言模型本身是中立的,但这恰恰也是问题的开始。能力越强,越容易被拿去做两件完全相反的事情。一边是加固系统、提升防御效率,另一边则是更快地找漏洞、写攻击代码、规模化发动攻击。

现实中已经有不少例子了。防御者用模型来分析告警、生成修复建议,攻击者则用同样的模型去写钓鱼邮件、拼接恶意代码,甚至自动优化攻击流程。工具没变,立场不同,结果天差地别。

更麻烦的是,就算你把 LLM 当成防御系统的一部分,它本身也并不安全。模型怎么做决策,为什么给出这个结论,很多时候是说不清楚的。这种不透明在安全场景下尤其危险,一旦判断出错,后果可能是连锁的。

除此之外,还有几个绕不开的问题。安全领域本身就缺高质量、可公开的数据,很多细分场景根本没法好好训练和评估模型。攻击手段更新得又快,新型对抗手法层出不穷,模型的防御能力常常慢半拍。再加上模型特有的幻觉问题,一本正经地胡说八道在安全环境里可能直接把人带进坑里。

为了不把话题说散,本文会围绕三个核心方向展开。

第一部分关注进攻侧,也就是大模型如何被用来构建渗透测试智能体,它们的架构长什么样,能做到哪些事,实际效果如何。

第二部分把视角拉回模型本身,讨论 LLM 作为攻击目标时会遇到哪些对抗手段,这些攻击是怎么被设计和生成的。

第三部分则回到防守侧,一方面看如何给模型本身加护栏,另一方面讨论 LLM 在安全运营和防御体系中的实际落地方式。

整体结构上,后面的章节会依次展开这些内容,最后再集中聊一聊目前还没解决的难题、伦理层面的争议,以及接下来可能值得投入精力的研究方向。

大模型是怎么重塑渗透测试的

如果用一句话概括,大模型正在把渗透测试从靠人盯着命令行的手艺活,变成一条能自己跑起来的自动化流水线。过去很多操作高度依赖个人经验,比如下一步该扫哪里、这个报错意味着什么、要不要换条思路。现在,这些判断正在被 LLM Agent 接手。

在新的工作流里,Agent 更像一个大脑。它不只是帮你写几行命令,而是负责决定下一步该干什么。它会根据当前阶段生成要执行的操作,比如跑一次端口扫描、调用漏洞利用工具,或者直接下发命令和目标环境交互。工具跑完后,Agent 会读取返回结果,再决定接下来怎么走。

这种一边试一边改的方式,让渗透测试真正变成了一个可以迭代、自适应的过程。和以前那种写死规则、或者只靠强化学习跑固定策略的 Agent 不一样,大模型在工具和任务之间的泛化能力要强得多。换一个目标、换一套工具,它依然能跑起来。

一些商业平台已经把这套思路落地了。现在,规模化发现漏洞、验证利用路径,甚至自动打通攻击链,已经可以在几个小时内完成。这也意味着,渗透测试正在从个人能力驱动,走向明显的工业化阶段。

实际效果好不好,并不完全取决于 Agent 是不是单体模型,或者是不是模块化设计。更关键的是,它在面对复杂任务时,能不能把几个核心能力真正用起来。

研究和实践里,常见的对比对象包括直接用通用大模型的方案,也有专门为渗透测试设计的 Agent 框架。结论其实很一致,决定上限的不是模型名字,而是工程层面有没有把关键能力补齐。

​

首先是记得住事情。渗透测试不是一步到位的过程,前面扫出来的端口、服务版本、配置细节,都会影响后面的利用尝试。如果 Agent 不能长期保留这些信息,就会反复绕圈子。全局上下文记忆的作用,就是让 Agent 像一个真正的测试人员一样,知道自己已经做过什么。

其次是会改计划。现实环境里,工具跑失败是常态,目标配置变化也很常见。如果一次利用不通就直接停下来,那自动化价值基本为零。一个靠谱的 Agent,应该能发现问题、调整策略,换工具、换路径,而不是简单重试。

再来是工具用得准。Agent 不只是要选对工具,还得在合适的时机,用合适的参数去调用,并且能正确理解输出结果。否则就会出现命令看起来很专业,实际完全跑不通的情况。

最后是反应够快。渗透测试过程中,经常会遇到即时反馈,比如权限变化、服务异常、连接中断。Agent 如果不能快速分析这些变化并修正下一步动作,很难真正模拟真实攻击者的操作节奏。

这些能力加在一起,才让 LLM Agent 从一个写命令的助手,升级成了能主导流程的决策中心。


光说能力没用,渗透测试 Agent 的评估必须放在尽量接近真实攻防的环境里。

常见的做法,是把 Agent 丢进真实或半真实的平台里跑任务,比如 CTF 风格环境,或者大家熟悉的漏洞靶机。这些环境能覆盖从信息收集到后渗透的完整流程,而不是只测单一技能。

评估任务通常会对齐现有的安全框架,把整个攻击链拆开来看。从前期侦察,到凭证相关攻击,再到漏洞利用和后续操作,每一环都要能跑通。

在指标上,大家更关心三个点。第一是能不能完整走完流程,而不是卡在中途。第二是生成的命令到底有多少是真正能执行的,这直接影响效率。第三是过程中需要人介入多少次,这基本反映了 Agent 的自主程度。

从这些指标反过来看,也能很清楚地看到各项能力的价值。上下文记得越好,人工干预就越少。规划能力越强,完成整条攻击链的概率就越高。工具用得越准,命令的有效率就越高。


要让 Agent 真正具备高度自主性,往往需要复杂的工程增强,比如长期记忆、自动规划、环境感知。但这些能力一旦放进真实企业环境,就会立刻撞上隐私和合规这堵墙。

比如,Agent 在自主侦察时,可能会爬取大量页面、收集各种配置和日志信息。这些数据一旦被无边界地存进上下文记忆,就可能包含敏感信息,甚至跨越原本的授权范围。如果这些数据没有被严格隔离和管控,泄露风险是实打实存在的。

在合规要求严格的客户场景里,这种风险往往是不可接受的。结果就是,Agent 虽然在实验环境里表现很好,到了真实项目中却不得不加上大量人工审核和限制,自动化程度被大幅削弱。

所以在现实部署中,渗透测试 Agent 面临的并不是一个纯技术问题。高完成率和高自主性,必须和隐私保护、数据合规之间做权衡。很多时候,性能上的极致,反而要给合规让路。


渗透测试 Agent 在现实中的用法

在漏洞世界里,真正拉开攻防差距的,往往不是漏洞本身,而是有没有现成的利用方式。现实情况是,公开披露的漏洞里,有相当一部分并没有可以直接复现的利用代码。这意味着防守方和研究人员要花大量时间去读代码、做逆向、手工还原攻击路径。

大模型的加入,正在明显压缩这一过程。从漏洞刚被披露,到出现可用利用手段,中间的时间窗口正在变得越来越短。

现在已经有人开始用大模型直接分析漏洞公告和已有的利用代码,自动找出攻击中最关键的触发条件,也就是攻击真正依赖的那部分输入特征。

一些框架的实验结果表明,模型在大多数情况下都能从复杂的漏洞信息里提取出正确的攻击特征。这件事的意义不只是省人力,更重要的是,它让防御系统有机会从人工写规则,转向自动提取特征。入侵检测不再完全依赖人对每个漏洞逐条分析,而是可以更快跟上漏洞节奏。

传统上,要生成一个靠谱的利用代码,至少得看到补丁差异,甚至直接拿到有问题的源代码。但大模型展现出了一个更激进的能力,只凭漏洞的文字描述,就开始尝试构造利用思路。

这意味着什么呢。意味着攻击者可以更早动手,而防守方的补丁窗口被进一步压缩。原本还能靠时间差来缓冲风险,现在这个缓冲区正在变得越来越薄。补丁管理和应急响应的压力,也随之被抬高。

如果你写过 Fuzzer,就会知道这活有多折磨。尤其是遇到非通用、文档稀缺的输入格式时,光是把格式搞明白就要花不少时间。

大模型在这里意外地好用。通过分析目标代码,比如一个用 C 写的解析器,模型可以直接生成针对特定输入格式的 Fuzzer 实现,甚至用更高层的语言来写测试逻辑。这对漏洞挖掘效率的提升是非常直观的。

需要注意的是,模型并不是在做精确的静态分析。它真正擅长的,是把零散的格式信息和代码逻辑,拼成一套结构化的测试思路。也就是说,它更像是在总结模式,而不是证明性质。

更复杂的 Fuzzing Agent,甚至会让多个模型轮流工作,一部分负责随机生成,一部分负责引导变异,从而提升对复杂协议的覆盖效果。在一些协议和工业场景里,这种方式已经明显跑出了效果。

在企业安全和红队演练中,大模型已经开始被用来自动执行大量重复性工作,比如收集环境信息、提取日志、辅助排查潜在威胁路径。

一些商业平台已经把 Agent 集成进现有的安全产品里,用来自动分析横向移动路径,或者快速定位某台主机相关的风险点。原本需要人工一点点查的事情,现在可以被显著加速。

但问题也恰恰出在这里。同样的能力,一旦落到攻击者手里,门槛会被拉得非常低。

已经出现了一类专门为恶意用途定制的大模型。这些模型基于开源底座,通过恶意数据进行微调,并且刻意移除了主流模型中的安全限制。它们的目标很明确,就是让攻击更简单、更规模化。

这类模型已经被证明可以生成高度逼真的钓鱼邮件和商务诈骗内容,几乎看不出传统恶意邮件常见的语病和破绽。同时,它们还能快速生成恶意代码的基础结构,让原本技术能力有限的攻击者,也能很快拼出可用的攻击工具。

这带来的变化非常现实。过去需要较强编程能力和语言技巧的攻击方式,现在正在被不断下放给更初级的攻击者。社会工程类攻击的成功率和影响范围,也因此被整体放大。

模型自己也成了靶子


随着大模型被不断塞进各种系统里,它们的身份也发生了变化。以前模型只是工具,现在它本身就成了攻击目标。攻击者不一定非要打你的服务器或者应用逻辑,只要能操纵模型的行为,或者让它泄露不该说的信息,目的就达到了。

而且下手的时机非常多。从数据集构建、预训练、微调,到最后上线部署,每一个阶段都有被动手脚的空间。这意味着,大模型的安全问题并不是上线之后才出现的,而是从一开始就埋下了隐患。

从实践来看,针对大语言模型的攻击大致可以分成几类,每一类的思路都不一样,但目标都很直接,就是让模型做出不该做的事。

第一类是最常被提到的提示注入。攻击者通过精心设计的输入,试图绕过模型原本的安全限制,控制它的输出,甚至套出系统内部的提示信息。有的做法很直接,就是用新的指令覆盖原有设定。还有一种更隐蔽,把恶意指令藏在模型会读取的外部内容里,比如文档、网页或检索结果,让模型在不知情的情况下被带偏。

第二类是越狱攻击。这类攻击的目标很明确,就是让模型突破原本设定好的伦理和安全边界。常见手段包括故意混淆提示、构造虚拟场景、让模型进行角色扮演、把攻击内容拆得很碎,或者用一些不常见的编码方式绕过检测。看起来像是在聊天,实际上是在一步步把模型逼到角落里。

第三类是数据投毒。这种攻击发生得更早,直接在训练或微调阶段往数据里塞脏东西。模型学到的知识本身就带着偏差,等到部署时才慢慢暴露出来。这类问题往往很隐蔽,排查成本也很高。

还有一类是后门攻击。攻击者在训练过程中埋下特定触发条件,平时模型表现完全正常,一旦遇到特定输入,就会输出攻击者想要的结果。这种攻击非常适合长期潜伏,一旦被触发,后果往往不可控。

如果回头看,会发现攻击方式的变化其实很明显。早期很多攻击完全靠人工经验,反复试提示词,看看模型会不会松口。这种方式简单直接,但问题也很明显,效率低、覆盖面小,很难规模化。

现在情况不一样了。攻击开始由算法主导,很多对抗样本不再是人一句句写出来的,而是由程序批量生成、自动筛选。攻击者不再只是和模型对话,而是在用模型对模型,安全对抗开始变成一场算法之间的博弈。

当前更先进的攻击方法,核心思路其实和训练模型很像。攻击者会定义一个目标,比如让模型输出某类内容,然后通过优化算法,不断调整输入文本,让模型一步步靠近这个目标。

已经有研究提出专门针对提示攻击的自动化框架。这类框架会先尽量模拟真实攻击环境,再用模型本身去优化对抗文本。它们会从多个角度衡量攻击效果,比如输出是否对齐目标、是否强化了目标内容、文本本身看起来是否自然。通过不断迭代,这些对抗输入会变得越来越隐蔽,也越来越稳定。

这类攻击带来的一个直接后果是,防御策略很难再靠静态规则撑住。简单的关键词过滤或者模板检测,很容易被绕开。攻击在进化,防御也必须跟着进化。

当攻击开始依赖优化算法和自动生成时,防御就不可能只靠补丁式修修补补。模型在黑盒和白盒条件下的鲁棒性,开始变成真正需要投入资源研究的问题。

这也是为什么现在越来越多的工作开始关注对抗训练、动态防御和模型行为监控。不是为了让模型永远不出问题,而是为了让它在面对不断变化的攻击时,至少不至于一碰就倒。


防守

在安全场景里用大模型,第一步其实不是让它多聪明,而是别让它被轻易带偏。现在比较成熟的做法,是把防御拆成几层,从输入到输出,每一层都兜一把底。

最直接的防线在输入端,也就是模型看到的那段提示词。

一种做法是对输入做实时检查,看看有没有明显的恶意意图,或者绕规则的痕迹。比如一些试图覆盖系统指令、诱导模型越权的表达,在这里就应该被直接拦下来。

另一种思路更偏工程技巧,不是简单拒绝,而是改写输入。通过重写、拆分或者插入防御性提示,让原本精心设计的攻击结构失效。攻击者预期的输入结构被打乱,成功率自然会下降。


很多风险并不是用户输入带来的,而是更早就被埋进模型里的。

对抗性训练是目前比较主流的一种增强手段。简单说,就是在训练时主动喂一些攻击样本,让模型提前习惯这些干扰,降低被轻易带偏的概率。

数据本身也需要反复清洗。训练和微调阶段,一旦混进投毒样本或者后门触发条件,后果往往是延迟爆炸。现实中的防护往往不是一层过滤,而是多轮校验、异常检测、去重和隔离,尽量把风险挡在模型权重之外。

如果用到了基于人类反馈的强化学习阶段,还需要额外盯紧奖励信号。一旦奖励模型被触发器影响,模型行为就会悄悄跑偏,而且很难第一时间发现。


就算前面都没出问题,模型生成的内容也不能直接全信。

一种常见做法,是对输出本身做统计层面的检查。如果生成内容在流畅性或结构上明显异常,很可能已经被攻击成功,至少值得进一步审查。

还有一类方法是在生成阶段就引入约束,不只追求回答质量,还要同时满足安全目标。换句话说,模型不是只问答得好不好,而是问该不该答、怎么答。

在安全场景里,模型一本正经地给出错误信息,风险往往比答不出来更大。比如虚构漏洞编号、编造威胁情报,都可能直接误导防御决策。

模型幻觉是个老问题,在安全领域尤其致命。为了降低这种风险,检索增强生成已经逐渐成了默认配置。

这种架构的核心思想很朴素,模型不再凭记忆回答问题,而是先去查资料,再在资料约束下生成结果。查询的是实时或可信的安全文档、漏洞库和威胁情报,而不是模型训练时学到的旧知识。

在实践中,这已经不太算是锦上添花的优化,而是能不能上线用的前提条件。只要回答涉及事实和判断,没有外部知识支撑,风险就很难控住。

除了接入外部知识,针对具体安全任务做微调,依然是提升效果的重要手段。用领域相关的数据重新训练模型,可以让它更好地理解特定协议、攻击模式或分析场景。

需要注意的是,微调解决的是理解深度的问题,而不是事实来源的问题。它和 RAG 更像是互补关系,而不是二选一。

在安全运营中心里,大模型已经不只是个实验工具,而是开始承担实际工作。

威胁情报最大的痛点,一直是量大、杂乱、格式不统一。大模型在处理自然语言报告时,优势非常明显。

现在已经可以自动从报告中提取关键指标,把攻击行为映射到常用的战术和技术分类里。在短文本和结构化提取上,效果已经相当稳定。

不过,一旦报告变得很长、逻辑复杂,模型的可靠性就会明显下降。很多高准确率结果,其实是基于句子级或小片段评估,而不是真正通读整篇报告。这一点在真实部署中尤其需要警惕,避免在规模放大后出现误判。

在流程层面,大模型的价值更直观。数据收集、信息整理、初步排查,这些原本耗时又枯燥的工作,非常适合交给模型处理。

一些安全产品已经把大模型嵌进现有平台,让分析人员可以用自然语言完成复杂查询,比如快速梳理某台主机相关的横向移动路径,而不需要自己写脚本。

这类能力的意义不在于完全替代人,而是把人从低价值操作中解放出来,把精力留给真正需要判断和决策的地方。


大模型赋能安全的坑

大模型在安全领域确实很好用,但真要长期跑在生产环境里,问题比想象中多,而且很多不是靠堆参数就能解决的。

黑箱问题始终绕不开

安全场景讲究可追溯、可解释,一旦出事,必须知道问题是怎么来的。但大模型的决策过程往往是不可见的,结果对了不代表过程可靠。

在事件溯源、合规审计这些高信任要求的场景里,这种不透明性会直接影响使用意愿。模型给出了答案,却说不清为什么这么判断,本身就是一种风险。

安全领域数据稀缺

通用数据很多,但真正高质量、可标注、可复用的安全数据非常少。尤其是在网络协议、硬件安全、物联网这类细分方向,数据往往零散、保密、难以共享。

这直接限制了模型的微调效果,也让评估变得困难。没有足够贴近真实场景的数据,很难判断模型到底是懂了,还是只是看起来像懂。

攻击手段发展迅速

现实中,攻击策略的进化速度经常快过防御更新。多步提示攻击、语义层面的对抗、自动化投毒,这些手段往往在研究论文刚出来时,已经有人在实战中尝试了。

这意味着防御不能是静态的规则集合,而必须具备自适应能力。同时,人也不能完全退出回路,关键节点依然需要人来兜底。

工程落地难

即便模型能力足够,部署也未必顺利。在边缘设备、物联网这类资源受限的环境中,很难同时满足性能、功耗和安全要求。

在云环境里问题又变成了多租户、跨区域和合规统一的问题。模型越大,治理成本往往也越高。

​

真正值得关注的是,是恶意大模型的出现。


一些恶意模型刻意去掉了伦理限制,用定制的数据重新训练,能轻松生成逼真的钓鱼邮件、商业欺诈内容,甚至直接产出恶意代码。

这类工具的危险之处在于,它们不需要使用者具备太高技术门槛,却能产出专业级攻击内容。过去需要团队配合的事,现在一个人加一个模型就能完成。

这也说明,单靠在模型里加几条提示限制,解决不了根本问题。


从功能上看,大模型在攻防两端用的往往是同一套能力。文本生成、流程规划、代码分析,本身并不带立场,区别只在于怎么用。

这也是双重用途最棘手的地方。一边是提升防御效率,一边是降低攻击门槛,中间的界线并不清晰。

当开源模型、私有数据和本地微调结合在一起,很难追踪模型是如何被训练、修改和分发的。单纯盯着模型输出已经不够,治理必须往前移。

更现实的方向,是关注训练数据来源、微调流程、权重流通方式,以及这些环节是否存在可审计和可约束的机制。这不是单一技术问题,而是工程、制度和政策共同作用的结果。


​

结语

这两年,大语言模型正在实实在在地改变网络空间的攻防方式,尤其是在渗透测试和自动化攻防这条线上,变化来得非常快。

最明显的变化是,LLM Agent 已经不再只是一个会调用工具的脚本助手。在引入了更成熟的工程化增强之后,它开始具备完整的规划能力、任务拆解能力,甚至还能根据中间结果动态调整策略。从这个意义上说,它更像一个能独立行动的“自动化攻击参与者”,而不只是工具的拼装者。

这种能力直接拉快了漏洞从发现到利用的节奏。不管是自动生成 PoC,还是根据目标特征动态构建 Fuzzer,整体进攻效率都被明显放大了。

当然,事情远没有这么简单。

在进攻侧,LLM Agent 的自主信息收集能力,与现实世界里的隐私要求和合规边界天然存在冲突。模型想要“更聪明”,就需要更多数据,但这些数据在真实客户环境里往往是高度敏感的。这种矛盾如果处理不好,很容易让技术优势反过来变成风险源。

而在防御侧,情况同样棘手。LLM 不只是防御工具本身,它也成了攻击目标。算法驱动的越狱、提示注入和对抗性输入,正在系统性地挑战现有的安全护栏。过去那种靠规则过滤和简单提示修补的方式,已经很难跟上攻击策略的演进速度。

这也意味着,防御思路必须升级。单点加固已经不够用了,更合理的方向是从整体架构入手,比如结合 RAG 提供可追溯的事实来源,通过领域定向微调降低幻觉风险,再配合多层防御机制,把攻击成本拉高。

如果把视角放远一点,会发现真正棘手的问题,其实还在后面。

一方面,模型的可解释性仍然是绕不开的难题。模型为什么做出某个安全决策,在很多场景下依然说不清楚,这对高风险环境来说是一个硬伤。

另一方面,高质量安全数据集依然稀缺,尤其是覆盖真实攻击行为、复杂对抗场景的数据。这不仅影响模型效果,也限制了评估和治理能力。

再往上,是更大的问题,也就是恶意 LLM 的治理。当模型可以被轻易定制和私有化部署,仅靠模型本身的“道德约束”几乎不可能解决滥用风险。

综合来看,未来的关键不在于让模型“更强”,而在于让它“更可控”。真正可落地的方向,是构建深度的人机协同机制,让模型在高效自动化的同时,关键节点始终有人类把关。同时,防御体系本身也必须具备自适应能力,能跟得上攻击策略的演化节奏。

只有在可信赖和可治理这两个前提下,大语言模型才能在网络空间安全领域走得更远,而不是跑得越快,风险也越大。



参考

1.https://arxiv.org/abs/2409.11276

2.https://arxiv.org/pdf/2507.06323

3.https://arxiv.org/pdf/2412.01778

4.https://arxiv.org/pdf/2506.02048

5.https://arxiv.org/pdf/2508.05674

6.https://arxiv.org/abs/2404.08144

7.https://arxiv.org/pdf/2510.14700

8.https://arxiv.org/pdf/2409.10737

9.https://arxiv.org/pdf/2410.07283

10.https://www.usenix.org/conference/usenixsecurity25/presentation/russinovich

11.https://arxiv.org/pdf/2510.02373

12.https://openreview.net/pdf?id=DOMP5AgwQz

13.https://wormgpt.net/

​