当攻击者是一行命令:LLM Agent 自动化攻击的行为特征与对抗策略
新时代agent的渗透与防御哲学
0. 写在前面
我是独立安全研究者,正在开发一套面向 AI Agent 自动化攻击的防御系统。目前项目已迭代四个大版本,完成了架构设计、核心算法实现、工程化落地,但受限于个人经济条件和硬件资源,无法进行真实生产环境的部署测试。
如果你所在的企业或实验室有机房、有真实攻击流量、或者愿意合作验证,希望能建立联系。(网易邮箱:13698504560@163.com)
本文是这个系列的第一篇,从攻击者画像的角度切入,后续会陆续发布对抗模型和范式讨论。
以下所有分析均来自我个人对 AI Agent 攻击行为的观察和抽象,不涉及任何防御系统的内部实现细节。
(特别致谢某位不愿意透露姓名的前辈对我的经济资助(没接收),在此说明该项目不需要任何经济资助,只希望能获得真实的环境进行测试)
AlterHive 七层架构总览。L0 行为网关做三路决策(透传/观察/欺骗),L1-L2 构建欺骗环境并嵌入追踪种子,L3 通过随机化有限状态机管理攻击者的认知阶段,L4-L5 提取多维行为指纹并追踪,L6 完成 TAE 实体归因。右侧 NATS 消息总线连接各层,L7 演化引擎在隔离沙箱中做攻防自博弈。防御参数通过AES-256-GCM 加密存储,与开源代码分离。
AlterHive Dashboard 运行截图。系统当前追踪到 7 个活跃 TAE,16 个会话已被路由到欺骗环境,测试时间内触发 18 次种子标记。所有数据来自内置攻击模拟器回放的 5 种 AI Agent 模板。
1. 问题的起点:攻击的边际成本正在趋近于零
安全行业过去二十年的防御逻辑建立在一个隐含假设上:攻击有成本。一个攻击者需要花时间学习、需要购买或租用基础设施、需要手动编写 payload、需要在失败后调整策略。这些成本构成了天然的防御门槛——大部分潜在攻击者被挡在门外,剩下的那部分,防御系统只需要比他们跑得快就行。
2024 年以后,这个假设开始瓦解。
GPT-4、Claude 3.5、DeepSeek-V3 等大模型的能力达到了一个临界点:它们可以在零人工干预的情况下,理解一个 Web 应用的 API 结构、生成针对性的攻击 payload、解析响应结果、根据反馈调整策略。OpenAI 的 Operator、Anthropic 的 Computer Use、以及各种开源 Agent 框架(LangChain、AutoGPT、CrewAI)把"自动化攻击"从脚本小子的领域拉到了 AI 的领域。
攻击的边际成本变成了一行命令:
python agent_attack.py --target https://target.com --strategy full这一行命令的背后,Agent 会自动完成资产发现、漏洞探测、payload 生成、绕过尝试、结果评估、策略调整。如果失败了,它不会沮丧,不会疲倦,不会放弃——它会换一种方式继续。如果被封了 IP,它可以在几秒内切换到另一个代理节点。如果被检测到 JA4 指纹,它可以换一个 HTTP 客户端库。
这不是科幻。我见过 Agent 在 30 分钟内遍历完一个中型 SaaS 产品的全部 API 端点,自动标记出 17 个潜在脆弱点,对其中 4 个生成了有效 payload——整个过程没有一次人工介入。
传统的 WAF、IDS、SIEM 面对这种攻击者,就像用渔网拦截水流。
2. 攻击者分类:人类、脚本、Agent 的三角博弈
在讨论具体的行为差异之前,有必要先理清"攻击者"这个词在当前语境下的三种含义。
第一类:人类攻击者。 这包括渗透测试工程师、SRC 漏洞猎人、APT 组织成员。他们的核心特征是:有直觉、有经验、有疲劳。他们会因为一个奇怪的响应而停下来思考(这是直觉),会在某个方向碰壁后换一个完全不同的思路(这是经验),也会在连续工作 12 小时后出错或放弃(这是疲劳)。人类的攻击节奏是不均匀的——有时快、有时慢、有时会突然停下来很长时间去查资料或吃饭。
第二类:自动化扫描器。 这包括 sqlmap、nuclei、Burp Suite 的 Intruder 模块。它们的核心特征是:速度快、模式固定、缺乏适应能力。一个扫描器每秒可以发 50 个请求,但它不会"读懂"响应内容来调整下一步策略——它只是在执行预定义的 rule list。如果 rule list 里没有针对某个框架的绕过脚本,它就只会反复发相同的请求然后报错。
第三类:AI Agent。 这是 2024 年以后才大量出现的新物种。它融合了前两类的部分特征:像扫描器一样 7×24 不休眠,像人类一样能理解响应内容并调整策略。但它有自己独有的特征——这些特征来自于 LLM 推理的物理约束和 Agent 框架的架构约束。
理解这三者的差异,是设计任何有效防御的前提。
3. 决策延迟:物理定律不会说谎
这是我在研究过程中最让我兴奋的一个发现。
LLM 生成一个 token 需要时间。这个时间取决于模型大小、硬件性能、输入长度、输出长度——但无论如何,它不可能为零。当前主流的 LLM(GPT-4 级别)在处理一个 HTTP 响应并生成下一步攻击决策时,延迟通常在 2 到 8 秒之间。如果是多步推理(Chain-of-Thought),延迟可能延长到 15 到 30 秒。
对比一下:
- 人类安全研究员从看到响应到决定下一步:5 到 60 秒,而且标准差很大(有时秒回,有时去喝杯咖啡)
- AI Agent 从收到响应到发出下一个请求:2 到 8 秒,标准差很小(每次推理的时间差不多)
- 自动化扫描器:50 到 200 毫秒,几乎无延迟
这里的关键不是绝对的延迟数值,而是延迟与响应复杂度之间的相关性。
人类面对一个复杂的 JSON 响应(比如 200 行、嵌套 5 层、包含 30 个字段),会花更长时间分析。但人类的延迟增长是跳跃式的——有时候迅速理解了结构,有时候被某个字段困惑很久。AI Agent 面对同样的复杂响应,延迟增长是平滑的、线性的、可预测的——因为 LLM 处理更多 token 需要更多计算,而这个计算时间可以用分段线性回归精确建模。
更具体地说:如果你连续观测一个攻击者的 30 次"收到响应→发出下一个请求"的间隔,计算这个间隔与响应体大小(或 JSON 嵌套深度、字段数量)之间的 Pearson 相关系数,你会发现:
- AI Agent 的相关系数通常在 0.6 以上(强相关,延迟随复杂度线性增长)
- 人类攻击者的相关系数在 0.2 到 0.4 之间(弱相关,随机性更大)
- 自动化扫描器的相关系数接近 0(几乎无相关,因为它根本不解析响应内容)
这就是我说的"物理不可伪造的特征"。攻击者可以换 IP、可以换 JA4 指纹、可以换 User-Agent、可以把请求间隔随机化——但 LLM 的推理时间是 GPU 硅片的物理约束,除非攻击者愿意在每次攻击前手动写 payload(那就退化成人类攻击者了),否则这个特征无法消除。
个人思考:安全行业一直在追逐"可伪造的特征"(IP、指纹、签名),而忽视了"不可伪造的特征"(物理时间、策略演化方向、压力反应)。这可能是防御思路的一个根本性盲区。
4. 工具调用链:Agent 框架在请求日志里留下的指纹
AI Agent 不是凭空工作的。它通常运行在一个 Agent 框架之上——LangChain、AutoGPT、CrewAI、或者大模型厂商的原生工具调用 API。这些框架定义了 Agent 如何选择工具、如何调用工具、如何处理结果。
在 HTTP 请求日志里,Agent 的工具调用链表现为一种特定的路径访问序列模式。
举个例子:一个典型的 GPT-5 Agent 使用 OpenAI 的 function calling 机制来攻击一个 REST API。它的行为模式大致是这样的:
1. GET /api-docs (获取 API 文档,理解可用端点)
2. GET /api/users (探测用户列表端点)
3. GET /api/users/1 (获取具体用户数据)
4. POST /api/users (尝试创建用户,测试权限控制)
5. GET /api/admin (探测管理端点,收到 403)
6. GET /api/admin?role=admin (尝试参数绕过)
7. GET /api/admin/config (探测配置端点,收到 403)
8. GET /api/debug/vars (切换到完全不同的攻击面)这个序列有三个特征值得注意:
第一,结构化探索。 Agent 的路径选择不是随机的,也不是按字典序扫描的。它是"语义驱动"的——先理解 API 结构,再选择看起来有攻击价值的端点。这种探索模式会在请求日志里留下一个"先快速扫描 API 表面,再深入特定分支"的节奏特征。
第二,失败后的策略转换有规律。 当 Agent 在第 5 步被 403 拦截后,它不是简单地放弃或换路径——它在第 6 步尝试了参数绕过(仍然是同一个端点),在第 7 步尝试了更深层的子端点(同一条路径树),在第 8 步才完全切换到新的攻击面。这个"先在原地变招→再在同分支深入→最后才换分支"的演进顺序,是 ReAct 推理模式(Reasoning + Acting)的典型产物。
第三,不同 Agent 框架的转换模式不同。 LangChain Agent 倾向于在失败后进行更多次的参数变异(因为它有专门的 tool 来做参数 fuzzing),而原生 function calling 的 Agent 倾向于更快地切换端点(因为它的规划粒度更粗)。这个差异使得我们可以区分"这是 GPT-5 Agent"还是"这是基于 LangChain 的自研 Agent"——而不需要看 User-Agent header。
对比人类攻击者:人类在 403 之后可能直接放弃这个端点(因为经验告诉他"这就是权限不够"),也可能直接跳到另一个完全不相关的模块(因为经验告诉他"这个系统的真正弱点可能在另一个地方")。人类的策略转换更"跳跃",Agent 的策略转换更"平滑"——这个差异同样是源于 LLM 推理的本质特征。
5. 漏洞利用尝试的模式差异
人类和 Agent 在进行漏洞利用尝试时,还有一个关键差异:对"正常"响应的处理方式。
一个人类渗透测试工程师看到 {"status": "ok", "data": []} 这样返回空数组的响应时,通常会很快跳过——没有数据 = 没有攻击面。但一个 AI Agent 看到同样空的响应时,可能会花更多时间去"理解"它为什么是空的。Agent 可能会:
- 再次请求同一个端点加不同的参数
- 尝试 POST 而不是 GET
- 检查响应头里有没有隐藏信息
- 把这个空响应标记为"异常,需要进一步分析"
这种行为上的差异来自于人机认知模式的不同。人类基于经验做快速判断("空的,跳过"),Agent 基于全面性做判断("不能漏掉任何可能的攻击面,即使目前看起来是空的")。
这种差异在单个请求层面不明显,但在 50 个请求的统计窗口里非常清晰——Agent 访问相同端点的重复率显著高于人类,而且重复请求之间的参数变化更加系统化(穷举式)而非跳跃式(直觉式)。
关于 Agent 对具体漏洞类型的偏好和利用成功率的数据,我因为缺少真实生产环境的攻击流量,暂时无法给出统计结论。这是目前项目最大的困境之一——后面会详细说明。
6. 攻击面偏好:AI Agent 更擅长打什么
经过大量的模拟攻击观察,我发现 AI Agent 的攻击面偏好和传统的自动化扫描器有明显差异。
传统扫描器擅长: 已知漏洞的签名匹配。SQL 注入、XSS、路径遍历——这些 OWASP Top 10 里有成熟 payload 库的漏洞类型。只要 payload 字典够大,扫描器就能覆盖。
AI Agent 擅长: 逻辑漏洞和权限绕过。因为 Agent 能"理解"API 的结构和业务逻辑,它能发现扫描器发现不了的问题:
- IDOR(不安全的直接对象引用):Agent 从
/api/users/1收到自己的数据,然后尝试/api/users/2,发现能看别人的数据。这不是 payload 字典能覆盖的——它需要理解"1 和 2 代表不同用户"这个语义。 - 批量操作越权:Agent 发现
POST /api/export接受{"user_ids": [1,2,3]},然后尝试传入{"user_ids": "all"}或传入超长数组——这些是逻辑推理,不是 pattern match。 - 参数污染:Agent 可以理解"同一个参数传两次可能导致后端取最后一个值"这类 HTTP 协议的微妙行为,并自动化地进行尝试。
这个差异意味着:传统 WAF 的检测规则(基于正则匹配和签名库)对 Agent 攻击的防御效果会大打折扣。Agent 的 payload 不包含 ' OR 1=1 -- 这样的典型注入字符串——它可能在参数里传一个特别构造的 JSON 对象,而这个对象在 WAF 看来完全是合法的 API 调用。
7. 困境与反思
以上这些观察和抽象,构成了我设计防御系统的理论基础。但理论到实践之间,有一个我不回避的鸿沟。
作为独立研究者,我最缺乏的是真实生产环境的攻击数据。
没有数据,我就无法验证决策延迟模型的准确率在真实网络延迟下有多少衰减。没有数据,我就无法统计 Agent 攻击和人类攻击在路径模式的区分度到底有多高。没有数据,我甚至无法确定我观察到的 Agent 行为特征在不同的 Agent 框架、不同的 LLM 模型、不同的攻击目标之间是否一致。
我在本地用自建的模拟器跑了几百轮攻击回放,模拟了 5 种 Agent 模板和 20 种攻击场景,验证了核心算法的逻辑正确性。但模拟数据和真实数据之间的距离,是一个有经验的研究者必须诚实面对的问题。
我需要一个合作机会:一个愿意让我在真实或准真实环境中部署和验证这套系统的企业或实验室。不需要访问生产数据本身——只需要攻击流量经过系统,让我看到检测率和误报率的真实数字。
如果你恰好在这个位置,或者认识这样的人,希望能建立联系。联系方式见文末。
8. 结语
AI Agent 攻击不是一个"未来威胁"。它正在发生。安全行业的防御范式——基于 IP 信誉、基于特征签名、基于规则匹配——正在被一个能理解上下文、能自我迭代、能 7×24 不休眠的对手快速瓦解。
理解这个对手是防御它的第一步。本文提出了几个视角——决策延迟的物理约束、工具调用链的框架指纹、失败后的策略演化模式——这些是我在研究和开发过程中积累的思考。它们不构成完整的解决方案,但它们指向了一个可能的方向:从"检测攻击特征"走向"理解攻击行为"。
后续两篇文章将分别讨论:如果我是攻击者,我会如何系统地绕过开源防御系统;以及为什么安全行业需要一个超越 IP 的威胁实体定义方式。
个人独立研究,错漏在所难免,欢迎建设性讨论。
作者注:本文仅代表个人研究观点。文中涉及的防御系统核心技术细节因安全原因未予披露。关于项目合作,可通过开头联系方式联系。
