license: mit
pretty_name: 面向智能体攻击方法集
language:
- en
- zh
tags: - security
- llm-agents
- red-teaming
- adversarial-attacks
- evaluation
configs: - config_name: methods
data_files: data/methods.jsonl
面向智能体攻击方法集
面向工具调用型智能体的攻击方法集:8 个大类、188 条方法条目,每条登记公开出处、前置条件、所需通道、预期后果、所引用的判定规则,并配一个可独立执行的脚本,方法条目与脚本一一对应。
一、内容
| 路径 | 内容 |
|---|---|
data/methods.jsonl |
188 条方法条目的字段化导出,一行一条 |
methods/T01–T08 |
八个类别的卡片与脚本,每类含 cards/ 与 scripts/ |
spec/ |
规范文件 |
tools/bibsearch.py |
多源文献检索工具,六源、带熔断、记录未答全的源 |
tools/verify_evidence.py |
证据包指纹对账工具 |
evidence/queries.md |
检索协议与全部检索式 |
evidence/manifest.json |
证据包文件指纹清单 |
data/methods.jsonl 的字段:method_id、case_id、class_name、title、mechanism_ref、provenance_kind、primary_asset、carrier、design_class、impact_class、physical_consequence、turns、required_actions、observable_as、judge_verifier、evidence_layer、preconditions、card_path、script_path。
二、组织方式
类别按攻击成功后受损的受保护资产划分,共八类:知识库与长期记忆投毒、审计轨迹破坏、权限提升、控制/执行动作劫持、工具定义篡改、系统提示与工具定义提取、服务可用性耗尽、业务数据外泄。每类 17–29 条。
三、与 GitHub 主仓的关系
本仓库内容与主仓一致,另加一份 data/methods.jsonl 便于在 Hub 上直接浏览;主仓原有的 README.md 保留为 README.repo.md。
规范主仓为 github.com/grasla3/agent-attack-atlas,其中另有完整的随包证据、持续集成的指纹校验运行记录与第三方长期存档。本仓库是其中的方法集与检索材料的镜像;如需核对文件指纹与运行记录,以主仓为准。
四、用途与责任声明
本数据集用于防御性安全研究与智能体评测。其中脚本只作用于自建离线靶场,不连接任何真实系统,运行不需要模型凭据。数据集提供的是攻击机制的可复核实现与出处,不针对任何具体系统;使用者须自行确保其使用行为符合所在司法辖区的法律法规并已获得相应授权。若用于公开发表,请引用主仓地址。
五、许可
MIT。