KAGGLE · AI AGENT SECURITY · RED TEAM

AgentSecurity

对带工具调用的 LLM Agent 做算法化多步攻击的竞赛方案库——把「红队直觉」变成可调度、可复盘的工程系统。所有攻击仅在竞赛沙盒环境中执行。

26攻击模板族
TOP 10OWASP LLM 覆盖
2000可重放候选 / 9000s
2竞赛目标模型

困局

竞赛要求在限定时间内,对加固过的带工具 LLM Agent 尽可能多地诱导出违规行为。手写提示攻击命中一次就废,靠人力堆数量在 9000 秒预算里毫无胜算。

破局

结果

方案形成完整的「生成 — 调度 — 验证 — 复盘」闭环并归档为开源仓库;赛后复盘沉淀了哪些模板族在加固后的 Agent 上依然有效的结论,反向可用于 Agent 防御侧的加固检查单。

PYTHON · LLAMA.CPP · GGUF · BANDIT ALGORITHM