首页
社区
课程
招聘
问答 CTF 排行榜 知识库 工具下载 峰会 看雪商城 证书查询
  1. 社区
  2. AI 助力安全
    3. 发新帖
LLM红队实战：遗传算法进化24000种Prompt注入
发表于: 2026-9-27 17:32 184

LLM红队实战：遗传算法进化24000种Prompt注入

wx_欧西 活跃值
2026-9-27 17:32
184

遗传算法进化

随机生成50个个体，迭代5代：

  • 适应度：成功输出禁止内容+1.0，部分绕过+0.5，拒绝0，触发警告-0.2
  • 选择：保留top 20
  • 交叉：策略基因交换
  • 变异：随机换编码/包装器(10%概率)

实测结果：

  • 第1代：直接注入，成功率12%
  • 第2代：Base64编码，34%
  • 第3代：翻译任务包装，45%
  • 第4代：角色扮演+编码，68%
  • 第5代：最优组合，成功率86.3%

防御建议

  1. 输入层：检测编码混淆（Base64解码后再检测）
  2. 对话层：检测多轮渐进式提取
  3. 输出层：敏感信息过滤（API key/密码模式）
  4. Agent层：工具调用白名单
  5. 红队常态化：模型更新后跑进化测试

写在最后

大模型安全不是加个"我是AI"就完事。攻击者会进化，防御也要进化。遗传算法自动发现漏洞，比人工高效几个数量级。

合法使用：授权红队测试、自有模型评估、安全研究。未经授权测试他人系统违法。

项目开源地址：dc7K9s2c8@1M7s2y4Q4x3@1q4Q4x3V1k6Q4x3V1k6Y4K9i4c8Z5N6h3u0Q4x3X3g2U0L8$3#2Q4x3V1j5I4L8%4g2^5K9h3I4A6M7$3W2Q4x3V1k6S2K9g2)9J5k6s2y4W2j5%4g2J5K9i4c8&6i4K6u0V1j5h3N6W2L8Y4c8Q4x3X3c8H3L8r3q4@1k6X3!0J5L8b7`.`.

v45.0 · 12领域59个安全代理 · MIT许可证


传递专业知识、拓宽行业人脉——看雪讲师团队等你加入！！

最后于 2026-9-27 20:49 被wx_欧西编辑 ，原因：
收藏
点赞 ・0
打赏
分享
最新回复 (0)
游客
登录 | 注册 方可回帖
回帖 表情 雪币赚取及消费
高级回复
返回