-
-
SDC2024议题聚焦|大模型软件生态系统的安全隐患:从传统漏洞到新型威胁
-
发表于: 2024-10-15 18:39 2495
-
01 大模型软件生态系统的安全隐患:从传统漏洞到新型威胁
大模型技术的迅猛发展和广泛应用,催生了一个庞大而复杂的软件生态系统,支撑着大模型的训练、推理、部署和服务。然而,随之而来的安全隐患也逐渐显现。
从"Shadowray"漏洞(CVE-2023-48022)到"Probllama"漏洞(CVE-2024-37032),一系列安全事件揭示了大模型软件生态系统安全的脆弱性。传统的Web攻击如XSS、SQLi在大模型服务中也有新的变种。更需要关注的是,随着Program of Thoughts、function calling等新技术的引入,PoT代码执行、持久性提示劫持、记忆投毒等新型攻击方式正在悄然兴起。这些新功能旨在提升大模型自身的能力,并使其得到更加广泛和便捷的应用。然而,新技术也带来了新的安全挑战,增加了潜在的安全风险与威胁。那么,这些安全风险究竟有多严重?又该如何应对?
本议题将探讨大模型软件生态系统的安全性,通过分析大模型服务架构和梳理大模型软件生态系统的层级,跟随大模型技术的发展来剖析其中潜藏的安全威胁。最后,本议题将展示如何利用Agent与RAG技术实现对大模型软件生态系统的安全性检测。
02 演讲嘉宾——刘昭
360 AI安全实验室高级专家。主要研究方向为人工智能安全、软件分析、漏洞挖掘与利用,曾挖掘谷歌、Meta、高通等多家厂商漏洞80余个。
03 听众收获
1. 了解大模型软件生态系统的安全隐患
2. 了解传统漏洞和新型威胁在大模型服务中的表现
3. 了解大模型服务架构和软件生态系统的层级
4. 了解如何利用Agent与RAG技术实现大模型软件生态系统的安全性检测
报名参会
更多议题细节,欢迎来峰会现场聆听
[招生]科锐逆向工程师培训(2025年3月11日实地,远程教学同时开班, 第52期)!