-
-
SDC2024议题聚焦|大模型软件生态系统的安全隐患：从传统漏洞到新型威胁
-
发表于: 22小时前
-
01 大模型软件生态系统的安全隐患：从传统漏洞到新型威胁
大模型技术的迅猛发展和广泛应用，催生了一个庞大而复杂的软件生态系统，支撑着大模型的训练、推理、部署和服务。然而，随之而来的安全隐患也逐渐显现。
从"Shadowray"漏洞（CVE-2023-48022）到"Probllama"漏洞（CVE-2024-37032），一系列安全事件揭示了大模型软件生态系统安全的脆弱性。传统的Web攻击如XSS、SQLi在大模型服务中也有新的变种。更需要关注的是，随着Program of Thoughts、function calling等新技术的引入，PoT代码执行、持久性提示劫持、记忆投毒等新型攻击方式正在悄然兴起。这些新功能旨在提升大模型自身的能力，并使其得到更加广泛和便捷的应用。然而，新技术也带来了新的安全挑战，增加了潜在的安全风险与威胁。那么，这些安全风险究竟有多严重？又该如何应对？
本议题将探讨大模型软件生态系统的安全性，通过分析大模型服务架构和梳理大模型软件生态系统的层级，跟随大模型技术的发展来剖析其中潜藏的安全威胁。最后，本议题将展示如何利用Agent与RAG技术实现对大模型软件生态系统的安全性检测。
02 演讲嘉宾——刘昭
360 AI安全实验室高级专家。主要研究方向为人工智能安全、软件分析、漏洞挖掘与利用，曾挖掘谷歌、Meta、高通等多家厂商漏洞80余个。
03 听众收获
1. 了解大模型软件生态系统的安全隐患
2. 了解传统漏洞和新型威胁在大模型服务中的表现
3. 了解大模型服务架构和软件生态系统的层级
4. 了解如何利用Agent与RAG技术实现大模型软件生态系统的安全性检测
报名参会
更多议题细节，欢迎来峰会现场聆听
[峰会]看雪.第八届安全开发者峰会10月23日上海龙之梦大酒店举办！
|
|
|---|---|
