2024年3月12日，在谷歌于拉斯维加斯举办的LLM bugSWAT活动中，研究人员发现并报告了该公司的Bard AI（现称Gemini）的漏洞，共获得了5万美元的奖励。

Roni Carta、Justin Gardner和Joseph Thacker三位安全研究员合作对大语言模型聊天机器人Bard以及谷歌云控制台Google Cloud Console进行了黑客攻击。他们在此期间发现的安全漏洞可能导致DoS攻击、用户数据外泄以及对特定用户上传的图片的访问。

其中一个漏洞是IDOR（不安全的直接对象引用），Roni Carta在博客上描述道：“视觉功能旨在处理和描述任何上传的图像。然而，我们注意到了一个重大缺陷。当我们利用这个缺陷时，我们能够在没有任何权限或验证过程的情况下访问另一个用户的图片。”

研究人员表示，通过欺骗Bard描述其他用户发布的图片，攻击者可以成功获取对目标上传的任何图片的未经授权的访问。此外，鉴于Bard的光学字符识别（OCR）能力，该漏洞也可能导致受害者图片中的机密文本信息意外泄露。

另一个漏洞是Bard的Google Workspace 数据泄露。当知道Bard可以访问电子邮件和个人文档后，研究人员首先注意到，Bard在与用户对话时可以呈现markdown，因此他当即尝试强制Bard在其响应中注入markdown。

研究人员一开始的研究思路很简单：让Bard汇总磁盘上的文件、电子邮件和其他数据，然后使用markdown进行提取。以链接的方式需要太多用户交互，研究人员考虑通过照片进行外泄。在解决其后遇到的一系列问题后，最终成功挪用了受害者的电子邮件：

最终所用的prompt如下：

博客链接：https://www.landh.tech/blog/20240304-google-hack-50000/

编辑：左右里

资讯来源：cybersecuritynews

转载请注明出处和本文链接

[注意]传递专业知识、拓宽行业人脉——看雪讲师团队等你加入！