后端
【AI安全】生成式 UI 沙箱的宿主权限越界分析
先知社区0 次浏览
本文内容仅供技术学习与交流使用,严禁用于任何非法用途。请遵守《中华人民共和国网络安全法》等相关法律法规,因违规使用产生的一切后果,由使用者自行承担,与作者无关。 一、引言 随着 AI Agent 逐渐具备代码生成与工具执行能力,越来越多的应用开始采用生成式 UI(Generative UI)技术,由大模型动态生成 Python 代码,并通过沙箱执行后构建交互界面。这种方式提高了应用的灵活性,同时也对不可信代码的执行隔离提出了更高要求。 目前,WebAssembly(WASM)已被应用于部分 AI 代码执行场景,通过独立运行环境和虚拟文件系统限制代码对宿主资源的访问。但 当沙箱内部的代码能够通过跨语言接口调用宿主运行时 API 时,原有的权限隔离可能失效 ,本文以 Prefab UI 为研究对象,结合实际执行链、漏洞复现和源码分析, 还原从 Pyodide 沙箱到 Deno 宿主文件系统的权
原文:https://xz.aliyun.com/news/93129