摘要

随着大模型 API 服务的普及，模型提供商通过黑盒化部署保护核心资产成为一种常态。然而，黑盒并不等于安全。本文系统性地研究了针对 AI 模型的提取与逆向工程技术，包括功能复制攻击、成员推断攻击和模型反演攻击。实验表明，即使是商业级的黑盒 API 也难以抵御精心设计的查询攻击。

一、引言

在 AI 即服务