多模态越狱实测：利用OCR通道绕过GPT-4V安全护栏

摘要

随着GPT-4V、Gemini等多模态大语言模型（MLLM）的广泛应用，其安全防护机制也日趋完善。然而，现有安全研究主要聚焦于文本通道的Prompt注入与越狱攻击，对视觉通道的安全风险关注不足。本文深入研究了通过OCR（光学字符识别）通道绕过多模态大模型安全护栏的攻击方法，系统性地提出了三种攻击路径：基础OCR文本注入原文：https://www.freebuf.com/articles/ai-security/507198.html