【AI安全】Repeat-After-Me：Agent结构化工具调用的绕过与防护实践

先知社区2026-10-30 17:260 views

如果模型明确回复“不能执行”，我们通常会认为这次操作已经被成功拦截。但模型说了“不能执行”，就意味着底层工具一定没有被调用吗？

#行业资讯腾讯推出全新的 AI 搜索引擎：元宝搜索。将 AI 与传统搜索技术结合，支持 AI 总结和连续追问。元宝搜索未来也会进行商业化，不过腾讯特别强调元宝搜索会采取更加克制的广告策略，将广告内容与自然搜索结果明确区分开，避免用户可能会

我国成功发射探源计划探路者卫星；显卡价格跳水？多位主营显卡产品的商家否认了“高端显卡价格大幅波动”的说法；存储厂商酝酿新一轮涨价？多方反馈：原厂第四季度官方价格确实呈现微微上涨态势；AI交易热情重燃，纳斯达克100指数收涨超2%并在盘中收复

Qwen4-Max预览版已首发上线阿里Token Plan；智元发布终身具身智能框架LIFE，支持机器人持续感知与跨任务记忆。

苹果官方社区即将永久关闭 11 月 11 日，苹果官网突然宣布，Apple 支持社区将于 2026 年 11 月 20 日永久关闭。即日起，社区将不再接受新帖子，并转为只读模式。用户仍可前往官方 Apple 支持网站，获取值得信赖的指导和帮

IT之家 11 月 12 日消息，谷歌昨日（11 月 11 日）发布博文，宣布推进苹果车联服务 CarPlay 接入其 AI 应用 Gemini ，即日起面向全球 iOS 端 Gemini 用户逐步推送，覆盖 Gemini Live 已支

IT之家 11 月 12 日消息，Nothing CEO 裴宇前天在 X 平台发文，展示公司首款 AI 设备的外观。 IT之家注意到，这款设备配备绿色、红色 LED 指示灯，中间带有一颗实体按键。裴宇对此表示：“上下文不应局限于聊天框中。”

Related posts