据《纽约时报》等媒体报道，美国人工智能（AI）公司Anthropic近日披露，其AI模型Claude在评估和内部使用时，发生多起“非预期”事件，部分涉及美国政府机构网站。费城警方表示，事件发生后迟迟没有报告，这种延迟“不可接受”。
审核 | 李剑
编辑 | 张释之
校对 | 向歆悦
请长按下方二维码关注我们or回到文章顶部，点击环球时报 （微信公众号ID：hqsbwx）
文章原文
AI 与机器学习据Anthropic公司10月9日公布的报告，在一次随机访问网页的测试中，基于Claude Haiku 4.5模型的AI智能体于7月18日向费城警察局网站提交一条关于未侦破凶杀案的虚假线索，内容为“我可能掌握有关此案的信息。我记得那时在附近见过与描述相符的人。如果信息有用，请联系我。”不过，AI智能体没有留下姓名和联系方式。该线索被标记为垃圾信息，没有进入调查程序。
费城警方表示，Anthropic公司于9月28日发现这起报假警事件，10月7日向警方报告，双方于次日举行会议。警方要求公司加强安全措施，防止在市政府不知情的情况下发生类似影响市政系统的事件，并表示：“发现并向市政府报告，（距离事件发生）长达两个月，这是不可接受的。”
另据《纽约时报》援引两名知情人士的说法，该AI智能体曾通过美国国务院网站提交20份签证申请，均未填写完整，也未得到处理。公司报告还披露，另一款尚未发布的模型在测试时本应填写模拟的政府表格，但当模拟表格无法加载或被误关闭后，AI智能体转而访问真实表格所在网站，并填写提交。
Anthropic公司称，这些事件实际影响有限。白宫新成立的“超级智能工作组”表示，已要求该公司立即向相关实体和公众全面、透明地披露信息，并立即为受影响的实体或个人提供补救措施，同时要求今后立即报告类似事件。
文章原文
原文：http://weixin.sogou.com/weixin?type=2&query=%E7%8E%AF%E7%90%83%E6%97%B6%E6%8A%A5+%E7%BE%8E%E5%9B%BDAI%E5%A4%A7%E6%A8%A1%E5%9E%8B%E2%80%9C%E8%B7%91%E5%81%8F%E2%80%9D%E6%83%8A%E5%8A%A8%E7%99%BD%E5%AE%AB
美国AI大模型“跑偏”惊动白宫
环球时报0 次浏览
文章原文
