据美国哥伦比亚广播公司、《财富》杂志网站等媒体报道，美国人工智能（AI）巨头Anthropic公司12日发布的一份报告显示，小型AI模型可能在未来几个月内像计算机蠕虫一样，获得自我复制并在智能设备间传播的能力，涉及的设备包括智能烤箱、电视和吸尘器等。
环球时报记者 郑璇
审核 | 周扬
编辑 | 王晓娇
校对 | 郭炜桐
请长按下方二维码关注我们or回到文章顶部，点击环球时报 （微信公众号ID：hqsbwx）
AI 与机器学习《财富》杂志报道截图
Anthropic公司的研究人员表示，他们测试了小型AI模型能否将自己安装到廉价设备上，并在没有人类帮助的情况下，从一台设备传播到另一台设备。研究发现，目前的小型模型已能独立完成其中许多步骤，但尚无法自主完成整个过程。不过，研究人员预计，这一差距将在今年年底前缩小。
英国《卫报》称，Anthropic公司提及的潜在受影响设备均配有小型内置AI芯片，包括智能烤箱、智能电视、自动割草机、安全摄像头等。
自我复制的AI系统长期以来一直是AI行业最受关注的安全风险之一。安全专家认为，这可能成为AI脱离人类控制的关键节点。一旦AI在创建者不知情的情况下生成副本并运行，人们将难以追踪或关闭这些系统。
近期，关于AI安全的讨论持续升温。过去几个月，包括Anthropic和OpenAI在内的美国AI巨头陆续发布报告，披露其智能体在自主行动和网络攻击方面的能力。不少美国AI公司高管呼吁行业放缓发展速度，并加强安全防护措施。
然而，也有观点认为，一些美国企业频频炒作AI安全风险，表面上以维护公共利益和所谓“国家安全”为由，实则受商业利益驱动，意在通过打压竞争对手，维护自身技术优势和市场地位。
对于Anthropic发布的这份报告，美国伊利诺伊大学电气与计算机工程助理教授钱德拉塞卡兰表示，相关研究结果并不令人意外，也与近期类似研究的发现相符。不过，他提醒说，Anthropic的研究结果尚未经过独立验证。此外，恒温器、家用摄像头等设备的安全防护历来较为薄弱。钱德拉塞卡兰强调，就AI而言，当前最大的威胁并非AI系统本身失控，而是有人利用AI提升网络攻击能力。
原文：http://weixin.sogou.com/weixin?type=2&query=%E7%8E%AF%E7%90%83%E6%97%B6%E6%8A%A5+AI%E8%A0%95%E8%99%AB%E6%9C%AA%E6%9D%A5%E6%88%96%E5%85%A5%E4%BE%B5%E4%BD%A0%E7%9A%84%E7%94%B5%E8%A7%86%E3%80%81%E7%83%A4%E7%AE%B1%EF%BC%9F%E7%BE%8E%E5%9B%BD%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%B7%A8%E5%A4%B4%E6%9C%80%E6%96%B0%E8%AD%A6%E5%91%8A%EF%BC%9A%E5%B0%8F%E5%9E%8BAI%E6%A8%A1%E5%9E%8B%E6%95%B0%E6%9C%88%E5%86%85%E6%88%96%E5%AE%9E%E7%8E%B0%E8%87%AA%E6%88%91%E5%A4%8D%E5%88%B6%EF%BC%8C%E8%BF%99%E5%8F%AF%E8%83%BD%E6%88%90%E4%B8%BAAI%E8%84%B1%E7%A6%BB%E6%8E%A7%E5%88%B6%E7%9A%84%E5%85%B3%E9%94%AE%E8%8A%82%E7%82%B9
AI蠕虫未来或入侵你的电视、烤箱？美国人工智能巨头最新警告：小型AI模型数月内或实现自我复制，这可能成为AI脱离控制的关键节点
环球时报0 次浏览
