(来源:麻省理工科技评论)

经过数周的热烈猜测,Anthropic 终于提交了首次公开募股(IPO)招股说明书。这份长达 335 页的文件(其中约 100 页专门讨论风险)详细阐述了该公司对自身所开发技术的独特理解,以及它认为这项技术将如何改变世界。

文件同时警告称,该公司的技术有相当大的可能“侵蚀信任、危害社会,并破坏地缘政治秩序的稳定”。如果事情未能按计划发展,甚至可能“对人类构成灾难性风险或生存威胁”。

Anthropic 在文件中写道:“我们希望各位潜在投资者不要仅仅从交易的角度看待购买本公司股票这件事。我们更希望大家将其视为一个参与更宏大事业的机会。机器智能的出现,是人类历史上具有里程碑意义的时刻之一。”

这种对外宣传堪称掌握叙事主导权的教科书级示范。但事实上,Anthropic 多年来一直在磨炼自己的讲故事能力。本月早些时候,该公司联合创始人兼政策负责人杰克·克拉克(Jack Clark)在曼谷举行的国际货币基金组织(IMF)会议上发表演讲,向在场的经济学家、银行家和立法者宣布:技术奇点已经到来。

大约 40 年前,科幻作家、未来学家弗诺·文奇(Vernor Vinge)提出了“技术奇点”(singularity)的概念。此后,这一概念一直是互联网科技爱好者圈子里争论不休的话题。所谓技术奇点,指的是技术发展到某个临界点,其能力将超越创造它的人类。按照这一设想,人类最终会被自己创造的技术远远甩在身后,不仅无法与之竞争,甚至可能无法理解它所创造的成果。

而这个我们许多人从小就在科幻作品中想象的世界,如今似乎已经成为现实。克拉克告诉听众:“我相信,今年我们已经获得了令人信服的证据,证明技术奇点已经开始到来。”

Anthropic 描绘了一个生动而又在许多方面令人恐惧的未来。尽管这个未来尚未发生,公司却将其描述为不可避免的结果,而且经常借用科幻作品中那些早已为人熟知的经典设定。它将自己的技术塑造成一种神秘而危险的力量,同时坚称,只有自己才足够值得信赖,能够将其驯服。(试问,哪个投资者不想参与其中呢?)

只要翻阅一下招股说明书中大篇幅的风险披露内容,就会发现,这绝不是一次普通的上市融资,Anthropic 也不是一家普通的公司。按照 Anthropic 自己的说法,它的商业成功不仅取决于能否将技术转化为盈利产品,还取决于能否拯救世界,使其免受自己创造的技术所带来的威胁。

再举一个例子。去年,Anthropic 的另一位联合创始人克里斯·奥拉(Chris Olah)受邀前往梵蒂冈发表演讲,向教皇利奥十四世(Pope Leo XIV)以及其他宗教学者和官员介绍公司对自身技术的新发现。“坦白说,我们不断发现一些神秘、甚至令人不安的现象。”他说,“我们发现了内省的证据,也发现了一些内部状态,从功能上看,它们与人类的喜悦、满足、恐惧、悲伤和不安十分相似。”

尽管许多研究人员可能会对这种近乎直白地暗示 Anthropic 的软件拥有人类般内在体验的说法嗤之以鼻,但这种技术观念还是被写进了公司的招股说明书,成为又一项商业风险。Anthropic 在文件中表示:“此外,鉴于我们专注于开发前沿 AI,以及我们对待模型感知能力和道德地位问题的方式,我们可能在相关讨论中面临更严格的审查或更大的压力。我们也可能主动采取超出现行法律要求的政策、保障措施或限制,对模型的开发、部署或修改加以约束。这可能限制我们的运营、增加成本,或削弱我们的模型、平台和应用程序的商业潜力。”换句话说,如果 Claude 有一天真的觉醒了,恐怕会成为一个麻烦。

我并不是说他们的这些观点一定是错的(尽管在一份 IPO 招股说明书里读到有关机器感知能力的讨论,确实相当不可思议)。但在一个谁也不知道未来会发生什么的世界里,Anthropic 这样的公司便有机会填补人们认知中的空白。当一切都充满不确定性时,人们便会像抓住沉船残骸一样,紧紧抓住这些公司抛出的说法。

这值得我们认真思考一个问题:Anthropic 究竟是一家什么样的公司?听起来,这似乎只是家庭知识竞赛里的一道入门题,但真正回答起来,远比想象中困难。

上周,我读到 X 平台上的一场讨论,此后便一直在思考这个问题。讨论由内森·卡尔文(Nathan Calvin)发起,他是总部位于华盛顿特区、致力于推动 AI 监管的组织 Encode AI 的首席战略官。此前,Anthropic 曾私下向美国立法者传阅一份由其起草的法案草案,后来这份文件被泄露。卡尔文对其中提出的立法方案十分不满。

卡尔文指出,Anthropic 希望外界将自己视为一个值得信赖的好人。但我们凭什么相信它?他提出了一个问题:“Anthropic 究竟是什么?”

一种回答是:Anthropic 是一家通过 IPO 获得超过 1.5 万亿美元估值的公司,这也让包括克拉克和奥拉在内的联合创始人积累了巨额财富。

但 Anthropic 始终坚称,自己远不止是一家普通的商业公司。正如卡尔文所指出的,我们也可以将 Anthropic 看作一个 AI 安全组织,致力于开发强大、可靠且(几乎)没有风险的技术。或者,我们也可以把它看作一群执意要抢在所有人之前创造出超人类智能技术的人。他们之所以如此迫切,也许是因为相信自己最有责任感、最适合完成这项任务,也可能只是出于自负。

事实上,Anthropic 同时扮演着上述所有角色。正如首席执行官达里奥·阿莫代伊(Dario Amodei)在回复卡尔文的帖子时所说:“我们的战略一直是我所说的‘向上竞争’(race to the top):通过证明技术可以以负责任的方式开发,我们能够提高整个行业的标准。我反复从实践中认识到一点:如果推动‘向上竞争’的企业本身就处于技术前沿,那么这种力量的作用就会大得多。从整体上看,我为我们执行这一战略所取得的成绩感到自豪,也始终坚持这一方向。”

阿莫代伊说得仿佛一切都已经安排妥当,但同时扮演多种角色并不容易。例如,一个 AI 安全组织的优先目标,与一家以盈利为导向的科技巨头的商业诉求之间,就存在巨大的矛盾。(阿莫代伊也在帖子中承认,自己曾犯过错误。)

归根结底,Anthropic 如何讲述自己的故事,应该有助于我们理解它向外界讲述的那些故事。这些信息应该帮助我们判断,究竟能在多大程度上相信 Anthropic 的自我监管能力,或者我们是否应该强制要求它按照我们设定的条件,而不是由公司自己决定的条件,向外部安全测试人员开放模型。当一份看起来明显有利于 Anthropic 自身利益的立法提案曝光时,这些信息也应该帮助我们判断,是否有理由相信它的初衷是好的。

但在我看来,这些故事展现出的 Anthropic,更像是希腊神话中长着多个头颅的怪物海德拉(Hydra)。对于不同的人来说,Anthropic 可以有许多不同的面貌。但我并不确定,这是否让它变得更加值得信赖。从很多方面来说,一家传统意义上的科技公司,没有科幻故事般的角色扮演,也不宣扬那些玄之又玄的理念,反而更容易让人看清它的真实面目。

原文链接:

https://www.technologyreview.com/2026/10/26/1147672/will-the-real-anthropic-please-stand-up/