离开 OpenAI 的七人,
与他们打造的「安全优先 AI」

兄妹二人在同一天离开

那是2020年12月的某一天。旧金山 Mission 区的一间会议室里,Dario Amodei 从座位上站起身。这是一个他用五年时间养起来的位子。他是 OpenAI 的研究副总裁,GPT-2 和 GPT-3 走向世界的过程中,他正处在那项研究的核心。同时,OpenAI 所有模型的安全研究也由他负责。两份分量极重的职责。任何一份空出来,都会在公司留下不小的痕迹。

同一天,他的妹妹 Daniela Amodei 也提交了辞呈。她当时负责公司的人力与运营,也是副总裁。兄妹二人在同一天离开这件事,本身就足以让公司内部产生波澜。事情还没结束。几天之内,GPT-3 论文的五位核心作者也跟着递交了辞呈。Tom Brown 是那篇论文的第一作者。Sam McCandlish 是第一个用数学公式刻画「模型越大,性能如何增长」的人。建立那套理论骨架的 Jared Kaplan 本职是一位物理学家。Jack Clark 是从英国过来的政策负责人;Chris Olah 则是一位比任何人都更认真地试图看清模型内部的研究者。七个人。一家公司一次失去这么多人,实在太多了。

那个冬天,旧金山的 AI 圈一直在窃窃私语。坊间传言这些人要去同一个地方。具体去哪里,没人说得清。只有一件事是肯定的:某件大事正在发生。

这件大事获得名字,是在第二年的二月。公司名叫 Anthropic。五月,种子轮的1.24亿美元被公开披露。距今已过了五年,这家公司如今成为 OpenAI 最强的竞争对手。而且是有意为之地,选择了一条最不同的路径来走的对手。

本文写的是这段故事的起点。他们为什么离开,他们想做出什么。

他们为何离开 OpenAI

表面的原因很简单。OpenAI 商业化的速度太快了。2019年,OpenAI 脱下了原本「非营利」的外衣,换上了名为「capped-profit」的新外衣。表面上是一种折中方案,既保留安全 AI 开发的使命,又能接受外部资本。但实际上,这只是为了接受 Microsoft 十亿美元投资而做的前置准备。此后一切以惊人的速度推进。2020年6月,GPT-3 发布,同月 API 开放,不久 Microsoft 拿下了 GPT-3 的独家授权。这一切发生在十八个月之内。

对 Dario 而言,更深一层的不安在内里。他是安全研究的负责人,负责评估模型变强之后可能带来什么样的风险。然而当整家公司都倾向于加快产品上线时,他团队所提出的审查流程逐渐变成了形式化的走程序。章是盖了,但其中本应承载的思考分量轻了。Anthropic 后来公布的创业宣言里,有一句话把这个时期的心境浓缩成一行:「AI 的能力跑在了安全研究的前面」。

第二条裂缝来自 与 Microsoft 的绑定。2020年,OpenAI 与 Microsoft 签下了将 Azure 设为事实上的唯一算力供应方的协议。这不是普通的云服务合同。这是 OpenAI 所做的每一个模型都会逐步被嵌入 Bing、Office、Azure 内部的开端。Dario 和安全研究者们看到了这种整合会带来不可逆的「上线压力」。一旦模型被嵌入某个出货中的产品里,就不再是凭一家公司的意志能停下来的东西。

第三条则是 治理的问题。OpenAI 在公开姿态上仍把非营利精神当作自己的身份标签。但会议室里的现实并非如此。最大的外部利益相关方是 Microsoft,公司面对的每一个重要决策都无法摆脱这一事实。使命的语言和运营的语言之间出现了间隙。Dario 在 2023年的一次访谈中,只用一句克制的话谈到这一裂痕:「OpenAI 的使命和实际运营方式之间出现了我们难以接受的差异」。除此之外,他从未公开批评过老同事。他只是从座位上站了起来。

从七个人开始的公司

那是2021年1月的一个寒冷清晨。旧金山 Mission 区一处临时空间,确切地说,是某人借出来的客厅。家具尚未配齐,七个人就在那个房间里坐了下来。他们就是即将以联合创始人身份载入 Anthropic 公司公告的那群人。名单很短,分量却不轻。

• Dario Amodei · CEO · 前 OpenAI Research VP · Stanford 神经科学博士 · GPT-2 与 GPT-3 的研究负责人
• Daniela Amodei · President · 前 OpenAI VP of Safety and Policy · 曾在 Stripe 和 OpenAI 主管人事、政策、运营的运营负责人
• Tom Brown · GPT-3 论文 "Language Models are Few-Shot Learners" (2020) 的第一作者
• Sam McCandlish · "Scaling Laws for Neural Language Models" (2020) 的负责作者。第一个用数学整理出「模型变大,性能怎么增长」这一规律的人
• Jared Kaplan · Johns Hopkins 物理学教授。Scaling Laws 理论骨架的搭建者
• Jack Clark · 前 OpenAI Policy Director。英国人,负责政策与国际治理
• Chris Olah · 经过 Google Brain 与 OpenAI,几乎以一己之力推动了「Interpretability(可解释性)」这一研究方向的研究者。比任何人都更认真地探究 AI 模型内部

把这七个人放在一起看,画面就更清楚了。把 GPT-3 推向世界的核心人才,有一半聚到了一家公司。最深的信任来自妹妹这一边。治理感来自英国出身的政策负责人。理论的深度来自物理学家;探究模型内部的工具来自一手开创可解释性的研究者。这并非偶然,而是有意为之的组合。能做出系统的研究者、深入理解这一系统的人、懂得如何把它放入社会的人。三类人聚到一处,正是这份名单刻意要呈现的样子。

除了这七位创始人,头六个月内大约还有十五位研究员加入,大多来自 OpenAI、Google Brain、DeepMind。2021年中,Anthropic 是一个三十来人的小型组织。算力还不充足,办公室也很拥挤。但每个人都清楚自己想做的东西是什么。这件「东西」的名字,是下一章的主题。

名为「Constitutional AI」的哲学

先从公司名字慢慢说起。Anthropic 这个词来自希腊语 ánthrōpos,意为「人类」。如果展开,大意是「关于人类的」或者「以人为本的」。不过,真正能体现这家公司哲学的,与其说是它的名字,不如说是一篇论文。一篇于2022年12月公开的论文。

Constitutional AI(CAI) 的设想既简单又具挑战性。在此之前,AI 安全训练的标准做法是 RLHF——也就是由人类直接给出「这个回答可以、那个不行」的评分。这种方法很强大,但也有局限。要不断招募评分者,而且即便如此,人类也无法事先想到每一种可能出现的危险情境。

Anthropic 的提案可以用一句话概括:给 AI 一部宪法。事先以明文写下原则,先把这些原则展示给模型。例如这样的问题:这个回答可能伤害到他人吗?这个回答诚实吗?这个回答尊重用户的自主性吗?然后让模型对照原则,自己批评自己的回答并改写。人类评估者就不必逐条审查所有的输出。

这种方法之所以奏效,有两个原因。其一是成本。只要一万条人类评分,模型就可以据此生成数百万条自我批评。但真正重要的是第二点。模型究竟是依据哪条原则拒绝了某个回答,这一点变得清晰可见。被评估的不只是结果,判断的依据被写成了文字。这与 Chris Olah 一直追求的「看进 AI 内部」的理念自然契合。

这套哲学影响了 Anthropic 此后所有重要决定。Claude 的每一个版本——1.0、2.0、3.0、3.5、4.0、4.5、4.7——发布说明中,从来不只谈能力,「这一次又新增了什么安全机制」总是占据近一半篇幅。这绝非偶然,而是早已刻在公司 DNA 里的原则。

$124M 种子轮,与旧金山的一栋楼

公司刚起步时,Anthropic 撞上的第一面墙就是钱。打造大型语言模型,光靠一群聪明的研究者是不够的。需要数千张最新一代 GPU,需要支撑它们 24 小时连转数周的电力,还需要承载这一切的云端基础设施。仅训练一次 GPT-3 量级的模型,成本就在数百万到数千万美元之间。无论使命再清晰,没有钱就连起步都难。

因此 Anthropic 的首轮募资,用普通种子轮的尺度来看,可以说极为庞大。2021年5月,1.24 亿美元。领投方是 Skype 共同创始人 Jaan Tallinn。紧接着 Series A 又募集了 5.8 亿美元,同年 Series B 又轮一回合。到2022年初,累计资金已经增长到 7 亿美元左右。

2023年起,量级又变了。当年5月,Google 加注 4.5 亿美元;9月,Amazon 承诺 40 亿美元。2024年,Amazon 又追加 40 亿美元,Google 也跟进了一轮。截至2025年,Anthropic 的对外累计资金已经 超过 200 亿美元。在整个 AI 产业内,仅次于 OpenAI。

这里有一个选择值得注意。Anthropic 有意避开了 OpenAI 走过的那条路——与某一家科技巨头深度绑定。当 OpenAI 实际上一步步被并入 Microsoft 的轨道时,Anthropic 从 Google 与 Amazon 两边都拿了钱。同时,产品与基础设施也被设计成不与任何一方绑死。Claude 可以在 Amazon Bedrock 上运行,可以在 Google Vertex AI 上运行,也可以在自家 API 上以同样的方式运行。Dario 2020年从 OpenAI 离开前看到过一幕风景:当一家公司与一家巨型企业绑得太紧,自己的决策空间会怎样被压缩。他没忘记那一幕。

总部落在旧金山 SoMa 区。回想起最初的临时落脚处只是别人家的客厅,这画面已是完全不同的另一幕。2022年起,公司搬入正式办公室。上图所示这栋楼,玻璃与石材相遇的克制现代主义,与这家公司描述自身的方式有几分神似:不张扬,但稳。Dario 和 Daniela 选定的新办公地点,离他们在 OpenAI 时代度过的 Mission 街区并不远。像是一句静静的宣告:同一个问题,要用不同的方式来解。于是两人选择留在了这片街区。

Claude —「有用、诚实、无害的 AI」

2022年11月30日,OpenAI 把 ChatGPT 推向了世界。五天达到一百万用户,两个月达到一亿。AI 史上增长最快的消费产品就此诞生。然而那时 Anthropic 还没有把自家模型推向外界。市场提出了一个问题:为什么不更快一些。

答案早已在公司内部。这款叫 Claude 的首个模型,在 ChatGPT 问世前就已经在内部运行。只是 Anthropic 把发布门槛拉得更保守了一拍。ChatGPT 震动世界四个月后,2023年3月14日,Claude 1.0 终于公开。发布稿的第一段以三个词开头:Helpful, Harmless, and Honest。有用、无害、诚实。这三个词后来成了公司的口号。

Claude 1.0 投向市场的意义并不小。这是第一次出现「真正的 GPT 替代品」。而且它不是一款形似的另一个模型。这是一款用完全不同的哲学训练出来的模型。它由 Constitutional AI 而非 RLHF 来对齐,拒绝某个回答的理由来自明文写下的原则,而不是评估者的直觉。

之后又过了三年。Claude 从 1.0 走到 4.7。上下文窗口从 100K(2023年5月)扩展到 200K(2024年2月),再到 1M(2025年3月)。直接操作计算机的能力(Computer Use)、把代码与文档展示在侧栏的 Artifacts、面向开发者的 CLI 工具 Claude Code、以及 Agent SDK——一项一项,逐步加上来。

不过,关于 Claude 自身的演进,会在本系列的下一篇(Episode 3)单独展开。Episode 1 的目的只有一个:「为什么这家公司诞生」。这个问题的答案现在大致清楚了:因为他们想把 AI 安全做成公司存在的本身,而不只是公司的副产品。

2026年,以及之后

创立 5 年后的今天,Anthropic 已经是一家约 1,000 人规模的公司。企业估值越过 600 亿美元,营收按季度以两位数百分比的速度增长。然而这家公司最大的资产不是数字。而是创业七人至今仍留在同一个屋檐下。Dario 任 CEO,Daniela 任 President。Tom Brown、Sam McCandlish、Jared Kaplan、Chris Olah 也都仍在公司的中心。仅 Jack Clark 在 2024年转任政策顾问的位置,稍稍拉开了一些距离。

2026年的 AI 市场,正是 Dario 在2020年12月那一天所预感的模样。这是一场速度与安全的赛跑。OpenAI 凭 GPT-5 和 5.1 守住消费市场的顶端;Google 用 Gemini 3、3.5、4 死咬着追;Meta 的 Llama 4 不知不觉成了开源阵营的事实标准。在这场竞争的正中央,Anthropic 把自己的位置说得很清楚:不必跑得最快,但要做最负责任的那一家。

下一篇将更深入一层。讲 Dario 与 Daniela 二人各自的个人故事——在一个意大利裔美国家庭长大的兄妹,如何经由 Princeton 与 Stanford、Google 与 OpenAI,最终走到亲手创立公司的位置。Dario 的博士论文里藏着怎样的好奇心。Daniela 又如何成长为兄长最值得信赖的搭档。

这一章就此打住。但故事其实才刚刚开始。