OpenAIを去った7人、
そして「安全が先のAI」を築く

二人の兄妹が同じ日に去った

2020年12月のある日のことだった。サンフランシスコ・ミッション地区の会議室で、Dario Amodei は席を立った。5年間育ててきた席である。彼は OpenAI の研究担当副社長であり、GPT-2 と GPT-3 が世に出るまでの研究の中心にいた。同時に OpenAI が作るすべてのモデルの安全研究も彼が担っていた。二つの重みを背負う席だった。どちらか一方を空けても、会社に小さくない痕跡を残す席だった。

同じ日、彼の妹 Daniela Amodei も辞表を提出した。会社の人事と運営を統括する副社長だった。兄妹が同じ日に席を空けたという知らせだけで、社内はざわついた。事はそこで終わらなかった。数日のうちに GPT-3 論文の中核執筆陣 5 名が二人の後を追って辞表を出した。Tom Brown はあの論文の第一著者だった。Sam McCandlish は「モデルを大きくすればするほど性能はどう伸びるか」を初めて数式で解いた人物。その理論の骨格を立てた Jared Kaplan は本職が物理学者だった。Jack Clark はイギリスから来た政策担当、Chris Olah は誰よりも真剣にモデルの中身を覗きこんできた研究者だった。7 人。一つの会社から一度に抜けるには多すぎる人数だった。

その冬の間、サンフランシスコの AI コミュニティはざわついた。彼らがみな同じ場所へ向かうという噂が流れた。どこへ行くのかは誰も正確には知らなかった。ただ一つだけ確かなことがあった。何か大きなことが起こっていた。

その大きな出来事に名前が付いたのは翌年の2月のことだった。会社の名は Anthropic。5月にはシードラウンドの1億2,400万ドル、日本円で約 180 億円が公表された。それから5年が経ち、いまこの会社は OpenAI の最も強力な競争相手として立っている。それも意図的に、最も異なる道を選んで歩む競争相手として。

本稿はその始まりの地点の物語である。彼らはなぜ去り、何を作りたかったのか。

なぜ彼らは OpenAI を去ったのか

表面的な理由は単純だった。OpenAI があまりに速く商業化していた。2019年、OpenAI は非営利という本来の衣を脱ぎ、「capped-profit」という新しい衣をまとった。名目上は安全な AI 開発という使命を守りつつ、外部資本を受け入れられるようにした折衷案だった。しかし実質は Microsoft から10億ドルを受け取るための事前整備だった。それ以降は恐ろしいスピードで物事が連鎖した。2020年6月に GPT-3 が公開され、同月に API が開かれ、まもなく Microsoft が GPT-3 の独占ライセンスを手に入れた。18ヶ月の間に起こったことだった。

Dario には、それよりさらに内側に置かれた違和感があった。彼は安全研究の責任者だった。モデルが強くなるほど、その強さがどんな危険を生み出しうるかを検討する席である。ところが会社全体が製品リリースのスピードを上げる方向に傾いていく中で、彼のチームが提案する検討プロセスは次第に通過儀礼へと変わっていった。判は押されたが、その中に込められるべき思考の重みは軽くなった。後に Anthropic が公開した創業声明には、この時期の心境が一行だけ残っている。「AI の能力が安全研究より先を走っている」。

二つ目の亀裂は Microsoft との結合から来た。2020年、OpenAI は Azure を計算インフラの事実上唯一の供給者とする協約を結んだ。単純なクラウド契約ではなかった。OpenAI が作るすべてのモデルが Bing に、Office に、Azure の中に順次組み込まれていく流れの始まりだった。Dario と安全研究者たちは、この統合が取り返しのつかないリリース圧力を生むと見ていた。一度製品に入ったモデルは、会社の意志だけで止められる対象ではない。

三つ目は ガバナンスの問題だった。OpenAI は依然として非営利精神を自らのアイデンティティとしていた。しかし会議室の中の現実はそうではなかった。最大の外部ステークホルダーが Microsoft であり、会社が下すべき大きな決定はどれもその事実から自由ではなかった。使命の言葉と運営の言葉の間に隙間が広がっていた。その隙間を Dario は2023年のあるインタビューで、抑制された一行だけで表現した。「OpenAI のミッションと実際の運営方法の間に、私たちが受け入れにくい違いが生まれた」。それ以上彼が旧同僚を公に批判したことはない。ただ席を立っただけだった。

7人で始まった会社

2021年1月のある寒い朝のことだった。サンフランシスコ・ミッション地区の一時的なスペース。正確に言えば誰かのリビングを借りた場所だった。家具もまだ十分には揃っていないその部屋に7人が集まった。彼らがすぐに Anthropic の公式な共同創業者として名を連ねることになる人々だった。名簿は短いが、その重みは軽くない。

• Dario Amodei · CEO · 元 OpenAI Research VP · Stanford 神経科学博士 · GPT-2 と GPT-3 の研究責任者
• Daniela Amodei · President · 元 OpenAI VP of Safety and Policy · Stripe と OpenAI で人事・政策・運営を担ってきたオペレーション・リーダー
• Tom Brown · GPT-3 論文 "Language Models are Few-Shot Learners" (2020) の第一著者
• Sam McCandlish · "Scaling Laws for Neural Language Models" (2020) の責任著者。モデルを大きくすれば性能がどう伸びるかを初めて数式で整理した人物
• Jared Kaplan · Johns Hopkins 物理学教授。Scaling Laws の理論的骨格を立てた物理学者
• Jack Clark · 元 OpenAI Policy Director。英国出身で、政策と国際ガバナンスを担当していた人
• Chris Olah · Google Brain と OpenAI を経て、"Interpretability(解釈可能性)" という分野を事実上一人で立ち上げた研究者。AI モデルの中身を覗き込む仕事を誰よりも真剣に取り組んできた

この7人を一行でまとめてみると、絵がより鮮明になる。GPT-3 を世に出した中核人材の半数が一つの会社に集まったわけだ。最も深い信頼は妹から来た。ガバナンスへの感覚は英国出身の政策担当者が持ち込んだ。理論の深さは物理学者から、モデルの内側を覗く道具は Interpretability を立ち上げた研究者から来た。偶然ではなく、意図された組み合わせだった。能力ある研究者、そのシステムを深く理解する人、そしてそれを社会の中に置ける人。この三種類が一堂に会するように描かれた名簿だった。

この7人に加えて、最初の半年間に約15名の研究員が合流した。多くは OpenAI、Google Brain、DeepMind から渡ってきた人々だった。2021年中盤の Anthropic は30名ほどの小さな組織だった。計算インフラも十分ではなく、オフィスも狭かった。それでも何を作りたいのかは全員が知っていた。その「何か」の名前が次の章の主題である。

「Constitutional AI」という名の哲学

会社の名前からゆっくり見てみよう。Anthropic はギリシャ語の ánthrōpos から来ている。「人間」を意味する語である。意訳すれば「人類に関するもの」「人間中心の」というニュアンスを含んでいる。とはいえこの会社の本当の哲学をより良く示しているのは、名前ではなく一本の論文である。2022年12月に公開された論文だ。

Constitutional AI(CAI) の発想は単純であると同時に挑発的だった。それまで AI 安全訓練の標準は RLHF、つまり人間が直接「この応答は良い、この応答はダメだ」と評価する方式だった。強力な手法ではあったが限界があった。評価者を絶えず動員する必要があり、それでも人間がすべての危険シナリオをあらかじめ想定することはできなかった。

Anthropic の提案は一行で要約できる。AI に憲法を与えよ。事前に明文化された原則をモデルにまず見せる。たとえばこのような問いだ。この応答は誰かを傷つけうるか。この応答は正直か。この応答はユーザーの自律性を尊重しているか。そして、モデル自身にその原則に照らして自分の答えを批判させ、書き直させる。人間の評価者がすべての応答を一つ一つ見なくてもよい。

この方式が成功した理由は二つある。一つは費用である。人間の評価1万件あれば、モデルが数百万件の自己批判を作り出す。しかし本当の意味は二つ目にあった。モデルがどんな原則に従って応答を拒否したかが明確に示されるということ。結果だけを評価するのではなく、判断の根拠が文として書かれる。これは Chris Olah が長らく追求してきた「AI の内側を覗き込む」という哲学と自然に噛み合った。

この哲学は Anthropic のすべての後続決定に影響を及ぼした。Claude の各バージョンがリリースされるたびに、1.0、2.0、3.0、3.5、4.0、4.5、4.7、モデルの能力だけでなく 「今回はどんな安全メカニズムが新たに導入されたか」が常にリリースノートの半分を占める。これは偶然ではなく、会社の DNA に刻まれた原則である。

$124M シード、そしてサンフランシスコの一つの建物

会社が動き出した直後、Anthropic が最初にぶつかった壁はお金だった。大規模言語モデルを作る仕事は、賢い研究者の集まりだけでは成り立たない。何千枚もの最新 GPU が必要で、それを何週間も24時間稼働させる電力が必要だ。それらすべてを支えるクラウドインフラも別途必要になる。GPT-3 級のモデルを一度訓練するだけでも数百万ドルから数千万ドルがかかった。使命がどれだけ明確でも、お金がなければ始めることすらできない仕事だった。

そのため Anthropic の最初の資金調達は、一般的なシードラウンドの尺度では巨大だった。2021年5月、1億2,400万ドル。リード投資家は Skype の共同創業者だった Jaan Tallinn。続く Series A では5億8,000万ドルが入り、同じ年の Series B でもう一度のラウンドが続いた。2022年初頭までに累積資金は7億ドル前後にまで育った。

2023年からは次元が変わった。同年5月、Google が4億5,000万ドルを加え、9月には Amazon が 40億ドルを約束した。2024年には Amazon がさらに40億ドルを追加し、Google も後続ラウンドで追随した。2025年時点で Anthropic の累積外部資金は 200億ドルを超えた。AI 分野全体で OpenAI に次ぐ規模である。

ここで一つの選択が目に留まる。Anthropic は OpenAI が歩んできた道、つまり一つのビッグテックとの深い結合という道を意識的に避けた。OpenAI が事実上 Microsoft に統合されていく一方で、Anthropic は Google と Amazon の両側から資金を受け取った。それでいて、どちらか一方に製品とインフラが縛られないように設計した。Claude は Amazon Bedrock でも動き、Google Vertex AI でも動き、自社 API でも同じように動く。Dario が2020年に OpenAI で最後に見た風景があった。一つの巨大企業に深く結びつくと、会社の決定権がどう狭まっていくか。その風景を彼は忘れなかった。

本社はサンフランシスコの SoMa 地区に置かれた。最初の一時スペースが誰かのリビングだった頃を思えば、まったく違う風景である。2022年からは正式なオフィスに移った。上の写真にある建物、ガラスと石材が出会う節度あるモダニズムは、会社が自分自身を説明する仕方とどこか似ている。派手ではない。ただ堅実だ。Dario と Daniela が新しいオフィスの場所として選んだのは、OpenAI 時代を過ごしたミッション通りからそう遠くない場所だった。同じ問題を別の方法で解いてみせるという静かな宣言のように、二人はその街に残った。

Claude — 「役に立ち、正直で、無害な AI」

2022年11月30日、OpenAI が ChatGPT を世に放った。5日でユーザー100万人。2ヶ月で1億人。AI 史上最も速く成長した消費者プロダクトがそうして登場した。ところがその時点で Anthropic はまだ自社モデルを外部に出していない状態だった。市場は問うた。なぜもっと早く出さないのか。

答えはすでに社内にあった。Claude という名の最初のモデルは、ChatGPT が世に出る前から社内で動いていた。ただ Anthropic のリリース基準が一拍だけ保守的だっただけである。ChatGPT が世を揺るがしてから4ヶ月が経った 2023年3月14日、ついに Claude 1.0 が公開された。発表の冒頭は三つの単語で始まった。Helpful, Harmless, and Honest。役に立ち、無害で、正直な。この三つの言葉はその後の会社のスローガンとなった。

Claude 1.0 が市場に投げかけた意味は小さくなかった。初めて「GPT の本物の代替」が登場したのである。それも、単に似たように作った別のモデルではなかった。完全に違う哲学で訓練されたモデルだった。RLHF ではなく Constitutional AI で整合(alignment)され、拒否の理由が評価者の直感ではなく明示された原則から出てきた。

それからさらに3年が経った。Claude は 1.0 から 4.7 まで歩んできた。コンテキストウィンドウは100K(2023年5月)から200K(2024年2月)、さらに1M(2025年3月)へと拡張された。コンピュータを直接操作する機能(Computer Use)、コードとドキュメントをサイドパネルに表示する Artifacts、開発者のための CLI ツールである Claude Code、エージェント SDK まで。順次加わってきた機能群である。

ただし Claude の進化そのものは、本シリーズの次回(Episode 3)で別途展開する話だ。Episode 1 の目的は一つだった。「なぜこの会社が始まったのか」。今やその答えはある程度明らかになったように思う。AI の安全を会社の副産物ではなく、存在理由そのものとするためだった。

2026年、そしてその後

創業から5年が経った今、Anthropic は約1,000人規模の会社になった。企業価値は600億ドルを超え、売上は四半期ごとに二桁で伸びる。しかしこの会社の最大の資産は数字ではない。創業7人がまだ同じ場所に残っているという事実である。Dario は CEO として、Daniela は President として。Tom Brown、Sam McCandlish、Jared Kaplan、Chris Olah も会社の中心にそのまま残っている。2024年に政策顧問の席に移った Jack Clark だけが、わずかに距離を置いた程度だ。

2026年の AI 市場は、2020年12月のあの日 Dario が予感していた姿そのままだ。スピードと安全の競走である。OpenAI は GPT-5 と 5.1 で消費者市場の頂点を守っている。Google は Gemini 3 と 3.5、4 で粘り強く追いかけている。Meta の Llama 4 はいつのまにかオープンソース陣営の標準になった。この競争の只中で Anthropic は自分の位置を明確にした。最も速くなくてもいい。最も責任感ある会社になる。

次回では一歩奥に入っていく。Dario と Daniela、二人の個人的な物語である。イタリア系アメリカ人の家庭で育った兄妹が、Princeton と Stanford、Google と OpenAI を経て、いかにして自分たちの会社を作る席にたどり着いたのか。Dario の博士論文にはどんな好奇心が込められていたのか。Daniela はどのようにして兄の最も信頼されるパートナーになったのか。

ここでこの章は閉じる。だが物語は今ようやく始まったばかりである。