AnthropicのCEOになるダリオ・アモデイもこの世界に深く関わっていました。彼はGiving What We Can誓約に43番目に署名し、収入の少なくとも10%を寄付することを約束しました。彼はホールデン・カーノフスキーと共同で設立したGiveWellやOpen Philanthropyと同居していました—これはEA運動の中でも最も影響力のある募金団体の一つです。三人目のルームメイトはAIの整合性研究のキーパーソン、ポール・クリスチアーノでした。当時、ダリオとポールはともにOpen Philanthropyの技術顧問を務めていました。その後、カーノフスキーはダリオの姉と結婚し、しばらく一緒に暮らしていました。
SBFは、特定のEA哲学「稼いで寄付する（earning to give）」のもとで動いていました。彼はウォール街のクォントファーム、ジェーン・ストリートを辞めて暗号通貨に参入しました。彼の公の主張は、金持ちになることではなく、できるだけ多くの資金を稼ぎ、それを最大限に寄付して最大の善をもたらすことでした。EA運動は、AIの安全性こそが究極の存在リスクだと決定していました。Anthropicのミッション「安全に強力なAIを開発すること」は、まさにEAのAIリスクに対する標準的解決策だったのです。
あなたは、物語があまりに完璧に馬鹿げていて、ほとんどフィクションのように感じられることを知っていますか？さて、現代のテック史の中で最も奇妙な章の一つと、その今日においてもなぜ重要であるかを案内しましょう。
今、連邦刑務所の独房で、サム・バンクマン-フリードは暗号通貨の最大詐欺事件の一つである罪で25年の刑を務めています。一方、彼が盗んだ顧客預金を元手に投資した会社は、現在$380 十億ドル超の評価額を誇り、文字通りAI兵器に関するペンタゴンの政策形成に影響を与えています。これは誇張ではありません—私たちが話しているのはAnthropicで、2026年2月に$30 十億ドルのシリーズGラウンドを締結したばかりです。同社のClaudeモデルは米国の諜報機関や軍事作戦に展開されています。そして破産手続きのどこかで、2022年4月にSBFが$500 百万ドルで取得した8%の持ち株があり、理論上は今や$30 十億ドル以上の価値があるはずですが、清算のため凍結されています。
それは60倍のリターンです。ベンチャーキャピタルの歴史の中で、それは間違いなくエリートの部類に入ります。
しかし、私がこの物語について本当に気になるのは、投資の天才や運だけの話ではないということです。これは、非常に特定のエコシステム、哲学、そして同じ根底の論理が、一人の人を$380 十億ドルのAI企業に導く一方で、もう一人を連邦刑務所に導くという話です。
2010年代半ばのサンフランシスコに遡ってみましょう。そこには狭いコミュニティがありました—同じシェアハウス、同じパーティ、同じ読書リスト。彼らは皆、「エフェクティブ・アルトルズム（効果的利他主義）」と呼ばれるものを信じていました。基本的な提案はシンプルでエレガントです：慈善活動は感情に基づくべきではなく、数学に基づくべきだと。すべてのドルは、世界にとって最大の善を数学的に最大化する方向に流れるべきです。この運動の重要な部分は、ある特定の存在リスク—制御不能な人工知能—に取りつかれました。
AnthropicのCEOになるダリオ・アモデイもこの世界に深く関わっていました。彼はGiving What We Can誓約に43番目に署名し、収入の少なくとも10%を寄付することを約束しました。彼はホールデン・カーノフスキーと共同で設立したGiveWellやOpen Philanthropyと同居していました—これはEA運動の中でも最も影響力のある募金団体の一つです。三人目のルームメイトはAIの整合性研究のキーパーソン、ポール・クリスチアーノでした。当時、ダリオとポールはともにOpen Philanthropyの技術顧問を務めていました。その後、カーノフスキーはダリオの姉と結婚し、しばらく一緒に暮らしていました。
これは単なる友人グループではありませんでした。これは運動のコアネットワークだったのです。
Anthropicのガバナンス構造は、その深さを物語っています。長期的利益信託（Long-Term Benefit Trust）は、最も重要なガバナンス機関で、4人のメンバーで構成されています。そのうち3人は直接EAエコシステムから来ています：ニール・バディ・シャー（元GiveWellマネージングディレクター）、ザック・ロビンソン（効果的利他主義センターのCEO）、カニカ・バー（Evidence ActionのCEO）。初期資金はほぼ全てEAに沿った資金からでした。フェイスブックの共同創業者ダスティン・モスコヴィッツ、スカイプの共同創業者ヤーン・タリン、そしてもちろんSBF—EA史上最大の資金提供者の三人は、早期のAnthropic投資家となっています。
では、SBFはどうやってAnthropicを見つけたのでしょうか？それは優れた市場洞察によるものではありません。ネットワーク内の資金が、ネットワークが重要と定義したプロジェクトに流れた結果です。EAの資金がEAの問題に向かい、EAの人々によって解決される。
SBFは、特定のEA哲学「稼いで寄付する（earning to give）」のもとで動いていました。彼はウォール街のクォントファーム、ジェーン・ストリートを辞めて暗号通貨に参入しました。彼の公の主張は、金持ちになることではなく、できるだけ多くの資金を稼ぎ、それを最大限に寄付して最大の善をもたらすことでした。EA運動は、AIの安全性こそが究極の存在リスクだと決定していました。Anthropicのミッション「安全に強力なAIを開発すること」は、まさにEAのAIリスクに対する標準的解決策だったのです。
2021年5月、ヤーン・タリンはAnthropicのシリーズAに(百万ドルを出資し、モスコヴィッツも参加しました。その後、2022年4月にSBFがシリーズBをリードし、)百万ドルの出資を行いました。これは、全(百万ラウンドの86%に相当します。その他の投資家は、アラメダのCEOキャロライン・エリソン、FTXエンジニアリングディレクターのニシャド・シン、そしてジェーン・ストリートの関係者たちでした。これは多様な投資家層ではなく、ほぼSBFと彼のネットワークによる出資でした。
しかし、ここが面白いところです。ダリオ・アモデイは馬鹿ではありません。彼は後に、「SBFはAIとAIの安全性に本当に関心を持っているように見えた」と述べており、それはAnthropicのミッションと完全に一致していました。しかし、ダリオは重要なことを指摘しました：「十分な赤旗に気づいた」と。これが、おそらくAnthropicを救った決定だったのです。彼らは資金を受け取りました—計算インフラのために必要だったのです—しかし、SBFには議決権のない株式と取締役会の席を与えず、完全にガバナンスから隔離しました。
数年後、すべてが崩壊した後、ダリオはSBFの行動を「私が想像していた以上に、はるかに極端で悪質だった」と表現しました。三つの「遠い」が積み重なったのです。
しかし、ここで不快な疑問が浮かびます。もし赤旗があまりに明白で、ガバナンスの隔離が必要だったのなら、なぜ資金を受け取ったのでしょうか？2022年初頭のAI資金環境は、今日ほど活発ではありませんでした。)百万ドルの出資をしてくれる人を見つけるのは本当に難しかったのです。しかし、もっと深いところでは、EAエコシステムの運営方法に関わる問題があります。そのサークル内では、「資金源のクリーさ」は決して最優先事項ではありませんでした。重要だったのは「効果性」—資金がより多くの善をもたらすのに役立つかどうかです。根底にある論理は、「お金を稼ぐこと」が手段、「善を行うこと」が目的であり、最終的な善の出力が十分大きければ、お金の稼ぎ方はあまり問題ではない、というものでした。
SBFはその論理を犯罪の極限まで持ち込みました。しかし、彼がAnthropicに投資した当時、それは単なる哲学的な選択に過ぎず、違法なものではありませんでした。
そして2022年11月、CoinDeskがアラメダのバランスシートを暴露し、Changpeng ZhaoがFTTの売却を発表しました。FTXはそれにより暴落し、わずか9日間で帝国は崩壊しました。SBFは逮捕され、引き渡され、裁判にかけられ、2024年3月に25年の判決を受けました。彼の資産はすべて、Anthropicの持ち株も含めて、破産手続きで凍結されました。
裁判中、裁判所は一つの瞬間を記録から除外しました。SBFの弁護団は、彼のAnthropic投資が先見の明を示し、単なる窃盗ではなく、価値が増加する投資判断だったと主張しようとしました。検察官のダミアン・ウィリアムズは即座にそれを否定しました：投資が儲かるかどうかは、詐欺罪には全く関係ないのです。誰かの金を盗み、見事に投資しても、窃盗罪にはなるのです。裁判官も同意しました。Anthropicの名前は裁判から完全に除外されました。
そして、清算が始まりました。2024年3月、Anthropicは(百万ドルの資金調達を行い、企業の評価額は)百万ドルに達しました。アブダビのムバダラ・ソブリン・ウェルス・ファンドが(百万ドルを出資—これはSBFが何年も前に出資した額と同じです。二番目に大きな買い手は、SBFの元雇用主であるジェーン・ストリートでした。彼らのクォンタムリサーチ責任者のクレイグ・フォールズは、)百万ドルを個人的に投資しました。つまり、SBFの古巣が、横領資金で購入した株式を買い戻したのです。清算チームは2ラウンドで合計13億ドルを回収し、FTXの債権者補償プールに充てられました。
さて、ここが最大のポイントです。もし持ち続けていたらどうなったでしょうか？2026年2月、Anthropicは(十億ドルのシリーズGラウンドを締結し、ポストマネー評価額は)十億ドルに達しました。希薄化なしで、その8%の持ち株は理論上$124 十億ドル以上の価値になるはずです。13億ドルと$500 十億ドルの差は、FTX破産の中で最も後悔される点です。
しかし、清算チームには選択肢がありませんでした。彼らの仕事は資産を迅速に売却し、債権者に返済することです。SBFは少なくとも2049年まで刑務所にいることになるでしょう。
しかし、興味深いのは、Anthropicは今や、EAの資金、EAの人々、そしてEAの哲学的枠組みの上に築かれたにもかかわらず、体系的にEA運動から距離を取っていることです。創設者7人は、個人資産の80%を寄付すると誓約しました—これは現在の評価額に基づくと約$580 十億ドルに相当します。ほぼ30人のAnthropic社員がサンフランシスコのEAカンファレンスに登録し、OpenAI、Google DeepMind、xAI、Metaの超知能研究所の合計参加者数の2倍以上になっています。
しかし、Daniela Amodei（ダリオの姉）、Anthropicの社長がWiredのインタビューでこう述べました。「私はエフェクティブ・アルトルズムの専門家ではありません。その用語には賛成しません。私の印象では、もう少し時代遅れになっている気がします。」この女性は、EAの人々と資金提供を受けている会社のトップですが、今やEAは時代遅れだと言うのです。
理にかなっています。SBF崩壊後、EA運動の評判は完全に破壊されました。賢明な企業は、そのブランドから距離を取るのが当然です。しかし、事実は変わりません。Anthropicの創立の論理は、AIリスクに関するEAの議論から直接導き出されたものであり、その初期資金もほぼ全てEAネットワークからのものでした。ガバナンスはEAの人々によって管理されており、EAの資金を受け取り、EAの人々とともに暮らし、EAのシェアハウスに住んでいますが、今やEAではないふりをしているのです。
この類似性は、あまりに完璧すぎて現実味がありません。SBFとAnthropicの創設者たちは、同じ根底のオペレーティングシステムを信じていました：最終的な善の出力が十分に大きければ、異常な手段を取ることや異常なリスクを負うことも辞さない。SBFはその論理を犯罪の境界線まで押し進めました。Anthropicはその線の合法的な側で運営していますが、その核心提案—「最も強力なAIを自ら構築し、AIの安全性を確保する」—は、ほとんど自己正当化的な賭けです。
彼らは同じ土壌で育ちました。ダリオとSBFは同じパーティに出席し、同じ哲学を信じ、同じソーシャルネットワークの異なるノードに住んでいました。一方は(十億ドルのAI帝国を築き、今やペンタゴンの政策を形作っています。もう一方は連邦刑務所にいて、セルから)百万ドルの投資が状況次第で(十億ドルになったかもしれないと見ています。
彼らをつなぐ)百万ドルの小切手は、Anthropicの歴史の中でも最も奇妙な章の一つです。同じ論理が、どこで線を引くかによって、$500 十億ドルの企業か連邦刑務所かに導くのです。