Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

Anthropicは2026年第1四半期に四半期ベースで3倍以上の収益成長を記録し、年率換算で80倍の成長を示した。この予想外の急成長により、計画していた10倍の年間コンピュート増強では不十分となった。

Dario Amodeiは文明崩壊(civilizational collapse)の確率を10〜25%と見積もっており、これはAI技術の予測不可能性と多数の国家・企業による開発競争から生じるリスクである。

AnthropicはMythosモデルがFirefoxで271件の新たな脆弱性を発見したが、サイバー攻撃に悪用されるリスクを考慮し、一般公開を延期した。初期アクセスを得た企業からは「スーパーウェポン」「銃のライセンスが必要」との反応があった。

OpenAIを去った理由について、技術的な安全性の意見の相違だけでなく、信頼の欠如と価値観の不一致が主要因だったと述べ、「相手を信頼できず、価値観が一致しない場合、議論するより別々の道を歩む方が良い」と語った。

Anthropicはエンタープライズ市場に注力する戦略を採用しており、その理由は消費者向けモデルが広告収益に依存し中毒性やスラップ(slop)を助長するのに対し、エンタープライズは長期的信頼関係と同社の価値観に合致するためである。

中国へのモデルアクセスを自主的に遮断し、数億ドルの損失を被った。これは当時の収益の大きな割合を占めたが、米国と民主主義国家がAI能力で中国に先行することが重要だと考えたためである。

AIは今後100年分の科学的・医学的進歩を圧縮してもたらす可能性があり、病気の治療、エネルギー効率化、教育改善など人間の生活の質を大幅に向上させると予測している。

AI企業への政府の関与について、民間企業による支配と政府による支配の両方にリスクがあるため、相互に抑制と均衡(checks and balances)を働かせる仕組みが必要だと主張。Long-Term Benefit Trustを通じて取締役の任免権を持たせる公共ガバナンス要素を導入している。

Anthropicの企業文化と統一性が高速な製品開発の鍵であり、加えてClaude自身を使ってモデル開発と製品開発を加速させている。急成長する中で大手テック企業出身者が増えるため、DarioとDaniela Amodeiは時間の半分を企業文化の維持に費やしている。

現在のサイバー防御策(classifiers)はジェイルブレイク可能であり、Mythosのような強力なモデルを防御するには不十分だと評価。他社の防御策も含め、十分な信頼性を持つまで一般公開を待つ方針である。