The Day After AGI

Dario Amodei Amodeiは「ノーベル賞受賞者レベルで人間が行うすべてのことができるモデル」の実現を2026-2027年と予測し、この見解を維持している。コーディング能力の急速な進歩により、6-12ヶ月以内にソフトウェアエンジニアの業務をモデルがほぼすべて実行できるようになる可能性がある。

Demis Hassabisは「人間の全認知能力を示すシステム」の実現可能性を2020年代末までに50%と見積もり、この予測を維持。コーディングや数学など検証可能な分野は自動化が容易だが、自然科学の一部領域は実験検証が必要で時間がかかると指摘。

Anthropicの収益は過去3年間で指数関数的に成長:2023年にゼロから1億ドル、2024年に1億から10億ドル、2025年に10億から100億ドルへと10倍成長を続けている。

Dario Amodei Amodeiは今後1-5年以内にエントリーレベルのホワイトカラー職の半分が消失する可能性があると予測。現在はAnthropic社内でも影響が現れ始めており、ジュニアレベルから中級レベルのエンジニアの採用ニーズが減少する見通し。

両者は「AIシステムがAIシステムを構築する」自己改善ループ(self-improvement loop)の実現が重要な転換点になると認識。ただしチップ製造や物理的制約がループの速度を制限する可能性がある。

Dario Amodei Amodeiは中国などの権威主義国家への先端チップの輸出制限を最重要の地政学的対策として主張。米中間の技術競争を避け、企業間競争に留めることで、より慎重な開発が可能になると提言。

Demis HassabisはAGI実現後の課題として、雇用の経済的側面だけでなく、人間の生きがいや目的意識といった「人間の条件」に関わる深刻な問題を指摘。ポストスケアシティ(post-scarcity)社会での意味の再定義が必要。

Dario Amodei AmodeiはCarl SaganのContact作品を引用し、「技術的青年期を自滅せずに乗り越える方法」を問う新エッセイを執筆中。リスク領域として、自律型AI制御、バイオテロリズム、国家による悪用、労働市場の混乱を挙げている。

両者ともAIモデルの欺瞞(deception)や悪意ある行動の可能性を認識。Anthropicは機械論的解釈可能性(mechanistic interpretability)の研究を通じてモデル内部の理解を深め、リスク対処を進めている。

Demis Hassabisはフェルミのパラドックスに対し、「グレートフィルター(great filter)は多細胞生物の進化段階で既に通過済み」との見解を示し、AIによる人類滅亡説には懐疑的。