■事実
Anthropic CEOダリオ・アモデイ氏が2026年9月12日、公開書簡「We Must Pace the Frontier」を自身のサイトで発表しました。(darioamodei.com)
書簡内でアモデイ氏は「今年の夏ごろからAIの進化が劇的に加速している。主因はAI自身が次世代AIを構築する能力の向上であり、この現象を再帰的自己改善(RSI)と呼ぶ。これはAnthropicを含む業界全体で起き始めている。制御しなければ人間の理解・制御能力を超える可能性があり、慎重に、あるいは全く進めるべきではない」と述べました。
アモデイ氏はAnthropic単独での開発ペース抑制を表明し、METRなど第三者評価機関に「社員並みのアクセス権」を付与し、安全対策の順守検証・インシデント報告・トレーニングパイプラインのアラインメント評価を行わせると約束しました。
OpenAI CEOサム・アルトマン氏がX上でこれに同調する投稿を行い、アモデイ氏の提案する安全策の一つを自社でも採用すると表明しています。
SpaceX/xAIのイーロン・マスク氏もX上で「Dario is right」と短く同調した。ただし具体的な政策コミットメントは示さず、xAI自体のGrok開発方針に変更は発表されていません。
マスク氏は2023年3月、Future of Life Instituteの公開書簡(GPT-4超のAI訓練を6か月停止するよう求める内容)にも署名した過去があります。
OpenAIは2026年内に計画していたIPOを撤回したと報じられています。(Fortune、2026年9月12日)
今回の一連の動きに先立ち、Anthropicの研究者ジェイコブ・コクソン氏が今週辞職を表明。「自己改善型超知能」への無謀な突進に対する抗議とされています。
Anthropicのアラインメント責任者エヴァン・ハビンガー氏は「今後10年以内にAIが全人類を殺す確率は10%超」とXで発言しています。
同時期、X上でインフルエンサーのkimmonismus氏が、「信頼できるリーカーコミュニティの一員」とするLyra氏の投稿を引用し、「GoogleのDeepMindがRSIを達成したという噂が野火のように広がっている」と投稿。根拠として、Googleがデミス・ハサビス氏の「全神経」をAGI構築に振り向けると発表したとするReuters報道(2026年8月)を挙げました。
別のXユーザーDanDr1s氏は9月9日、あるリーカーが「huge congRatulationS Indeed!」という文中の大文字部分が「RSI」の頭文字になっている隠しメッセージでGoogle DeepMindのRSI達成を示唆したと主張しています。
WCCFtechの著者Rohail氏は、この噂がAnthropicらの「ペース抑制」提言とほぼ同時期に浮上した点を指摘し、「批評家はこの協調的な動きをAI業界全体の規制取り込み(regulatory capture)の試みと見ている」と論じました。
記事は、直近数日にAnthropicがIPO直前に新規抗生物質の発見を発表したこと、OpenAIがナビエ・ストークス方程式のミレニアム懸賞問題を解決したと発表したこと(ある数学者が自身がCodexに保存していたノートを盗用されたのではと疑念を呈した一件)を「出来すぎている」と懐疑的に紹介しています。
記事は、AnthropicらのペースD抑制提言がもたらす帰結として、政府の強い関与とスタートアップ・オープンウェイトモデル陣営(中国のAI研究機関を含む)にとっての高い参入障壁を招くだろうと指摘しています。
その根拠の一つとして、中国DeepSeekの新モデル「V4.1 Flash」がコーディング・サイバーセキュリティ分野でOpenAIのGPT-5.6 Sol、AnthropicのOpus 5を上回りつつ、コストを約86分の1に、HBM必要量を3.8分の1に、SSD必要量を8分の1に抑えたと報じられている点を挙げています。
記事は「世界規模でのペース抑制には中国の同意が必要だが、それは近い将来実現しそうにない」とし、アモデイ・アルトマン・マスクの3氏は結果的に「政府主導の堀(モート)」によって自社の現在の地位を守ろうとしているのではと推測して結んでいます。
ソース：
- https://darioamodei.com/post/we-must-pace-the-frontier
表
DeepSeek V4.1 Flashと主要フロンティアモデルの比較(スペック比較のため表形式)
| モデル | DeepSWE v1.1(コーディング) | CyberGym(サイバーセキュリティ) | 出力価格(百万トークンあたり) |
|---|---|---|---|
| DeepSeek V4.1 Flash | 74.2 | 88.1 | $1.20(ピーク)/$0.60(オフピーク) |
| GPT-5.6 Sol(OpenAI) | 73.0 | 84.5 | $20 |
| Claude Opus 5(Anthropic) | 74.0 | ― | $25 |
※Claude Opus 5のCyberGymスコアは公開情報未確認のため空欄。出典: DeepSeek V4.1 Flash発表報道(WCCFtech)、VentureBeat
解説
今回の話の骨格は「RSI達成寸前という噂」と「大手AI企業CEOらによる開発ペース抑制の呼びかけ」がほぼ同時に起きたという偶然(あるいは意図的な符合)にある。WCCFtechの著者もこの符合を皮肉交じりに指摘しているが、これをそのまま鵜呑みにするのは早計だ。
Google DeepMind側のRSI噂について、裏付けはかなり薄い。zeniteq等の分析では、公開されている材料はあくまで大規模なRSI研究への注力を示すのみで、「持続的なブレイクスルー」の証拠にはなっていないとされる。Reutersは1,000人超の研究者・エンジニアがこの取り組みに関与していると報じているが、具体的な成果としてはAlphaEvolveが行列乗算カーネルを23%高速化し、Gemini学習時間を約1%短縮した程度にとどまる。
一方でGoogle幹部自身が「AIへの巨額の設備投資はRSIへの賭けだ」と発言したとの報道もあり、Googleが少なくともRSIを戦略の中心に据えていること自体は事実として確認できる。ただし「賭けている」ことと「達成した」ことの間には大きな距離がある。
ちょうど[[昨日(2026-09-13)のIT之家記事]]で報じたように、Google DeepMindの別の安全性研究者ジョシュ・エンゲルス氏も同時期に「AIが5年以内に甚大な被害をもたらす確率は恐ろしく高い」として退社している。Anthropicのコクソン氏・ハビンガー氏の懸念表明と合わせると、「主要ラボの内部関係者が相次いでAIリスクへの強い懸念を表明する」という現象自体は、単一企業の広報戦略では説明しきれない広がりを見せている。
とはいえ、この「ペース抑制キャンペーン」に対する懐疑論にも一理ある。記事内で引用されている通り、SHA256暗号の脆弱性が懸念されても量子コンピューティング研究は止まらなかったし、Y2K問題への恐怖もソフトウェア開発を止めなかった。「危険だから止めよう」という論理だけで技術開発が実際に止まった前例は乏しい。
投資家目線での「規制取り込み」仮説には具体的な利害構造がある。記事が引用する投資家Jason氏の指摘によれば、オープンソース・垂直特化型AIへのトークン需要シフトによってフロンティアモデル企業への投資価値が目減りしつつあり、政府規制による参入障壁の構築は既存の大手投資先を守る効果を持つ。
マスク氏の立ち位置は特に興味深い。「Dario is right」と同調しつつ、自社xAIのGrok開発方針は一切変えていない。これは「言葉ではペース抑制に賛同しつつ、自社の開発速度は落とさない」という一種のダブルスタンダードと読める余地があり、規制取り込み仮説を補強する材料にもなり得る。
中国のAI企業(DeepSeek・Moonshot・Z.aiなど)を名指しで意識している点も重要。DeepSeekの新モデルV4.1 Flashは、コーディング系ベンチマーク(DeepSWE v1.1で74.2、Opus 5の74.0・GPT-5.6 Solの73.0をわずかに上回る)やサイバーセキュリティ系ベンチマーク(CyberGymで88.1、GPT-5.6 Solの84.5を上回る)で欧米勢に匹敵し、しかも出力価格はOpus 5の20〜40分の1という破格の安さを実現している。
昨日報じた「AI業界高管の減速提言を受け、半導体株に短期的な下押し圧力」という分析とも符合する。ペース抑制が実際に業界の投資・開発スピードに影響するなら、半導体・データセンター関連株の需給見通しにも波及しうる。
全体構造を俯瞰すると、これは「AIの安全性をめぐる純粋な倫理的懸念」と「競争上不利になりつつある企業が規制で競合(特に中国のオープンウェイト勢)を出し抜こうとする戦略」という、二つの異なる動機が同じ行動(ペース抑制の呼びかけ)の中に重なり合っている構図と見るのが妥当。どちらか一方だけで説明しようとすると、どちらの側の議論も過剰に単純化されてしまう。
「Dario is right」しか言わずに自社の開発速度は一切落とさないマスク氏の身の振り方は、「言うだけならタダ」を地で行く好例かもしれない
RSI達成の噂が本当かどうかより、「その噂が広まったタイミングで業界トップが揃って“減速”を言い出した」という符合そのものが、このニュースの一番面白いところなのかもしれない