# AIバブルは崩壊するのか？ロバート・ライトのNonzeroとのコラボ回

- 番組: [Doom Debates!](https://ai-curator.jp/podcasts/shows/cmv8ukqpp00067110ytpj7bnm)（Liron Shapira）
- 元のタイトル: Is an AI Bubble Bursting? With Robert Wright’s Nonzero Podcast
- 配信日: 2026年10月31日
- 長さ: 1時間20分
- 要約作成日: 2026年10月31日
- トピック: [#AIバブル](https://ai-curator.jp/topics/AI%E3%83%90%E3%83%96%E3%83%AB) [#FOOM](https://ai-curator.jp/topics/FOOM) [#Google Genie 4](https://ai-curator.jp/topics/Google%20Genie%204) [#Anthropic S-1](https://ai-curator.jp/topics/Anthropic%20S-1) [#アラインメント](https://ai-curator.jp/topics/%E3%82%A2%E3%83%A9%E3%82%A4%E3%83%B3%E3%83%A1%E3%83%B3%E3%83%88) [#サイバーセキュリティ](https://ai-curator.jp/topics/%E3%82%B5%E3%82%A4%E3%83%90%E3%83%BC%E3%82%BB%E3%82%AD%E3%83%A5%E3%83%AA%E3%83%86%E3%82%A3)
- URL: https://ai-curator.jp/podcasts/cmvvy710v00006v11c1lq71m9

## 要約

Doom Debates のLiron Shapira と作家ロバート・ライトが、株式市場のAI不安、Google の対話型ワールドモデル Genie 4、Anthropic の S-1 などを論じた。Liron は能力向上が加速する「スローモーションの FOOM」を主張し、Google 株の割安さや Anthropic の高い粗利を挙げてバブル懐疑論を退けた。一方で両者とも、規制や減速の必要性、アラインメントの難しさ、暗号やサイバー攻撃への影響に懸念を示した。

## ポイント

- Liron は現状を、急激ではないが加速し続ける「スローモーションの FOOM」と捉え、AI が AI 研究を進めるため「AI の冬」はもう来ないという見方を示した。
- Google 株は時価総額約3.45兆ドルで予想PERも約20にとどまり、Liron は割安で10兆ドル級になりうると述べた。ただし経済崩壊の可能性も織り込むべきだとした。
- Anthropic の S-1 では、モデル提供の粗利が50〜80%程度で、Fortune 500 の約半数に導入されながら予算の0.1%程度しか取れていないとして、Liron は Ed Zitron 派のバブル論への決定打と評した。
- OpenAI の3週間の訓練「一時停止」は R&D が止まっていないため実質的に PR だとし、計算量を基準にした規制は抜け穴が増えていると議論した。
- AI による社会科学論文の監査（138本で2,035件の問題）や、OpenAI のモデル仕様の5つの価値、Altman と Nadella のアラインメント発言の変化が取り上げられた。
- Liron は AI の数学的発見が公開鍵暗号を脅かす可能性に触れ、自身は AI エージェントに1日1,000ドルを使い、作業時間が約7倍効率化したと語った。

## 章立て

- [03:07] **スローモーションのFOOMとAIの冬** — 能力向上が加速する現状を FOOM と捉え、AI 自身が研究を進めるため AI の冬は来ないとする議論。
- [10:29] **Genie 4 とGoogle株の強気論** — 対話型ワールドモデル Genie 4 を紹介し、Liron が Google の事業価値や PER から割安だと説明する。
- [19:55] **Googleの新モデルと人材流出** — Argon と Carbon の連続発表の解釈、Noam Shazeer の退社、減速を巡る姿勢を議論する。
- [30:12] **OpenAIの「一時停止」と規制の難しさ** — 3週間の訓練停止は PR だとし、計算量ベースの規制の抜け穴や選挙後の政策の可能性を論じる。
- [40:01] **社会科学の審判の日と社会の混乱** — AI による経済学者2人の論文監査と、有益な技術進歩でも社会が不安定化するという「減速論」。
- [51:12] **アラインメントを巡る各社の発言** — OpenAI のモデル仕様5原則と、Altman・Nadella の発言変化をアシモフの三原則などと比較して批評する。
- [58:34] **暗号資産、ハッキング、公開鍵暗号** — Binance や Polymarket の攻撃と、AI が公開鍵暗号の前提を揺るがす可能性を解説する。
- [1:08:52] **AIコーディングの実体験と Anthropic S-1** — 1日1,000ドルのエージェント利用、生産性向上の証拠、S-1 に基づくバブル論への反論。

## 解説記事

AI 安全性の議論で知られる Doom Debates の Liron Shapira と、作家で Nonzero ポッドキャストのロバート・ライトが、この2週間の AI ニュースを振り返った回である。株式市場の AI 不安、Google の新技術、Anthropic の IPO 書類、アラインメントやサイバーセキュリティまで話題は広い。以下は番組での発言の整理であり、数値や評価は話者の主張である。

#### 「スローモーションの FOOM」と AI の冬の終わり

Liron は、近況の本質は能力向上だと述べる。FOOM とは、AI が次の AI の開発を助けることで知能が急速に膨らむという考え方で、2008年の Yudkowsky と Robin Hanson の議論に由来する。Liron は、現実は数分や数時間ではないが、月ごとの進歩は驚異的で、昨日より今日のツールが明らかに賢いと感じると語った。いわば「スローモーションの FOOM」である。

さらに、AI が AI 研究を担うようになったため、過去に繰り返された AI の冬は終わり、「あとは夏が続くだけ」だという見方を示した。ライトも、仮に新世代が出なくても既存モデルの社会への浸透だけで手一杯になると応じている。

#### Google 株と Genie 4、Anthropic の S-1

Google の対話型ワールドモデル Genie 4 は、指示した世界を生成し、歩き回ったり途中で要素を足したりできる。ライトは、仮想現実が人を快適に麻痺させる「マトリックスへの道は WALL-E に通じる」という懸念を示しつつ、ロボティクスにも重要だと述べた。

Liron は Google の時価総額約3.45兆ドルを割安と考える。YouTube、Cloud、Waymo や SpaceX、Anthropic への出資、自社チップなどを積み上げれば合計が見合わないと主張し、予想PERは約20で、特異点の入口としては高くないと述べた。ただし経済が崩壊する悪いシナリオも期待値に入れるべきで、その意味で PER 20 は妥当だとも付け加えた。Argon と Carbon の連続発表については、Carbon が容量面で出せないため Argon を先に出したのではないかと推測している。

Anthropic の S-1 については、Liron がモデル提供の粗利を50〜80%、Fortune 500 の約半数に入りながら予算の0.1%程度しか取れていないという点を挙げ、Ed Zitron らのバブル論への決定打だとした。ライトは、債務依存の増加や金利上昇による暴落の可能性を認めつつ、ドットコム崩壊後もウェブが残ったように産業は終わらないだろうと述べた。

#### 減速は可能か：OpenAI の「一時停止」と規制

ライトは政府主導の短期的な減速を望むと述べた。二人は、OpenAI が発表した3週間の訓練停止を、研究開発が続いているため実質的には PR だと評価した。

規制設計の難しさも議論された。従来は訓練に投じた計算量で主要な訓練を見分けられたが、既存の基盤モデルに後訓練を足す方法や、推論時の「群れ」スケーリングが広がり、固定数値に基づく規制は抜け道が増えていると Liron は述べる。そのため法の文言ではなく「暴走しうるものを作るな」という意図を明示し、判断で執行する形が必要だと主張した。選挙後に議会で動きがあるかは不透明だという認識である。

#### 社会の混乱とアラインメントの語られ方

ライトが「社会科学の審判の日」と呼んだのは、AI による経済学者 Saez と Zucman の論文監査である。138本で2,035件の問題が指摘され、147件は主要な数値を変えるほど深刻だったという。二人は、人間の査読より深い批評を AI が低コストで行えると評価しつつ、依頼者に思想的偏りがあった点から判断は留保すべきだとした。ライトは、こうした有益な応用も含め変化が速すぎれば社会が不安定化すると述べ、「遅いほうがよい」と主張した。

アラインメントでは、OpenAI がモデル仕様を5つの価値（人間の意図への忠実さ、害の最小化など）で整理したことを、二人はアシモフの三原則に近く曖昧だと批評した。Liron は、現在のモデルが人を殺さないのは能力不足だからにすぎず、Altman の楽観は勝利宣言として弱いと述べた。一方、Nadella の「アラインメントは規模拡大で自然に解決すると思っていたが、もう信じない」という発言は歓迎した。

#### サイバー攻撃、暗号、そして実体験

Binance のハッキングは北朝鮮系との報道があるが、二人とも断定に懐疑的で、ソーシャルエンジニアリングの下調べに AI が使われた可能性に触れた。Liron は Polymarket のサプライチェーン攻撃を解説し、暗号資産は新たな脅威の最初の被害者になると述べた。さらに、AI が複雑性理論の予想を覆し始めており、その延長で公開鍵暗号の前提が崩れる可能性も「約10%」程度の危険として語った。

自身の開発では、2026年3月ごろを境に自分でコードを書かなくなり、1日に1,000ドル規模をエージェントに費やす日もあると明かした。作業時間は控えめに見ても約7倍の効率化だという。生産性向上の証拠としては、Y Combinator や Stripe が示す初期スタートアップの急成長を挙げた。

#### まとめ

本回は、AI の急速な進歩を前提に、強気の投資観と減速を求める安全論を同じ人物が併存させている点が特徴である。日本の読者にとっては、Anthropic の S-1 で語られた粗利の高さや導入の浸透度、AI 監査や暗号への影響など、実務やリスク管理に直結する論点が参考になる。ただし株価の見通しや暗号の危険度は話者の推測であり、確定した事実ではない点に留意したい。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Doom Debates!「Is an AI Bubble Bursting? With Robert Wright’s Nonzero Podcast」