# エリゼア・ユドコウスキーへの異議 ― PauseAI US のホリー・エルモアと語る

- 番組: [Doom Debates!](https://ai-curator.jp/podcasts/shows/cmv8ukqpp00067110ytpj7bnm)（Liron Shapira）
- 元のタイトル: The Case Against Eliezer Yudkowsky — with Holly Elmore, PauseAI US
- 配信日: 2026年10月14日
- 長さ: 1時間46分
- 要約作成日: 2026年10月15日
- トピック: [#AI安全性](https://ai-curator.jp/topics/AI%E5%AE%89%E5%85%A8%E6%80%A7) [#PauseAI](https://ai-curator.jp/topics/PauseAI) [#CEV](https://ai-curator.jp/topics/CEV) [#Eliezer Yudkowsky](https://ai-curator.jp/topics/Eliezer%20Yudkowsky) [#ラショナリスト文化](https://ai-curator.jp/topics/%E3%83%A9%E3%82%B7%E3%83%A7%E3%83%8A%E3%83%AA%E3%82%B9%E3%83%88%E6%96%87%E5%8C%96) [#AI規制](https://ai-curator.jp/topics/AI%E8%A6%8F%E5%88%B6)
- URL: https://ai-curator.jp/podcasts/cmv8ukrmq00247110y8ir5xi7

## 要約

Doom Debates の司会ライロン・シャピラが、PauseAI US 創設者のホリー・エルモアを迎え、AI 安全運動の中心人物エリゼア・ユドコウスキーへの批判を議論した回。エルモアは、CEV（coherent extrapolated volition）や「pivotal act」の発想が人々の同意を欠く「世界の乗っ取り」計画だと主張し、公の振る舞いが運動の評判を損なうとも述べる。司会は理論と実行を切り分けて擁護した。後半では SFF の助成打ち切り問題、PauseAI の厳格な線引き、皮肉の危険、AI 企業従業員の訴追論にも触れる。

## ポイント

- エルモアは、議会事務所の反応が Jacob Coxon の投稿を境に急変し、PauseAI US への要望が基礎教育から立法の具体的支援へ移ったと述べている。
- 「Pacing the Frontier」は妥協に見えるが、監視が難しく、企業側が主導権を握る案だとして、エルモアは否定的な見方を示した。
- エルモアは、ユドコウスキーが人々の同意なく超知能で未来を決める計画を唱え、今も撤回していないと批判する。司会は、CEV は人類の意思を集約する理想であり、実行段階では人間を関与させたはずだと反論した。
- エルモアは、ユドコウスキーがラショナリスト／EA コミュニティを通じて人材を供給し、AI 開発を加速させたと主張する。司会は加速は約5年程度とみて、警鐘の功績を評価した。
- エルモアは、ユドコウスキーが関わった性的に挑発的な写真や、John Wentworth の発言が運動のイメージを損なうと述べ、SFF による助成撤回は妥当だと考えている。
- エルモアは、皮肉は明示するか避ける方針を語る。AI 企業の従業員は将来責任を問われるべきだとの見解も改めて示した。

## 章立て

- [01:09] **PauseAI と議会の転換点** — Coxon の投稿後、議会事務所の反応が大きく変わり、PauseAI US への支援要請も高度化したと語られる。
- [07:29] **Pause と Pacing the Frontier** — Pacing the Frontier は妥協に見えて監視が難しく、Pause の方が単純で検証しやすいという議論。
- [14:17] **CEV とクーデター論争** — エルモアはユドコウスキーの計画を同意なき乗っ取りと批判し、司会は CEV と pivotal act の定義から擁護する。
- [31:19] **同意、脳のコピー、遠い未来** — 脳スキャンの同意問題や、ダイソン球・トランスヒューマニズムをめぐり、理想の未来像で意見が分かれる。
- [51:04] **ユドコウスキーは AI を加速させたか** — ラショナリスト／EA の人材供給網が AI 企業を育てたというエルモアの主張と、司会の反論。
- [1:10:14] **写真問題とコミュニティ批判** — 写真をきっかけにエルモアが距離を置いた経緯と、Wentworth の助成打ち切りをめぐる議論。
- [1:28:17] **線引き・皮肉・訴追論** — PauseAI US の厳格なルール、ポーの法則と皮肉の扱い、AI 企業従業員の訴追論が語られる。

## 解説記事

AI 安全運動の中心人物をめぐり、同じ運動の内側から異論が出た。Doom Debates の司会ライロン・シャピラが、PauseAI US の創設者で進化生物学の博士号を持つホリー・エルモアを迎え、エリゼア・ユドコウスキーへの批判を議論した回である。司会は自らをユドコウスキーの熱心な読者と位置づけ、擁護する立場から応じた。

#### 議会の空気が変わった

エルモアは、Jacob Coxon の投稿の数日後に開いた Hill Day（議員事務所を訪ねる日）で、議会側の反応が一変したと語る。それまでは「ひとまず頭に入れておいて」という程度だったのが、突然、詳しい情報を求められるようになったという。司会も、ボランティアが関わった面談で「条約は無理だ」から「安全研究所への予算額の根拠を教えてほしい」へ話が変わった経験を述べた。

エルモアは、PauseAI US の仕事が基礎教育から、立法上の論点についてスタッフ業務を補う支援へ移りつつあると話す。一方、Pacing the Frontier には否定的だ。妥協のように見えるが、速度を「ほどほど」に保つことの監視は難しく、Pause なら特定の活動が止まったかどうかで確認できる、というのが理由である。彼女は、Pause の主張を強く打ち出し続けたことで、より穏当な案が受け入れられる余地ができたとも述べた。

#### CEV は「乗っ取り」か

本題はユドコウスキー批判である。エルモアは、彼が超知能を作って世界を決める権利が自分にあると考え、その点を今も撤回していないと主張する。

司会は反論した。CEV（人類が十分に熟慮した場合に収束する意思を AI に推定させる構想）は、自分の意思を押し付けるものではなく、人類の意思を民主的に集約する理想の方向を示したものだという。実装の細部は未定で、実行が近づけば人間を関与させたはずだとも述べた。

エルモアは、同意なしに本人の意思を推定すること自体が自己決定権の侵害だと応じた。脳のコピーも本人の同意が必要だと主張し、「事後的に同意を得たことにはできない」と述べた。また MIRI が構想した、AI で他者の AI 開発を止める「pivotal act」は、実質的にクーデターだと位置づけた。司会は、技術的に同意を得る別の手段があり得るとして譲らず、理論と実行の切り分けを求めた。

議論は遠い未来にも及んだ。司会は、10億年後の太陽の寿命を見据えて宇宙へ拡大すべきだと述べ、トランスヒューマニズムも選択肢に入れる立場を示した。エルモアは、そうした目的論的な発想自体が先走りだと述べた。AI が世界を奪い人を殺すことが問題なのであって、銀河規模の技術を失うことが問題ではない、というのが彼女の見方だ。

#### 加速の責任と人柄

エルモアは、ユドコウスキーが作ったラショナリストと EA のコミュニティが、AI 安全を高い地位の目標に押し上げ、結果として OpenAI や Anthropic に人材を供給したと主張する。そのため AI 開発を大きく加速させたという見方だ。司会は加速自体は認め、5年程度と見積もった。それでも、早い時期に危険を指摘した知的誠実さは評価されるべきだと述べた。

人柄について、エルモアは彼の文章力や魅力を認めつつ、一般社会や記者への侮蔑と傲慢さが運動にとって問題だと述べた。司会は、実績を考えれば傲慢さは妥当に調整されているとの見方を示し、評価は割れた。

#### 写真問題と助成打ち切り

エルモアがユドコウスキーをブロックした直接のきっかけは、性的な含みのある写真を模した撮影だったという。公の場で AI 安全を訴える立場が難しくなると感じたと述べた。さらに、同意のない状況を演じる性的イベントを含む、コミュニティの性的な慣行を問題視した。権力関係や職場の人間関係と重なるため、境界が守られにくいという懸念である。

John Wentworth の助成が Survival and Flourishing Fund により撤回された件では、彼が「このイベントに参加する人を AI 研究者としてより評価する」という趣旨を述べたことが問題視された。エルモアは撤回を妥当とみる。司会は、SFF は私的な資金提供者で独自の基準を設けてよいとし、PR の観点からも理解できるとした。司会は自身の番組が性的な催しとは無関係だと明言した。

#### 厳格さ、皮肉、訴追論

エルモアは、PauseAI US では違法行為や暴力の兆候がある人を排除する厳格な運営をしていると説明した。後に起きた事件を受けて、この方針は正しかったと感じているという。公開 Discord も閉じた。

皮肉については、ポーの法則（皮肉は文字どおりに受け取られうる）を意識し、使うときは明示するか避けると述べた。皮肉は問題に向き合うことを避ける癖にもなると語り、司会も同様の基準を採っていると述べた。

最後に、エルモアは AI 企業の従業員が将来責任を問われるべきだという持論を繰り返した。危険を承知で開発に携わった以上、道義的責任は免れないという主張だ。司会は、法を整備し周知してから執行する順序が望ましいとの立場を保った。

#### まとめ

本回は、Pause の主張が政策の場で受け入れられ始めたと語り合う一方、運動内部の路線や人間関係が深い亀裂を抱えていることも示した。エルモアの批判は、技術的な正しさよりも、人々の同意や運動の見え方といった民主的正統性に重心がある。この点は、AI 規制を考える日本の読者にも示唆がある。ただし主張の多くは本人の解釈や評価であり、事実関係は各自で確かめる必要がある。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Doom Debates!「The Case Against Eliezer Yudkowsky — with Holly Elmore, PauseAI US」