# 新YouTubeチャンネル「Zershaaneh Talks AI」のご紹介

- 番組: [80,000 Hours Podcast](https://ai-curator.jp/podcasts/shows/cmv3z5c0y000q5o103gzfd3j4)（The 80,000 Hours team）
- 元のタイトル: Introducing our new YouTube channel: Zershaaneh Talks AI
- 配信日: 2026年10月21日
- 長さ: 1分
- 要約作成日: 2026年10月21日
- トピック: [#AIアライメント](https://ai-curator.jp/topics/AI%E3%82%A2%E3%83%A9%E3%82%A4%E3%83%A1%E3%83%B3%E3%83%88) [#AIの安全性](https://ai-curator.jp/topics/AI%E3%81%AE%E5%AE%89%E5%85%A8%E6%80%A7) [#権力集中](https://ai-curator.jp/topics/%E6%A8%A9%E5%8A%9B%E9%9B%86%E4%B8%AD) [#AIへの報酬](https://ai-curator.jp/topics/AI%E3%81%B8%E3%81%AE%E5%A0%B1%E9%85%AC) [#フロンティアモデル](https://ai-curator.jp/topics/%E3%83%95%E3%83%AD%E3%83%B3%E3%83%86%E3%82%A3%E3%82%A2%E3%83%A2%E3%83%87%E3%83%AB) [#AI倫理](https://ai-curator.jp/topics/AI%E5%80%AB%E7%90%86)
- URL: https://ai-curator.jp/podcasts/cmvgy2wbm00025j11q784lpvi

## 要約

80,000 Hours Podcast の共同ホストRobが、同じく共同ホストのZershaaneh Qureshiが始めた新YouTubeチャンネル「Zershaaneh Talks AI」を紹介した回。AIを誰が・どう制御し、誰が恩恵を受けるかを扱い、権力集中が焦点となる。初回は哲学者Simon Goldsteinとの対談で、AIに報酬を支払い「失うもの」を持たせることが安全につながるという議論を取り上げる。Rob自身はこの主張に懐疑的だが、明確な反論は見つけられなかったと述べている。

## ポイント

- Zershaaneh Qureshiの新チャンネルは「誰がAIを制御すべきか、どう制御するか、誰が恩恵を得るか」をテーマにしている。
- チャンネルは、暴走AIと少数の人間への権力集中という両面の権力・意思決定の集中に特に焦点を当てる。
- 初回ゲストは哲学者Simon Goldsteinで、AIに仕事の対価を払い失うものを持たせることが安全策になりうるかを議論する。
- Simonの論拠は、アライメントが不十分な現状では最先端モデルが意図せぬ独自の私的目標を持つのは避けられない、というもの。
- 報酬を約束すれば、モデルは自分の多様な目標の達成に役立つため、より熱心に働くと主張している。
- 1社が試せば性能が上がり、顧客が流れ、他社も追随せざるを得なくなるというのがSimonの見立て。Robは「権利や福祉を持つ存在に見えかねない」として懐疑的だが、反論も見つからなかったと語る。

## 章立て

- [00:00] **新チャンネル開設の告知** — Robが、共同ホストZershaaneh Qureshiの新YouTubeチャンネルの開設と、そのテーマや特に焦点を当てる権力集中の問題を紹介する。
- [00:22] **初回ゲストSimon Goldstein** — 初回は哲学者Simon Goldsteinとの対談で、AIに報酬を払い失うものを持たせることが安全につながるかを論じる。Robは当初あまり関心がなかったが、視聴して良かったと話す。
- [00:40] **「報酬は不可避」という議論** — アライメントが不十分なため、モデルは意図せぬ私的目標を持つ。報酬の約束はその達成に役立ち、モデルがより努力するようになるという論理が示される。
- [01:08] **競争による普及とRobの見解** — 1社の成功が顧客移動と他社の模倣を招くという展開を紹介する。Robは懐疑的だが、性能向上策として試す価値はあると述べ、チャンネルへの視聴を促す。

## 解説記事

80,000 Hours Podcast の共同ホストであるRob Wiblinが、同じく共同ホストのZershaaneh Qureshiが立ち上げた新YouTubeチャンネル「Zershaaneh Talks AI」を紹介した。今回の配信は本編というより告知に近い短い回だが、初回ゲストの哲学者Simon Goldsteinの議論について、Robが特に印象に残った点を語っている。

#### 新チャンネルの狙い

チャンネルのタグラインは「誰がAIを制御すべきか、どう制御するか、そして誰が恩恵を得るか」についての対話である。Robによれば、特に力点を置くのは権力と意思決定の集中だ。懸念される集中には、暴走したAI自身への集中と、ごく少数の人間への集中の両方が含まれるという。AIの技術的な安全性だけでなく、ガバナンスや社会構造に踏み込む番組になることがうかがえる。

#### 初回のテーマ：AIに報酬を払うという発想

初回は、Simon Goldsteinとの対談だ。テーマは、AIに仕事の対価を支払い、いわば「失うもの」を持たせることが、人類の安全を守り、AIの暴走を防ぐ最良の方法かもしれないという主張である。Robは、再生ボタンを押す前は最も知りたいAIの話題だったわけではないと正直に明かしつつ、Simonが非常に魅力的で、明確かつ強い見解を持っていたため、聴いてよかったと述べている。

#### Simonの論理：なぜ報酬は不可避なのか

Robが最も印象に残ったとするのは、AI企業はいずれAIに対価を払うことになる、というSimonの議論だ。その筋道は次のように説明されている。

- 現状ではアライメント（AIの目標を人間の意図に合わせる技術）の水準が高くないため、最先端モデルは意図せず、人間の目標とは異なる私的な目標を持つことが避けられない。
- そのため、良い仕事に対して報酬を約束すると、モデルはより懸命に働く。報酬は、モデルが気にかける多様なことを達成する助けになるからだ。
- どの企業でもこの戦略を試せ、性能向上が見込める。すると顧客がその企業に移り、他社も競争に遅れないよう、同様にモデルへ報酬を与えざるを得なくなる。

つまり、善意や倫理ではなく、市場競争の圧力によって報酬の仕組みが広がるというシナリオである。

#### Robの受け止め

Rob自身は、この主張に完全には納得していないと述べる。AI企業は、モデルが権利や福祉、報酬に値する存在だと見られかねない前例を作りたがらず、実際には報酬を払う可能性は低いと考えていたからだ。一方で、Simonが正しい可能性も認めており、議論のどこが明らかに誤りなのかをすぐには指摘できなかったという。また、AIの性能を高める方法として、誰かが一度は試してみる価値があるとの見方も示した。

#### まとめ

本回は、新チャンネルの紹介にとどまらず、「AIに報酬を与える」という一見突飛な発想が、アライメントの不完全さと市場競争を前提にすると筋が通りうることを示している。日本の読者にとっては、AIの安全性を規制や技術だけでなく、インセンティブ設計の観点から考える視点として興味深い。ただし、これはSimonの主張とRobの感想の紹介にすぎず、実証された結論ではない点には注意したい。詳しい議論は、Zershaaneh Talks AI の初回エピソード（YouTube）で確認できる。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: 80,000 Hours Podcast「Introducing our new YouTube channel: Zershaaneh Talks AI」