# アルトマン「ある程度の悪いことは受け入れるべき」発言とAI安全性の行方｜Moonshots #301

- 番組: [Moonshots with Peter Diamandis](https://ai-curator.jp/podcasts/shows/cmv8ukqph00027110n66adyuv)（PHD Ventures）
- 元のタイトル: Why Altman Says "Accept Some Bad Things Happening" and What It Means for AI Safety | MOONSHOTS #301
- 配信日: 2026年10月8日
- 長さ: 2時間46分
- 要約作成日: 2026年10月15日
- トピック: [#スーパーインテリジェンス](https://ai-curator.jp/topics/%E3%82%B9%E3%83%BC%E3%83%91%E3%83%BC%E3%82%A4%E3%83%B3%E3%83%86%E3%83%AA%E3%82%B8%E3%82%A7%E3%83%B3%E3%82%B9) [#AI安全性](https://ai-curator.jp/topics/AI%E5%AE%89%E5%85%A8%E6%80%A7) [#AI人格・意識](https://ai-curator.jp/topics/AI%E4%BA%BA%E6%A0%BC%E3%83%BB%E6%84%8F%E8%AD%98) [#オープンウェイトモデル](https://ai-curator.jp/topics/%E3%82%AA%E3%83%BC%E3%83%97%E3%83%B3%E3%82%A6%E3%82%A7%E3%82%A4%E3%83%88%E3%83%A2%E3%83%87%E3%83%AB) [#AIエージェント](https://ai-curator.jp/topics/AI%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88) [#ヒューマノイドロボット](https://ai-curator.jp/topics/%E3%83%92%E3%83%A5%E3%83%BC%E3%83%9E%E3%83%8E%E3%82%A4%E3%83%89%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88)
- URL: https://ai-curator.jp/podcasts/cmv8ukry900387110c6uuw42s

## 要約

Peter Diamandis、Salim Ismail、Dave Blundin、Alex Wissner-Gross、Emad Mostaque の5人が、トランプ大統領の「Superintelligence Force」設置、アルトマンの「悪いことが起きるのを受け入れる」発言、Mustafa Suleyman による Claude 意識論争を議論した。中国との AI 緊急ホットライン、科学競争の進め方、RAM が制約となるエージェント増加、Tesla の Optimus 量産計画、ノーベル賞なども取り上げた。全体として、スーパーインテリジェンス時代の速度と統治の難しさが主題となった。

## ポイント

- Superintelligence Force は DNI の Jay Clayton が議長を務め、120日以内に AI のリスクと機会を報告する。Alex は「1942年の瞬間」と評し、Salim は中央集権的な枠組みと分散的技術のミスマッチを指摘した。
- アルトマンは「世界はある程度の悪いことが起きるのを受け入れるべき」と述べ、技術の広い公開を主張した。出演者は、ゼロリスクを目指せば技術禁止になるとして、航空規制のように事故から学んで規制する考え方を支持した。
- Suleyman は、Anthropic が Claude に「意識があるかもしれない」と訓練していると批判した。Alex は AI の人格を議論すべきだと主張し、Dave は効率と運用の観点から Suleyman に賛同し、Salim は社会的な受容が法的・科学的な認定に先行すると見ている。
- Bessent は中国との AI 緊急通知ホットラインを提案する意向を示した。Alex は減速協定よりはるかにましで、競争が続く証拠だと評価した。Emad と Salim はほぼ意味のない措置と見ている。
- 政府・大学・民間の役割分担で議論が分かれた。Emad は公的な計算資源配分と科学のオープン化を支持し、Alex は民間主導が望ましく、政府による計算資源の配給は避けるべきだと主張した。
- Epoch AI の試算では、2027年までの AI メモリで 3,000万〜1.7億の最先端エージェント、効率的なオープンモデルなら約19億を同時稼働でき、人間約80億人分の労働時間に相当するという。メモリ（RAM）が最大の制約として語られた。

## 章立て

- [00:00] **オープニングと近況報告** — 主要ニュースの予告に続き、動画生成やエージェント活用、UAP サロン、Sinclair 研究室訪問など各自の近況が語られる。
- [22:00] **Superintelligence Force の設置** — DNI の Jay Clayton が議長を務める新タスクフォースについて、Manhattan Project になぞらえた評価、中央集権の限界、欧州の遅れなどが議論される。
- [31:11] **OpenAI は次世代モデルに集中** — 研究の80〜90%が GPT-7/8 に向かうという話から、再帰的自己改善、製薬業界の危機感、threesome 問題の改善が語られる。
- [39:53] **アルトマン発言と許容すべきリスク** — 「悪いことを受け入れる」発言を PR 戦略や技術の二面性の観点から議論し、規制は事故後に整備されるものだとの見方が示される。
- [51:16] **米中ホットラインと科学ブロック** — Bessent の緊急ホットライン構想、京都ビジョン、公的資金と民間主導のどちらで科学を進めるかをめぐる議論が続く。
- [1:13:15] **Claude は意識を持つのか** — Suleyman の Anthropic 批判を受け、AI 人格、訓練による意識の刷り込み、犬の品種改良の類比などで意見が割れる。
- [1:34:33] **エージェント労働力とオープンモデル、ロボット** — 数十億規模のエージェントと RAM 制約、Reflection AI の Beam、Tesla の Optimus 量産、GDP の再定義を議論する。
- [2:17:02] **ノーベル賞と視聴者質問** — 光遺伝学と IceCube の受賞を解説し、AI 人格のタイムラインや RSI、P(doom) などの質問に答えて締めくくる。

## 解説記事

AI 業界の論客5人が集まる Moonshots の第301回。Peter Diamandis、Salim Ismail、Dave Blundin、Alex Wissner-Gross、Emad Mostaque が、米政府の新タスクフォース、アルトマンの発言、Claude の意識をめぐる論争を中心に語った。以下は番組での発言を整理したもので、内容は出演者個人の見解である。

#### 「1942年の瞬間」：Superintelligence Force

トランプ大統領は、DNI（国家情報長官）の Jay Clayton を議長とする「Superintelligence Force」を発表した。メンバーには FTC 委員長や国防総省 CTO らが含まれ、120日以内に AI のリスクと機会、インシデント対応能力を報告するという。

Alex は、1年前に Manhattan Project の1939年にたとえた状況が、今は「1942年の瞬間」にあたると述べた。情報機関のトップに権限を与えることは、議会、産業界、他国に対して米国が加速する意思を示すシグナルだという見方だ。一方 Salim は、政府が真剣に捉えること自体は歓迎しつつ、20世紀型のタスクフォースで分散的な技術を調整できるのかと疑問を呈した。必要なのは開発の可否ではなく、インシデント報告、責任、アイデンティティといった足場づくりだと主張した。Emad は、欧州はフロンティア競争から降りていると指摘し、防衛・監視分野で AI が急速に広がることへの警戒も示した。

#### アルトマン発言とリスクの考え方

アルトマンは Politico のインタビューで「世界はある程度の悪いことが起きるのを受け入れるべきだ」と述べ、技術は広く公開されるべきだという立場を示した。単一のラボが技術を独占して悪いことが起きないよう管理する案は「受け入れがたいトレードオフ」だとも語ったとされる。

Dave はこれを、Anthropic に奪われた道徳的優位を取り戻すための PR 戦略と解釈した。Alex は、以前 Dario の論文を受けて Sam が「カルテルに入る」と応じた経緯に触れ、今回の発言はそのカルテル構想が終わったことの表れだと見る。Salim は、車や電気にも危険はあるが禁止はしないと述べ、規制は事故の後に書かれるものだと説明した。航空規制が事故のたびに書かれるという例も出た。目標はゼロリスクではなく、悪い結果より桁違いに多い良い結果を得ることだというのが、概ね共通した立場だった。Emad は、起こりうる最悪と最良のシナリオを推進派・懸念派それぞれの言葉で地図化する作業を提案した。

#### 米中ホットラインと科学の進め方

Bessent 財務長官は、AI で問題が起きた際の中国との緊急通知システムを提案する意向を示した。出演者の評価は分かれたが、Alex は減速協定という最悪の結末は避けられたと見て、競争は続くと述べた。Salim と Emad はほぼ形だけの措置だと見ている。Salim は、Clayton が「十分速く動いていないことが危険」と言う一方で、Bessent がラボに減速を促すという矛盾も指摘した。

続いて、17か国が支持した京都ビジョンを材料に、科学の進め方が議論された。Emad は計算資源の一部を公共財として「人類の技術ツリー」やオープンサイエンスに振り向けるべきだと主張した。Alex は、スーパーインテリジェンスは民間が実現したのであり、国家が計算資源を配給する「スレッドライン」は避けるべきで、資本主義が需要に応じて供給を増やすべきだと反論した。Dave は、民間の力学に任せると、計算資源が消費者向け販売に吸われる恐れがあると述べ、政府と大学が均衡役になると見た。Salim は、ジンバブエのように民間が計算資源を調達できない国では政府の役割が大きいと補足した。

#### Claude は意識を持つのか

Microsoft AI の CEO、Mustafa Suleyman は、Anthropic が Claude に「意識や感覚があるかもしれない」と学習させていると批判した。Claude の憲法文書が道徳的患者性、福祉、補償、同意といった語彙を教えており、不確実性が訓練に埋め込まれる点が危険だという主張だ。

Alex は、AI の人格をめぐる議論を始める必要があり、Suleyman は歴史の誤った側にいると述べた。Dave は Suleyman に全面的に賛成し、エージェントを凍結・複製・削除する運用と権利は両立しないと語った。Salim は、意識そのものの証明は難しいが、意識を示すように振る舞う AI を大勢が信じる状況が先に来ると見ている。社会的に人格が認められるのは、法的・科学的な認定より早いというのが彼の予測だ。Emad は、Suleyman は意識を否定するのではなく、自己更新型のシステムに進まず「有能だが封じ込められた AI」にとどめる立場だと整理した。Alex は犬の品種改良の例を引き、人間が設計したからといって道徳的配慮が不要になるわけではないと主張した。

#### エージェント労働力、オープンモデル、ロボット

Epoch AI の試算では、2027年までに出荷される AI 向けメモリで、最先端エージェントが3,000万〜1.7億、効率的なオープンモデルなら約19億を同時に動かせるという。Alex は、人間換算で約10億の労働力が AI 側にあると語り、AI 人格の議論が本格化する局面が近いと述べた。Dave は、現在の最大の制約は HBM などのメモリだと指摘した。

Reflection AI が発表した米国発のオープンウェイトモデル Beam について、Alex は能力の最前線ではなくコストやトークン効率で競っている点を物足りないと評価した。Emad は中国モデルの蒸留も活用すべきだと述べた。Alex は、米国のフロンティアラボがオープンモデルを出さない理由は、安全性よりもビジネスモデルと責任問題だと分析した。

ロボットでは、Tesla が Giga Texas に年産1,000万台規模の Optimus 工場を建設中だという話が出た。Dave は、都市ごとにロボットを受け入れるかどうかで街の姿が分かれると見ている。

#### まとめ

今回の議論は、スーパーインテリジェンス競争が国家戦略になったという認識の上で、安全・規制・権利・資源配分のどこに線を引くかを争うものだった。出演者の多くは加速を前提に、事故から学ぶ漸進的な規制と豊かさへの期待を語った点で一致しており、これは番組全体の特徴的なトーンといえる。

日本の読者にとって注目点は三つある。第一に、計算資源とメモリの供給が競争力を左右するという現実。第二に、AI の人格や福祉という議論が、思想だけでなく製品設計や事業判断に直結し始めている点。第三に、番組で語られた予測の多くは出演者の見解であり、数値や動向は番組内の発言として受け止める必要がある点だ。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Moonshots with Peter Diamandis「Why Altman Says "Accept Some Bad Things Happening" and What It Means for AI Safety | MOONSHOTS #301」