# ベン・ブキャナンはAIで米国に勝たせたい。だがそれは「競争」か「罠」か - 番組: [Your Undivided Attention](https://ai-curator.jp/podcasts/shows/cmv3z5c2t001k5o10gcddswv8)（The Center for Humane Technology, Tristan Harris, Aza Raskin） - 元のタイトル: Ben Buchanan Wants the U.S. to Win on AI. But Is It a Race or a Trap? - 配信日: 2026年11月12日 - 長さ: 1時間3分 - 要約作成日: 2026年11月12日 - トピック: [#AI政策](https://ai-curator.jp/topics/AI%E6%94%BF%E7%AD%96) [#輸出規制](https://ai-curator.jp/topics/%E8%BC%B8%E5%87%BA%E8%A6%8F%E5%88%B6) [#スケーリング則](https://ai-curator.jp/topics/%E3%82%B9%E3%82%B1%E3%83%BC%E3%83%AA%E3%83%B3%E3%82%B0%E5%89%87) [#サイバーセキュリティ](https://ai-curator.jp/topics/%E3%82%B5%E3%82%A4%E3%83%90%E3%83%BC%E3%82%BB%E3%82%AD%E3%83%A5%E3%83%AA%E3%83%86%E3%82%A3) [#米中関係](https://ai-curator.jp/topics/%E7%B1%B3%E4%B8%AD%E9%96%A2%E4%BF%82) [#再帰的自己改善](https://ai-curator.jp/topics/%E5%86%8D%E5%B8%B0%E7%9A%84%E8%87%AA%E5%B7%B1%E6%94%B9%E5%96%84) - URL: https://ai-curator.jp/podcasts/cmwdgchy200024c11n69m3loe ## 要約 バイデン政権で大統領上級AI顧問を務めたベン・ブキャナンが、新著『The Bitter Struggle』の主張を語った回。民主主義国が中国に先行すべきだとの立場から、チップ輸出規制で中国を減速させ、その間に自国のAI企業を規制するという戦略を説明する。聞き手のトリスタン・ハリスとアザ・ラスキンは、AIは競争ではなく共倒れの「罠」ではないかと問い、再帰的自己改善やサイバー攻撃の急増を踏まえた規制の中身を迫った。 ## ポイント - ブキャナンはスケーリング則（計算資源を増やすほど性能が上がる）を政策の前提とし、AIを科学の問題から産業の方程式へ変えたと述べている。 - AIは過去100年ほどで初めて民間主導で生まれた変革技術であり、政府が理解・形成・安全保障面の配慮をする力を持たない点が従来技術と異なると指摘した。 - 戦略は輸出規制で中国を遅らせて大きなリードを築き、地政学的圧力のない状態で自国企業を規制し「リードを安全に使う」ことだという。 - 「競争」より「協調」を重視し、2024年のジュネーブ会合や核指揮統制からAIを外す米中合意など、共通リスクへの関与を進めたと説明した。 - 現時点で望む政策として、連邦規制当局の設置、公開前の義務的テスト、組み込み評価者、ラボのセキュリティ基準、政府による公開前審査を挙げた。 - AIが政治的な争点として急浮上しており、超党派での対応への期待を示した。 ## 章立て - [01:00] **導入とGPT-4デモの思い出** — ブキャナンの経歴と、2023年1月にサム・アルトマンがGPT-4を政府関係者に披露した場面を振り返る。政府がAIを国家安全保障を超える課題と認識した転機だという。 - [07:07] **超党派性とBitter Struggleの3部構成** — ディーン・ボールとの協力に触れ、新著の3つの柱（発明の優位、国家安全保障への転換、民主的価値との両立）を説明する。 - [14:42] **スケーリング則と民間主導の技術** — Bitter Lessonとスケーリング則を解説し、巨額の計算投資と、民間発の技術であるゆえに政府が関与しにくい構造を論じる。 - [19:55] **中国との競争論とチップ規制** — 先行して「リードを安全に使う」戦略、輸出規制の効果、NVIDIAの「もっと速く走れ」論への反論、覇権安定という着地点を語る。 - [31:19] **サイバーリスクと「競争か罠か」** — Mythosによる脆弱性発見の急増や攻撃事例を議論。聞き手がマルチポーラー・トラップの枠組みで問題提起する。 - [43:02] **米中の安全対話とジュネーブ会合** — バイデンと習近平の合意や2024年5月のジュネーブ会合を振り返り、新たな証拠がある今、中国との対話の余地が増えたと述べる。 - [48:58] **再帰的自己改善と必要な規制** — 完全な自己改善ループへの懸念と、公開前審査や罰則を含む規制案、政府能力の構築を論じる。 - [59:19] **政治的関心の高まりと結び** — AIが選挙の争点になりつつあることへの期待と、バイデン大統領との逸話で締める。 ## 解説記事 AI政策の最前線にいた人物は、いま何を求めているのか。今回の「Your Undivided Attention」では、バイデン政権で大統領上級AI顧問を務め、現在はジョンズ・ホプキンス大学教授でAnthropicのAI安全性アドバイザーでもあるベン・ブキャナンが、新著『The Bitter Struggle』の議論を語った。聞き手はCenter for Humane Technologyのトリスタン・ハリスとアザ・ラスキン。民主主義国がAIで中国に先行すべきだという著者の主張に、「それは競争なのか、全員が巻き込まれる罠なのか」という問いをぶつける対話となった。 #### 「Bitter Struggle」とスケーリング則 書名は、AI研究の鍵となる考え方「Bitter Lesson」にかけたものだという。ブキャナンによれば、汎用アルゴリズム（トランスフォーマー）に計算資源を投入するほど性能が上がるというスケーリング則が、過去10年ほどのAIを支配してきた。2021年にホワイトハウスに入った当時は「アルゴリズムやデータが重要だ」という反論も多かったが、国家安全保障上のAI政策はこの則が正しいという前提で組まれていたと述べている。 彼自身が確信したのはGPT-2からGPT-3への飛躍だったという。AI開発は科学の問題であると同時に、計算力とエネルギーを確保できるかという産業の方程式になった。上位5社が2026年だけで約7000億ドルを計算基盤に投じているとも語り、その規模をマンハッタン計画に例えた。 さらに重要なのは、AIが過去100年ほどで初めて民間から生まれた変革技術だという点である。核や宇宙、インターネットは国防や情報機関の資金から生まれ、政府に理解する力、形づくる力、安全保障上の本能があった。現代のAIにはそのどれもない、というのが彼の整理だ。 #### 「リードを安全に使う」戦略とチップ規制 ブキャナンは「レース」という語を避け、「競争」と呼ぶ。バイデン政権の構想は、中国を減速させて大きなリードを築き、その間は危険が小さいので、能力と危険が高まる2026〜27年に地政学的な軍拡競争の圧力なしで自国企業を規制するというものだった。自分たちの言葉では「リードを安全に使う」ことになる。ケネディのライス大学演説を引き、宇宙が人類にとって良いか悪いかを決められるのは優位に立つ国だけだという発想を重ねた。 この戦略の柱が輸出規制である。ブキャナンは、中国は先端AIチップを自力で作れず、ラトニック商務長官の証言として2025年の中国の生産は20万個にとどまったと述べる。中国企業自身も計算資源の不足を認めていると主張した。 NVIDIAの「中国に売って収益を研究開発に回し、速く走り続ける」という議論には、政権当時から「あなた方の技術への信頼は我々のほうが強い。需要は固定供給に集中する」と応じたという。2022年以降、NVIDIAの時価総額が大きく伸びたことをその裏づけとして挙げた。また、中国を理由に自国の規制を拒む議論は誠実さを欠き、むしろ中国を排除して「民主主義国だけのゲーム」にしたほうが規制しやすいと論じている。 目指す着地点は「覇権安定」である。戦後の米国がNATOや国連、IMFなどの制度を築いたように、優位を多国間の安定的な枠組みに転換し、中国やロシアにも「体制に入るほうが得だ」と思わせる構想だと説明した。 #### サイバーと「罠」という問い サイバーは、ブキャナンが博士論文以来の専門分野だ。AnthropicのMythosをきっかけに、OpenAI、Anthropic、Googleのプログラムで約1万件の重大な脆弱性が修正されたと、推測を交えて語った。今年はサイバーセキュリティ史上最悪の年であると同時に、AIで防御もできた年だと位置づける。5〜10年後には安全なコードへの移行が進む可能性があるが、その過程は荒れるという見方だ。 聞き手は、最先端モデルを持つ企業自身が小さなスタートアップや若者に侵入されている点を指摘し、「先行して守りを固める」理論は成り立つのかと迫った。ブキャナンは企業の強化は不十分だと認めつつ、これは長い移行期を経たあとの上振れ論だと答えた。 また聞き手は、米中の間に両国が望まない「第三の超大国」としての超知能が生まれる恐れを挙げ、競争ではなく罠ではないかと問うた。ブキャナンは自分は競争という語を使わず、共有された利益があると応じた。2023年の自発的コミットメントに自己複製や制御喪失への言及があったことや、大統領令に競争相手とも安全性で関与すると明記したことを根拠に、これらを重視してきたと述べている。 #### 米中対話と規制の中身 2024年5月のジュネーブ会合では、米側が専門家を揃えて臨んだのに対し、中国側は技術的リスクを政治的なふるまいに従属させていたとブキャナンは振り返る。それでも同年11月の米中首脳会談で、核の指揮統制にAIを使わないという合意に至った。いまはAIの暴走事例などデータが増えたため、中国との対話をより進められるはずだとの見方を示した。 再帰的自己改善（AIが自らの後継を作るループ）への懸念を問われると、チップ設計の最適化のような部分は心配しないが、閉じたデータセンターでAIが自走する形には強い危惧があるとした。そのうえで、中国を理由にそれを正当化すべきではないと述べている。 いまホワイトハウスにいたらという仮定には、連邦規制当局、公開前の義務的テスト、組み込み評価者、ラボのセキュリティ基準を挙げ、さらに個人的見解として、政府の審査なしに最先端システムを公開すべきでなく、止める権限も必要だと語った。当時は大統領令で行政権限を使い切っており、同令は就任初日にトランプ大統領が撤回したとも述べている。 #### まとめ 今回の議論は、「中国に勝つために規制を緩める」という論理を退けつつ、「先行して規制する力を得る」という筋道を示した点に特徴がある。一方で聞き手は、競争の枠組み自体が危険を見えにくくしないかという疑問を保ち続けており、立場の違いは残った。 日本の読者にとっての注目点は三つある。第一に、輸出規制がAI安全の前提条件として語られている点で、半導体供給網に関わる日本企業にも無縁ではない。第二に、サイバー分野で攻撃と防御の両面が急速に動いている点。第三に、AIが米国で高い政治的関心を集め始め、規制論議が具体化しそうな点である。これらはいずれもブキャナン個人の見解であり、政策の評価は立場によって分かれる。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Your Undivided Attention「Ben Buchanan Wants the U.S. to Win on AI. But Is It a Race or a Trap?」