# トム・ミルトンが語る、米中AI合意をどう検証するか - 番組: [80,000 Hours Podcast](https://ai-curator.jp/podcasts/shows/cmv3z5c0y000q5o103gzfd3j4)（The 80,000 Hours team） - 元のタイトル: Tom Milton on how we could verify a US–China deal on AI - 配信日: 2026年10月24日 - 長さ: 1時間48分 - 要約作成日: 2026年10月24日 - トピック: [#AI検証](https://ai-curator.jp/topics/AI%E6%A4%9C%E8%A8%BC) [#計算資源ガバナンス](https://ai-curator.jp/topics/%E8%A8%88%E7%AE%97%E8%B3%87%E6%BA%90%E3%82%AC%E3%83%90%E3%83%8A%E3%83%B3%E3%82%B9) [#ゼロ知識証明](https://ai-curator.jp/topics/%E3%82%BC%E3%83%AD%E7%9F%A5%E8%AD%98%E8%A8%BC%E6%98%8E) [#軍備管理](https://ai-curator.jp/topics/%E8%BB%8D%E5%82%99%E7%AE%A1%E7%90%86) [#ハードウェア設計](https://ai-curator.jp/topics/%E3%83%8F%E3%83%BC%E3%83%89%E3%82%A6%E3%82%A7%E3%82%A2%E8%A8%AD%E8%A8%88) [#AIセーフティ](https://ai-curator.jp/topics/AI%E3%82%BB%E3%83%BC%E3%83%95%E3%83%86%E3%82%A3) - URL: https://ai-curator.jp/podcasts/cmvl8eh6m00014h11ifefki1h ## 要約 英国のハードウェア研究所 Amodo Design のCEO、トム・ミルトンが、米中がフロンティアAIの訓練停止で合意した場合にどう遵守を検証するかを語った回。現状ではデータセンターを丸ごと停止する以外に選択肢がなく、推論のみを証明する技術があれば停止コストを大きく下げられると述べる。ネットワーク再計算や電力指紋のプロトタイプ、核・化学兵器の査察との比較、検証に取り組む人材の少なさ、AIによるハードウェア設計の進展にも触れている。 ## ポイント - 検証の役割は、データセンターの全停止という高コストな選択肢を、推論のみの稼働証明などでより安価な遵守手段に置き換えることだと述べている。 - Amodoのパイロットは、ネットワークトラフィックを検証側サーバーに複製して推論を再計算し、合意モデルで説明できない通信がないことを確認する。H100/H200約32基で動作中。 - 将来はモデルの重みを渡さずに済むゼロ知識証明の導入を目指す。計算負荷は大きいが、パケットの一部だけを抽出検査すれば現実的になるという見方を示した。 - 計算検証に取り組む技術者は世界で約50人にとどまると推定。冷戦期の核実験探知計画 Project Vela が数十億ドル規模だったことと対比し、少なくとも同等の投資が必要と主張した。 - 急な合意なら既存の手段に頼るしかなく、現時点ではデータセンター停止になる。FPGAなどの専用機器は設計・試験・量産に長い時間がかかるため、今から準備すべきだとした。 - ラボ内の安全研究者が検証に移れば大きな影響を与えられるとし、ラボ自身も自社インフラの信頼性確認に検証技術を必要とする可能性を指摘した。 ## 章立て - [01:06] **計算資源で検証する意義** — 信頼の問題として減速を捉え、チップの監視が有望な理由と、全停止を避けるための段階的な主張検証を説明する。 - [06:22] **推論再計算と電力指紋** — ネットワークタップによる再計算とゼロ知識証明への移行、スタジオでの電力波形デモによる検証手法を紹介する。 - [19:50] **隠れたデータセンターと検証の担い手** — 諜報機関の役割、レッドチーム演習、核実験検証の先例、政府とラボの協力の必要性を語る。 - [29:09] **ラボの取り組みと米中での実装** — ラボの検証投資の少なさ、各国政府の反応、化学兵器禁止条約の査察との比較を論じる。 - [46:07] **20日間のパニック合意と準備** — 急な合意では既存手段しか使えず、長いリードタイムの技術を今から準備すべきだと述べる。 - [59:08] **検証の必要性と他用途** — 検証が絶対条件ではないとしつつ、権力集中対策や機密保護にも同じ技術が役立つと語る。 - [1:07:20] **AIのハードウェア設計能力** — Fableによる基板設計の例と、設計の得意不得意、試作の高速化の重要性を説明する。 - [1:26:25] **研究開発の資金とAIの将来** — 資金環境の変化、社内文化の変化、英国のフロンティアAIアクセスのリスクを議論する。 ## 解説記事 英国のハードウェア研究所 Amodo Design のCEO、トム・ミルトンが80,000 Hours Podcastに出演し、米中がAI開発の減速で合意した場合にどう遵守を確認するかを語った。以下、番組内の発言に基づいて整理する。 #### 検証がなぜ減速の鍵になるのか ミルトンは、減速の核心問題は「相手が本当に減速しているか分からない」という信頼の欠如だと述べる。開発の入力には人材、アルゴリズム、データ、計算資源があるが、Amodoは計算資源に注目している。AI専用の特殊なチップが数千個必要で、現状は同一拠点に集まっているため、監視しやすいからだ。 現状で最も確実なのは、データセンターを全部止めることだと彼は言う。しかし推論（学習済みモデルの提供）にも価値があり、全停止は非常に高コストである。そこで検証技術によって、まず「稼働の有無」、次に「推論のみ」、さらに小規模な安全性実験の再開と、より細かな主張を証明できるようにし、合意のコストを下げていく構想を示した。 #### 具体的な手法：再計算と電力指紋 Amodoのパイロットは「推論の再計算」を使う。GPU同士や外部をつなぐフロントエンドのネットワークにタップ（通信を複製する標準的な機器）を付け、複製した通信を検証側サーバーに送る。そこで同じモデルに入力トークンを通し、出力が一致するかを確認する。非決定性を考慮して、トークン選択確率を見るアルゴリズムで判定する。さらに、合意した推論で説明できない通信が残っていないことも確認し、未知の作業負荷がないことを担保する。シェフィールドの約32基のH100/H200で動いているという。 この方式では検証側がモデルの重みを持つ必要があるため、国際的な枠組みには向かない。そこで、重みを共有せずに済むゼロ知識証明の実装を進めている。計算コストは桁違いに大きいが、パケットを千分の一だけ抽出検査する方法で現実味が出ると期待している。 スタジオでは別の手段として、GPUの電源に誘導ループを巻き、オシロスコープで電力波形を見るデモも示された。順伝播と逆伝播の違いが見え、小さなスパイクから12層のモデルだと判別できたという。ただし訓練を推論に見せかける偽装は可能だろうとも認め、精度と耐攻撃性は検証の距離とのトレードオフだと述べた。 #### 先例と、人材・投資の不足 隠れたデータセンターの問題については、衛星や人的諜報など従来の国家技術手段が中心になるとの見方だ。それでも、公開情報による検証には、諜報機関が知っていても公表できない情報を補う意義があると指摘した。 核分野では、部分的核実験禁止条約の前に米ソの科学者が互いの施設で検証実験をしたことを挙げ、AIでも同様のレッドチーム演習が必要だと主張する。化学兵器禁止条約では、OPCWが48時間前通告の査察を行い、質量分析計に合否のみを返す機密保持モードを備えている点を、AIでも必要な考え方として紹介した。 一方で課題は規模の小ささだ。計算検証に携わる技術者は世界で約50人と推定し、核実験探知の Project Vela に数十億ドルが投じられたことと比べて少なすぎると述べた。ラボも、検証を勝利シナリオに挙げながら実際のチームは一桁程度ではないかという見立てだ。Anthropicは検証可能な推論の試作を、Frontier Safety Roadmapで進めていると言及された。 #### 急な合意に備える 来月に合意が成立すれば、ハードウェアによる検証は間に合わず、データセンター停止や査察官の派遣、赤外線衛星の利用になるだろうと述べる。FPGAによるネットワーク認証機器は設計、セキュリティ試験、レッドチーム、量産、相互信頼の確立に長い時間がかかる。だからこそ今から始める必要があり、同時に数日で出せる緊急対応の準備も要ると語った。 また検証は絶対条件ではなく、信頼、諜報、監査、国内の世論など複数の層の一部だとも認める。それでも選択肢を確保する意味は大きいという立場だ。さらに、ゼロ知識証明や機密計算は、安全分類器の稼働証明や、推論事業者に入出力を見せないといった権力集中対策にも使えるとした。 #### ハードウェア設計とAI 後半は、AIによる設計の話題が中心だった。Fableが一発のプロンプトで調光用の基板を設計し、実際に動いた例が紹介された。回路図は妥当だが、配置は不自然で配線は苦手で、人間が見ると醜い設計になるという。ハードウェアのタイムホライズンは10〜100時間程度と推定している。エンジニアが他分野の作業を自力でこなせるようになる変化が出ており、迅速な試作体制の価値も語られた。 英国のフロンティアモデル利用が米国の計算資源不足で制限されるリスクにも触れ、安全な主権計算基盤の必要性を述べた。 #### まとめ 本回は、AI減速の議論に「どう確かめるか」という実装面から切り込んだ点に価値がある。検証技術の整備は、全停止という極端な選択を避け、合意の現実性を高める。日本の読者にとっては、AIガバナンスが政策論だけでなく、ネットワーク機器や暗号技術、人材確保といった具体的な工学課題だと分かる点が注目に値する。研究者やエンジニアにとっては、参入余地の大きい分野だという示唆も得られる。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: 80,000 Hours Podcast「Tom Milton on how we could verify a US–China deal on AI」