# Anthropicは再帰的自己改善の入り口にいるのか？ METR報告書（一部黒塗り）を読み解く

- 番組: [80,000 Hours Podcast](https://ai-curator.jp/podcasts/shows/cmv3z5c0y000q5o103gzfd3j4)（The 80,000 Hours team）
- 元のタイトル: Is Anthropic on the cusp of RSI? Inside the redacted METR report | Luisa Rodriguez
- 配信日: 2026年11月13日
- 長さ: 15分
- 要約作成日: 2026年11月13日
- トピック: [#再帰的自己改善](https://ai-curator.jp/topics/%E5%86%8D%E5%B8%B0%E7%9A%84%E8%87%AA%E5%B7%B1%E6%94%B9%E5%96%84) [#METR](https://ai-curator.jp/topics/METR) [#Anthropic](https://ai-curator.jp/topics/Anthropic) [#AIの安全性](https://ai-curator.jp/topics/AI%E3%81%AE%E5%AE%89%E5%85%A8%E6%80%A7) [#AI規制](https://ai-curator.jp/topics/AI%E8%A6%8F%E5%88%B6) [#AI 2027](https://ai-curator.jp/topics/AI%202027)
- URL: https://ai-curator.jp/podcasts/cmwdxhtd400015811ih28yp99

## 要約

80,000 HoursのLuisa Rodriguezが、独立評価機関METRによるAnthropic内部の11週間の調査結果を解説した回。METRは、Anthropicの10月時点のAI開発速度が1年前の約2倍で、その約80%はAI自身を研究に使うことによると推定した。報告書の大部分は黒塗りされ、反論もあるが、減速を示す要因は見つかっていない。Rodriguezは政府による規制と第三者検証の義務化を訴えている。

## ポイント

- METRは11週間Anthropic内部に入り、同社のAI開発は2025年10月ごろから約2倍の速度になったと推定した（真の値は1.3〜3倍の幅）。
- METRの最善推定では、現在の加速の約80%がAnthropic自身のAIを研究に使うことに由来し、計算資源の増加などでは説明できないとされる。
- Claudeが研究業務をエンドツーエンドで担う割合は、年初のほぼゼロから8月には約4分の1に増えたとAnthropic自身の数字が示す。
- Toby Ordは、大規模な学習による一度きりの能力上昇を考慮すると加速は約1.4倍にとどまると指摘したが、METRの結論は黒塗りされた証拠にも基づく。
- Anthropicの最新のIPO関連書類は、自ら設けた「1年で2年分の進歩」の線を越えたと述べている。
- Rodriguezは、AI企業が研究を完全自動化することの禁止や、加速度の報告と独立検証の義務化を求めている。

## 章立て

- [00:00] **AIが2倍の速さでAIを作る** — METRの報告の概要と、再帰的自己改善という懸念の提示。
- [01:02] **Anthropic内部での11週間** — Anthropicが設定した「1年で2年分」の線と、METRに与えられたアクセス範囲。
- [02:12] **1年で2年分の進歩** — テストスコアの傾きが2倍になった根拠と、過去の進歩の具体例。
- [03:15] **加速の原因はAIなのか** — 計算資源などを除外し、約80%がAIの活用によるとする推定と、その証拠。
- [05:19] **減速の兆しはない** — ボトルネックが見当たらず、加速がさらに加速する可能性とAI 2027との比較。
- [07:25] **METRは間違っている可能性は** — Toby Ordらの反論、測定対象の限界、専門家が見解を改めたこと。
- [10:18] **Anthropicは線を越えたか** — METRの数値1.97とIPO書類での発表、約束した対策の履行への期待。
- [11:31] **必要な変化とできること** — 政府による規制、第三者検証の必要性、個人にできる行動。

## 解説記事

AI安全性に取り組む非営利団体80,000 Hoursのポッドキャストで、Luisa RodriguezがAI評価機関METRの報告書を解説した。METRはAnthropicの社内に11週間入り、同社のAI開発がAI自身の力で加速しているかを調べた。Rodriguezはこれを「これまで見た中で最も恐ろしいAI報告書かもしれない」と評している。以下は番組で語られた内容の整理である。

#### METRが見つけたもの

METRは、Anthropicが社外にほとんど出していない内部テストスコア、モデルの学習データ、開発者へのインタビューなどにアクセスした。アクセスは無制限ではなかったが、想定以上の情報が共有されたという。

結論は、2025年10月時点でAnthropicはAIを1年前の約2倍の速さで改善している、というものだ。真の値は1.3〜3倍の範囲とされる。根拠の一つは、未公開の内部モデル3つを含む全モデルのスコアで、2025年10月ごろから傾きが約2倍に急になることである。ただし、測定されたのは採点しやすいタスクに限られる。

#### 加速の主因はAI自身

METRはまず、計算資源の増加を主因から外した。採用の急増、新データ、研究上のブレークスルーも、きっかけにはなり得ても、加速が長く続く理由は説明できないという。そのうえで、現在の加速の約80%はAnthropicが自社AIを研究に使っていることによると推定した。

証拠として挙げられたのは次の三点である。

- 研究者が「Claudeに10個のアイデアを投げて、何が通用するかを見るだけで有望な方向が見つかる」と語っていること
- 加速の開始が、Claudeが数時間単位で自律的にコードを書けるようになった時期と重なること
- Claudeが研究作業をエンドツーエンドで担う割合が、年初のほぼゼロから8月に約4分の1へ増えたこと（ただし人間の監督付き）

この数字の根拠の大半は報告書で黒塗りされており、METR自身も、読者が彼らの判断に頼らざるを得ない度合いは理想より大きいと認めている。

#### 減速要因は見当たらず、加速がさらに加速する可能性

再帰的自己改善は、AIが良くなるほど次のAIを速く作れるようになる循環である。止まるのは、計算資源、学習データ、アルゴリズム改良のアイデアのいずれかが制約になる場合だ。METRはこの三つを調べたが、今後1年で障害になりそうなものは見つからなかった。確信は強くなく、情報が増えるたびに見立ては何度も変わったという。ただし半年以内にさらに速くなる可能性は排除できないとし、加速そのものが増していく可能性にも言及している。

Rodriguezはこれを、2年前に書かれた予測シナリオ「AI 2027」と重ねる。同シナリオでは研究の加速が起きるのは2027年初めとされており、METRが正しければ数か月前倒しになっている可能性があると述べる。

#### 反論と専門家の反応

最も強い反論として紹介されたのが哲学者Toby Ordの指摘だ。Mythosは大規模な学習から生まれたため、一度きりの能力上昇が含まれており、それを考慮すると加速は約1.4倍になる。これに対しBuck Shlegerisは、スコアは結論の主な根拠ではなく、黒塗りされていない唯一の部分にすぎないと反論した。METRも、黒塗りされた証拠によって2倍という結論をより重く見るようになったとしている。

他社モデルと比べると加速が小さく見える点については、Anthropicが単に追い上げていた可能性や、モデルがテスト向けに調整されていなかった可能性が挙げられた。経済学者のKarthik Tatapaliは疑う立場で公開データを検証し、むしろ納得したと述べている。

Ryan Greenblattは自分の予想が大きく外れたとして、1〜2年以内の超知能に向けた大きな更新だと語り、Shlegerisは1年以内にAI企業が超知能を作る確率を約3分の1とみている。

#### Anthropicの線と必要な対策

Anthropicは8月のリスク報告書で「1年で2年分」の線には達していないとした。しかしMETRが非公開の数字で計算すると1.97で、ほぼ線上にある。番組の収録直前には、同社のIPO関連書類が、今後のモデルへの見込みと現在の速度に基づき、すでに線を越えたと述べたという。対応は評価中とされるだけである。Rodriguezは、政府を含む最高水準の攻撃者に耐える防御と、AI開発内部の全面的な監視という約束の履行を求める。

ただしそれでも不十分で、競争があるため企業は自発的に止まらないと彼女は言う。ニューヨーク州議員Alex Borsは、AI企業による研究の完全自動化を禁じるよう議会に求めている。彼女は、この種の提案にはBernie SandersからSteve Bannonまで支持者がいると述べた。また、外部評価は企業の同意に依存し、Anthropicが閲覧範囲や黒塗りを決めていた点を問題視する。そのため、全フロンティア企業にAIによる研究加速の報告と独立検証を義務付けるべきだと主張している。

#### まとめ

数値には幅と異論があり、黒塗りのため完全な検証もできない。それでもMETRの調査は、AIが自らの開発を目に見えて加速させている状況を、外部の目で初めて確認したという点で重い。日本の読者にとっては、モデルの性能だけでなく、開発の加速度そのものの開示と第三者検証が政策や企業評価の焦点になり得ることが注目点だ。Rodriguezは、この問題に関わる仕事への転身、寄付、周囲への発信を勧めている。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: 80,000 Hours Podcast「Is Anthropic on the cusp of RSI? Inside the redacted METR report | Luisa Rodriguez」