# AI企業に「面倒な存在」であり続けることは、今や立派な仕事だ｜Rob Wiblin

- 番組: [80,000 Hours Podcast](https://ai-curator.jp/podcasts/shows/cmv3z5c0y000q5o103gzfd3j4)（The 80,000 Hours team）
- 元のタイトル: Being a pain in the ass to (or in) AI companies is a real job now | Rob Wiblin
- 配信日: 2026年11月4日
- 長さ: 29分
- 要約作成日: 2026年11月4日
- トピック: [#AIガバナンス](https://ai-curator.jp/topics/AI%E3%82%AC%E3%83%90%E3%83%8A%E3%83%B3%E3%82%B9) [#AI安全性](https://ai-curator.jp/topics/AI%E5%AE%89%E5%85%A8%E6%80%A7) [#Anthropic](https://ai-curator.jp/topics/Anthropic) [#OpenAI](https://ai-curator.jp/topics/OpenAI) [#内部告発](https://ai-curator.jp/topics/%E5%86%85%E9%83%A8%E5%91%8A%E7%99%BA) [#AI規制](https://ai-curator.jp/topics/AI%E8%A6%8F%E5%88%B6)
- URL: https://ai-curator.jp/podcasts/cmw12j8k200012r12y2gv8vki

## 要約

Rob Wiblin が、直近の Anthropic・OpenAI・Google DeepMind の三つの不祥事を取り上げ、AI企業の責任を問う活動の重要性を論じる回。Anthropic の連邦法案案、OpenAI の安全研究者3人の解雇、DeepMind の生涯批判禁止条項を批判した上で、社内の人は公の場で理由を示して声を上げ、社外の人は調査・解説・世論喚起で圧力をかけられると述べている。これまでの実績は投入された労力の割に大きいという見方を示した。

## ポイント

- Anthropic が水面下で示した連邦AI法案案では、モデル訓練の停止は商務長官が単一の連邦裁判所に立証して初めて可能で、命令は45日で失効する。州の権限も奪いかねないと Wiblin は批判している。
- OpenAI は安全研究者3人を同時に解雇した。背景にはループ型トランスフォーマーに関する情報漏洩の調査があるとされるが、3人への容疑の根拠は弱いか皆無に近いと Wiblin は論じている。
- Google DeepMind の英国の雇用契約が、Google の行為を生涯にわたり公に批判することを禁じていると BBC に語られた。OpenAI の非中傷合意問題を想起させると指摘している。
- 社内の人は公開 Slack などで理由を冷静かつ誠実に示し、争点を絞って声を上げるべきだとし、辞める場合も段階的に escalation し、退職後に理由を公表する道を示した。
- 社外では調査報道、内部告発支援、専門知識の提供、説得力あるコンテンツ、メディアや SNS での世論喚起など、まだ担い手のいない領域が多いと述べている。
- 過去の成功例として、OpenAI の非営利体制をめぐる「Not For Private Gain」運動や、非中傷条項の撤廃を挙げている。

## 章立て

- [00:00] **AI企業に圧力をかける必要性** — 社内外から企業の責任を問う活動の重要性と、その実績が労力の割に大きいことを述べる導入。
- [01:14] **Anthropic の連邦法案案** — 訓練停止のハードルが極めて高く、州の権限を奪いかねない法案案を、Wiblin が批判する。
- [07:14] **OpenAI の研究者3人解雇** — 漏洩調査に端を発したとみられる解雇と、その根拠の弱さ、会社への悪影響を論じる。
- [12:44] **DeepMind の生涯批判禁止条項** — 英国の雇用契約にある批判禁止条項と、過去の OpenAI 非中傷問題との比較。
- [15:39] **評価すべき動きと社内の人への提案** — 各社の良い取り組みに触れた後、社内の人が残る場合と辞める場合の声の上げ方を説明する。
- [20:39] **社外からの圧力：成功例と手法** — 過去の成功例を紹介し、調査、内部告発支援、専門知識の提供、説得的コンテンツなどの具体策を挙げる。
- [25:12] **世論への働きかけと結び** — 政治家や一般市民に届く活動の例と、圧力を維持し続ける意義をまとめる。

## 解説記事

AI企業が重大な判断を誤ったとき、誰がどう声を上げて是正を促すのか。80,000 Hours Podcast の Rob Wiblin は、2026年10月末に収録した本回で、Anthropic、OpenAI、Google DeepMind の三社が相次いで起こした不祥事を例に、「AI企業にとって面倒な存在になること」が正当で過小評価されたキャリアだと論じている。

#### 三社で起きたこと

まず Anthropic。Wiblin によると、同社は連邦AI法案の草案を水面下で働きかけていた。草案では、連邦政府がモデル訓練を止めるには商務長官が詳細な根拠を示し、ワシントンDCの単一の連邦裁判所に申し立てる必要がある。差し迫ったリスクと、より緩い手段では不十分であることの立証が求められ、停止命令は45日で失効する。さらに州が安全計画の公開や独立評価などを義務づけることも禁じられ、カリフォルニアなどの主要な州法を実質的に無効にすると Wiblin は述べる。

Trump政権との対立を考えれば連邦行政府に大きな裁量を与えたくない事情は理解できるとしつつ、それならば州に権限を残すか、州の司法長官にも申し立て権を与えるべきだと提案している。同社の対応は「伝え方の問題」とされたが、核心は伝え方ではないという見方だ。

OpenAI については、Tomek Korbak ら安全研究者3人が同時に解雇された件を扱う。Wall Street Journal の報道によれば、発端は新モデル「Astra」がループ型トランスフォーマーを使っているという漏洩の調査だった。この技術は思考の連鎖（chain of thought）に書き出す前の計算量を増やすため、モデルの監視を難しくすると業界で警戒されている。Wiblin は、消えるメッセージの使用は業界で普通であり、情報源は他にも多く考えられ、反対する社員も何百人といたはずだと指摘する。3人への容疑の根拠は弱いか皆無に近く、解雇は会社自身にとっても誤りだっただろうという見方を示した。

Google DeepMind では、英国の雇用契約が Google の行為を生涯批判できないよう定めていると、社員が BBC に語った。米国防総省へのAI提供を批判したい元社員に支障が出ているという。2年前の OpenAI の非中傷合意問題より害は小さい面もあるが、訴訟の恐れ自体が萎縮効果を持つと Wiblin は述べる。

#### 社内の人にできること

Wiblin は、社内の人の影響力は大きいが、AIが仕事の多くを自動化すればその力は薄れるかもしれないと警告する。残る場合は、公開の Slack チャンネルで、誠実さを保ち、善意を前提に、理由を冷静に述べる。最重要の数点に絞り、反論には耳を傾ける。最初に声を上げれば、より控えめな同僚も続きやすくなる。

辞めてよいと考える人は、まず同じ方法で異議を述べ、改善がなければ会社の判断を疑っていると伝え、最終的には辞職して理由を公表する段階を踏む。辞めた方が影響力を持てる例として、Geoffrey Hinton、Helen Toner、Daniel Kokotajlo らを挙げている。

#### 社外からの圧力の実績と手法

社外の活動には、すでに成果がある。OpenAI の非営利体制を守る「Not For Private Gain」運動では、関与者は少数だったが、OpenAI Foundation の持ち分が約750億ドル増え、安全面での決定権も確保されたと述べる。2024年の Right to Warn 運動は、カリフォルニア州 SB53 の内部告発者保護につながったと見ている。OpenAI が表向きは規制に賛成しつつ裏で阻止していたことの暴露も、同社の姿勢変化に寄与した可能性があるという。

今後拡大すべき分野として、一つ目は調査と解説である。AI分野の記者を育てる Tarbell Fellowship、AI Whistleblower Initiative など内部告発を支える団体、政治家や記者の理解を助ける LASST、社員向けに説得的な分析を出す Guideline AI Standards などを紹介している。二つ目は一般層への働きかけで、議員向けと大衆向けの両面で動く Encode AI や、PauseAI 系の団体、ミームや動画で注目を集める発信者を挙げた。元社員は信頼性が高いため、広報の助言を受けて取材や寄稿に備えるよう勧めている。

#### まとめ

Wiblin の主張は、AI企業は良いことも悪いこともするため、外からの影響が価値を持つ、というものだ。事態が加速すれば立法を待つ余裕がなく、世論と専門家の即時の反発という手段が重要になると述べる。日本の読者にとっても、AI開発の統治は各国の規制だけでなく、企業内の声、報道、市民の関心によっても左右されうるという視点は示唆的だろう。なお本件の事実関係は番組での語りに基づくもので、Wiblin 自身の評価も含まれる点には注意したい。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: 80,000 Hours Podcast「Being a pain in the ass to (or in) AI companies is a real job now | Rob Wiblin」