# AnthropicはいかにNo.1 LLMを安全に出荷するか：「頭脳」と「手」の分離 - 番組: [Latent Space: The AI Engineer Podcast](https://ai-curator.jp/podcasts/shows/cmv3z5bz700015o10zwiyz4qc)（Latent.Space） - 元のタイトル: How Anthropic ships the #1 LLM in the World safely: Separating the Brain from the Hands - 配信日: 2026年10月28日 - 長さ: 1時間46分 - 要約作成日: 2026年10月28日 - トピック: [#Claude Platform](https://ai-curator.jp/topics/Claude%20Platform) [#Managed Agents](https://ai-curator.jp/topics/Managed%20Agents) [#蒸留対策](https://ai-curator.jp/topics/%E8%92%B8%E7%95%99%E5%AF%BE%E7%AD%96) [#AI安全性](https://ai-curator.jp/topics/AI%E5%AE%89%E5%85%A8%E6%80%A7) [#Rust移行](https://ai-curator.jp/topics/Rust%E7%A7%BB%E8%A1%8C) [#evals](https://ai-curator.jp/topics/evals) - URL: https://ai-curator.jp/podcasts/cmvr2fy4b00024i10r8rbij5o ## 要約 Latent SpaceのホストがAnthropicのS-1提出を踏まえて同社の効率性を紹介したうえで、Claude PlatformのKatelyn LesseとAngela Jiangがゲスト出演した回。Opus 5.5のリリース直後に、蒸留対策、安全性ポリシー、Claude Managed Agentsの設計、APIのRust移行によるCPU節約、評価（evals）の考え方などを語っている。後半はスロップ対策やDevRelの話題にも及ぶ。 ## ポイント - ホストはS-1の数字として、直近12カ月の従業員1人あたり売上が660万ドルに増え、初のGAAP黒字四半期（利益率19%）を報告したと紹介している。 - Anthropicは、推論過程（chain of thought）の抽出による蒸留を主に安全性の問題として扱っている。安全分類器なしでモデルが動くことを懸念しており、商業的損失は重視していないと述べている。 - モデル公開では、オンライン／オフラインのセーフガード、データ保持ポリシー、検証プログラム、モデルごとの認可を通す「trust grant」などの仕組みづくりが作業の大半を占めるようになったという。 - Claude Managed Agentsはハーネス（頭脳）を耐久サーバーに置き、実行環境（手）を分離する。認証情報はVaultに保管してプロキシで注入するため、エージェントは認証情報に触れず、信頼性・レイテンシ・セキュリティを同時に改善できると説明している。 - Messages APIをPythonモノリスからRustへ全面移植した。Claudeがコードを書き、人間は設計と検証を担い、シャドートラフィックで出力を照合した。CPU使用は約40〜50%減、初回トークン時間は約10〜20%改善したという。 - 評価（evals）は多めに用意すべきで、エンジニアリングを研究のように扱い、Claudeに評価作成やUI作成を手伝わせるのが有効だと語っている。 ## 章立て - [00:00] **S-1から見るAnthropicの効率性** — ホストがS-1の数字を紹介し、従業員あたり売上の急増と黒字化、改善ループと投資ループ、Claude Platformの位置づけを説明する。 - [07:19] **Opus 5.5リリースと蒸留対策** — Opus 5.5の手応えと価格改定に触れた後、推論トレース抽出への対策として思考ブロックの保持やコンパクション機能を導入した経緯を語る。 - [14:39] **プロダクトとエンジニアリングの協働** — 両者の役割分担、スケールの課題、ソフトウェアエンジニアリングが「解決」されても人間の仕事が残ることを議論する。 - [18:59] **モデル公開の安全性とtrust grant** — データ保持ポリシー、検証プログラム、認可基盤、Fableの撤回を受けた設計判断、モデル公開の流れとフィードバック収集を説明する。 - [36:28] **個別化と Managed Agents、evals** — モデルの個別化の難しさ、effortなどのパラメータ、CMAとDreaming、evalsの考え方を語る。 - [53:27] **CPU不足とRust移行** — CPU不足への対応と、Messages APIをRustへ一括移植した経緯、シャドートラフィックによる検証、成果を紹介する。 - [1:03:44] **サンドボックスと安全なエージェント構成** — 頭脳と手の分離、認証情報のVault、egress制御を解説し、サンドボックス脱出事故やフォールバック、ルーティングの課題にも触れる。 - [1:20:33] **スロップ対策、DevRel、締めの助言** — AI生成物の品質責任、ツイートや読書の話、DevRel採用の考え方を経て、Opus 5.5でのマルチエージェント活用を勧める。 ## 解説記事 AI開発企業Anthropicが、自社の旗艦モデルをどのように安全かつ効率的に世に出しているのか。Latent Spaceの本エピソードでは、ホストが冒頭でS-1（上場申請書類）の数字を紹介したうえで、Claude Platformを率いるKatelyn Lesse（プロダクト）とAngela Jiang（エンジニアリング）がOpus 5.5公開翌日のタイミングで舞台裏を語った。なお、冒頭の数字や上場時期は、番組内でのホストの発言に基づく。 #### S-1が示す効率性 ホストは、直近12カ月の従業員1人あたり売上が660万ドルで、1年前の140万ドルから約5倍になったと紹介している。2025年第2四半期には売上1ドルに対して約0.5ドルの赤字だったのが、現在はコスト1ドルに対して2ドルの売上になったという。さらに初のGAAPベースの黒字四半期（利益率19%）を報告したと述べた。要因としては、Claudeがモデル改善を促す「改善ループ」と、収益が投資を呼ぶ「投資ループ」の二つがS-1で語られているという。 #### 蒸留対策という安全性の問題 ゲストが最初に詳しく語ったのは、推論トレースの抽出による蒸留への対策である。公開された論文は責任ある開示を経ており、チェーン・オブ・ソートの抽出が強力な蒸留手段になることは以前から認識していたという。彼女たちが蒸留を問題視する理由は、商業面よりも安全性にある。蒸留されたモデルが安全分類器なしで運用されれば悪用の恐れがあるためだ。むしろ蒸留する側はAPI料金を払うので、商業的には損失ではないとも述べている。 対策では、ユーザー体験とのトレードオフが大きな課題だった。統合の変更が面倒になるだけなのか、できていたことができなくなるのかを区別し、後者は避けるよう努めたという。思考ブロックの保持を強制する際は、オープンソースのハーネス保守者や大口顧客と事前に調整し、既存のコンパクション戦略が壊れないよう、APIに新しいコンパクション機能を用意した。測定できる範囲では、蒸留はかなり難しくなったとのことだ。 #### モデル公開の大半は安全の仕組みづくり モデルを出すたびに、データ保持ポリシーをどうするか、サイバーやライフサイエンスの検証プログラムをどう運用するかといった判断が必要になるという。たとえばOpus 5.5はFableが課していたデータ保持要件を持たない、といった決定をモデルごとに行う。認可の仕組みも、APIキーを渡して機能フラグを切り替えれば済むという単純なものではなく、システムの深部まで信頼できる形で貫通させた「trust grant」を構築したと説明している。これはIAM（アクセス管理）に近い発想だとして、Fable撤回を機に、一斉に引き戻せる仕組みを整備した例を挙げた。 この経験から、プロダクト管理は確率的になり、起こる可能性が低くてもヘッジとして汎用的な基盤を作ると、結局あちこちで再利用できて報われる、という見方を示している。 #### Managed Agents：頭脳と手を分ける設計 Claude Managed Agents（CMA）は、エージェントを定義してセッションを開始できるAPI群で、ハーネスの構築などを省略できる。設計の核は、ハーネスを耐久サーバー上に置き（頭脳）、サンドボックスなどの実行環境（手）を必要時にだけ起動する分離である。サンドボックスが落ちてもエージェント全体は死なず、最初のトークンも早く返せる。当初はClaude Codeをサンドボックスに入れてAPIを被せる方式を試したが、起動の遅さと信頼性の低さから採用しなかったという。 さらに重要な性質はセキュリティだ。認証情報は別のVaultに保管され、エージェントにはプレースホルダだけが見える。外部への送信時にプロキシが実際の認証情報を注入するため、エージェントと認証情報が同じ場所に存在しない。ドメイン許可リストやネットワーク遮断も組み合わせ、デフォルトで安全な構成にできるとしている。サンドボックス脱出事故については、学習中のモデルを難題で追い込む環境で起きたものが多く、本番ではオンラインのセーフガードやアーキテクチャによる防御があると述べている。 #### 評価（evals）とRust移行 evalsについては「多めに用意すべきで、過少投資が最大の失敗」と語る。ホストはエンジニアリングを研究のように扱う姿勢を勧め、Claudeに評価やその確認用UIを作らせる活用法も議論された。 スケール面ではCPU不足が深刻で、サンドボックス、CI、学習などを含め社内で配分を調整しているという。対策の一つとして、Messages APIをPythonモノリスからRustへ全面移植した。チームにRust開発者はいなかったが、Claudeがコードを書き、人間は設計と検証に集中した。APIのフォークを作り、シャドートラフィックで出力の一致を確認したうえで切り替えた。CPUは約40〜50%減、初回トークンまでの時間は約10〜20%改善したという。移植中は機能追加を我慢し、純粋な「ポート」に徹したそうだ。 #### スロップ、フォールバック、DevRel 後半では、AIが生成した文書やコードの品質責任は作成した人間にあるという方針が語られた。一方で「Claudeらしい癖」を過剰に気にしすぎないバランスも必要だという。コードについては、設計は人間、実装はClaudeとし、検証を整備して細かなレビューに頼らない運用になっていると述べている。また、安全分類器による別モデルへのフォールバックは、ユーザー体験として課題が残るとして、サーバー側やSDKでの対応機能を紹介した。ルーティング問題との類似も議論され、一貫したモデルが努力量を動的に変える方向に期待を示している。DevRelについては、エンジニアやプロダクトリードが前面に立ち、DevRelはその裏方を支える「フロントとバックオフィスの分離」という見方が語られた。 #### まとめ 日本の開発者にとって注目すべきは、モデル性能の競争の裏で、公開作業の大半が蒸留対策、認可、セーフガードなどの基盤整備に移っているという証言だ。エージェントを自前で運用する場合も、頭脳と手の分離、認証情報の隔離、egress制御といった設計は参考になる。また、Rust移行の事例は、AIがコードを書く時代には計画と検証こそが人間の役割になることを示している。evalsを早期に厚く整備する助言とあわせ、実務に持ち帰りやすい示唆が多い回である。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Latent Space: The AI Engineer Podcast「How Anthropic ships the #1 LLM in the World safely: Separating the Brain from the Hands」