# AIエージェント2万体を計画していますか？Capital Oneからの警告｜Abhijit Bose

- 番組: [Eye On A.I.](https://ai-curator.jp/podcasts/shows/cmv3z5bzz000b5o107u882j88)（Craig S. Smith）
- 元のタイトル: Are You Planning 20,000 AI Agents? Capital One Has a Warning | Abhijit Bose
- 配信日: 2026年11月21日
- 長さ: 38分
- 要約作成日: 2026年11月21日
- トピック: [#AIエージェント](https://ai-curator.jp/topics/AI%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88) [#AIプラットフォーム](https://ai-curator.jp/topics/AI%E3%83%97%E3%83%A9%E3%83%83%E3%83%88%E3%83%95%E3%82%A9%E3%83%BC%E3%83%A0) [#MLOps](https://ai-curator.jp/topics/MLOps) [#ガバナンス](https://ai-curator.jp/topics/%E3%82%AC%E3%83%90%E3%83%8A%E3%83%B3%E3%82%B9) [#RAG](https://ai-curator.jp/topics/RAG) [#MCP](https://ai-curator.jp/topics/MCP)
- URL: https://ai-curator.jp/podcasts/cmwp8qis700015o10f1ejbnwu

## 要約

Capital OneのAI/MLプラットフォーム部門を率いるAbhijit Boseが、10年以上前のクラウド投資と中央集権的なプラットフォーム戦略がAI拡大の土台になったと語る。損失予測や不正検知の高速化、ディーラー向けChat Concierge、2万人超のコールセンター支援RAGシステム、ガバナンスの枠組みMacauなどの事例を紹介。エージェントが5つなら不要でも、2万規模ではプラットフォームが不可欠だと警告している。

## ポイント

- Capital Oneは自社を「銀行業をするテック企業」と位置づけ、約10〜15年前のクラウド移行（主にAWS）と全社標準プラットフォーム化がAI拡大の基盤になったと述べている。
- プラットフォームは大規模なCPU/GPUとデータの調達、エージェントやMLパイプラインのオーケストレーション、開発・モデル作成、手作業を減らすデプロイ層で構成される。
- 損失予測のモデリングは従来数週間かかっていたが、新基盤の分散並列計算でエンド・ツー・エンド約1週間になり、不正検知モデルもエンジニアを介さず素早く本番更新できるという。
- オープンソース、外部ソリューション、自社開発を柔軟に組み合わせる制御プレーンを採用し、不正検知など中核領域は独自データ・独自モデルを使う方針。
- 顧客向けエージェントとして、ディーラーサイトで24時間稼働するChat Conciergeと、2万人超のコールセンター担当者を支える生成AI/RAGシステムを展開している。
- ガバナンス枠組みMacauは、タスクを専門エージェントに分割し、実行前に検証エージェントが合成データでチェックし、ガードレールと監視を重ねる段階的なリスク管理を行う。

## 章立て

- [00:00] **Boseの経歴とMLXの役割** — Boseが自身の経歴（IBM Research、Google、JPMorgan、Facebook AI Research）とCapital OneのAI/MLプラットフォーム組織MLXでの役割を紹介する。
- [03:10] **規制環境でAIを拡大する条件** — リスク管理とイノベーションの両立を課題とし、10〜15年前からのクラウド基盤、データ、人材、プラットフォーム思考が必要だと語る。
- [06:14] **プラットフォーム構成とクラウド賭け** — AWS上に再構築した基盤、オーケストレーション、デプロイ層の構成と、2016〜2017年にクラウドへ賭けた判断の背景を説明する。
- [12:37] **チーム統合と具体的な効果** — ML基盤チームの統合の重要性と、損失予測・不正検知がプラットフォームでどう高速化したかを紹介する。
- [19:36] **2万エージェントの課題とMCP基盤** — 個別導入では拡大できず、監視の一元化とMCPプラットフォーム整備が必要だと述べ、内製と外部利用の使い分けを語る。
- [26:44] **本番稼働中のエージェント事例** — Chat Conciergeと、2万人超のコールセンター担当者向けRAGシステムの導入経緯を説明する。
- [32:11] **Macauによるガバナンス** — タスク分割、専門エージェント、検証エージェント、ガードレール、リアルタイム監視による段階的リスク管理を説明する。
- [35:21] **導入企業への助言** — 制御プレーンなど基盤設計を長期視点で決めること、複雑で価値の高いコーナーストーン事例から始めることを助言する。

## 解説記事

Eye on A.I. の今回の回では、Capital OneでAI/MLプラットフォーム部門「MLX」を率いるAbhijit Boseが、司会のCraig Smithに同社のAI拡大の舞台裏を語った。Boseは過去にFacebook AI Research、Google、JPMorgan Chase、IBM Researchなどに在籍した経歴を持つ。話の中心は、パイロットで止まる企業が多い中で、なぜ同社が本番規模のエージェント運用に近づけているのかという点だ。

#### 土台は10年以上前のクラウド投資

Boseは、規制の厳しい環境でAIを拡大する際の本質は、リスク管理とイノベーションのバランスだと述べる。ガバナンスや意思決定の品質では妥協せず、同時にLLMの進化速度にも追随する必要がある。同社の問題設定は「AIの最前線で、しかしwell-managed（適切に管理された）速度で革新する」ことだという。

そのために、ガバナンスを適用する中央の仕組みを作り、一度LLMのホスティング方法を確立すれば1万のアプリケーションに繰り返し適用できる状態を目指している。Boseは、これは今日始めて間に合うものではなく、10〜15年前からのクラウド基盤、社内のエンジニアとサイエンティスト、データエコシステム、プラットフォーム思考の積み重ねだと強調する。

同社は自社の規模の金融機関としては珍しく、従来型データセンターを持たず、主にAWS上へ技術スタックを再構築したと説明する。2016〜2017年当時のクラウドの経済性は今ほど魅力的ではなく、数字だけ見れば見送る判断もあり得たが、ソフトウェア開発ライフサイクルを加速できるという認識が転機になったという。あわせて「プラットフォーム企業になる」と宣言し、全事業部門が使うべき少数の標準プラットフォームを経営層が定め、AI/MLもその一つになった。

#### プラットフォームの構成と効果

Boseによれば、基盤の最下層は大量のCPU・GPU・データをオンデマンドで確保する機能で、その上にエージェントやMLパイプラインを呼び出すオーケストレーション層、アプリやモデル、特徴量を作るオーサリング層、開発から本番へ手作業を挟まず移すデプロイ層がある。月間では4桁規模の社内ユーザーが利用し、そこで作られたアプリは1億人の顧客に影響するとのことだ。

具体例として、四半期ごとの引当金を決める損失予測を挙げた。数十のモデルをアンサンブルし、経済シナリオ別のシミュレーションも必要な難しいタスクで、従来は学習だけで数週間かかっていた。新基盤と分散並列計算により、全体で約1週間になったという。不正検知でも、更新頻度が日次、時間単位、数週間とモデルごとに異なるが、エンジニアを介さず素早く本番反映でき、新しい不正ルールの一部は生成AIで自動生成される段階にあると述べている。

組織面では、就任後1年以内に主要なML基盤チームを自分の組織の下に統合したことが決定的だったと振り返る。文化や納品速度、人材レベルが異なるチームの統合には最初の1〜2年の投資が必要で、マルチテナンシー（部門ごとのデータプライバシー要件を分離すること）などの設計水準も上がったという。

#### 内製と外部の使い分け、MCP

同社は、オープンソース、外部ソリューション、自社開発を混在できる柔軟な制御プレーンを設計の核にしている。Boseは、誰でも再現できる領域では外部を使い、中核は独自データと独自モデルを使う方針だと述べた。例えばLlamaを一部用途で使うことはあっても、不正検知には必要なデータがないため自社モデルを使うという。Jupyter Notebookは採用しつつ、強いガバナンスと独自のMLOpsプロセスを重ねている。

MCP（Model Context Protocol、エージェントが外部ツールに接続する規格）についても、個別導入ではなく一つのプラットフォームとして扱う方針だ。MCPサーバーの登録・発見、構築用スタック、監視、どのAIエージェントがどのサーバーやツールにアクセスできるかを管理する層を整備し、社内で数百のMCPサーバーやサービスに拡張できると語った。

#### 本番稼働中のエージェントとMacau

顧客向けの事例として、まずChat Conciergeがある。自動車ディーラーのサイトやアプリで24時間稼働し、在庫検索や予約を自然言語で支援する。複数のAIエージェントが連携し、人間と話しているように感じられる低遅延で動き、ディーラーごとの事業特性や在庫に合わせて調整されている。

もう一つは、2万人以上のコールセンター担当者向けの生成AIシステムだ。ナレッジベースの検索を支援するRAG（検索拡張生成）アプリケーションで、最初は少人数に提供してフィードバックを集め、検索手法を改善した結果、担当者のほうから参加を求めるようになり、全員に展開したという。なおここでの「2万」は人間のオペレーターで、AIエージェントの数ではないとBoseは明確にしている。

ガバナンスの枠組みがMacauだ。Boseは、昨年のGTCでJensen Huangが紹介したと述べている。複雑なタスクを小さく分け、専門のLLMを持つ専門エージェントが各々を解き、実行前に検証エージェントが合成データを使うシミュレーション的な確認を行う。さらにプラットフォーム側のガードレールでデータ漏洩などを検知し、リアルタイム監視でデータや運用の変化を見る、という段階的なリスク管理である。

#### 導入企業への助言

Boseは、プラットフォームを始める企業にまず制御プレーンなど基盤部品の長期的な設計を考えるよう勧める。オープンソース、内製、外部のどれを選ぶかは数年後に大きく響く判断だという。次に、複雑で価値の高い「コーナーストーン」ユースケースから載せることだ。簡単な案件を多数集めれば利用者数は稼げるが、会社に本当の価値を出す基盤にはならない可能性がある、と述べている。

#### まとめ

この回の主張は明快だ。エージェント5つなら個別対応でも回せるが、2万規模ではオーケストレーション、監視の一元化、アクセス管理、ガバナンスを担うプラットフォームが前提になる。日本の企業にとっても、個別のPoCを積み上げるだけでなく、データ基盤、共通の制御・監視機構、組織統合といった地味な土台づくりが、エージェント活用を本番へ進める鍵になるという示唆が得られる。なお内容はBose個人の説明に基づくもので、数値や効果は同社の自己申告である点には留意したい。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Eye On A.I.「Are You Planning 20,000 AI Agents? Capital One Has a Warning | Abhijit Bose」
