# トークンを買うか、AIファクトリーを築くか：エージェント時代のトークノミクスとオンプレ推論（Sadeepa Wijesekara氏）

- 番組: [The TWIML AI Podcast (formerly This Week in Machine Learning & Artificial Intelligence)](https://ai-curator.jp/podcasts/shows/cmv3z5bze00035o10pbqj68s6)（Sam Charrington）
- 元のタイトル: Buying Tokens vs Building an AI Factory with Sadeepa Wijesekara - #785
- 配信日: 2026年11月18日
- 長さ: 58分
- 要約作成日: 2026年11月18日
- トピック: [#トークノミクス](https://ai-curator.jp/topics/%E3%83%88%E3%83%BC%E3%82%AF%E3%83%8E%E3%83%9F%E3%82%AF%E3%82%B9) [#AIエージェント](https://ai-curator.jp/topics/AI%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88) [#オンプレミス推論](https://ai-curator.jp/topics/%E3%82%AA%E3%83%B3%E3%83%97%E3%83%AC%E3%83%9F%E3%82%B9%E6%8E%A8%E8%AB%96) [#オープンウェイトモデル](https://ai-curator.jp/topics/%E3%82%AA%E3%83%BC%E3%83%97%E3%83%B3%E3%82%A6%E3%82%A7%E3%82%A4%E3%83%88%E3%83%A2%E3%83%87%E3%83%AB) [#FinOps](https://ai-curator.jp/topics/FinOps) [#エージェントセキュリティ](https://ai-curator.jp/topics/%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88%E3%82%BB%E3%82%AD%E3%83%A5%E3%83%AA%E3%83%86%E3%82%A3)
- URL: https://ai-curator.jp/podcasts/cmwlb9izv00014h10dtnlnih9

## 要約

HPE Private Cloud AIのエンジニアリング責任者Sadeepa Wijesekara氏が、Sam Charrington氏と、エージェントで急増するトークン費用への企業の向き合い方を議論した。ワークロードの配置はコスト、遅延、コンプライアンス、データの重力といった要素で決まり、まず費用の可視化が出発点になると述べている。HPE社内のAIファクトリー、エージェントのセキュリティ、顧客事例、今後の展望にも話が及んだ。

## ポイント

- エージェントはチャットボットより20〜50倍のトークンを消費するとされ、単価が下がっても総額は膨らむと述べている。
- 最初の一歩はエージェントやユースケース単位でトークン費用を把握することで、これを「ステップゼロ」と呼ぶ。多くの組織はまだ可視化できていないという。
- ルーティングは、まず決定的なルールベースから始め、観測しながら調整し、その後に自動化するのが顧客の傾向だという。
- 同氏は、オンプレミス運用ならトークン費用を最大約60%削減でき、GPU稼働率が60〜70%程度でも投資対効果が出ると説明している。
- エージェントのセキュリティには、短命トークン、サンドボックス、機密コンピューティング、監査など多層防御が必要だと述べている。
- 今後はコスト抑制の議論から、エージェントが本当に価値を生むかというROIの測定へ関心が移るという見方を示した。

## 章立て

- [02:05] **トークン予算の高騰と背景** — AppleやUberの予算抑制の話題を受け、エージェントによるトークン消費の急増と、単価が下がっても請求額が減らない理由を語る。
- [04:09] **トークンの価値をどう測るか** — コールセンター等と比べ、社内業務プロセスには成果当たりコストの指標がないことを指摘し、Tokenomics Foundationの取り組みに触れる。
- [09:19] **ルーティングと費用の可視化** — ルールベースのルーティングから始める顧客の姿勢と、エージェント単位のテレメトリやオントロジーの必要性を論じる。
- [15:44] **ワークロード配置とGPU最適化** — コスト、遅延、データガバナンスに応じた配置、GPUの種類の選び方、夜間ジョブによる稼働率向上、損益分岐を説明する。
- [27:07] **エージェントのセキュリティとコンプライアンス** — プロンプトインジェクション対策、OpenShell、機密コンピューティング、組織の準備度や標準の不在を議論する。
- [36:46] **HPE社内のAIファクトリー** — 社内チャットボット、ゲートウェイ、コーディングツールのエンドポイント一本化と、PCAIシステムの拡張について語る。
- [42:57] **フロンティアラボとの比較と顧客事例** — ROI比較、データ漏洩リスクの懸念、データ重力・主権・工場など顧客の事例を紹介する。
- [53:33] **今後1年の展望** — コスト議論から価値の測定へ移ること、業界別の分類体系作り、セキュリティの重要性の高まりを展望する。

## 解説記事

HPE Private Cloud AIのエンジニアリング責任者で、Tokenomics Foundationの理事も務めるSadeepa Wijesekara氏が、TWIML AI PodcastでSam Charrington氏と語った回である。テーマは、エージェントの普及でトークン費用が膨らむなか、どの推論を購入し、どれを自前で動かすかという判断だ。

#### 単価が下がっても請求額は下がらない

Appleが社内のトークン予算を削減したという報道を受け、Wijesekara氏は顧客でもHPE社内でも同様の懸念があると述べている。開発者がAIを自由に使えるようになり、エージェント的な作業が増えたことが理由だという。チャットボットに比べ、エージェントのトークン消費は20〜50倍とされる数字が示されており、単価が下がっても総額は膨らむ。

同氏は、企業がかつてのPカード（購買カード）に統制を入れたのと同じ流れだと見ている。個人に枠を割り当てて統制点を作り、次に「同じ予算でどれだけ多くをこなせるか」という問いからハイブリッド推論に関心が向かうという。

#### まず可視化、次にルーティングと配置

同氏が「ステップゼロ」と呼ぶのが、費用の細かな可視化だ。総額だけでなく、エージェント、ユースケース、さらに検索や調査といったサブコール単位で把握する必要がある。そのためにはエージェント単位のテレメトリと、業務プロセスを分類する共通のオントロジーが要る。SaaSに組み込まれたAI利用料まで含めて追跡するのも難しい課題だと認めている。

ルーティングについては、顧客は慎重で、まずルールベースで決定的に振り分け、挙動を観察して調整し、そのうえでプロンプト内容に応じた自動選択へ進む傾向があるという。ルーターが賢くなるほど、そのルーター自体の監視が必要になるからだ。

可視化の後に来るのが、ワークロードの配置である。判断軸はコストだけでなく、遅延、コンプライアンス、データガバナンス、データの重力（データを動かせない事情）だ。機微なデータは、フロンティアモデルが必要でもクラウドへ出せない場合がある。オープンウェイトモデルは最先端から1〜2か月遅れの水準まで来ているという見方も紹介された。

#### GPUの選び方と損益分岐

HPEのPrivate Cloud AIは、電源とイーサネットをつなげば2日目から推論を始められる「ターンキー」型で、ライフサイクル管理も含むと説明される。GPUはモデルのメモリ要件に応じて、H200、RTX 6000、B300などを使い分け、同一クラスタに混在させてスケジューラが振り分ける。昼は開発者の対話、夜はコードベースの脆弱性スキャンといった時間帯の使い分けで稼働率を上げられるという。

同氏の社内計算ツールは稼働率60〜70%を前提にROIが出るとしており、損益分岐はそれより低いとも述べている。フロンティアラボの規模に勝てるのかという反論に対しては、同一モデル・同一GPUで3〜5年のコストを比べれば差が出ると答えた。ただし、最先端はフロンティアラボにあるため、戦略はオンプレ一辺倒でなくハイブリッドであるべきだとも強調している。

#### エージェントのセキュリティと顧客事例

セキュリティでは、チケットやメールに仕込まれた悪意ある指示（プロンプトインジェクション）への警戒が語られた。対策は多層防御で、タスク限定の短命トークン、ネットワークポリシー付きのサンドボックス（NVIDIA支援のOpenShellなど）、ハードウェア証明に基づく機密コンピューティング、監査とふるまい監視が挙げられた。エージェント向けのコンプライアンス標準は、まだ見たことがないとしている。

HPE社内では約6万5千人規模の従業員向けに社内チャットボットを運用し、コーディングツールも単一のエンドポイント経由で、フロンティア提供元とローカルのPCAIに振り分けているという。システムは1〜2台から約9台へ拡張した。顧客事例としては、アジアの自動車企業がAWS上のエージェントから機微データの問題で引き返した例、欧州の防衛分野でのソブリン要件、工場内でのオフライン推論などが挙がった。

#### まとめ

本エピソードの核心は、トークンの購入か自前運用かを一度きりの調達判断ではなく、可視化に基づく継続的な配置の問題として捉え直している点だ。日本企業でも、エージェント導入が進むほどコスト管理と機密データの扱いは避けられない。まず自社のトークン費用をエージェントや業務単位で分解できるかが出発点になる。なお、オンプレ有利という主張や60%削減といった数値は、ハードウェアを提供する立場の発言であり、自社条件での検証が必要だ。同氏は今後、議論の焦点がコスト抑制から、エージェントが実際に価値を生んでいるかの測定へ移ると見ている。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: The TWIML AI Podcast (formerly This Week in Machine Learning & Artificial Intelligence)「Buying Tokens vs Building an AI Factory with Sadeepa Wijesekara - #785」
