Agentic Conversations (formally mlops.community)
物流大手はいかにAIデータを守り、コストを可視化するか：C.H. RobinsonのFinOps
How a Logistics Giant Keeps AI Data Locked Down
物流大手C.H. RobinsonでAI向けFinOpsを担当するJason Wardが、AI利用の計測・分析手法を語った回。Azure OpenAIとVertex AI経由のAnthropicモデルを使い分けてデータを守りつつ、リソースのタグ付け、アプリ別・モデル別のコスト分析、プロンプト肥大化やコンテキスト不足の検知を実践している。さらにcost per thoughtやreasoning ratio、キャッシュヒット率といった実験的指標にも触れ、「AIでAIを改善する」ことを勧めている。