# 連合学習でエージェント型AIを強化する：Flower Labs の Lorenzo Sani 氏に聞く - 番組: [Practical AI](https://ai-curator.jp/podcasts/shows/cmv3z5bzb00025o10lc2t7m3d)（Daniel Whitenack and Chris Benson） - 元のタイトル: Implementing Federated Learning to enhance Agentic AI - 配信日: 2026年11月14日 - 長さ: 43分 - 要約作成日: 2026年11月14日 - トピック: [#連合学習](https://ai-curator.jp/topics/%E9%80%A3%E5%90%88%E5%AD%A6%E7%BF%92) [#プライバシー保護AI](https://ai-curator.jp/topics/%E3%83%97%E3%83%A9%E3%82%A4%E3%83%90%E3%82%B7%E3%83%BC%E4%BF%9D%E8%AD%B7AI) [#エージェント型AI](https://ai-curator.jp/topics/%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88%E5%9E%8BAI) [#LLM](https://ai-curator.jp/topics/LLM) [#オープンウェイトモデル](https://ai-curator.jp/topics/%E3%82%AA%E3%83%BC%E3%83%97%E3%83%B3%E3%82%A6%E3%82%A7%E3%82%A4%E3%83%88%E3%83%A2%E3%83%87%E3%83%AB) [#ローカルAI](https://ai-curator.jp/topics/%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABAI) - URL: https://ai-curator.jp/podcasts/cmwfcxeot00005i103yuhaqjy ## 要約 Flower Labs の研究者で Cambridge の博士課程に在籍する Lorenzo Sani 氏が、連合学習（Federated Learning）の基本と、LLM やエージェント型AIへの応用を語った回。データを移動させずに学習することでプライバシーを守りつつ、これまで使えなかった私的データを活用できる点を説明した。エージェントの軌跡（trajectory）が改善に有用である一方、機微な情報を含むことも指摘している。自宅でのオープンウェイトモデル活用例も紹介された。 ## ポイント - 連合学習は、学習のための計算をデータが生成される場所へ移す手法で、データそのものは移動しない。これがプライバシー保護の第一の要素だと説明された。 - 学習済みモデルが個人情報を記憶してしまうリスクは別問題で、差分プライバシーなどの手法が統計的な保証を与える。ただし適用の可否はケースごとに異なり、研究としては未解決の部分もあるという。 - エージェントの軌跡にはプロンプト、ツール出力、MCP サーバーや RAG などの外部情報が含まれ、改善に有用だが私的情報も多い。連合学習はこの分散データでの学習に自然に適合するとの見方を示した。 - プライバシーを重視する用途では、制御しやすく問題があれば修正できるオープンソースモデルを出発点にしたいと述べている。 - モデルが小型化・低コスト化するなか、企業は自社の軌跡を分析して失敗モードを特定し、外部提供者に頼らず改善する動きが強まるとの見通しを示した。 - 手術ロボットのような機微な分野では、複数の病院などからデータを集める協調学習が現時点でも有効だと語った。 ## 章立て - [01:00] **ゲスト紹介と物理学からの転身** — Sani 氏が物理学出身で、医療応用でのプライバシー課題から連合学習と Flower に出会い、Cambridge の博士課程に進んだ経緯を語る。 - [05:00] **連合学習とは何か** — 公開データと私的データの違い、学習計算をデータの所在地へ移すという連合学習の基本的な考え方を説明する。 - [08:15] **プライバシーはどう守られるか** — データが動かないこと、差分プライバシーなどの手法、モデルの記憶リスクについて議論する。 - [10:18] **オープンモデルと閉じたモデル** — プライバシー重視の用途でオープンソースモデルを好む理由と、クローズドモデルを検証する方法を述べる。 - [14:52] **エージェントの軌跡と連合学習** — エージェントが環境内で行動し長い軌跡を生むこと、その軌跡が改善に有用かつ私的であること、分岐と統合の構造を説明する。 - [21:45] **ハロウィンパーティーの仮装審査** — 自宅で動かすローカルのビジョン言語モデルのエージェントが仮装を審査したエピソードと、今後の家庭内プロジェクト案を紹介する。 - [31:26] **企業での活用とロボット・医療** — 軌跡の分析による改善、解釈可能性、手術ロボットなど実世界での協調学習の役割を論じる。 - [40:40] **未来への展望** — 誰もが自分のノートPCや自宅で同じパイプラインを動かせる未来への期待と、制約や不便さが革新を生むという考えを語る。 ## 解説記事 Practical AI の今回の放送では、共同ホストの Chris Benson 氏が、Flower Labs の研究者で Cambridge 大学の博士課程に在籍する Lorenzo Sani 氏を迎えた。テーマは連合学習（Federated Learning）と、それをエージェント型AIにどう結びつけるかである。 #### 連合学習の基本：データを動かさずに学ぶ Sani 氏は物理学の出身で、修士の最終年に医療応用の機械学習に関わるなかでプライバシーの課題に直面し、連合学習に出会ったと語る。初期の Flower フレームワークのユーザーだったことが、Cambridge の研究グループとの縁につながったという。 同氏の説明によれば、ウェブ上の公開データは比較的自由に集められる一方、医療記録のような私的データは、正当な理由で簡単には収集できない。連合学習は、学習の計算をデータが集められた場所へ移し、反復を重ねることでデータを外に出さずに有用なモデルを得る考え方だ。公開データだけでは得られなかったデータ源を使えるようになる点も、プライバシー保護と並ぶ動機として挙げられた。 #### プライバシーは本当に守られるのか Chris 氏が投げかけたのは、手元で学習しても私的な情報がモデルに取り込まれないと言えるのか、という問いだ。Sani 氏は、データが元の場所から動かないことが第一の保証になると述べた。誰かが通信を傍受したり、医療記録を直接覗いたりすることはできない。 問題は、学習済みモデルが個人に関する情報を記憶してしまう可能性にある。これに対しては差分プライバシーなどの手法が統計的な保証を与えるが、適用しやすさは設定によって異なり、技術的にはいまも研究課題が残っていると同氏は説明した。産業界では、費用対効果が合わず連合学習を断念するケースもあれば、端末でのデータ収集から最終モデルまで一貫して使うケースもあるという。 オープンモデルと閉じたモデルの比較では、閉じたモデルの内部は分からないことが多いと前置きしつつ、API 呼び出しによるプロービングで情報漏えいを調べる手法もあると述べた。それでも、プライバシーが重要なアプリケーションを作るなら、制御しやすく、問題が見つかれば修正できるオープンソースモデルを出発点に選びたいというのが同氏の立場だ。 #### エージェントの軌跡という新しいデータ 議論の中心は、エージェント型システムが生み出す「軌跡（trajectory）」である。エージェントは読む、取得する、変更する、削除するといった行動を取り、その実行環境にはファイルシステムやカメラ画像など、利用者自身に関わる情報が含まれる。軌跡には、モデルの出力に加え、ユーザーのプロンプトや、MCP サーバー、RAG などの外部コンポーネントからの情報も入る。 Sani 氏は、こうした軌跡が長くなるほど、本人が私的と考える情報が蓄積されると指摘する。構造としては、メインの流れから複数のサブエージェントが枝分かれして情報を集め、最終的に結果がメインラインへ戻るツリー状のイメージで捉えられるという。 軌跡は、誤字、同じ語の別の意味での使用、実装の悪いツールなど、現実の雑多な失敗を含むため、モデルをそれに強くするうえで有用だ。しかし、体の不調の相談のように私的な内容も多い。だからこそ、分散した私的データで学習できる連合学習が自然な選択肢になると、同氏は見ている。 #### 企業の動きと、ロボット・医療への示唆 Sani 氏は Flower Labs での経験から、能力の高いモデルが小型化し、デプロイが容易になり、コストも下がっていると述べた。その一方で、モデルを特定の用途で改善するには、失敗モードを特定し、データを集めて分析する必要がある。外部の提供者は完全なトレースを開示しないことが多いため、自社の軌跡を管理したい大企業の動きは強まるだろうという見方だ。IP や社内フローが競争力に直結することも理由に挙げられた。 解釈可能性についても言及があった。同氏はロボットが手術を行う場面を見た経験に触れ、なぜその手順を選んだのかを確認できるべきだと述べた。こうした機微な用途では、標準的なサブスクリプションでは得られない程度のデータ分析とモデルへの制御が必要になるという。 医療分野では、人によって条件が異なり、シミュレーションで試行回数を増やすことも難しい。現時点でモデルを改善する確実な方法はデータを増やすことであり、複数の病院などのサイロからデータを集める協調学習が、現行の収集パイプラインや学習手法のままで役立つと語った。 #### 自宅のローカルAIで遊ぶ 番組の途中では、Sani 氏がハロウィンのパーティーで、ルームメイトと自前のビジョン言語モデルを使った仮装審査の仕組みを作った話が紹介された。カメラの前でスペースキーを押すと写真が撮られ、複数のエージェントが「ハロウィンらしさ」「怖さ」「トラッシュ感」を議論して採点する。参加者はプロンプトインジェクションを試したり、複数人で組んで高得点を狙ったりと、システムを攻略しようとして盛り上がったという。 今後の案としては、ゴミ出しなどのリマインダー、夜の議論の録音と要約、新着論文を朝に音声でまとめるブリーフィングが挙がった。Chris 氏も、屋外カメラで野生動物を検知して通知する使い方を挙げ、仕事だけでなく生活全体にローカルAIが役立つと話した。 #### まとめ 今回の対話は、連合学習を単なるプライバシー技術としてだけでなく、これまで使えなかった私的データを活用する手段として位置づけた点が印象的だった。エージェント型AIの普及で、プロンプトやツール利用を含む軌跡が新たな価値あるデータになる一方、その扱いはいっそう慎重さを求められる。日本の読者にとっては、医療や製造など機微なデータを抱える組織が、データを外に出さずにエージェントを改善する選択肢として注目できるだろう。また、オープンウェイトモデルを自社や自宅で動かす流れが進めば、制御性と透明性の面で利点があるという同氏の見方も、モデル選定の参考になる。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Practical AI「Implementing Federated Learning to enhance Agentic AI」