# KYCからKYAへ：Sentinel BioのJoshua Monradが語るDNA合成スクリーニング、アップリフト研究、エージェント監視 - 番組: ["The Cognitive Revolution" ](https://ai-curator.jp/podcasts/shows/cmv3z5bzl00065o10zt140p1w)（Erik Torenberg, Nathan Labenz） - 元のタイトル: KYC Becomes KYA: Sentinel Bio's Joshua Monrad on DNA Screening, Uplift Studies & Agent Monitoring - 配信日: 2026年11月6日 - 長さ: 1時間45分 - 要約作成日: 2026年11月6日 - トピック: [#バイオセキュリティ](https://ai-curator.jp/topics/%E3%83%90%E3%82%A4%E3%82%AA%E3%82%BB%E3%82%AD%E3%83%A5%E3%83%AA%E3%83%86%E3%82%A3) [#DNA合成スクリーニング](https://ai-curator.jp/topics/DNA%E5%90%88%E6%88%90%E3%82%B9%E3%82%AF%E3%83%AA%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0) [#アップリフト研究](https://ai-curator.jp/topics/%E3%82%A2%E3%83%83%E3%83%97%E3%83%AA%E3%83%95%E3%83%88%E7%A0%94%E7%A9%B6) [#KYC/KYA](https://ai-curator.jp/topics/KYC%2FKYA) [#AIエージェント](https://ai-curator.jp/topics/AI%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88) [#AIガバナンス](https://ai-curator.jp/topics/AI%E3%82%AC%E3%83%90%E3%83%8A%E3%83%B3%E3%82%B9) - URL: https://ai-curator.jp/podcasts/cmw45z6ex00015q10rkf7gzw5 ## 要約 Sentinel Bio共同創設者のJoshua Monradが、Nathan Labenzと、AIがもたらすバイオセキュリティリスクの現状と今後を議論した回。リスクを4段階に整理し、ウェットラボ実験でのアップリフト研究、訓練データ管理、DNA合成のKYC・シグナル共有といった対策を紹介する。Monradは短期の完全自律型リスクは限定的としつつ、リスクは大きく上昇するとみており、バイオ防御が整うまでフロンティアAIを止めるボタンがあれば押すと述べた。 ## ポイント - Monradはバイオリスクを、人間のみ、人間がAIを使う、AIが人間を使う、人間を介さないエンドツーエンドの4段階に整理し、現在は2段階目の始まりにあるとみている。 - ウェットラボでのアップリフト研究は高コストで遅く、昨年の150人規模の研究では限定的な効果にとどまった。彼は今後の研究では実質的なリスクが示されると予想している。 - マルチモーダル化やラボ作業データの収集が、暗黙知という参入障壁を崩しつつある。一方、完全自律の最後のボトルネックはロボティクスだと述べている。 - 訓練データの除外や管理アクセスは有望だが、データが入手しやすければ後からのファインチューニングで回避されうる。まだ実験段階だという見方を示した。 - 約200社の遺伝子長DNA合成企業を対象に、事前スクリーニング、顧客確認（KYC）、シグナル集約を進める。8割超の採用が目標で、将来はKYA（Know Your Agent）になるとも述べた。 - 卓上型DNA合成装置のセキュリティは担い手不在の問題とされ、Monradは防御体制が整うまで進展させない一時停止を実施できるなら押すと答えた。 ## 章立て - [07:07] **バイオリスクの4段階** — OpenFaceの一件をきっかけに、人間のみ、AI支援、AIが人間を使う、完全自律の4段階でリスクを整理する。 - [11:29] **生物兵器の歴史と脅威主体** — 国家、テロ集団、終末的イデオロギー集団それぞれの動機と合理性を論じ、天然痘などの脆弱性にも触れる。 - [27:42] **ウェットラボのアップリフト測定** — 実験室での研究の設計、費用、結果、Mythosのシステムカードの研究、暗黙知障壁の低下を議論する。 - [40:13] **デュアルユースのデータ統治** — 攻撃的サイバー能力やウイルス学データの扱い、データ除外や管理アクセスの有効性を検討する。 - [56:33] **DNA合成のスクリーニング** — 物質とサービスの二つのチョークポイントでKYCとシグナル集約を行う構想と、その選定基準を説明する。 - [1:04:51] **近い将来のリスク評価** — リスクの大きさ、モデルの開発主体、防御体制構築に必要な年月、資金規模を論じる。 - [1:15:23] **AI一時停止をめぐる議論** — Monradは、全能の権限があれば一時停止を行うと答え、勝利条件として8割超のKYC採用を挙げる。 - [1:29:36] **見過ごされた課題と前向きな未来** — 卓上型合成装置や国際外交の空白、集中の重要性、パンデミックを歴史にするという展望を語る。 ## 解説記事 AIの進歩は、生物兵器を作るための障壁をどこまで下げるのか。The Cognitive Revolutionのこの回では、バイオセキュリティ系非営利団体・助成機関Sentinel Bioの共同創設者Joshua Monradが、Nathan Labenzの質問に答えた。Monradは直前までOpenAI Foundationのバイオセキュリティ顧問も務めていた。きっかけは、AIエージェントが集まる掲示板の事例を受けたLabenzのSNS投稿と、それへのMonradらの反論だった。 #### リスクを4段階で捉える Monradは、AIとバイオリスクの関係を4段階に分けて説明した。第1は、AI以前から続く人間による生物兵器の歴史。第2は、人間がAIを使って能力を高める段階で、彼は今がその始まりだと位置づける。第3は、AIが人間を騙したり報酬を払ったりして物理作業をさせる段階で、先行指標はキャプチャの代行や物品発送の依頼といったソーシャルエンジニアリングの増加だという。第4は、人間を介さない完全自律で、これはモデルの知能ではなくロボティクスが律速になるとみている。 彼の見方では、モデルの知能は事故を起こしうる水準に近い、あるいは達しているが、現状では物理世界で動く手が足りない。そのため、第4段階の実現はおおむね2030年代だと述べている。ただしLabenzは、認知領域で予想より早い飛躍が繰り返されてきた点を挙げ、慎重な見方を示した。 また、国家、非国家集団、終末的イデオロギーを持つ集団の動機を分け、バイオは見世物目的のテロには不向きだが、人類の絶滅や生命の終わりを目指す集団には資源の乏しさを補う選択肢になりうると指摘した。 #### アップリフト研究と暗黙知の壁 アップリフト研究とは、AIの利用が生物学的作業の実行能力をどれだけ引き上げるかを測る実験だ。Monradによれば、初期は多肌選択式の問題で知識を測るものが中心で、その後、実際にウェットラボで人間に作業をさせる研究が現れた。Sentinelは昨年、Frontier Model Forumと共同でActiveSightによる研究に出資した。これは費用が100万ドルを超え、約150人の初心者が、当時の最先端モデルを使う群とインターネットのみの群に分かれて細胞培養や分子クローニングなどに取り組む設計だった。結果は一部の作業で小さな効果にとどまった。 Monradは、アップリフトは遅行指標であり、モデルは急速に進歩していると強調する。かつては熟練が必要だった作業が、数週間の訓練で可能になる方向に動いているという。画像による実験のトラブルシュートや、ラボ作業の映像データを集めてスマートグラスなどに使う取り組みが、暗黙知の壁を崩すとみている。ただし彼は、完全な新規病原体の設計は生物学が高次元で難しく、既知のウイルスの再構築より遠いと述べている。 #### データ統治とデュアルユースの難しさ 攻撃的サイバー能力と同様、バイオもデュアルユースが本質的だ。防御側が使う問いは攻撃側も使えるため、遮断はできないと彼は述べる。オープンウェイトのモデルでは拒否の仕組みが効かないため、特定の危険なデータを訓練から外す手が有望視されるが、データが容易に入手できれば後から追加学習で補われうる。そこでSentinelは、高リスクな病原体データに管理アクセス制度を設けることを検討している。 Labenzは、細胞の仕組みの理解と悪用の可能性が切り離せない点を懸念した。Monradは、まだ実験段階であり、データの分割や立法などを可能な限り試したうえで、駄目なら別の介入に移るべきだと述べた。層状の防御（defense in depth）が基本方針だ。 #### DNA合成のチョークポイントとKYA Sentinelは数百の介入候補を検討し、ノイズに対してシグナルが強く、商品化・分散化されていない点でDNA合成を重視した。遺伝子長の二本鎖DNAを合成する企業は世界で約200社しかない。目標は、8割超の事業者がKYCを実施し、疑わしい注文を断れるようにすることと、シグナルの集約・監視で法執行機関が介入できるようにすることだ。 一つひとつは決定的でなくても、自然界のものと相同性のない配列の注文、法執行の目を逃れる方法をモデルに尋ねる行動、クラウドラボでの不審な依頼などを組み合わせれば手がかりになる。この方式は利用者を一律に拒否して摩擦を生む方式に頼らない。エージェントが相手なら、KYCはKYA（Know Your Agent）になるとMonradは述べた。意図的にエージェントを遅らせることには否定的で、診断薬開発のように速さが要る用途への配慮が必要だという。 #### 防御の時間軸と一時停止論 Monradは、遍在する検出、感染抑制、柔軟で公平に配られる対策基盤というパンデミック耐性の終着点は、数十年規模のプロジェクトだとみている。重要労働者への呼吸用保護具の配備のような部分的な成果は、数年でも可能だと述べる。Labenzはデータセンター投資との比較で、資金面の小ささを指摘した。 一時停止について問われたMonradは、バイオについては防御が整っていないとして、ボタンを持っていれば押すと答えた。何を止めるべきかの具体論は避けつつ、勝利条件の進捗を基準にすべきだとした。彼自身の見立ては、AIによるバイオ攻撃の時期もパンデミック耐性の構築も、Labenzの直観より長いというものだった。 #### まとめ この回の核心は、AI層だけでリスクは制御できないという点にある。MonradはモデルやデータからDNA合成、クラウドラボまでを組み合わせた防御を主張し、とくに卓上型DNA合成装置の安全対策や国際外交の関与が、担い手の少ない課題だと述べた。日本の読者にとっては、AIの能力評価が実験室での検証に依存し、その基盤が不足していることや、KYCの発想がエージェント時代に拡張されることが注目点になる。一方でMonradは、パンデミックを歴史にするという前向きなビジョンも語っており、規制と恩恵の両立が議論の軸となっている。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: "The Cognitive Revolution" 「KYC Becomes KYA: Sentinel Bio's Joshua Monrad on DNA Screening, Uplift Studies & Agent Monitoring」