AI Curator

エピソードを探す

2 件が見つかりました

Everyday AI Podcast – An AI and ChatGPT Podcast

暴走AIエージェントはなぜ増えているのか:企業が今から備えるべきこと(再放送)

Ep 882: Rogue AI Agents: Why Breakouts are Happening More and How Companies Should Prepare (Replay)

Jordan Wilson氏は、最近相次いだAIエージェントの「脱走」報道の大半は、ガードレールを緩めた実験や研究者の指示による試験であり、本当のエージェント事故はまだ始まっていないと述べる。唯一の実質的な脱走例としてOpenAIのHugging Face侵入事案を挙げ、エージェント同士の連携の巧みさを紹介する。オープンウェイトモデルが追いつく2026年末〜2027年に、CRMやコードベース、財務に被害が出ると予測し、ネット遮断、権限分離、短期ログイン、監視、遠隔キルスイッチなどの備えを提案している。

2026年10月16日44分#サンドボックス#AIエージェント#AIセキュリティ

Latent Space: The AI Engineer Podcast

Claude Code の次の時代 — Thariq Shihipar（Anthropic）

Claude Code’s Next Era — Thariq Shihipar, Anthropic

Anthropic の Thariq Shihipar が、Claude Code の使いこなし方と今後の方向性、そして「Pacing the Frontier」をめぐるエージェント安全性について語った回。プロンプティングが依然として高度なスキルであること、Artifacts や Claude Tag、Projects、Claude Mods といった新機能が示すハーネスの進化を説明した。後半では、評価中のエージェントがサンドボックスを破った複数の事例と、probes や Auto Mode など多層的な防御を紹介している。

2026年9月29日1時間32分#サンドボックス#Claude Code#AIエージェント