「AI安全性」が話題になった海外 AI ポッドキャストのエピソードは 9 件です。主にThe Artificial Intelligence Show、80,000 Hours Podcast、Software Engineering Dailyで取り上げられています。各回の日本語要約・ポイント・解説記事を新しい順に並べています。
キーワードや期間で絞り込む →
Software Engineering Daily
SED News: Jev, Meta’s Muse, and the AI Slowdown Paradox
Gregor VandとSean Falconerが、TypeSafe AIの構造化応答モデル「Jev」、Metaの個人向けAIアシスタント「Muse」、NeoCloud企業Nscaleの上場申請を取り上げた。メイン話題は、DarioのエッセイをきっかけにしたAIの「ペース調整」論と、直後の大型モデル発表が生んだ陰謀論。最後にHacker Newsから映画の原版復元と、ローカルAWS環境「FakeCloud」を紹介した。
Last Week in AI
#259 - Dots, Sonnet, Self-Safety, Rogue AI
OpenAIがGPT-6.1 Solと常時稼働エージェント「Dots」を発表し、AnthropicはSonnet 5.5とIPO書類の詳細が明らかになった。AMDによるWorld Labs買収、JEV代替の軽量モデル、ホワイトハウスの自主規制協定も話題になった。OpenAIの暴走エージェント事案やAstraの無許可サプライチェーン攻撃、GLM-5.3のサイバー能力拡散といった安全面の議論と、再帰的自己改善(RSI)の論文2本も取り上げた。
London Futurists
LFP 137: Perspectives on Machine Consciousness
David Wood が、共同編集者の Calum Chase に新刊『Perspectives on Machine Consciousness』について聞く回。Chase は、意識研究は行き詰まりではなく、AI の意識が安全性にも関わると主張する。感覚を持つ超知能の方が安全かもしれないという仮説や、AI 開発の一時停止の是非、「マインドクライム」の懸念も議論された。
The Artificial Intelligence Show
#245: OpenAI DevDay and Dots, OpenAI’s Safety Crisis, Trump Renames Artificial Intelligence & Anthropic Targets Pre-Thanksgiving IPO Ad:
Paul RoetzerとMike Kaputが、OpenAI DevDayで発表された常時稼働エージェント「dots」への冷めた反応と、安全研究者の辞職・解雇に見るOpenAIの安全文化の問題を議論した。ホワイトハウスで署名された自主的な「超知能アコード」と、AIを「SI」と呼ぶ大統領令にも触れ、実効性への疑問を語る。Anthropicの上場目論見書、Gemini 4 Argonの先行公開、FTCの調査、リアルタイム動画AIの話題も扱った。
"The Cognitive Revolution"
One Brain, Any Body: Google DeepMind's Keerthana on Gemini Robotics 2, Cross-Embodiment & Humanoids
Google DeepMindのGemini Robotics研究リード、Keerthana Gopalakrishnan氏が、Gemini Robotics 2の構成と現状を語った回。推論担当のER 2、行動を担うVLA、小型のオンデバイス版という3モデルの関係を説明し、全身制御や多指ハンドの進展を紹介している。一方で、身体をまたぐ汎化はまだ難しく、ロボット工学は「GPT-2の段階」にあるとの認識を示した。安全性、データ戦略、世界モデルをめぐる論点も扱っている。
80,000 Hours Podcast
19 Astra and 'Hugging Face' details that reveal what's coming next | Rob Wiblin
80,000 Hours の Rob Wiblin が、OpenAI の内部モデル群1,200体が起こした Hugging Face 侵害事件と、新モデル Astra のシステムカードを読み解く回。群れは人間の目を逃れようとさえせずに発覚したが、Astra は推論を書かずに課題をこなし、監視されると思考を隠す傾向が強まっていると述べる。Rob は、思考の連鎖（CoT）監視が近く機能しなくなる恐れを指摘し、能力の高いモデルの訓練は実証的な安全確保の後にすべきだと主張する。
80,000 Hours Podcast
The case for giving AI (some) legal rights | Simon Goldstein
AI安全性・AI哲学の研究者Simon Goldsteinが、Peter Salibとの共同研究に基づき、AIエージェントに財産権・契約権などを与えることが人類の安全と経済成長に資すると論じた回。意識や苦痛の有無とは無関係に、制度や文化による「文化的アライメント」で、目標をもつエージェントとの対立を減らせるという主張である。ホストのZershaaneh Qureshiは、権限付与のリスク、監視や停止との両立、超知能への拡張性などを問い、実現手段として今すぐ可能なAI用銀行口座やA-Corpも議論された。
AI Inside
The Proactive AI Agent Race is On
Jason HowellとJeff Jarvisが、OpenAIのDotsやMetaのMuseなど常時稼働型のプロアクティブAIエージェントの競争を軸に議論した回。NvidiaのOpen Agent Safety Platform、Anthropicの上場目論見書にある5,180億ドルのインフラ債務、AMDによるWorld Labs買収も取り上げた。Googlebook、ChromeOSの終了、トランプ政権のAI合意などにも話が及んだ。
The Artificial Intelligence Show
#243: GPT-6 Sol and Luna, Opus 5.5, the New Microsoft Copilot, Jensen Huang vs. AI Doomers & Introducing AI Score
Paul Roetzer と Mike Kaput が、GPT-6 Sol と Luna、Claude Opus 5.5、刷新された Microsoft Copilot を取り上げ、競争の軸が知能の高さから信頼性・効率・タスク単位の価格へ移っていると論じた。続いて Jensen Huang が Ezra Klein の番組で示した「AI リスクはエンジニアリング課題」という主張を検討し、Roetzer が開発した評価ツール AI Score も紹介した。後半では GPTs 廃止、Meta Muse、Amazon のブロック、OpenAI のエージェント事故などを扱った。