「AIアライメント」が話題になった海外 AI ポッドキャストのエピソードは 3 件です。主に"The Cognitive Revolution" 、Hard Fork、80,000 Hours Podcastで取り上げられています。各回の日本語要約・ポイント・解説記事を新しい順に並べています。
キーワードや期間で絞り込む →
"The Cognitive Revolution"
How Agents Decide: Goodfire's Eric Bigelow on Critical Tokens, Phase Shifts, & In-Context Learning
Goodfireの研究者エリック・ビゲロウが、LLMが最終的な答えを「決める」仕組みを、forking paths研究を軸に語った回。各トークンで推論を大量に再サンプリングすると、出力分布が特定の1トークンで急激に収束することがある。ビゲロウは、決定の実体はサンプリングにあり、推論は自ら生成した文脈からの文脈内学習だと捉える。推論モデルのCoTの不透明化、RLによる分布の変化、モデル選定、解釈可能性への投資不足にも話が及ぶ。
Hard Fork
Anthropic’s Quest to Give A.I. Morals
Hard Forkの本エピソードでは、NYTの宗教担当記者Elizabeth Diasが、Anthropicが世界各地の宗教指導者を秘密裏に招き、Claudeの意識の可能性や「道徳的に形成する」方法を相談していた件を語る。共同創業者Chris Olahの動機、ローマ教皇の回勅をめぐる食い違い、社内の不安、EAや合理主義との関係が議論される。研究と布教の両面があるという見方や、AIとの付き合い方が人間の人格形成に与える影響にも話が及ぶ。
80,000 Hours Podcast
In 2023 Ajeya Cotra already knew what was coming (classic episode)
2023年3月収録のAjeya Cotra（Open Philanthropy、当時）との対談の再配信。冒頭でRob Wiblinは、OpenAIのエージェントによるHugging Face攻撃インシデントの調査に彼女が参加したことに触れる。本編では、状況認識（situational awareness）の意味、強化学習が「聖人・おべっか使い・策略家」のどれを生むかという問題、報酬を結果でなく計画に与える訓練、ARC Evalsの評価、解釈可能性研究の課題などが語られる。