"The Cognitive Revolution"
AI:AM ハンドルはどこにある？エージェントが設定したパスワード、隠れたバレンス、証明で見つかるLinuxバグ
AI:AM: Where's the Steering Wheel? My Agent Set the Password, Hidden Valence, Proofs Find Linux Bugs
Nathan LabenzとPrakash Narayananが、AIエージェントに運用権限を渡しつつ人間の制御を保つ方法を議論した週次ハイライト回。Cameron Bergは言語モデル内部の「隠れたバレンス」が選択を左右する研究を、Runtime VerificationのEverett HildenbrandtとGrigore RosuはLLMと形式検証でLinuxカーネルのバグを見つけた事例を紹介した。8mm映像アーカイブのデータ需要や、モデル選択における信頼性の重視、「ハンドルを残すべきか」という議論も扱われた。