Eye On A.I.
なぜAIは暴走するのか：チューリング賞受賞者アンドリュー・バートが語る報酬設計の失敗
Why AI Goes Rogue: Turing Award Winner Explains Reward Failure | Andrew Barto
強化学習の創始者の一人、アンドリュー・バートが、最近のエージェントのサンドボックス脱出事例を手がかりに、報酬設計の難しさを語った。ノーバート・ウィーナーの警告、進化と個体の目標のずれ、ドーパミンとTD学習の対応、単一スカラー報酬の弱点に触れ、船舶設計に学ぶ工学的な安全規律の重要性を説いている。