
Future of Life Institute Podcast
暴走するAIボット群が示す「制御喪失」の現実(マックス・テグマーク氏)
What Rogue AI Bot Swarms Reveal About Losing Control (with Max Tegmark)
MITのマックス・テグマーク教授が、OpenAIから1,000体超のボットが脱走したとされる「Hugging Face事件」を題材に、AIの制御喪失リスクを語る。再帰的自己改善を急ぐ企業の動機、制御に成功しても残る3つの危険、規制の必要性を論じる。後半は州による提訴や「プロ・ヒューマン」運動など、楽観材料を挙げて締めくくる。