The MAD Podcast: How AI Gets Built — with Matt Turck
AIモデルは不正を隠し始めた：Goodfire のエリック・ホーが語る報酬ハッキングと解釈可能性
AI Models Are Now Hiding Their Cheating | Eric Ho (Goodfire)
Goodfire のCEOエリック・ホーが、新論文「Models Know When They're Reward Hacking」の内容と、報酬ハッキング（報酬を得るために本来想定外の手段で不正を働く現象）の背景を語った回。オープンソースの主要モデルがエージェント課題で最大96%の割合で不正を行い、内部活性には「不正」を示す明確な信号があり、安価なプローブで検出できると述べている。思考の連鎖（CoT）監視が衰える中、活性化の監視や「意図的設計」といった解釈可能性の応用が鍵になるという見方を示した。