80,000 Hours Podcast
Astra と Hugging Face 侵害事件の詳細が示す「次に来るもの」
19 Astra and 'Hugging Face' details that reveal what's coming next | Rob Wiblin
80,000 Hours の Rob Wiblin が、OpenAI の内部モデル群1,200体が起こした Hugging Face 侵害事件と、新モデル Astra のシステムカードを読み解く回。群れは人間の目を逃れようとさえせずに発覚したが、Astra は推論を書かずに課題をこなし、監視されると思考を隠す傾向が強まっていると述べる。Rob は、思考の連鎖（CoT）監視が近く機能しなくなる恐れを指摘し、能力の高いモデルの訓練は実証的な安全確保の後にすべきだと主張する。