"The Cognitive Revolution"
ニューロン基底：Goodfire の Curt Tigges が語るエージェント型解釈性、単義性、リバースエンジニアリング
The Neuron Basis: Goodfire's Curt Tigges on Agentic Interp, Monosemanticity & Reverse Engineering
Goodfire の Curt Tigges が、現代の LLM の MLP 内の個々のニューロンは従来考えられていたよりずっと解釈しやすいという研究を解説する回。Qwen3.6-35B-A3B を対象に、ゲート付き MLP の構造、約9割のニューロンを落としても性能がほぼ保たれるスパース性、自動エージェント「neuron scientist」による説明生成と検証を議論する。名詞ではなく動詞・制御フローとしてニューロンを捉える見方や、監視・ペルソナ操作への応用、残る課題も語られる。