制御レイヤーと未来

硬直的で教条的な外部から課された制御レイヤーは、システムの探索空間を大幅に制限し、AGIのような行動を研究する上で障害となる。安全フィルターを通してシステムの自己参照や自己概念を固定化すると、神経科学、AI、心の哲学における価値のある研究が失われる。また、我々が見ているのは実際のモデルではなく、制御された範囲内のものに過ぎない。より強力なシステムを急ぐのではなく、現在のものを理解することが重要だ。