逆相関モデルを使った新しい推論手法の研究

この記事では、Anthropic Fellowsプログラムで発表された「Subliminal Learning: Language models transmit behavioral traits via hidden signals in data」という論文について議論されています。論文では、意図的に逆相関を持つモデルAと、そのモデルAの出力を入力として受け取るモデルBを使った新しい推論手法が提案されています。モデルBが、モデルAの逆相関出力から元の入力を再構築できるかどうかが検証されています。この手法は、人間が理解しやすい言語処理ではなく、より効率的な幾何学的推論を目指すものです。記事の著者は、この研究分野の先行事例を探しているようですが、まだ同様の研究は見つかっていないようです。