大規模プロンプトは技術的負債である - データエンジニアリングへの移行

LLMは魔法のジーニーのように扱われがちだが、実際にはソフトウェアコンポーネントとして扱う必要がある。プロンプトエンジニアリングには信頼性の限界があり、次のステップはデータエンジニアリング(実行時の失敗データを収集してファインチューニングする)である。具体的には、Steerを使ってエラーを検出し、その失敗データセットを使ってGPT-4o-miniなどの小さなモデルをファインチューニングすることで、大規模プロンプトの必要性を排除できる。