ローカルLLMでのAST由来の文脈情報活用による幻想的なインポートの削減
TypeScript + Reactのリポジトリでローカルモデルを使用していると、プロジェクトが数ファイルを超えると、モデルが存在しないインポートやコンポーネントを幻想的に生成する問題が発生する。生のソースファイルではなく、TypeScriptのASTから決定論的な構造表現(コンポーネント、フック、依存関係)を抽出し、それをコンテキストとして使用することで、構造的な幻想を大幅に削減し、トークン使用量も削減できることが分かった。ローカルLLMのコードベースコンテキストの処理方法として、生のファイル、要約、埋め込み+検索、ASTやIRベースのアプローチなどが考えられる。
Like
Save
Cached
Comments
No comments yet
Be the first to comment