ローカルLLMでのAST由来の文脈情報活用による幻想的なインポートの削減

TypeScript + Reactのリポジトリでローカルモデルを使用していると、プロジェクトが数ファイルを超えると、モデルが存在しないインポートやコンポーネントを幻想的に生成する問題が発生する。生のソースファイルではなく、TypeScriptのASTから決定論的な構造表現(コンポーネント、フック、依存関係)を抽出し、それをコンテキストとして使用することで、構造的な幻想を大幅に削減し、トークン使用量も削減できることが分かった。ローカルLLMのコードベースコンテキストの処理方法として、生のファイル、要約、埋め込み+検索、ASTやIRベースのアプローチなどが考えられる。

Like
Save
Read original
Cached
Comments
?

No comments yet

Be the first to comment

AI Curator - Daily AI News Curation

AI Curator

Your AI news assistant

Ask me anything about AI

I can help you understand AI news, trends, and technologies