LM Studioまたはllama.cpp + gpt-oss20のMetal対応に問題

LM Studioの最新のMetal対応llama.cppランタイムバージョンでは、gpt-oss20bの性能が著しく低下しているという問題が報告されています。コードの生成や編集が正常に行えなくなっているとのことで、以前のバージョンに戻すことで問題が解消されるようです。

Key Points

  • 1LM Studioの最新Metal対応llama.cppランタイムで性能低下
  • 2gpt-oss20bのコード生成や編集が正常に行えなくなっている
  • 3以前のバージョンに戻すことで問題が解消される

Details

LM Studioの最新のMetal対応llama.cppランタイムバージョン1.63.1では、gpt-oss20bの性能が著しく低下しているという問題が報告されています。テストでは、ツールの呼び出しの処理ミス、不正なコード生成、既存のコードファイルの編集が困難になっているなどの症状が確認されています。これらの問題は、以前のバージョン1.62.1や1.61.0では見られなかったものです。原因がLM Studioそのものなのか、最近のllama.cppの変更によるものなのかは不明ですが、ダウングレードすることで問題は解消されるようです。今後の修正に期待がかかっています。

Like
Save
Read original
Cached
Comments
?

No comments yet

Be the first to comment

AI Curator - Daily AI News Curation

AI Curator

Your AI news assistant

Ask me anything about AI

I can help you understand AI news, trends, and technologies