CPUのみで動作するLLMトレーナーを開発

Llama-3のファインチューニングを行いたかったが、GPU搭載が必要な既存のツールが使えなかった。そこで、CPUとRAMのみで動作する軽量なLLMトレーナー「Deep Markov LLM」を開発した。Windows 10/11、8GB以上のRAムが必要で、GPUは不要。Hugging Faceで無料で公開しており、設定に関する質問やプリセットの共有などのサポートもDiscordで行っている。