数学専攻から2年で1.5B規模のルーターモデルを開発

AI開発者向けのモデルルーティングツールを開発した起業家の話。従来のルーターは特定のベンチマークを最適化するが、ユーザーの主観的な評価基準を反映できない。一方、自社のArch-Router 1.5Bは、ポリシーベースのルーティングを提供し、開発者が特定のタスクに最適なモデルを自動選択できる。Hugging Faceがこのツールを導入し、1M以上のユーザー対応を行っている。