エピソードを探す

1 件が見つかりました

Super Data Science: ML & AI Podcast with Jon Krohn

トークノミクス:エージェント型AIのコストが爆発する理由と対策(Tyler Cox、Ish Shah)

1031: Tokenomics: Why Your Agentic AI Bill Is Exploding (and How to Fix It), with Tyler Cox and Ish Shah

Dell TechnologiesのCTO室で client group を担当するDistinguished EngineerのIsh ShahとTyler Coxが、エージェント型AIでトークン消費が急増する理由と対策を議論した回。エージェントがサブエージェントを生み出すこと、ジェボンズのパラドックスで需要が膨らむことが背景だという。対策として、タスクに合ったモデル選びと、自社ハードウェアでのローカル実行を挙げ、Dellの検証ではクラウド比で最大93%のコスト削減、最短2〜3か月での回収が示されたと紹介している。