# Nebius CTOが語る、ハイパースケーラーが目覚める前にAIクラウド市場で先行する戦略 - 番組: [Unsupervised Learning with Jacob Effron](https://ai-curator.jp/podcasts/shows/cmv40atyo00095j0z7enkoxtb)（by Redpoint Ventures） - 元のタイトル: Ep 96: Nebius CTO on Racing the Hyperscalers Before AWS Wakes Up - 配信日: 2026年11月2日 - 長さ: 1時間1分 - 要約作成日: 2026年11月3日 - トピック: [#AIクラウド](https://ai-curator.jp/topics/AI%E3%82%AF%E3%83%A9%E3%82%A6%E3%83%89) [#推論最適化](https://ai-curator.jp/topics/%E6%8E%A8%E8%AB%96%E6%9C%80%E9%81%A9%E5%8C%96) [#NVIDIA](https://ai-curator.jp/topics/NVIDIA) [#ハイパースケーラー](https://ai-curator.jp/topics/%E3%83%8F%E3%82%A4%E3%83%91%E3%83%BC%E3%82%B9%E3%82%B1%E3%83%BC%E3%83%A9%E3%83%BC) [#Disaggregated inference](https://ai-curator.jp/topics/Disaggregated%20inference) [#AIエージェント](https://ai-curator.jp/topics/AI%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88) - URL: https://ai-curator.jp/podcasts/cmvzeia2700022m12pe92qh7o ## 要約 Nebius の CTO である Danila Shtan 氏が Jacob Effron 氏と、AI クラウドの差別化、Yandex 由来の出自、NVIDIA の新チップ立ち上げ、推論最適化について語った回。チップ不足が続く間は AWS や Google が市場を取り切れないという見方を示し、真のボトルネックは「実行力」だと述べている。AI コーディングへの慎重な姿勢や、トークン利用に上限を設けない組織運営にも触れた。 ## ポイント - Shtan 氏は「ネオクラウド」という呼称を嫌い、Nebius は「AI クラウド」だと位置づける。数万 GPU の大規模クラスタと、1 GPU を30分借りるセルフサービス顧客を同じプラットフォームで扱える点を強みとする。 - Yandex 出身のハードウェア運用チームが初期の構築を支えた一方、ソフトウェアは一から書き直した。2024年時点でハード担当は約40〜50人、ソフト組織は約200人で、自社を「ソフトウェアファースト」と説明する。 - 顧客の 95% は素の OSS モデルではなく改変・ファインチューニング済みモデルを動かしており、プルーニングや圧縮など重みの最適化には未開拓の余地が大きいと主張する。 - prefill/decode 分離（Disaggregation）は「皆が語るが、きちんと実践している者はいない」段階で、一部の大口顧客向けに手作業で本番運用している。 - AI 構築の唯一のボトルネックは実行力であり、GPU・電力・変圧器など全てが不足する中で、調達や設備移設を調整できる経験豊富なプロジェクトマネージャーが最も求められると述べる。 - ハイパースケーラーが出遅れたのはチップ不足で社内需要と外部提供の両立が難しく、インフラ改修の投資も事業規模に見合っていないためと分析する。不足が解消すれば本格参入するとみる。 ## 章立て - [01:01] **AIクラウドの差別化と市場観** — 「ネオクラウド」という呼称への反発と、ソフトウェアを強みに AWS や Google Cloud と競う姿勢、今後の需要拡大の見通しを語る。 - [06:17] **Nebius の成り立ちと組織** — Yandex からの分離、ハード運用チームの経験、ソフトウェアを一から書き直した経緯、ソフト中心の組織構成を説明する。 - [10:25] **NVIDIA 新チップの立ち上げ** — 試作段階から仕様が変わり続ける中で、仮想化やラック単位の保守などを整えて顧客に提供する過程を語る。 - [15:33] **顧客の要望とストレージ性能** — ストレージのスループット需要の急増と、ネオラボとエンタープライズ顧客の違い（コンプライアンスや認証）を説明する。 - [19:50] **推論最適化とDisaggregation** — SLA 対応はソフトウェア層で行うこと、prefill/decode 分離の現状、OSS モデル最適化の余地、買収による体制強化を述べる。 - [32:18] **データセンターとボトルネック** — データセンターの内部構成は自社で統制していること、真のボトルネックは実行力であるという見解を語る。 - [38:59] **ハイパースケーラーと市場の未来** — ハイパースケーラーが出遅れた理由、数百社が並存する将来像、ニッチ専業企業が生き残る余地を論じる。 - [52:50] **AI活用の組織運営と今後の注目点** — トークン利用に上限を設けない一方で責任の所在を明確にする方針、規模の過小評価という失敗、エージェントの成果最適化への関心を語る。 ## 解説記事 AI クラウド事業者 Nebius の CTO、Danila Shtan 氏が、Unsupervised Learning のホストである Jacob Effron 氏の番組に登場した。自社の戦略、NVIDIA 新世代チップの立ち上げ、推論最適化の現状、ハイパースケーラーとの競争、AI を使った組織運営まで幅広く語っている。 #### 「ネオクラウド」ではなく「AI クラウド」 Shtan 氏はまず、ネオクラウドという呼称を嫌っていると述べる。同氏によれば、事業を始めた頃は数社だったこの領域が、今では定義次第で300〜500社に膨らんだという。Nebius は自らを「AI クラウド」と位置づけ、競争相手はネオクラウド群ではなく AWS や Google Cloud だと明言した。売上は AWS の1%程度にとどまるが、成長が見込まれる市場に賭けているという。 差別化の核はソフトウェアだと説明する。数万 GPU を一つのクラスタとして使う顧客と、1 GPU を30分だけ借りるセルフサービス顧客を同一のプラットフォームで扱えることが、創業時からの価値提案だった。需要については、今後3年で10倍、場合によっては100倍になりうるとの見方を示した。また、巨大施設の多くは特定企業の社内用途であり、Google、Meta、Microsoft も社内需要と外部提供の間で容量を配分し続けているため、独立系プレイヤーに余地があると語る。 #### Yandex 由来の出自とソフト中心の組織 Nebius は2024年に Yandex からの分離を完了した。Shtan 氏は、数十万〜数百万台のサーバーを運用した Yandex 出身のハードウェアチームが初期の構築と拡張の中核になったと説明する。一方でソフトウェアは一から書き直し、2024年末の新プラットフォーム公開時には、ソフト開発者の相当数が Yandex 出身ではなくなっていた。 同氏によれば、2024年時点でハードの調達・構築・自社サーバー設計・ファームウェア・ネットワークを担うチームは約40〜50人、ソフトウェア組織は約200人だった。暗号資産などから参入した事業者は「GPU を買って動かし、買い手を探す」発想になりがちだが、Nebius は「ソフトウェアファーストの会社」だという。マネージド・ベアメタルやサードパーティサービスの寄せ集めではなく、一貫したクラウド体験を作ることに賭けたと述べている。 #### 新世代チップの立ち上げと顧客像 NVIDIA の新チップの立ち上げは「混沌としている」と、Shtan 氏は笑いながら語る。試作段階の図面を見せられた後に仕様が変わり、実機サンプルが以前の説明と違うことも珍しくない。AI 市場の速度が速く、NVIDIA 自身も反復を続けているためだという。サンプルが実機に近づいた段階で、仮想化、ストレージ、ネットワークの隔離を整える。世代によっては最初期に大規模クラスタを構築し、未知の不具合を NVIDIA に報告してパッチを提案したこともあったという。GB300 のようなラック単位の製品では、サーバー単位ではなくラック単位の保守方法を考える必要があると説明した。 顧客については、性能面の要求は大きく変わらないとする。数年前にはストレージの重要性を過小評価していたが、現在は一つの共有ボリュームに対して毎秒500〜700GB のスループットを求める顧客もいるという。最も厳しい要求に合わせれば、ほとんどの顧客を捌ける。違いが出るのは成熟度で、数十億ドル規模のシード資金を調達したネオラボは GPU の性能と可用性以外にはあまりこだわらない。対してエンタープライズ顧客は認証、コンプライアンス、セキュリティ審査を求めるため、「本物のクラウド」としての整備が必要になると述べた。 #### 推論最適化はまだ道半ば prefill と decode を分けて処理する Disaggregation（分離型推論）について、Shtan 氏は「誰もが語るが、きちんとやっている者はいない」段階だとみる。運用が難しく SLA を保証しにくいため、全顧客向けの標準解にはしていない。ただし最も要求の厳しい顧客向けには、手作業中心で本番運用している例がある。Grace Blackwell のようにラック内の相互接続が高速な構成では、従来の課題の多くが緩和されるとも述べた。 より根本的な点として、同氏は業界全体として推論は最適化されていないと強調する。OSS モデルを公開されたまま動かしても、速度もコストも期待外れになりやすい。カーネル最適化、投機的デコーディング、プルーニングや圧縮など改善余地は大きい。同氏によれば顧客の95%は素のモデルではなく、改変や微調整を施したモデルを使っている。用途を絞れば、フロンティア級の知能を保ちつつ小さなモデルで済む可能性があり、企業の実運用ではコストより結果の予測可能性や所要時間が重視されるようになると見ている。Nebius は夏の初めにモデル最適化の人材を持つ企業を買収し、関連チームを倍の規模にしたという。Web 検索の Tavily の買収も、エージェント向けの部品を揃える狙いとして語られた。 #### ボトルネックとハイパースケーラーの出遅れ AI 構築のボトルネックを問われた Shtan 氏の答えは「実行力ただ一つ」だった。GPU、CPU、NVMe、電力、人手、ネットワークトランシーバー、変圧器（納期は数年）など、あらゆるものが不足している。その状況で調達し、時に妥協し、設備間で資源を動かす力が競争優位になる。経験豊富なプロジェクトマネージャーの需要が過去最高だとも述べた。 ハイパースケーラーが市場を取り切れていない理由としては、チップ不足を挙げる。NVIDIA が10倍のチップを供給できていれば市場の形は違ったはずで、供給が限られる中では社内の学習・推論需要が優先される。AI クラウドは彼らにとって比較的小さな事業であり、ネットワークやストレージを含めた大規模なインフラ改修は、事業規模に見合っていないという。ただし不足が解消する2〜5年後には本格参入するはずだと予想し、Nebius はそのとき対等に戦える規模に育つことに賭けている。 #### 市場の将来と組織運営 将来像として Shtan 氏は、AWS の隣に Hetzner や DigitalOcean が並存するように、数百の事業者が残ると予想する。データベース分野でも Snowflake や MongoDB、ClickHouse のようにニッチな独立企業が成功しており、市場が巨大なら「ニッチ」は小規模を意味しないと述べた。OpenAI と Baseten の提携についても、一つの接点に顧客を留めるための柔軟な動きだと評価している。 社内の AI 活用では、トークン利用に個人・部門単位の上限を設けていない。一方で、エージェントが生成したものでも成果物の責任は本人にあり、完全自律のエージェントが作ったものは明示し、中核サービスには当面触れさせないという慎重な方針を示した。最大の誤算は規模の過小評価で、30MW のデータセンターでも1顧客に足りない時代になったと振り返っている。今後の関心は、モデルの巨大化ではなく、エージェントが成果に至る確率を高める、モデル外側のハーネスやツールの最適化にあるという。 #### まとめ 本回は、AI インフラ事業者の視点から、GPU を確保するだけでは競争力にならないという主張を具体的に示している。ソフトウェアによる統合、ストレージ性能、エンタープライズ対応、推論最適化といった層が重要になるという見方である。日本の読者にとっては、OSS モデルの改変・圧縮が実運用の中心になりつつあるという指摘や、AI 活用に上限を設けず責任を明確にする運営方針が参考になるだろう。なお、ハイパースケーラーの動向や市場の将来像は Shtan 氏の見方であり、当事者としての期待が含まれる点には留意したい。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Unsupervised Learning with Jacob Effron「Ep 96: Nebius CTO on Racing the Hyperscalers Before AWS Wakes Up」