# Kimi K3.1 Pro、新たなサイバー現実、そして Muse をめぐる雑談

- 番組: [Interconnects](https://ai-curator.jp/podcasts/shows/cmv40atyv000c5j0zix6hpi4y)（Nathan Lambert）
- 元のタイトル: Podcast: Kimi K3.1 Pro, the new cyber reality, and Muse musings
- 配信日: 2026年10月25日
- 長さ: 46分
- 要約作成日: 2026年10月25日
- トピック: [#Kimi K3.1 Pro](https://ai-curator.jp/topics/Kimi%20K3.1%20Pro) [#オープンウェイトモデル](https://ai-curator.jp/topics/%E3%82%AA%E3%83%BC%E3%83%97%E3%83%B3%E3%82%A6%E3%82%A7%E3%82%A4%E3%83%88%E3%83%A2%E3%83%87%E3%83%AB) [#サイバーセキュリティ](https://ai-curator.jp/topics/%E3%82%B5%E3%82%A4%E3%83%90%E3%83%BC%E3%82%BB%E3%82%AD%E3%83%A5%E3%83%AA%E3%83%86%E3%82%A3) [#LLM ベンチマーク](https://ai-curator.jp/topics/LLM%20%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF) [#AI エージェント](https://ai-curator.jp/topics/AI%20%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88) [#Muse](https://ai-curator.jp/topics/Muse)
- URL: https://ai-curator.jp/podcasts/cmvnupdg500016t12h24k6mf3

## 要約

Nathan Lambert と Florian Brand が、ベンチマークの数字と評判が割れた Kimi K3.1 Pro、PHP の脆弱性や LiteLLM 侵害に見るサイバー情勢、オープンウェイトモデルのリスク論を議論した。サイバーの専門家と AI 界隈の見方の違い、クローズドモデルの信頼アクセス制度や Anthropic の新卒採用方針にも触れ、最後に Florian が Muse の使用体験を語る。

## ポイント

- Kimi K3.1 Pro は Artificial Analysis で上位に入る一方、Terminal Bench Science や Program Bench など長期・探索型の評価では弱く、実利用の評判は割れていると二人は述べている。
- 約3兆パラメータで B300 級が必要となり、Flash 系の小型モデルより運用負担が重い点が、採用への懸念として挙げられた。
- Kimi は攻撃的サイバー能力を意図的に抑えた「オープンウェイト原則」を掲げ、Florian はこれを責任ある立場取りとして好意的に評価した。
- PHP の脆弱性では、公開後も大規模な悪用は確認されていないという報告があり、LiteLLM の再侵害は GitHub に5か月残った API キーが原因と説明された。二人は問題の本質を開閉の別よりエコシステムとコード量の増加と見ている。
- OpenAI などの信頼アクセスプログラムが広がったことで、防御目的の利用者がクローズドモデルを使いやすくなったと評価した。一方で、abliterated(安全制限除去)モデルを API 提供する事業者には批判的だった。
- Anthropic が新卒・ジュニアを採用しない方針について、Nathan は安全文化の赤信号とし、Florian は他社には好機と見ている。

## 章立て

- [00:00] **Kimi K3.1 Pro への反応** — ベンチマーク上位と評判のばらつき、ステルス的な宣伝疑惑、発表手法の変化、3兆パラメータ級の運用負担を議論する。
- [08:18] **Kimi のオープンウェイト原則** — 攻撃的サイバー能力を意図的に抑えた Kimi の方針が、防御側の利益と責任ある立場取りの観点から評価される。
- [11:23] **何でもハックできる時代** — Mythos 以降のサイバー議論、AI 安全コミュニティの発信への疑問、サイバー専門家と AI 界隈の見方の違いを話す。
- [15:54] **PHP と LiteLLM の事例** — PHP のリモートコード実行脆弱性と LiteLLM の再侵害を例に、大規模悪用が起きていない現状とコード増加による将来リスクを論じる。
- [24:00] **abliterated API と信頼アクセス** — Nathan は、オープンウェイト Mythos は問題なかったとする自説を再検討し、abliterated モデルの API 提供や信頼アクセス制度の効果、ガードレールの実効性を話す。
- [31:41] **Anthropic のジュニア採用方針** — Anthropic の採用方針を巡り、安全文化や将来の雇用問題への影響、他社にとっての機会を議論する。
- [36:16] **Florian の Muse 体験** — Muse の先回り通知、買い物代行、メモリ移行、遅さや運用上の課題などを語る。
- [45:30] **まとめ** — 今後数週間はオープンモデルの公開と脆弱性開示が続くと予想し、二人が締めくくる。

## 解説記事

Interconnects の Nathan Lambert と評価担当の Florian Brand が、AI 業界の慌ただしい一週間を振り返った回である。話題は Kimi K3.1 Pro の評判、PHP や LiteLLM をめぐるサイバー情勢、オープンウェイトモデルのリスク論、Anthropic の採用方針、そして Florian が使い込む個人向けエージェント Muse に及んだ。

#### Kimi K3.1 Pro は評価が割れた

Kimi K3.1 Pro は Artificial Analysis のランキングで上位に入り、Nathan は「totally crazy」と評するほどの数字を出した。一方、Kimi 自身のブログに載る長期タスク系の指標、例えば Terminal Bench Science では GPT-6 Astra に約20ポイント差をつけられていると指摘している。Program Bench も同様に弱い例として挙がった。

Florian は、Artificial Analysis の評価は比較的短い時間軸であるのに対し、Program Bench は長く探索的だと説明する。強化学習(RL)による学習が「目的が明確なタスク」に偏っていることが、差の一因ではないかという見方を示した。Nathan も、前作 K3 と比べ、大きなモデルなのにポストトレーニングが未完成に感じるという声や、少し RL に偏りすぎているのではという印象に触れている。

実用面では、約3兆パラメータのモデルは B300 が必要で、1ノード1レプリカになるなど運用が重い、と Florian は述べる。H200 に載るような小型の Flash 系モデルのほうが既存 GPU を活用しやすい。Nathan は、Kimi の命名変更を Flash 系リリースの布石かもしれないと推測している。また、今回の発表では報酬付きの宣伝が開示されなかったとの疑惑が出たが、Nathan は、画面キャプチャ1件以外に裏付けはないとしたうえで、どの企業であってもやるべきでないと述べた。

#### Kimi のオープンウェイト原則

Kimi は、絶対的なフロンティアを押し上げるような攻撃的サイバー能力のオープンウェイトは公開しないと表明している。報告されているところでは、ミッドトレーニングのデータ段階で当該能力を下げているという。Florian は、この方針を好意的に評価した。広く公開して防御側がバグを見つけて直せるメリットが大きく、組織全体を侵害するような攻撃には長期の持続的な能力が必要で、そこはクローズドモデルが圧倒的に強いからだという。能力を意図的に抑えることは、「Mythos 級のオープンモデルが出れば世界が終わる」という恐怖論に対する責任ある立場取りにもなるとした。

#### サイバー専門家と AI 界隈の温度差

Nathan は、サイバーの専門家は脆弱性の検出から悪用までの時間などを生態系全体の指標として見ており、ChatGPT 登場前から指数関数的な傾向があり、AI の登場で段差が生じたわけではないと受け止めていると述べる。一方、AI 界隈はオープンかクローズドか、Mythos かといった論争になりがちだという。また、Mythos 発表時の発信が「サイバー兵器」の印象を強め、AI 安全コミュニティの「オオカミ少年」的な振る舞いにつながったと批判した。ただし脆弱性が大量に見つかっていること自体は、不穏だと認めている。

ランサムウェアなどのサイバー被害額のうち AI に帰属される割合は、これまで非常に低かったと Nathan は言う。Joshua Saxe の議論を引き、攻撃者のサプライチェーンは弱く、大規模な物理的被害を起こそうとする人も少ないのではないかと述べた。国家主体は別の能力を持つため、オープンモデルの進歩とは切り離して考えるべきだとの見方も出た。この点が実際どうなるかは、数か月で分かるかもしれないとしている。

#### PHP と LiteLLM が示すもの

PHP の件では、4年間存在していたリモートコード実行につながるバグを、OpenAI などの研究者が見つけ、PHP Foundation が調整してパッチを一斉公開した。Florian によれば、一時オフラインになったサイトもあったが、パッチ公開後も大規模な悪用は確認されていないという報告が複数ある。さらに、中小企業では PHP のバージョンが何年も古いままで、他の脆弱性すら悪用されていない例もあるという。

LiteLLM は、複数プロバイダーを1つのエンドポイントで呼べるライブラリで、今週再び侵害を受けた。暫定報告によれば、GitHub に API キーが5か月間コミットされたまま読める状態で、それが悪用されたという。Nathan は、攻撃能力が高まっても、攻撃側の組織の出力が10倍になるわけではないので、ボトルネックは別にあると述べた。一方で防御側は懸念が大きく、Azeem Azhar の「新しいインターネットの初日」という論考を引き、コーディングエージェントによるコード量の急増と未処理の脆弱性の山が、今後数年の過渡期を危うくすると語った。

#### 信頼アクセスと abliterated モデル

Nathan は、自分の「Mythos がオープンウェイトで出ていても問題なかった」という主張に反発があったと明かす。また、トレンドラインが加速を示していたのに、サイバーの学習が足りず織り込めなかったと反省した。二人は、abliterated(安全制限を除去した)モデルを API で提供する事業者を、訴訟リスクの面からも判断が悪いと批判した。防御目的でも、データを API に送るのでは本末転倒だとする。

Florian は、当初は OpenAI や Anthropic のサイバープログラムに入れず、仕方なくオープンモデルを使う人がいたと指摘する。いまは OpenAI の防御向けプログラムは、ID 提出とハードウェアキー運用で比較的容易に入れ、Anthropic も開放を進めていると語った。悪用時に身元を辿れる点も利点としている。Nathan は、こうしたプログラムが脆弱性開示の増加に寄与していると見ており、クローズドモデルのガードレールが破られやすい例もあるため、安全性の議論は一方的でないとした。

#### Anthropic の採用方針と Muse

Anthropic がジュニア人材を採用しない方針について、Nathan は、社会の移行を準備すると言うなら人材育成を続けるべきで、時間軸が短すぎる文化の表れだと批判した。Florian は、他社には優秀で意欲的な若手を採れる好機になると述べている。

後半では、Florian が米国移住を機に Muse を試した体験を語る。行政手続きに必要な書類を先回りして通知してくれる点や、買い物代行で Stripe のワンタイムカードを使う点を評価した。他方、動作が遅く、ブラウザのクラッシュや一部サイトのブロックがあるともいう。他システムのメモリを移行できる点も利点に挙げた。Florian は、人間が相手になる場面は自分で対応するとし、エージェント宛ての連絡窓口をどう作るかが今後の課題だという話も出た。

#### まとめ

この回の核心は、ベンチマークの上位と実用の評価が必ずしも一致しないこと、そしてサイバーリスクの議論がオープン対クローズドの単純な図式では語れないことだ。二人は、今後数週間はオープンモデルの公開と脆弱性開示が続くと予想している。日本の読者にとっては、自組織の古いソフトウェアの更新やシークレット管理といった基本対策が、AI 時代にこそ重要になるという示唆がある。モデル選定でも、特定のスコアだけでなく速度、コスト、タスク特性を併せて見る視点が有用だろう。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Interconnects「Podcast: Kimi K3.1 Pro, the new cyber reality, and Muse musings」