# オープンモデルとサイバーリスクについて、私は間違っていたのか？ - 番組: [Interconnects](https://ai-curator.jp/podcasts/shows/cmv40atyv000c5j0zix6hpi4y)（Nathan Lambert） - 元のタイトル: Was I wrong about open models & cyber risks? - 配信日: 2026年10月31日 - 長さ: 9分 - 要約作成日: 2026年11月2日 - トピック: [#オープンウェイトモデル](https://ai-curator.jp/topics/%E3%82%AA%E3%83%BC%E3%83%97%E3%83%B3%E3%82%A6%E3%82%A7%E3%82%A4%E3%83%88%E3%83%A2%E3%83%87%E3%83%AB) [#サイバーセキュリティ](https://ai-curator.jp/topics/%E3%82%B5%E3%82%A4%E3%83%90%E3%83%BC%E3%82%BB%E3%82%AD%E3%83%A5%E3%83%AA%E3%83%86%E3%82%A3) [#LLM](https://ai-curator.jp/topics/LLM) [#AI安全性](https://ai-curator.jp/topics/AI%E5%AE%89%E5%85%A8%E6%80%A7) [#脆弱性](https://ai-curator.jp/topics/%E8%84%86%E5%BC%B1%E6%80%A7) [#Claude Mythos](https://ai-curator.jp/topics/Claude%20Mythos) - URL: https://ai-curator.jp/podcasts/cmvyki8o700006y110clowty6 ## 要約 Interconnectsの筆者は、数週間前に「Claude Mythosがオープンウェイトで流出していても世界は概ね大丈夫だった」と書いた自身の主張を振り返る。「Black October」と呼ばれる脆弱性開示の急増を踏まえつつ、AI安全コミュニティの発言を検証し、「fine」という表現の不十分さを認めた。一方で、最近の脆弱性発見の多くはクローズドモデルによるもので、オープンかクローズドかよりもAI能力の普及こそが本質だという立場は維持している。 ## ポイント - 「Black October」と呼ばれる重大な脆弱性開示の急増があり、AIのサイバーリスクが現実化し始めた節目と位置づけられている。 - 筆者はAI安全コミュニティがMythosのオープン公開を「本物の災害」のように語っていたという印象を裏づけるため、Rob WiblinやAnthropicの発言を引用した。 - 「fine（問題ない）」という言葉は、避けられない乱気流の時期を過小評価しかねないと認め、サイバー不安定の新時代を論じた安全派の一部をより評価すべきだったと述べている。 - 筆者の見方は、オープンモデルが攻撃と防御のバランスを取る役割を果たすというもので、企業は攻撃者より早く導入できるとみている。 - 現時点の脆弱性発見の多くはクローズドモデルによると予想するが、誤差は大きいと断っている。 - サイバーは社会全体の問題であり、AI企業だけでは解決できず、エコシステム全体の視点が必要だと結論づけている。 ## 章立て - [00:00] **Black Octoberと現状認識** — 脆弱性開示の急増やBinanceの事件に触れ、水面下の対応が加速していると見ている。指数的な増加がシグモイドの頂点に達するまでには時間がかかると述べる。 - [01:03] **以前の主張と予測の検証** — 数週間前の「オープンなMythosでも世界は概ね大丈夫」という主張を再掲する。反対派の予測は反証可能であり、実際の答えが得られ始めると述べる。 - [02:06] **安全派の発言の検証** — Rob WiblinやAnthropicのGlasswing発表、Zviの発言を引用し、どこまでが適切でどこからが誇張かを論じる。 - [03:10] **「fine」の再考とEpoch AIの例** — 自分の立場への不安を認めつつ、Epoch AIのGLM 5.3によるFirefox脆弱性の例で、被害には複数条件が必要だと説明する。「fine」という語の限界も認める。 - [06:17] **攻撃者の動機とオープンモデルの使われ方** — 攻撃者を事業者とみなす見方を紹介する。現状の発見の多くはクローズドモデル由来と予想し、オープンモデルは高コストだが長期的には価格が下がるとみる。 - [08:37] **エコシステム視点と結論** — サイバー被害は以前から指数的に増えており、AIの能力と普及が鍵だと述べる。オープン対クローズドの論争より社会全体での対応が重要だと結ぶ。 ## 解説記事 AI分野の週刊ニュースレター「Interconnects」の筆者が、自身の以前の主張を振り返る回である。数週間前に筆者は、Claude Mythosがオープンウェイトで流出していても世界は概ね大丈夫だったはずだと書いた。その後、重大な脆弱性の開示が相次いだことを受け、この主張をどう位置づけ直すかを語っている。 #### 「Black October」と現状の見立て 筆者によると、前週は大量の重大脆弱性の開示があり、「Black October」と呼ばれた。PHP関連の脆弱性やGitLabの長年のバグなどが含まれ、AIモデルのサイバーリスクが現実化し始めた節目とされる。Binanceでの暗号資産関連のセキュリティ事件も報じられたが、暗号資産業界は元々ハッキングの歴史が長く、新しい社会的害の指標としては適さないと筆者は指摘する。 筆者の推測では、水面下の対応はむしろ加速しており、インターネットを修復するために人と資源が投入されている。ウォール・ストリート・ジャーナルが、サイバー分野の初動対応者が逼迫していると報じたことも、システムが機能している表れだと見ている。脆弱性の指数的な増加は、シグモイド曲線の頂点で落ち着くまで長くかかるという。 #### 安全派の発言を検証する 筆者は以前、AI安全コミュニティがオープンなMythosを「単なる頭痛」ではなく「本物の災害」として扱っているように見えたと書いた。これには、実際には「真の災害」とは言っていないという批判が寄せられた。そこで裏づけを探し、発言を引用している。 - 80,000 Hoursポッドキャストの司会Rob Wiblin（4月10日）：犯罪者や敵対的な国家のサイバー攻撃者の手に渡れば「実際の災害になる」。 - Anthropic（Project Glasswingの発表ブログ、4月7日）：こうした能力はまもなく拡散し、経済・公共安全・国家安全保障への影響は深刻になりうる。 比較的妥当な例としてZvi Mowshowitzの発言も紹介された。Mythosは攻撃者に、地球上のほぼ全ソフトウェアに対するゼロデイ攻撃の宝庫を与え、混乱になるという趣旨である。筆者は、これまで混乱は大規模なデジタル製品の運営者に限られており、それは幸いだが今後変わりうるとしている。大事なのは、実際の発言内容だけでなく、聞き手がどう受け取り内面化するかだという立場だ。 #### 「fine」という言葉の見直し 筆者は自分の主張に不安があることも認めている。サイバー専門家ではなく、できる限り根拠ある予測をしているにすぎないという。Epoch AIがGLM 5.3を使って脆弱性を探し、攻撃につなげる社内作業を公開した例を挙げた。Firefoxで、特定のサイトを訪れるだけでファイルが外部に送られる脆弱性が見つかったが、被害が出るには攻撃者がそのサイトを設置するなど複数の条件が必要で、脆弱性の発見は多段階プロセスの一歩にすぎないと説明する。 そのうえで、以前使った「fine」という言葉は、ソフトウェアの作り方をコストと苦労をかけて更新させられる避けがたい未来を表すには適切でなかったかもしれないと述べる。混乱期を織り込まない人には「fine」は過小評価になる。筆者は、サイバー不安定の新時代を理性的に論じたAI安全コミュニティの一部を、もっと評価すべきだったとも認めた。ただし自身は、困難は来るが人間は問題を何とか乗り切ると考える立場だという。 #### オープンモデルは攻防の均衡をもたらすか 筆者の見方は、オープンモデルが攻撃と防御のバランスに寄与するというものだ。Mythosがもっと早く登場していても大きな変化はなかったとみる。企業は多くの攻撃者より資源があるため、オープンウェイトモデルの導入も速いだろうという。 注視する指標は、攻撃者が米国とその同盟国で物理的な被害を生む意志をどこまで持つかである。敵対国はモデルを使って情報を大量に抜き取っている可能性があるが、公共機関に全力で攻撃を仕掛ける主体がいるかは不明とする。引用された投稿は、攻撃者を「あらゆる手段で侵入したいハッカー」ではなく明確な業務プロセスを持つ事業者とみなすべきだと述べ、パン屋が犬の餌不足でドッグフードを作らないのと同様、フィッシング事業者が新しい脆弱性のためにすべてを投げ出すことはないとしている。 現在の脆弱性発見の多くはクローズドモデルによるものだと筆者は予想するが、誤差は非常に大きいと断る。オープンモデルは配信コストが高く、大型モデル向けの計算資源も売り切れ状態だが、長期的には供給の拡大で価格と利幅は下がると確信している。筆者が関わる立場の多くは、その未来を実現することに向けられている。さもないと、脆弱なソフトウェアを生む道具と、それを直す道具の双方を、少数の企業が握ることになるからだ。 #### まとめ 筆者の結論は、今回の事態はオープンかクローズドかよりも、AIの能力と普及の問題だというものだ。サイバー被害は ChatGPT 以前から指数的に増えており、最近の出来事もその延長線上にある。AI安全コミュニティでは、オープンモデルが原因かどうかの追及に労力が割かれがちだが、その証拠は非常に乏しく、最近のハッキングにはむしろクローズドモデルが大きく関与していると述べる。 日本の読者にとっての注目点は二つある。一つは、AIによる脆弱性発見の加速に備え、パッチ適用や防御体制の更新が急務になることだ。もう一つは、オープンウェイトの是非を単純な二項対立で論じず、エコシステム全体の視点で議論する必要があることだ。筆者はサイバーを、AI企業だけでは解決できない社会全体の課題と位置づけている。なお、筆者自身がサイバー専門家ではなく、予測の不確実性が高いと明言している点にも留意したい。 > この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Interconnects「Was I wrong about open models & cyber risks?」