AI Curator

からの1週間

PHP2Shellとブラック・オクトーバー——AIが攻守を変え、富と権力、信頼の問いが前面に

今週は、AIが見つけたPHPの重大脆弱性「PHP2Shell」が複数番組で語られ、サイバー攻防の速度が変わったことが共通の関心になった。並行して、Anthropicの公益基金や数学証明の公開、エージェントの実装現場、AIバブルの検証をめぐって、「誰が恩恵を得て、何を信頼できるのか」という問いが繰り返された。

「ブラック・オクトーバー」：サイバー攻防が超人的な速度に

今週最も多くの番組が取り上げたのが、AIの関与で発見されたPHPの認証不要リモートコード実行の脆弱性だ。AIが「仕事」の意味を変えるとは別に、インターネットをめぐるAI対AIの攻防は、公開の約10時間前から悪用の試行が始まり、数千件から数百万件へ急増したと伝えている。AIが脆弱性を次々発見やAIがインターネットを揺るがした週も同じ事案を扱い、RailwayやOpenCodeでのAPIキー狙いの攻撃と合わせて整理している。

見方は完全には一致しない。エージェント時代のウェブを守るでCloudflareのCTOは、今後18か月は多くのチームの時間がセキュリティに費やされるが長くは続かないと述べた。Kimi K3.1 Pro、新たなサイバー現実は、PHPでは公開後に大規模な悪用は確認されていないという報告に触れ、問題の本質をエコシステムとコード量の増加とみている。Googleの可能性、AI資金の蛇口は閉まるのかでは、脆弱性は以前から存在し、今後はAIによる大規模な書き直しが必要だという主張も出た。

攻撃側の変化を詳しく語ったのが新たな頂点捕食者で、CrowdStrikeのCEOは攻撃者のピラミッドが平坦化したと述べ、防御側にも同水準のAIが必要だと主張した。エクスプロイト開発、エージェントによる脆弱性発見、そして偽PoCの実態は、LLMは発見は得意でもクローズドソースのエクスプロイト化は苦手だと冷静な見方を示し、公開PoCの半数超が不正確になったという分析も紹介した。

オープンウェイトの扱いも論点だ。Mistralの復活のPierre Stockは、サイバー悪用のトレードオフを認めつつ分散型を支持した。Kimiが攻撃的サイバー能力を意図的に抑えたことを好意的に評価する声もあった。

安全性をめぐる内部と外部の温度差

OpenAIの安全担当だったDavid Robinsonの退職と批判は、#260 Muse、ミスアライメント、数学と#247 OpenAIの安全性懸念の高まりの双方で取り上げられた。フロンティアAI企業の社員は仕事を見直すべき時だは、CoT監視の有効性低下を挙げ、社員に自分の役割の再点検を促している。

一方、Google CEO サンダー・ピチャイは、再帰的自己改善はまだ最終形から遠く、多層防御と独立評価で対処すると述べた。再帰的自己改善と「ユーレカ・マシン」のSocher氏も、計算資源や実験の制約から一夜の暴走的離陸は起きないと主張する。

政策面では、「AIチェルノブイリ」がトランプと習近平に即時停止を迫るが事故を契機とした米中合意を描き、トム・ミルトンが語る、米中AI合意をどう検証するかは、その遵守を検証する技術が今は足りないと説いた。米中の技術競争ではMATCH法と中国のDUV輸入が液浸リソグラフィ規制の効果を論じ、米中AI冷戦の幕開けは両国の囲い込みと企業側の備えを解説している。

AIの富と権力、そして雇用

Anthropicが株式の5%を公益基金に充てると発表したことで、富の分配論が広がった。AIの富の問題は基金と同社の安全法案を、AIの富と権力が民主主義とどう関わるかという問いの代理戦争と位置づけた。Chamath「AGIはすでに到来した」は「慈善は失敗しやすく軌道修正の仕組みが問題」と述べ、極秘だったネイサン・フィールダー取材の裏側の司会者らは、社会再設計の主導権を自社が握る発想だと批判的に見た。安全法案についても、PHP2Shellと、それを見つけたAIが規制の虜との批判を紹介し、AI:AM ハイライトではZviが州法先取りに対する見返りが弱いと批判した。

雇用でも見方が分かれる。#247はAnthropicの調査で、AIの近未来予測に社員と一般市民で大きな差があると伝え、同社の若手採用比率の低下も紹介した。Kimi K3.1 ProではAnthropicの新卒不採用方針について、NathanとFlorianの評価が割れた。Zipは削減分の再投資で機会は別の形で生まれるとの楽観を示している。子どもたちが教えてくれたAIの分断では、推進派の息子と懐疑派の娘が、判断力や就職の問題を家庭の場で議論した。

数学の「証明」と検証のボトルネック

OpenAIによるナビエ–ストークス方程式の爆発解の主張は、評価が割れた。AIの数学的ブレークスルーをめぐる論争は、範囲の限定、功績争い、722本の原稿の検証不備という留保を挙げ、フィールズ賞受賞者25人の警告も紹介した。一方、ナビエ–ストークス問題とAIエージェントの数学者は、証明を読んでかなり正しいと確信しつつ、文章の質が低く検証が遅れていると語った。#247では数学者団体の反発に触れつつ、成果を止める理由は乏しいという意見も出ている。共通するのは、生成が安くなるほど検証が律速になるという認識だ。

エージェントを現場に入れる：統制・評価・ROI

実装の話題では、速さより統制と評価が前面に出た。ドメインエキスパートにエージェントを作らせるはLyftのリンターと多層の評価ゲートを、ZipのAIスーパーエージェントは監査証跡と権限設計を、AIエージェントには見張り役が要るは意図ベースのツール選択と検証を語った。チームとエージェントをまたぐ知能の協調法は、3エージェントで単純な目標が揃う確率が16%未満という自社実験を挙げ、インフラ側のガードレールを主張している。

ROIの議論も具体的だ。トークン使い放題の時代は終わったは節約できた人員数で語るべきだとし、製薬マーケティングにおけるAIのROIを証明するは90日のパイロットをKPIに紐づけるよう助言する。「Rustは素晴らしい、誰も見なければ」は行数を生産性指標にすることを批判し、Blitzyとエンタープライズ向け自律型ソフトウェア開発はコードレビュー不要論を企業では非現実的とした。

個人向けでは、Claude Duetが話題の中心だった。Claude Duet は美しい。それでも私は使うのを忘れたは、完成度の高さと再利用の動機の弱さを指摘する。私が今実際にAIをどう使っているかではなく私が今実際にAIをどう使っているか(Claude Duet を含む)が、有用だがプロアクティブ過剰な面もあるとした。

AIバブルと計算資源

AIバブル懸念のシグナルを検証するは、需要が鍵だとしてネオクラウド債務や収益の質を点検した。AI企業が賭ける「知性より性格」ではなく、計算資源ではAIコンピュートはなぜ「長方形」で売られるのかが価格暴落を最大のリスクと語り、プログラマブルなデータセンターは信用と市場設計を論じた。コンピュータが多すぎるは、計算規模の拡大そのものが持続不可能だと問い直している。

この週のエピソード