# BI 250 ニマ・デフガニ:脳はどのように計算するのか

- 番組: [Brain Inspired](https://ai-curator.jp/podcasts/shows/cmv3z5c3r001z5o1089gvhi58)（Paul Middlebrooks）
- 元のタイトル: BI 250 Nima Dehghani: How Brains Compute
- 配信日: 2026年11月18日
- 長さ: 1時間47分
- 要約作成日: 2026年11月18日
- トピック: [#計算論的神経科学](https://ai-curator.jp/topics/%E8%A8%88%E7%AE%97%E8%AB%96%E7%9A%84%E7%A5%9E%E7%B5%8C%E7%A7%91%E5%AD%A6) [#物理計算](https://ai-curator.jp/topics/%E7%89%A9%E7%90%86%E8%A8%88%E7%AE%97) [#圏論](https://ai-curator.jp/topics/%E5%9C%8F%E8%AB%96) [#再帰ニューラルネットワーク](https://ai-curator.jp/topics/%E5%86%8D%E5%B8%B0%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF) [#神経AI](https://ai-curator.jp/topics/%E7%A5%9E%E7%B5%8CAI) [#皮質の標準回路](https://ai-curator.jp/topics/%E7%9A%AE%E8%B3%AA%E3%81%AE%E6%A8%99%E6%BA%96%E5%9B%9E%E8%B7%AF)
- URL: https://ai-curator.jp/podcasts/cmwlo4xu100005q102y1u5v5m

## 要約

MITの計算・理論神経科学者ニマ・デフガニ氏が、脳を含む物理システムが「計算する」とはどういうことかを厳密に定義する立場を語った回。何でも計算と呼ぶと概念が空疎になるとして、計算的閉包（computational closure）を基準に挙げ、大腸菌から皮質までを同じ枠組みで捉える。分割正規化とWinner-take-allの合成や、再帰ネットワークをバックプロパゲーションなしで扱う研究、フィードフォワードの限界にも触れている。

## ポイント

- デフガニ氏は脳が計算すると主張するが、情報の中継や単なる状態変化まで計算と呼ぶのは概念を無意味にするとして、厳密な定義を求めている。
- 従来の計算理論は「関数→計算モデル→装置」の向きだが、物理計算の理論では物理システムから出発し、その自由度や状態遷移、抽象化を読み解く向きに逆転させると説明する。
- 計算的閉包とは抽象化が系自身の内部に組み込まれ、外部の観察者や実験者の介入なしにループが閉じていることで、同氏はこれが主体性（agency）の種だと見る。
- 神経活動をデコードできることは、系がそのように処理している証拠にはならないと指摘し、ニューラルネットで脳を説明する安易な同一視を戒めている。
- 分割正規化とWinner-take-allという皮質の標準回路を合成すると、単体にはない新しい動力学が生まれることを、有限状態機械の分解理論を使って示したという。
- フィードフォワード系には物理的・数学的な限界があり再帰が必要だと述べ、重みの更新に頼らずバックプロパゲーションに相当する計算を再帰系で行う共同研究も進めている。

## 章立て

- [03:04] **脳は計算機か:問題設定** — 脳の比喩の歴史を踏まえ、計算を厳密に定義する必要性と、デフガニ氏の理論家としての立ち位置が語られる。
- [09:37] **N4フレームワーク** — 神経物理、神経計算、神経動力学とその上のneuro-AIという枠組み、スケール間の合成と有効理論の重要性を説明する。
- [19:00] **物理計算の理論と圏論** — チューリング流の向きを逆転させ、物理系から抽象化へ進む理論を説明。圏論は装飾ではなく写像の道具だと述べる。
- [32:28] **計算的閉包と主体性** — ウェーブウォーカーの例から閉包を説明し、デコードの落とし穴、AIエージェントの誤称、大腸菌での主体性に論を広げる。
- [52:42] **マーの3レベルとの関係** — マーの階層やブザキの内側から外側への見方と比べ、物理的な自由度から有効理論を積み上げる立場を述べる。
- [59:51] **標準モチーフの合成と再帰** — 分割正規化とWTAを合成して新たな動力学が生まれる研究と、再帰系をプログラムする発想を解説する。
- [1:15:12] **生物に着想を得たAIと限界** — 効率とフィードフォワードの限界、世界モデル、バックプロップなしの再帰系、主体性を持つAIへの見方を語る。
- [1:24:20] **全生命は計算か・オープンサイエンス** — 全生命に閉包があるという見方、良い説明は変えにくいという基準、故障検知への応用とデータ共有の重要性で締める。

## 解説記事

MITの計算・理論神経科学者ニマ・デフガニ氏が、Brain Inspiredの司会者と「脳はどう計算するのか」を語り合った回である。直前に司会者が開いた「脳は計算機ではない。ではそれは何か」というワークショップを受け、あえて「脳は計算する」側に立ち、その主張に厳しい条件を課す同氏の考え方が掘り下げられた。

#### 「何でも計算」では意味がない

デフガニ氏はまず、脳の比喩が電話交換機や蒸気機関から計算機へ移ってきた歴史に触れ、新しい発明に脳というラベルを貼る傾向を指摘する。そのうえで脳が計算すると主張しつつも、定義の厳密さを求める。石が投げられた軌道や太陽系の状態変化まで計算と呼べば、言葉が役に立たなくなるからだ。情報の中継も、それだけでは計算ではないという。

同氏の物理計算の理論では、従来とは向きが逆になる。チューリングやチャーチの系譜は「計算可能な関数→計算モデル→物理装置」と進むが、同氏は物理システムを与えられた側から出発する。自由度や状態遷移を調べ、そこに埋め込まれた抽象化を数学的に記述する。圏論の関手などは飾りではなく、レベル間で記述を写すための道具だと説明している。

#### 計算的閉包という基準

中心概念が計算的閉包である。フランスのグループによる、振動する油の浴槽上を跳ねる液滴（ウェーブウォーカー）の実験を例に、同氏は理論モデルを作った。このシステムには記憶や書き込み、消去といったチューリング的な要素があるが、位相を反転させるのは実験者であり、ループが外部で閉じているため自律的な物理計算装置ではないという。

この見方は神経科学のデコードにも向けられる。神経活動から何でも読み出せるのは、読み出す機械を外側に作ったからで、系自身がそう処理している証拠にはならない。同氏は、ニューラルネットで脳を説明して同一視することへの警戒を繰り返し述べた。

さらに閉包は主体性と結びつけられる。環境を抽象化して内部モデルを作り、それを用いて環境と自分自身の双方を制御できることが主体性だというのだ。AIエージェントという呼び方については、暴走したのではなく境界設定が不適切だっただけだと批判している。同氏は、大腸菌のような単細胞も閉包を備えると考えており、走化性の研究でそれを示そうとしている。ただし系の一部は単なる情報中継にすぎない可能性も認めており、その点を検証可能な形で扱う姿勢を強調した。

#### 標準回路の合成と再帰

具体的な研究例が、皮質の標準的な回路である分割正規化とWinner-take-all（勝者総取り）の合成である。入力のあらゆる組み合わせ列を与えて到達状態を調べると、それぞれ単独では持たない「ギア」（状態を切り替え続ける成分）が、「ファネル」（終状態に落ち着く成分）だけの系から生じる場合があるという。どちらがどちらを駆動するかという接続の向きで結果が変わるとも述べている。

背景には、再帰ネットワークをどうプログラムするかという関心がある。同氏は再帰を神経科学の聖杯とみなし、生物はシナプス重みを速い速度で更新し続ける余裕がないため、バックプロパゲーションとは別の仕組みが要ると語る。共同研究では、スパースな再帰系で重みを変えずにバックプロパゲーション相当の計算を行う仕組みを作っており、生物がそうしているという主張ではなく、探るべき手がかりだと位置づけている。

#### フィードフォワードの限界とAIへの示唆

なぜ大きなフィードフォワード網で済ませないのか、という問いに、同氏は二つ答える。一つはエネルギーなどの効率。もう一つは、フィードフォワード系には物理的・数学的な根本限界があり、解けない問題には再帰が必要だという主張で、この論文は公開準備中である。加えて、大規模言語モデルは雨について多くを語れても、雨を経験してはいないとし、世界モデルを持つ主体には再帰と閉包が要ると論じた。経験を持つAIは将来ありうるとしつつ、現時点の議論は主にSFや哲学の領分だとした。

また、細胞種や配線図のカタログが増える現状に対し、測定の重要性は認めつつ、部品を合成したときに何が起きるかを語る言語が必要だと述べている。オープンデータと専門的な観測施設の拡充にも期待を示した。

#### まとめ

本回の要点は、計算という言葉を使うなら、使う側が証明すべき基準を持つべきだという姿勢である。同氏の言葉では、閉包の基準は脳が何を計算するかを教えるものではなく、何かを計算すると言う資格として示すべきものだという。理論は良い説明ほど変えにくいという基準で検証可能であるべきだとも述べ、意識の議論には距離を置いた。

日本の読者にとっては、「脳に似たAI」や「エージェント」といった言葉が曖昧に使われがちな現状を見直す視点になる。再帰系の設計や省エネルギーな計算を考えるエンジニアにとっても、合成可能な部品から動力学を予測するという発想は参考になるだろう。ただし多くの成果は準備中の論文であり、今後の公開が待たれる。

> この要約・解説記事は、元の音声の文字起こしをもとに AI（Claude）が日本語で作成したものです。出典: Brain Inspired「BI 250 Nima Dehghani: How Brains Compute」
