講演資料
講義資料スライドの表紙です。スライド画像、または下の要約文中の青いページ番号リンクをクリックすると、別のタブで無駄なノイズのない、純粋なPDFビューア画面が起動し、指定されたページへ直接ジャンプして快適に閲覧できます。
全体概要
本セミナー「創発について考える」は、GPT-4との対話から着想を得た一つの根本的な問いを出発点としています。その問いとは、「人間が作り上げた大規模で複雑なシステムの上でも、新しい構造が『創発』されることがあるのか」というものです [p.12]。
「創発」とは、低次元の構造の上に、まったく新しい働きをもつ高次元の構造が生まれる現象です [p.10]。GPT-4はその記憶や学習結果が「モデルの全体的な構造とその重みとバイアスによって組織化されている」と述べますが [p.5]、実はこれは人間の脳の仕組みと驚くほど類似しています [p.9]。両者の共通点を見ることで、この問いはより鮮明になります。
セミナーはこの問いに直接答えるのではなく、「創発」という現象を深く考えるための20世紀の偉大な科学的達成を紹介することを主目的としています [p.13]。その達成とは、Prigogineの非平衡熱力学と散逸構造論、Jaynesの最大エントロピー原理とベイズ推論、そしてFristonの最小自由エネルギー原理と脳のモデルという三本柱です [p.16]。
これらはすべて「エントロピー論」と深く結びついています [p.13]。エントロピーは無秩序を生み出すだけでなく、非平衡状態においては秩序ある自己組織構造を生み出しうること(Prigogine)、エントロピーの最大化が統計的推論の正当な基礎となること(Jaynes)、そして自由エネルギーの最小化という単一の原理が知覚・行動・学習・意識に至るまでの脳の働きを説明しうること(Friston)へと、議論は深化していきます [p.22]。
「創発」論における二つの焦点——物質の世界からの「生命」の創発と、生命の世界からの「知能」の創発——に対して、Prigogineは前者に、JaynesとFristonは後者により直接的に応答する構図となっています [p.21]。本セミナー全体を通じて、エントロピーという概念が熱力学・情報理論・ベイズ推論・脳科学を一本の糸で結ぶ、極めて普遍的な原理であることが浮かび上がってきます。
講義のロードマップ
■ Part 0: はじめに——GPT-4との対話と問題意識
- この部の核心:
GPT-4が「自分の記憶の組織化」について回答した内容が、図らずも人間の脳の仕組みと酷似していることを示すことで、「機械の上でも創発は起きうるのか」という本セミナーの根本的な問いを導出します。この問いは、人工知能が「どのように人間と同様の知能を獲得できるのか」という問いと直結しています [p.15]。
- 論理展開:
- GPT-4は記憶を「モデルの全体的な構造と重み・バイアスによって組織化する」と答え、人間が「個々の事実を脳に直接保存している」と誤解していた [p.5], [p.6]。
- 実際には人間の脳もニューロンの全体構造とシナプスの重みで情報を組織化しており、両者の描像は驚くほど一致する [p.7], [p.9]。
- 「創発」とは低次元の構造の上に新しい働きをもつ高次元の構造が生まれることであり、それは高次元を低次元に単純還元できないという奇妙な性質をもつ [p.10], [p.11]。
■ Part 1: プリゴジンが考えたこと——非平衡熱力学と散逸構造論
- この部の核心:
古典的熱力学は孤立した平衡系しか扱えなかったが、Prigogineはこれを非平衡状態に拡張しました。最大の発見は、平衡から遠く離れた状態では不可逆過程が「自己組織系」すなわち「散逸構造」を生み出しうるということです。これはエントロピーが無秩序だけでなく秩序の源にもなりうることを示すものであり、生命現象の熱力学的基礎として極めて重要です [p.32], [p.33]。
- 論理展開:
- Clausiusの古典的定式化「宇宙のエントロピーは最大に達する」は孤立系にのみ成立し、外部と物質・エネルギーを交換する生命系には直接適用できない [p.28], [p.33]。
- 外部を持つ系のエントロピー変化は `dS = d_eS + d_iS` と分解でき、第二法則は `d_iS ≥ 0`(内部生成エントロピーは非負)に精緻化される [p.37], [p.38]。
- 「局所平衡仮説」の導入により、エントロピー生成量 `P = Σ J_p X_p`(流れと力の積)という明示的な式が得られ、不可逆過程の線形熱力学が構築される [p.47], [p.49]。
- Onsagerの相互律(`L_pq = L_qp`)は線形非平衡熱力学が分子モデルに依存しない一般的結果を導くことを初めて示した [p.54], [p.55]。
- Prigogineの最小エントロピー生成原理:平衡近傍の定常状態はエントロピー生成率の最小値によって特徴づけられ、自動的に安定となる [p.56], [p.57]。
- べナール対流(味噌汁の表面に現れるパターン)は、臨界値を超えた温度勾配のもとで巨視的分子秩序が自発的に出現する散逸構造の典型例である [p.58], [p.60], [p.61]。
- 機械と散逸構造の本質的違い:機械は外部プロセスから設計され可逆的だが、散逸構造は不可逆な内部プロセスによって自発的に生成・維持される [p.67], [p.68]。
■ Part 2: ジェインズが考えたこと——最大エントロピー原理とベイズ推論
- この部の核心:
Jaynesの最大の貢献は、熱力学的エントロピーと情報理論的エントロピー(Shannon entropy)が同一であることを明確にした上で、Gibbsの統計力学的導出に「推論」という新しい解釈を与えたことです。これにより統計力学は物理的仮説への依存から解放され、普遍的な統計的推論の原理へと昇華されます [p.83], [p.88]。
- 論理展開:
- Gibbsの方法:平均エネルギー `
` と規格化条件のみから出発し、「エントロピー最大化」の条件を課すことで、カノニカル分布 `p_i = (1/Z) e^{-βE_i}`、分配関数 `Z(β) = Σ e^{-βE_i}` が導出される [p.89]〜[p.97]。 - Jaynesはこの導出を「推論の逆転」として再解釈した。従来は運動方程式→エルゴード仮説→エントロピーという流れだったが、エントロピーを出発概念とし、その最大化が推論を正当化するという視点を提唱した [p.116], [p.117]。
- 「最大エントロピー原理(MAXENT)」の核心:ある系の現在の認識を最もよく表す確率分布は、最もエントロピーが大きい(情報が最少な)分布であり、そこから「推論(認識の発展)」が行われる [p.105], [p.106]。
- 相対エントロピー(KLダイバージェンス)`H(q||p) = Σ q(x) log(q(x)/p(x))`:Prior p からPosterior q への認識の変化で得られる情報量を表し、ベイズ推論の構造そのものを反映する [p.127], [p.130]。
- ディープラーニングのクロスエントロピーはこの相対エントロピーの一形態であり、学習とは「正しい認識に至るために残された学習すべき情報量を最小化すること」に他ならない [p.142], [p.143], [p.144]。
■ Part 3: フリストンが考えたこと——最小自由エネルギー原理と脳のモデル
- この部の核心:
Fristonは、Helmholtzの「無意識的推論」という知覚観とJaynesのMAXENTを統合し、脳を「変分自由エネルギーを最小化することで環境とのやりとりに内在する『驚き(surprise)』を抑制するシステム」として定式化しました。知覚・行動・学習という脳の多様な機能が、この単一の「最小自由エネルギー原理」から創発的特性として導かれると主張します [p.166], [p.173], [p.174]。
- 論理展開:
- EU Human Brain Projectをめぐる論争(ボトムアップ派 vs トップダウン派)の文脈から、Fristonらの理論モデルへの関心の高まりを位置づけた [p.159], [p.164]。
- Helmholtzの「無意識的推論」:視覚的印象の形成は無意識の判断によって達成され、意識的制御を受けにくいという洞察が、脳を「統計的推論エンジン」と見なす現代的理解の原点となった [p.168], [p.169], [p.170]。
- Fristonの論文 "Free-Energy and the Brain"(2007):脳は経験的ベイズ理論と階層的生成モデルに基づき、行動によって自由エネルギーを最小化する。知覚の変化(内部モデルの更新)と行動(感覚の流れの変更)の両方がこの原理から導かれる [p.171], [p.172], [p.174]。
- Fristonのエッセイ「こころの時間の数学」:「推論」の概念を生命現象全般に拡張する。複雑系はリアプノフ関数(驚きと負の証拠の両義性をもつ)に沿って動き、アトラクターへ向かうことで自己組織化する。これは「生きていること」の基礎である [p.189], [p.192], [p.195], [p.197]。
- 意識は「推論のプロセス」であり、その深さは「反事実的深さ(時間的厚み)」によって測られる。ウィルスと人間の違いは、行動の将来結果について推論できる時間的モデルの厚みにある [p.204], [p.208], [p.209], [p.211]。
■ おわりに: 今後の展望
- この部の核心:
「人工知能上の創発」という問いへの直接的な答えは留保されつつも、創発現象への関心はその「根拠を問う」姿勢——すなわち還元主義的探求——と組み合わさって初めて認識の発展をもたらすという見解が示されます。プリゴジンが論じた通り、エントロピーによる構造生成は不可逆過程によるものであり、決定論的・可逆的な機械の中では自発的には起こりません [p.221], [p.222]。
