密度行列 ρ で理解する確率の世界
マルレク「密度行列 ρ で理解する確率の世界」への招待
マルレク「密度行列 ρ で理解する確率の世界 -- 意味の分散表現の数理」を開催します。
密度行列については、2021年夏に「密度行列 ρ で理解する量子の世界」というセミナーを開催しました。https://www.marulabo.net/docs/rho-talk/ 今回のセミナーは、その続編です。
2021年のセミナーでは、観測演算子の一般化として POVM(Positive Operator Valued Measurement ) という概念を紹介しました。また、密度行列を別のより単純な密度行列に還元する Partial Trace という操作を定義して、それがエンタングルした複雑な系を理解するのに重要だという話をしました。今回のセミナーでは、これらのトピックスをもう少し掘り下げたいと思います。
2021年のセミナーの舞台は量子の世界でしたが、今回のセミナーの舞台は確率の世界です。
古典的な確率の概念は、20世紀の量子論の成立とともに量子論的な確率の概念に変化するのですが、今回のセミナーでは、古典論的な確率分布概念は量子論的な密度行列という概念に変化したという視点で、両者の対応と差異を見ていきたいと考えています。
主要に依拠したのは、DisCoCatのメンバーとして活躍した Tai-Danae Bradleyの2020年の論文 "At the Interface of Algebra and Statistics" 「代数と統計の境界で」です。 https://arxiv.org/abs/2004.05631
この前までChatGPTやAIの話をしていたのに、なぜ、数学の話になるんだと思われた方もいらっしゃるかもしれません。若干、セミナーの背景を補足させてください。
今回のセミナーは、以前の密度行列のセミナーの続編であるだけでなく、セミナーのサブタイトルの「意味の分散表現の数理」が示しているように、つい先日開催したもう一つのセミナー「AIは意味をどのように扱っているのか? -- ChatGPT の不思議」 https://www.marulabo.net/docs/meaning/ の続編でもあります。
先日のセミナーでも述べたように、丸山は、大規模言語システムを中心とする現代AIの中核技術は「意味の分散表現」という手法の採用だと考えています。
そこでは、興味深い変化が進行中です。それは、意味の分散表現に多次元のベクトルを利用するという現在の実装に代えて、密度行列を利用しようという動きが生まれていることです。
重要なことは、それは、単なる実装方法の見直しではなく、自然言語の確率論的な意味の理解に、古典論的な確率概念ではなく量子論的な確率概念を適用しようという動きに他ならないということです。
この点では、すでに2010年代に自然言語の意味の解釈に量子論のエンタングルメントとの類似の現象が現れることを見出していたBob CoeckeらのDisCoCat「カテゴリー論的構成的分散意味論 Distributional Compositional Categorical Semantics 」の動きは先駆的なものでした。
DisCoCatについては、昨年末のセミナー「ことばと意味の「構成性」について -- カテゴリー論と意味の形式的理論」 https://www.marulabo.net/docs/discocat/ で紹介しています。興味がある方は参照ください。
今回は、時間の制約もあるので、密度行列と言語の意味論との関係はあまりふれられないと思います。それらについては、別のセミナーを考えていきたいと思っています。
( slide-pdf blog:「2/25マルレクへの招待」 )
2/25 マルレクへの招待 ver 2
今回のセミナーの趣旨は、密度行列から確率の概念をを考えてみようというものです。
密度行列は、量子論で量子の状態を記述するものです。今回のセミナーでは、少し別の角度から密度行列を見てみようと思います。それは、密度行列は確率概念の一般化であるという見方です。
たしかに、量子の世界では決定論ではなく確率論が基本的な役割を果たすと言われますので、量子の状態を記述する密度行列が、確率の概念と結びつきがあるのは、当然のことかもしれません。
ただ、密度行列は確率概念の一般化であるという主張は、もう少し強い内容を持っています。それは、我々が普段使っている確率の概念とは異なる確率の概念があるということです。
量子論は我々の日常のマクロな世界とはかけ離れたミクロな世界の理論で、そうした世界を理解するためには確率論が必要だという考えは、正しいように思えます。ここでは、マクロな世界とミクロの世界という「二つの世界」を、「一つの確率論」が結びつけています。
もしも、マクロな世界の確率論とミクロな世界の確率論が、二つの異なる確率論であるなら、そうしたイメージは変わります。
でも、それはミクロな量子論の世界に大きな変更を強いるものではありません。問題は、我々の日常のマクロな世界の中でも、古典論的ではない量子論的確率論が、大きな役割を果たしている領域が存在する可能性があるということです。
僕は、ことばの意味を密度行列で表現しようという「意味の分散表現論」の新しい進展が、マクロな世界で量子論的な確率論が機能している舞台だと考えています。
それについては、3月以降のセミナーで展開できればと思います。
( slide-pdf blog:「申し込みページ作りました」 )
講演資料
「密度行列 ρ で理解する確率の世界」
「テンソル・ネットワーク入門」
講演ビデオ
Part 1 結合確率と周辺確率
Part 2 Bra-Ket記法とテンソル・ネットワーク
Part 3 古典論的確率と量子論的確率
Part 1 結合確率と周辺確率
古典論的確率の場合
( slide-pdf blog:「単純な例を見つける」 )
量子論的確率へ
( slide-pdf blog:「計算しないとわからないけど」 )
Part 2 Bra-Ket記法とテンソル・ネットワーク
Bra-Ket 記法
( slide-pdf blog:「ベクトルは関数なんです」 )
Tensor Network
Tensor Network の初等的入門
( blog:「誰でも分かるテンソル・ネットワーク入門」)
Tensor Networkの説明、すこし長くなったので別ページにしました。こちらを参照ください。
Tensor Networkの基礎
( slide-pdf blog:「テンソル積の表現 」 )
Part 3 古典論的確率と量子論的確率
古典的確率分布の一般化 -- Density Operator
( slide-pdf blog:「固有値に注目しよう 」 )
古典論的確率と量子論的確率の基本的同一性
( slide-pdf blog:「二つの確率概念は、基本的には一致する」 )
Partial traceは量子論的周辺化
( slide-pdf blog:「Partial Trace は周辺確率を導く」 )
還元された密度行列のテンソル・ネットワーク表示
( slide-pdf blog:「図形で分かること」 )