講演資料


講義資料スライドの表紙

講義資料スライドの表紙です。スライド画像、または下の要約文中の青いページ番号リンクをクリックすると、別のタブで無駄なノイズのない、純粋なPDFビューア画面が起動し、指定されたページへ直接ジャンプして快適に閲覧できます。

全体概要

本セミナーは「ことばと意味の構成性(Compositionality)」という根本的な問いを中心に据えています。「黒い猫が走る」という文の意味は、「黒い」「猫」「走る」という語の意味と、それらを結びつける文法規則から「構成的に」決定できるはずである、という直観から出発し、この素朴な観察を厳密な数学的枠組みで定式化することを目指します [p.3][p.9]

探求の背景には、意味論における二つの対立する潮流があります。一方は、語の意味をベクトル空間内の点として統計的・定量的に捉える「分散意味論」(Word2Vecに代表されるアプローチ)であり、他方は、文法規則に基づいて意味を論理的・定性的に組み立てる「記号論的意味論」です。前者は個々の語の意味には強いが文全体への拡張が困難であり、後者は構成的だが定量的な比較が難しいという弱点をそれぞれ持ちます [p.191]

本セミナーはこの対立を超克するため、Lawvereの「Functorial Semantics」という数学的枠組みを基盤として採用します。「理論(Syntax)」と「モデル(Semantics)」の関係をカテゴリー論的に捉え直すことで、文法を記述するカテゴリーPregX(LambekのPregroup Grammar)から、意味を記述するカテゴリーFVect(有限次元ベクトル空間)への構造保存的な関手F: PregX → FVectを構成するという構想です [p.61][p.62][p.168][p.169]

この構想を実現したのが、Bob Coeckeらが2010年に発表した「DisCoCat(Distributional Compositional Categorical Semantics)」です [p.149][p.150]。PregroupとFVectがともに「compact closed category」という共通の数学的構造に属することを巧みに利用し、文法的な型の簡約操作をそのままベクトル空間上の線形写像へと「リフト」することで、語の意味ベクトルから文の意味ベクトルを構成的に計算することを可能にします。さらにこの計算過程は、Monoidal CategoryのString Diagramという美しい図形的記法で視覚的に表現でき、数式と図形変形が完全に等価であるという驚くべき定理を基礎としています [p.195][p.203]

講義のロードマップ

■ Part 0: はじめに — ことばと意味の「構成性」

  • この部の核心:

「構成性(Compositionality)」の概念を日常的な例(算数の数式、プログラムの代入文、「黒い猫が走る」という文)から直観的に導入し、「文の意味は語の意味と文法構造に依存する」という構成性の原理を明確に定式化します。同時に、「多様な意味の解釈を一つの枠組みで捉えられるか?」という本セミナー全体を貫く中心的な問いを提起します。

  • 論理展開:
  • 数式・プログラム・言語に共通する「構成性」の概念を導入 [p.3][p.5]
  • 文法的に正しいが意味のない文(Colorless green ideas…)や構造的曖昧文(I saw a man with a telescope.)を通じて、構文と意味の独立性・依存性を確認 [p.9]
  • 「多様な意味の解釈を一つの枠組みで捉えたい」という動機を設定し、次のPartへの橋渡しを行う [p.11]


■ Part 1: 意味の理論入門 — 「理論」と「モデル」とFunctorial Semantics

  • この部の核心:

意味論の数学的基礎を確立する部です。小学校の算数における「ルールの世界(抽象的な計算規則)」と「たとえの世界(具体的な鉛筆や定規)」という対比から出発し、この二項関係を数理論理学の「理論(Theory)」と「モデル(Model)」として厳密に定式化します。さらに、Lawvereの「Functorial Semantics」がこの理論とモデルの関係をカテゴリー論的に統一する決定的な枠組みであることを示します。

  • 論理展開:
  • 「ルールの世界」vs「たとえの世界」の対比を算数の具体例で導入 [p.21][p.25]
  • 「理論」(形式的証明可能性)と「モデル」(意味的妥当性)の定義、およびゲーデルの完全性定理、レーベンハイム=スコーレムの定理を紹介 [p.31][p.38]
  • 非ユークリッド幾何学の発見、集合論における連続体仮説のゲーデル+コーエンによる解決を「モデル構築による数学的大発見」の歴史的実例として挙げる [p.40][p.48]
  • Lawvereの「Functorial Semantics(1963)」を核心として導入:カテゴリーCからカテゴリーDへの構造保存的関手Fが「C = Syntax、D = Semantics」という対応を与えるという思想 [p.61][p.62]
  • 二面体群D₃の行列表現を「群の表現論=Functorの例」として具体的に示す [p.63][p.64]


■ Part 2: ことばの構成性 — 文法

  • この部の核心:

「文法」を数学的カテゴリーとして定式化するための歴史的・理論的背景を整理します。Chomskyの「Minimalist Program」におけるMerge操作とLambekの「Categorial Grammar」という二つの潮流が、50年近い時を隔てて収斂しつつあることを示します。最終的に、本セミナーのSemantics計算の基盤となる「Pregroup Grammar」を詳説します。

  • 論理展開:
  • Chomskyの「Merge」操作:二つのオブジェクトを再帰的に合成する最小計算単位として言語能力を定式化 [p.79][p.91]
  • Lambek(1958年)の「The Mathematics of Sentence Structure」:二つの計算規則 `(x/y)y → x`、`y(y\x) → x` によって品詞の「型」計算を定式化したCategorial Grammar [p.101][p.127]
  • ChomskyとLambekの理論が「Minimalist Program」(1995年)以降に収斂しつつあることを、Berwick & Epstein(1995年)等の論文を通じて確認 [p.106][p.107]
  • Lambek(1998年〜2008年)の「Pregroup Grammar」:`xx^r → 1`、`x^l x → 1` という簡潔な規則系への再定式化と、"She will see him"等の具体的な英文解析 [p.133][p.143]


■ Part 3: 意味の構成性 — カテゴリー論的分散意味論(DisCoCat)

  • この部の核心:

本セミナーの中心的到達点です。文法のカテゴリーPregXと意味のカテゴリーFVectが両者ともに「compact closed category」という共通構造を持つという事実を基盤として、関手F: PregX → FVectを明示的に構成します。この関手がPregroupの型簡約をFVect上の線形写像へとリフトすることで、「bananas are fruit」「John likes Mary」「John does not like Mary」といった文の意味ベクトルが具体的に計算されます。さらに、String Diagramによる視覚的・等価的な計算体系が導入されます。

  • 論理展開:
  • DisCoCatの三要素:文法のカテゴリーPregX、意味のカテゴリーFVect、そして関手F: PregX → FVect [p.155][p.156]
  • FVectにおける意味表現:コーパスのcontext wordを基底として語にベクトルを割り当てる「分散意味論」 [p.162][p.166]
  • 関手Fの明示的定義:名詞型nを「noun space N」へ、文型sを「sentence space S」へ、複合型n^r s n^lをテンソル積N⊗S⊗Nへと写す [p.171][p.174]
  • 具体的計算例「bananas are fruit」:型の割り当て→ベクトル空間の選択→語のベクトル決定→Preg型簡約→関手F適用→文の意味1974として計算 [p.177][p.184]
  • Monoidal CategoryとString Diagramの等価性定理:数式による証明と図形的変形が完全に対応する [p.195][p.203]
  • 「John likes Mary」「John does not like Mary」をString Diagramで表現・変形・計算する詳細例 [p.215][p.229]
  • FVect × P という積カテゴリーによる「意味と文法の統合的表現」と、語の並びの意味ベクトルを与える公式 `w₁···wₙ = f(w₁⊗···⊗wₙ)` の定式化 [p.211][p.213]

▶️ 講演動画

講義 - 1
講義 - 2
講義 - 3

💡 エピソード動画

エピソード - 1
エピソード - 2
エピソード - 3
エピソード - 4
エピソード - 5
エピソード - 6
エピソード - 7
エピソード - 8
エピソード - 9
エピソード - 10
エピソード - 11
エピソード - 12
エピソード - 13