GPT-4 との対話 ? プロンプトで遊ぶ ?

全体概要

本セミナー「GPT-4との対話 ―― プロンプトで遊ぶ」は、2023年に登場した大規模言語モデル（LLM）、とりわけGPT-4が獲得した「言語能力」の本質を、実際の対話（プロンプト操作）を通じて検証・考察する試みです。著者・丸山不二夫氏は、「生成系AI」の実践的活用や社会的リスクといった当時の主要な関心軸から意図的に距離を置き、「機械はいかなる言語能力を持つに至ったのか」という純粋な認識論的問いに焦点を絞ります [p.8]。

議論の出発点は、GPT-4が「言語ネイティブな知能」として構成されているという認識です。人間のみが持つと考えられてきた「ことばを自在に操る能力」を機械が獲得したことは、人工知能技術の発展史において特筆すべき達成であり、それは人間が「言語ネイティブな知能を持つ人工知能を作ることができた」という事実を意味します [p.7]。

全体は三つのPartで構成されます。Part 1では、GPT-4が新しい文・フレーズを生成する能力の「素のかたち」として「連想」を取り上げ、その連鎖的な展開能力を実証します。Part 2では、語の意味（WordNet的な構造）から文・フレーズの意味へと議論を深め、大規模言語モデルが意味の階層構造をどの程度把握しているかを探ります。同時に、品詞・文法性・構成性（compositionality）といった概念がLLMの内部でどのように扱われているか、GPT-4自身との対話を通じて確認します。Part 3では、生成能力の本質、チューリングテスト、ことばの力、そして大規模言語モデルがもたらした翻訳能力のブレイクスルーを論じます。

著者が到達する結論は穏やかながら鮮明です。GPT-4は「意識や理解、自発性」を持たず、「単に統計的なパターンマッチングを行っているだけ」とGPT-4自身が答える一方で、その統計的パターン学習から「ある文から他の文を連想する能力が生まれた」 [p.196]という事実は重い。人間の認識能力には言語的能力に還元できない核（数学的認識能力等）があるという留保を保ちつつも、長期的には大規模言語モデルの最大の貢献は「人間にことばの壁を乗り越える現実的手段を初めて提供したこと」にあると著者は主張します [p.212]。

講義のロードマップ

■ はじめに: 問題意識と方法

• この部の核心:

「プロンプトで遊ぶ」という一見軽いタイトルの背後にある問題意識を整理します。生成AIへの「過信」と「不信」という二極の評価が生まれる構造的理由をOpenAI自身の警告（「幻覚の逆説」）を引きながら解説し、本セミナーが「機械の言語能力そのものの検証」に絞ることを宣言します [p.5], [p.6]。

• 論理展開:
• 生成AIへの二種の評価（実践活用派 vs. 社会的脅威派）が生まれる理由として、モデルの「説得力と信憑性の増大」がむしろ過信・不信双方を促すとOpenAIが自己分析している [p.6]。
• GPT-4は「言語ネイティブな知能」であり、人間は「自分と同じ言語ネイティブな人工知能を作ることができた」という冷静な評価が提示される [p.7]。
• 機械の言語能力を知る最善の方法は「機械と対話すること」であり、プロンプト（自然言語）こそが言語ネイティブな機械との唯一の対話手段であることが確認される [p.9], [p.10]。

■ Part 1: 文を生成する力

• この部の核心:

GPT-4の基本的言語能力を「連想」という概念で捉え直します。ある文・フレーズを与えると、そこから意味的に関連する新しい表現を次々と生成できるこの能力こそが、GPTの「文を生成する能力の素のかたち」であると位置づけます [p.17]。

• 論理展開:
• 連想と連想の鎖: 「暗い空の下高い丘の上の一人の少女」から20の文を生成する実演 [p.31], [p.32]、「青く輝く石」から始まるフレーズの連鎖（誤送信でGPT-4が自律的に連鎖を補完した事例 [p.34]）、「暗い夜夜明けを待つ」からの20回連鎖（3種のregenerate比較 [p.35]〜[p.40]）を通じ、連想能力の豊かさと非決定性を実証する。
• 「意味のない文」からの連想: Chomskyの"colorless green ideas sleep furiously"を起点に連想を生成すると、連想先は必ず「意味のある文」になる。regenerateするとGPT-4が出典（Chomsky）に自律的に気づく「ハプニング」が発生 [p.48], [p.49]。
• 曖昧な文の生成: 英語での文法的曖昧文（"I saw a man with a telescope."型）の生成・説明は完璧に機能するが、日本語での同様の課題は完全に失敗。「英語で考えて日本語に翻訳している」という仮説が示唆される [p.59], [p.69]。

■ Part 2: 意味と構成性

• この部の核心:

GPT-4が「語の意味」についてWordNetに匹敵する構造的情報を保持していることをプロンプトで実証します。続いて、フレーズ・文の意味がどのように構成されるかを探り、LLMが品詞・文法性・構成性（compositionality）を「内部的に理解しているわけではなく、統計的パターンから処理している」というGPT-4自身の証言を引き出します [p.118], [p.123]。

• 論理展開:
• 語の意味とWordNet: 「意味・同義語・類義語・上位概念・下位概念・近接語・直前語・直後語」を生成するプロンプトを設計し、「歩く」「知能」「愛憎」「King」「Hallucination」等で動作を確認。GPT-4はPrincetonのWordNetが持つ情報を事実上包含している [p.74]〜[p.96]。
• 「語の意味」の階層構造: "human"の上位概念を30個・多視点（生物学・社会学・哲学・心理学・環境）で列挙させ、概念のネットワーク構造をGPT-4が把握していることを確認する [p.98]〜[p.107]。
• 品詞と文法性: 「猫黒い」「走るはやく」等の非文法的フレーズも品詞タグ付けは行えるが、「GPTは品詞を内部的に理解しているのではなく、訓練データのパターンを利用しているだけ」とGPT-4自身が説明する [p.123], [p.124]。
• 構成性と推論（entailment）: 「黒い猫は猫である」という構成性に基づく推論について、GPTは直接的には行えず、「訓練データのパターンに基づく統計的処理」に過ぎないとGPT-4が自己解説。モデルの規模拡大だけではこの能力の獲得は保証されないという論文（Toutanova 2022）にも言及される [p.129]〜[p.136]。

■ Part 3: ことばを生成する能力と人間

• この部の核心:

「連想」「生成能力」「チューリングテスト」「ことばの力の哲学的・進化論的背景」「多言語翻訳能力」という多面的な議論を統合し、大規模言語モデルが人間にとって何を意味するかを問います。特に翻訳能力のブレイクスルーを大規模言語モデルの最大の社会的貢献として位置づけます [p.212]。

• 論理展開:
• 連想の本質をGPT-4に問う: GPT-4は連想を「5ステップの手順」で説明するが、自らそれを「AIの内部動作を人間が理解しやすいように翻訳したものであり、この手順を学習したわけではない」と撤回。「意識や理解、自発性は持っていない」と明言する [p.161], [p.162]。
• ディドロのオウムとチューリングテスト: ディドロの「どんな質問にもすぐ答えるオウムがいれば知性を持つと考えるだろう」という予言 [p.183]を踏まえ、GPT-4がTuringオリジナルの4問テスト（Forthブリッジのソネット・加算・チェス・チェックメイト問題）を実際に通過することを確認 [p.185]〜[p.190]。
• ことばの力の哲学的基礎: ことばは人間の生物学的特徴であり（Chomsky「突然変異としての言語能力の獲得」[p.205], [p.206]）、Mergeという操作により階層的・無限の表現が可能になった。これが人類の社会・文化・科学の基盤であることを確認する [p.207]。
• 多言語翻訳能力の実証: GPT-4がOpenAI公開の27言語（English, Italian, Mandarin, Arabic, Swahili, Bengali, Telugu等）で「暗い空の下高い丘の上の一人の少女」「In the beginning was the Word」「杜甫の春望」「ランボー『洪水の後』」を翻訳する実演を掲載 [p.218]〜[p.237]。翻訳はリアルタイム検索ではなく「訓練データに基づく生成」であるとGPT-4自身が説明する [p.247], [p.248]。