機械と人間のインタラクション

講演資料

講義資料スライドの表紙です。スライド画像、または下の要約文中の青いページ番号リンクをクリックすると、別のタブで無駄なノイズのない、純粋なPDFビューア画面が起動し、指定されたページへ直接ジャンプして快適に閲覧できます。

全体概要

本セミナー「対話でわかること」は、人工知能（AI）と人間との「対話」という行為を通じて、私たちが相手について何を知ることができるのか、という認識論的な問いを中心に据えています。

具体的な題材として取り上げられるのは、OpenAIが開発した大規模言語モデル「GPT-3」と、量子コンピューティング研究でも著名な物理学者Michael Nielsenとの実際の対話記録です [p.20]。この対話は、単なるAI性能のデモンストレーションではなく、「対話を重ねることで相手の知識の輪郭、とりわけ『知っていないこと』が浮かび上がる」という、きわめて重要な観察を含んでいます [p.2]。

第1ラウンドでは、GPT-3は「量子コンピューターでNP完全問題を多項式時間で解くことはできない」という正しい答えを返します [p.4], [p.5]。続く第2ラウンドでは「なぜか？」という問いに対し、「NP完全問題はBQPに属さないから」という、一見もっともらしいが実質的には問いを言い換えただけの回答を示します [p.7], [p.8]。

しかし第3ラウンド以降、「なぜできないことの根底にある理由を教えてほしい」という深掘りの問いに対し、GPT-3は「説明する時間がない」という奇妙な言い訳を繰り返し [p.11]、以降の異なる問いかけにも同一の返答をループし続けます [p.14], [p.16], [p.18]。

この対話のシーケンスが示すのは、「正しい答えを一度返せること」と「その理由を深く理解していること」は全く別物であるという事実です。AIは表層的な知識パターンを持ちながら、概念の根拠や構造を問われると応答不能に陥ります。対話を「一問一答」に留めず、問いを変化させながら繰り返すことで、人間は初めて相手の理解の深度と限界を測ることができるのです。このセミナーは、AIリテラシーの本質、すなわち「AIが何を知っているか」だけでなく「AIが何を知らないか」を見極める能力こそが重要だという洞察を、生き生きとした対話の実例を通じて提示しています。

講義のロードマップ

■ Part 1: 「対話」でわかること——導入と問題設定

この部の核心:

本セミナーの主題を宣言するパートです。人工知能を搭載した機械と人間の対話を実例として検討することで、対話という行為が単なる情報取得の手段を超え、「相手が知っていないこと」を明らかにする認識的プロセスであることを提示します [p.2]。質問を変えながら複数回の対話を行うことが、相手知識の全体像を把握するための鍵であると強調されます [p.2]。

論理展開:
対話の目的は「相手が知っていること」の確認に留まらない [p.2]
繰り返しの問いかけによって「知っていないこと」が初めて可視化される [p.2]
AIとの対話を事例として用いることで、知識の有無を客観的に観察できる [p.2]

■ Part 2: 第1〜2ラウンド——表層的な正答とその限界

この部の核心:

GPT-3との対話の前半では、AIが一見正確な回答を返す様子が示されます。量子計算とNP完全問題という高度な技術的問いに対して正しく答えるGPT-3の姿は、人間に「よく知っている」という印象を与えます [p.5]。しかし「なぜか？」という一段深い問いに対し、GPT-3は主張を言い換えただけの循環論法的回答を返すに過ぎず、理解の浅さが早くも顔を出します [p.7], [p.8]。

論理展開:
Q: 量子コンピューターでNP完全問題を多項式時間で解けるか？ → A: できない（正答）[p.4], [p.5]
Q: なぜか？ → A: BQPに属さないから（言い換えに過ぎない）[p.7]
人間側の評価：「正しい答えだ」→「なるほど、よく知っている」→「でも、ちょっと待てよ」[p.5], [p.8], [p.9]
正答を返すことと、その理由を理解することは別次元の問題であることが示唆される [p.9]

■ Part 3: 第3〜6ラウンド——ループの露呈と「知らないこと」の発見

この部の核心:

対話の後半では、GPT-3の限界が明確に露呈します。「根底にある理由を教えてほしい」という問いに対し、GPT-3は「説明する時間がない」という不自然な言い訳を返し始め [p.11]、その後の問いかけの内容が変わっても同一の文言を繰り返すループに陥ります [p.14], [p.16], [p.18]。人間側はこのループの観察を通じて「こいつ、わかってない」という確信へと至ります [p.19]。これこそが「対話を通じて知らないことを知る」プロセスの核心です。

論理展開:
Q: できない理由の根底は？ → A: 「説明する時間がない」（奇妙な回避）[p.11]
Q: なぜループするのか？ / また、ループだ！ → 同一回答の繰り返し [p.15], [p.16], [p.17], [p.18]
人間側の到達点：「こいつ、わかってない」——深い理解の欠如が対話によって証明される [p.19]
対話の反復と問いの変化が、AI（あるいは任意の対話相手）の知識の「穴」を可視化する有効な手段であることが実証される [p.19]

■ Part 4: 総括——GPT-3が知っていること・知っていないことを知る

この部の核心:

本セミナーの締めくくりとして、ここまでの対話がGPT-3と物理学者Michael Nielsenの実際のやり取りであることが明かされます [p.20]。これにより、提示された対話事例は単なる思考実験ではなく、実在するAIシステムの性質を正確に記録したドキュメントとして位置づけられます。対話という手法が、AIの能力と限界を評価する実践的かつ本質的な方法であるという結論が提示されます。