講演資料
講義資料スライドの表紙です。上のスライド画像をクリックすると、同じ画面のまま全編のPDF資料を快適に閲覧・印刷することができます。
セミナーの概要
本セミナー「対話でわかること」は、人工知能（AI）と人間との「対話」という行為を通じて、私たちが相手について何を知ることができるのか、という認識論的な問いを中心に据えています。
具体的な題材として取り上げられるのは、OpenAIが開発した大規模言語モデル「GPT-3」と、量子コンピューティング研究でも著名な物理学者Michael Nielsenとの実際の対話記録です [p.20]。この対話は、単なるAI性能のデモンストレーションではなく、「対話を重ねることで相手の知識の輪郭、とりわけ『知っていないこと』が浮かび上がる」という、きわめて重要な観察を含んでいます [p.2]。
第1ラウンドでは、GPT-3は「量子コンピューターでNP完全問題を多項式時間で解くことはできない」という正しい答えを返します [p.4, p.5]。続く第2ラウンドでは「なぜか？」という問いに対し、「NP完全問題はBQPに属さないから」という、一見もっともらしいが実質的には問いを言い換えただけの回答を示します [p.7, p.8]。
しかし第3ラウンド以降、「なぜできないことの根底にある理由を教えてほしい」という深掘りの問いに対し、GPT-3は「説明する時間がない」という奇妙な言い訳を繰り返し [p.11]、以降の異なる問いかけにも同一の返答をループし続けます [p.14, p.16, p.18]。
この対話のシーケンスが示すのは、「正しい答えを一度返せること」と「その理由を深く理解していること」は全く別物であるという事実です。AIは表層的な知識パターンを持ちながら、概念の根拠や構造を問われると応答不能に陥ります。対話を「一問一答」に留めず、問いを変化させながら繰り返すことで、人間は初めて相手の理解の深度と限界を測ることができるのです。このセミナーは、AIリテラシーの本質、すなわち「AIが何を知っているか」だけでなく「AIが何を知らないか」を見極める能力こそが重要だという洞察を、生き生きとした対話の実例を通じて提示しています。
講義のロードマップ
ここでは、セミナーの講演資料がどのようなパートから構成されているかを示します。また、それぞれのパートのポイントを紹介します。
■ Part 1: 「対話」でわかること導入と問題設定
本セミナーの主題を宣言するパートです。人工知能を搭載した機械と人間の対話を実例として検討することで、対話という行為が単なる情報取得の手段を超え、「相手が知っていないこと」を明らかにする認識的プロセスであることを提示します [p.2]。質問を変えながら複数回の対話を行うことが、相手知識の全体像を把握するための鍵であると強調されます [p.2]。
■ Part 2: 第1〜2ラウンド表層的な正答とその限界
GPT-3との対話の前半では、AIが一見正確な回答を返す様子が示されます。量子計算とNP完全問題という高度な技術的問いに対して正しく答えるGPT-3の姿は、人間に「よく知っている」という印象を与えます [p.5]。しかし「なぜか？」という一段深い問いに対し、GPT-3は主張を言い換えただけの循環論法的回答を返すに過ぎず、理解の浅さが早くも顔を出します [p.7, p.8]。
■ Part 3: 第3〜6ラウンドループの露呈と「知らないこと」の発見
対話の後半では、GPT-3の限界が明確に露呈します。「根底にある理由を教えてほしい」という問いに対し、GPT-3は「説明する時間がない」という不自然な言い訳を返し始め [p.11]、その後の問いかけの内容が変わっても同一の文言を繰り返すループに陥ります [p.14, p.16, p.18]。人間側はこのループの観察を通じて「こいつ、わかってない」という確信へと至ります [p.19]。これこそが「対話を通じて知らないことを知る」プロセスの核心です。
■ Part 4: 総括GPT-3が知っていること・知っていないことを知る
本セミナーの締めくくりとして、ここまでの対話がGPT-3と物理学者Michael Nielsenの実際のやり取りであることが明かされます [p.20]。これにより、提示された対話事例は単なる思考実験ではなく、実在するAIシステムの性質を正確に記録したドキュメントとして位置づけられます。対話という手法が、AIの能力と限界を評価する実践的かつ本質的な方法であるという結論が提示されます。
ページのナビゲート