講演資料
講義資料スライドの表紙です。上のスライド画像をクリックすると、同じ画面のまま全編のPDF資料を快適に閲覧・印刷することができます。
セミナーの概要
本セミナー「大規模言語モデルの展開 ――マルチモーダルへ――」は、ChatGPTの急速な普及を転換点として生じているAI分野の急激な変化を、技術的連続性という視点から読み解こうとするものです。登壇者は、現在進行中の変化が「新しい何か」ではなく、大規模言語モデルの自然な「展開」であるという立場を明確に取ります [p.8]。
その技術的中心にあるのは、自然言語処理にとどまらず、コード生成・画像認識・分子構造モデリングといった多様な領域でもTransformerが優秀な能力を発揮できることが明らかになったという事実です。そして現時点での現実的な技術的焦点として、「テキストの世界とイメージの世界の統合」――すなわちマルチモーダルなAI――が位置づけられます [p.9]。
この問いに対して本セミナーが取り上げる二つの主要プロジェクトが、GoogleのVision Transformer（ViT）とOpenAIのCLIPです [p.10]。ViTは「CNNなしでもTransformerだけで画像認識が可能である」ことを実証し、CLIPは「自然言語による監督（Natural Language Supervision）」という新しいアプローチで画像とテキストを統合します。これら二つのプロジェクトを貫く新しいアイデアとして、**Inductive Bias Free**・**Natural Language Supervision**・**Contrastive Representation Learning** の三概念が強調されます [p.13]。
一方で、講師は楽観論を戒める視点も忘れません。Transformerという一つのエンジンで万事解決するという単純なビジョンへの疑問を呈し、マルチモーダル化の本当の大きさは、むしろAIの入出力が「音声」で可能になることによるAI利用人口の拡大にあるとも論じます。長期的には、大規模言語モデルの最大の貢献は「人間にことばの壁を乗り越える現実的手段を初めて提供したこと」にあるという深い洞察で締めくくられています [p.17]。
講義のロードマップ
ここでは、セミナーの講演資料がどのようなパートから構成されているかを示します。また、それぞれのパートのポイントを紹介します。
■ はじめに: 急激な変化の技術的文脈
ChatGPT普及という転換点を起点に、現在のAIの急激な変化がどのような技術的背景を持つのかを問います。変化の本質は「技術的連続性」にあり、arXivへの投稿数（”transformer”で10万件超）がその規模を如実に示します。
■ Part 1: 画像認識とAttention
マルチモーダルAIへの道を理解するための前提として、従来の画像認識技術の課題と、Attentionメカニズムの誕生経緯を丁寧に整理します。CNNベースのWindows Sliding、Caption生成、そしてAttentionの登場という歴史的文脈が描かれます。
■ Part 2: Vision Transformer ― Inductive Bias Free
GoogleのViTは「CNNが持つ帰納的バイアス（局所性・並進等価性・2次元近傍構造）を一切排除し、純粋なTransformerだけで最先端CNNを超える」ことを実証した画期的成果です。その鍵は画像のパッチ化によるembedding設計と、大規模データでの事前学習にあります。
■ Part 3: CLIP ― Connecting Text and Images
OpenAIのCLIPは、従来の「固定カテゴリラベル」によるデータセットの限界を突破するため、インターネット上に豊富に存在する「画像とテキストのペア」を用いた**Natural Language Supervision**を採用します。さらに学習効率を大幅に向上させる**Contrastive Representation Learning**を組み合わせることで、多様なゼロショットタスクに対応する汎用的なビジョンモデルを実現します。
ページのナビゲート