講演資料


講義資料スライドの表紙

講義資料スライドの表紙です。スライド画像、または下の要約文中の青いページ番号リンクをクリックすると、別のタブで無駄なノイズのない、純粋なPDFビューア画面が起動し、指定されたページへ直接ジャンプして快適に閲覧できます。

全体概要

本セミナーは、「来たるべきAI新時代に向けて、我々はどう学ぶべきか」という問いを出発点に据えています [p.7]。クラウドとモバイルの10年（2004〜2012年頃）が一段落し、次の10年を牽引する技術的中核としてニューラル・ネットワーク／ディープラーニングが登場しつつある、という技術史的な認識が全体を貫く基軸です [p.6], [p.7]。モバイルがフィーチャーフォンの、クラウドがデータセンターの「連続的発展」だったのに対し、ニューラル・ネットワークはほとんどの技術者にとって全く新しい技術であり、そこには明確な「断絶」がある、と講師は強調します [p.7]。

現代のAI技術は一枚岩ではなく、①統計的分析に基づく数値予測・クラス分け、②経験的に構築された知識・推論・対話システム、③ニューラル・ネットワークによる感覚・運動系のアプローチ（ディープラーニング）、④人間固有の言語能力の機械的実現、⑤数学的・論理的推論能力への取り組みという、複数の異なる潮流から構成されています [p.21]。その中でニューラル・ネットワークが現在の技術的中核として重要視される理由は、①〜⑤のほぼすべての領域に対して有効な貢献を持ち始めているからです [p.22]。

技術の土台となるモデルは生物の神経回路網にあります。カンブリア紀に誕生した「視覚」の能力 [p.28]、Hubel と Wiesel による大脳視覚野研究 [p.32]、そしてヘッブの法則に代表されるシナプス可塑性の原理 [p.55] が、人工ニューラル・ネットワークの概念的な礎を形成しています。脳研究の最前線（Blue Brain Project [p.40]、EU Human Brain Project [p.44]、US BRAIN Initiative [p.51]）も紹介され、脳科学とニューラル・ネットワーク研究が「人間の知能の解明」という共通の目標で結ばれていることが示されます [p.39]。

数理的な中核をなすのは、一つのニューロンの発火条件を表す式 W・X + b > 0、そしてそれを活性化関数φで包んだ φ(X・W + b) という二つの式です [p.93], [p.120]。この抽象化により、一個のニューロンから多層の巨大なネットワークまで、同一の数式とグラフ表現で統一的に記述できることが、本講義最大のブレイクスルーとして丁寧に展開されます。TensorFlowをはじめとする主要フレームワークの実装がすべてこの構造に従っていることも示され、理論と実践が有機的に接続されます [p.155]〜[p.161]。

講義のロードマップ

■ Part I: ニューラルネットワークの基礎

  • この部の核心:

「なぜ今ニューラル・ネットワークを学ぶのか」という動機付けから出発し、生物の神経系をモデルとする概念的基礎を固めたうえで、一個のニューロンの動作原理を数式で定式化します。さらにその定式化を「層」全体へ拡張し、行列表現 φ(X・W + b) という統一的な記述へと導きます [p.4], [p.60]。最終的にはTensorFlowのグラフ表現・テンソルの概念まで到達し、理論とフレームワーク実装の橋渡しを完成させます [p.129], [p.163]。

  • 論理展開:
  • AI技術の地図を描く: AI技術を5つの潮流（統計、対話、深層学習、言語、論理）に整理し、ニューラル・ネットワークが横断的に中核を担うことを示す [p.21], [p.22]。
  • 生物モデルの確認: カンブリア紀の視覚誕生 [p.28]、Hubel & Wieselの視覚野研究 [p.32]、ヘッブの法則 [p.55] を経て、「シナプスの重みが学習によって変化する」という概念的土台を確立する。
  • ニューロン発火の数式化: 賛成票・反対票の多数決という直感的説明 [p.69] から、重み(W)・バイアス(b)の導入 [p.73]、発火条件 W・X + b > 0 の定式化へ [p.93]。具体的な数値例で繰り返し確認される [p.76], [p.77]。
  • 層への拡張と行列表現: 複数ニューロンの層も同じ式形式で表現できることを、3×3・6×6の行列を用いて示す [p.97]〜[p.103]。Y = W・X + b がスカラー・ベクトル・行列のいずれにも適用できる「式の汎用性」を強調 [p.105]〜[p.109]。
  • 活性化関数の導入: Sigmoid [p.114]、ReLU [p.115]、tanh [p.116]、SoftMax [p.122] を紹介し、φ(X・W + b) という統一表現を確立 [p.120]。
  • TensorFlowのグラフ・テンソルへの接続: 層をグラフのノードと辺で表現するスタイル [p.130]〜[p.135]、TensorFlow・CNTK・Torch7の実装が同一グラフ構造を持つことの確認 [p.155]〜[p.161]、グラフを流れるデータ「テンソル」のランク・形の定義 [p.169]〜[p.172]。