講演資料
講義資料スライドの表紙です。上のスライド画像をクリックすると、同じ画面のまま全編のPDF資料を快適に閲覧・印刷することができます。
セミナーの概要
本セミナー「ディープラーニング入門 I ─ ニューラル・ネットワークの基礎」は、人工知能の中核技術であるニューラル・ネットワークを、その生物学的起源から数理的定式化まで一貫した視点で解説する意欲的な講義です。
中心的な「問い」は「なぜニューラル・ネットワークは知能的なふるまいを実現できるのか」であり、その答えを探るために、講義はまず生物の神経系の進化という壮大な歴史から論を起こします。クラゲのような腔腸動物が持つ散在神経系から、扁形動物のかご形神経系、バッタのはしご形、そしてヒトの管状神経系へと至る進化の道筋を辿ることで、「脳」という情報処理装置がいかにして出現したかを俯瞰します。
とりわけ重要な主題として提示されるのが「視覚の誕生」です。5億年前のカンブリア紀に「眼」を獲得した生物は、捕食と被捕食という死活的な淘汰圧のもとで視覚処理能力を飛躍的に発展させ、それが運動能力と深く結びつくことで生物のニューラル・ネットワーク全体の進化の飛躍をもたらしました。この文脈は、現代のディープラーニングが画像認識や自律的運動制御に強みを持つ理由を歴史的・生物学的に根拠づけるものです。
生物学的背景を踏まえたうえで、講義は個々のニューロンの動作原理──興奮性シナプスと抑制性シナプスによる重みづけ加算と閾値判定──を丁寧に展開し、これを「重み」「バイアス」「活性化関数」という数理的概念へと昇華させます。さらに行列とベクトルによる表現を通じて、一個のニューロンから複数ニューロンの層、そして多層ネットワーク全体の状態を統一的な式 Y = XW + b で記述できることを示します。最終的には、計算グラフとテンソルという現代的なフレームワーク(TensorFlowの表記に準拠)によって、複雑なネットワークを簡潔に表現・実装するための基盤が整えられます。生物の脳研究(Blue Brain Project、EU Human Brain Project、NIH Human Connectome Project)との対比も交えながら、ニューラル・ネットワーク研究と脳科学が「人間の知能の解明」という共通目標のもとで並走していることも強調されます。
講義のロードマップ
ここでは、セミナーの講演資料がどのようなパートから構成されているかを示します。また、それぞれのパートのポイントを紹介します。
■ Part 1: 生物のニューラル・ネットワークと脳
ニューラル・ネットワークの出発点として、生物の神経系の起源と進化を概観します。クラゲから昆虫、頭足類、そして哺乳類へと続く神経系の多様な形態と集中化の過程を辿ることで、脳の基本的な計算ロジックが進化の初期段階ですでに確立されていたという驚くべき事実が提示されます [p.4, p.5, p.6]。
■ Part 2: 視覚の誕生と生物のニューラル・ネットワークの飛躍
カンブリア紀(5億年前)における「眼」の獲得が、捕食者・被捕食者双方にとって死活的な意味を持ち、視覚処理と運動能力の高度化という形で生物のニューラル・ネットワーク進化の最大の飛躍をもたらしたことを論じます [p.11]。この視点は、ディープラーニングが現代のセンサー搭載マシンの自律的運動制御に活躍する理由に直結します [p.15]。
■ Part 3: 脳研究の取り組み
現代の脳研究プロジェクトを概観し、ニューラル・ネットワーク研究と脳科学が「人間の知能の解明」という共通目標のもとで並走しながらも異なるアプローチを取っていることを整理します。ボトムアップ(シミュレーション)とトップダウン(認知科学的リバース・エンジニアリング)の対立構図が鮮明に描かれます [p.28]。
■ Part 4: ニューロンの働き ─ ニューロンはいつ発火するのか?
脳の動作は無数のニューロンの動作に帰着するという命題のもと、個々のニューロンが「いつ発火するか」という問いに答える動作原理を、生物学的なシナプス伝達の仕組みから丁寧に説明します。興奮性・抑制性シナプスによる「重みつき多数決」という単純かつ強力な枠組みが明確に示されます [p.59, p.60, p.61]。
■ Part 5: ニューロンの状態の数式表現 ─ 重み・バイアス・発火条件
生物のニューロンの動作原理を、「重み (W)」「バイアス (b)」「入力 (X)」という三つの量を用いた数式へと昇華させます。単一ニューロンの発火条件が W·Xᵀ + b > 0 という極めてシンプルな形で表現でき、これがベクトル・行列に拡張されても同じ形式を保つことが示されます [p.65, p.66, p.67, p.68]。
■ Part 6: 複数のニューロンからなる層の数式表現
単一ニューロンから複数ニューロンの「層」へと表現を拡張し、層全体の状態が行列Wと入力ベクトルXの積 Y = W·Xᵀ + bᵀ(列ベクトル表示)で統一的に記述できることを示します。「式は便利だ」というメッセージとともに、数式の抽象化が持つ威力が強調されます [p.95, p.100, p.101, p.106, p.107]。
■ Part 7: 活性化関数(Activator)と SoftMax
ニューロンの発火条件を「活性化関数 φ」として定式化し、φ(W·Xᵀ + b) という形でニューロンの出力を表現する枠組みを確立します。sigmoid、ReLU、tanhという代表的な活性化関数の特性と、クラス分類に特化した SoftMax 関数の仕組みを解説します [p.116, p.122, p.125, p.128, p.129]。
■ Part 8: 表記の見直しと計算グラフ ─ テンソルとネットワーク構造
列ベクトル表示 Y = W·Xᵀ + bᵀ をTensorFlowの慣行に準じた行ベクトル表示 Y = X·W + b へ変換し、さらに「計算グラフ」による視覚的表現を導入します。複数の層からなるネットワーク全体を「積→和→φ」のノード列を直列結合したグラフで簡潔に表現できることが示され、グラフを流れるデータが「テンソル」という統一的な概念で捉えられることが明確になります [p.143, p.165, p.167, p.172, p.180, p.193]。
ページのナビゲート