言語理論
「知識のハブ」の変化を考える
はじめに 「コミュニケーションのハブ」「ハブとしてのメディア」 なぜ、「知識のハブの変化」を考えるのか？ 「知識のハブ」としてどのような領域に注目するのか グローバルな検索 学会と論文 Big AI Tech 科学・技術 […]
“Next token prediction” 描像を超えて
“Next token prediction” 描像を超える理論の探究 今回のセミナーの問題意識の一つは、LLMを「次のトークンを確率的に予測する」機械として捉える見方は、LLMの現実の振る舞いの説明としては、十分ではな […]
embeddingプログラミングの基礎
Part 1 機械と人間が意味を共有するembeddingの世界 このセミナーは、前回のマルレク「機械の言語能力の獲得を考える」の続編になっています。当初は、「機械と人間が意味を共有するembeddingの世界を考える」 […]
Deep Dive Audio 20260131
Transformerの登場 翻訳モデルから大規模言語モデルへ EncoderとDecoderの分離からDecoder OnlyのLLMへ
機械の言語能力の獲得を考える
当初、「機械の言語能力の獲得から考える embeddingの共有・蓄積・検索の未来」というテーマでセミナーを開催することを考えていたのですが、長くなりそうなので、セミナーを次の二つに分けることにしました。 このWebペー […]
LLMのマグニチュード論 1 −− LLMの確率計算とenrichedカテゴリー論
はじめに 今回のマルレクは、LLMの理論研究で、もっとも新しく最も先進的な業績である Tai−Danae Bradleyの論文 “The Magnitude of Categories of Texts En […]
LLMのマグニチュード論 1 −− LLMの確率計算とenrichedカテゴリー論
はじめに 今回のマルレクは、LLMの理論研究で、もっとも新しく最も先進的な業績である Tai−Danae Bradleyの論文 “The Magnitude of Categories of Texts En […]
LLMのマグニチュード論 1 −− LLMの確率計算とenrichedカテゴリー論
はじめに 今回のマルレクは、LLMの理論研究で、もっとも新しく最も先進的な業績である Tai−Danae Bradleyの論文 “The Magnitude of Categories of Texts En […]
マグニチュード論の展開 −− LLMの新しい理論研究(1)
お詫び：タイトルを「マグニチュード論の展開」に変更しました。 セミナーのタイトルを、「Bradleyのマグニチュード論」から「マグニチュード論の展開」 に変更しました。すみません。 当初、今月は、Tai−Danae B […]