言語理論
embeddingの共有・蓄積・検索の未来新着!!
embeddingがグローバルな検索の世界に与える影響 このパートでは、AIの登場がグローバルなインターネット上の検索に与える影響を見ていきたいと思います。 検索の世界は、今、急速な変化の只中にあります。その変化を特徴 […]
“Next token prediction” 描像を超えて新着!!
“Next token prediction” 描像を超える理論の探究 今回のセミナーの問題意識の一つは、LLMを「次のトークンを確率的に予測する」機械として捉える見方は、LLMの現実の振る舞いの説明としては、十分ではな […]
embeddingプログラミングの基礎
Part 1 今回のセミナーの課題 このセミナーは、前回のマルレク「機械の言語能力の獲得を考える」の続編になっています。当初は、「機械と人間が意味を共有するembeddingの世界を考える」というタイトルで予告されたもの […]
Deep Dive Audio 20260131
Transformerの登場 翻訳モデルから大規模言語モデルへ EncoderとDecoderの分離からDecoder OnlyのLLMへ
機械の言語能力の獲得を考える
当初、「機械の言語能力の獲得から考える embeddingの共有・蓄積・検索の未来」というテーマでセミナーを開催することを考えていたのですが、長くなりそうなので、セミナーを次の二つに分けることにしました。 このWebペー […]
LLMのマグニチュード論 1 −− LLMの確率計算とenrichedカテゴリー論
はじめに 今回のマルレクは、LLMの理論研究で、もっとも新しく最も先進的な業績である Tai−Danae Bradleyの論文 “The Magnitude of Categories of Texts En […]
LLMのマグニチュード論 1 −− LLMの確率計算とenrichedカテゴリー論
はじめに 今回のマルレクは、LLMの理論研究で、もっとも新しく最も先進的な業績である Tai−Danae Bradleyの論文 “The Magnitude of Categories of Texts En […]
LLMのマグニチュード論 1 −− LLMの確率計算とenrichedカテゴリー論
はじめに 今回のマルレクは、LLMの理論研究で、もっとも新しく最も先進的な業績である Tai−Danae Bradleyの論文 “The Magnitude of Categories of Texts En […]
マグニチュード論の展開 −− LLMの新しい理論研究(1)
お詫び：タイトルを「マグニチュード論の展開」に変更しました。 セミナーのタイトルを、「Bradleyのマグニチュード論」から「マグニチュード論の展開」 に変更しました。すみません。 当初、今月は、Tai−Danae B […]