ChatGPTはどう変わろうとしているのか?
セミナーの特徴
ChatGPTの登場から、約一年が過ぎようとしています。その衝撃が冷めやらぬ今また、大きな変化が起きようとしています。11月6日のOpenAI DevDayの発表は、ChatGPTの変化の方向をはっきりと示しました。
その内容については、多くの報道がなされ、沢山のセミナー・勉強会が行われていて、多くの人は既にご存知だと思います。
今回の丸山のセミナーも、基本的には、これらの報道・各種セミナーと同様に、このOpenAIの発表にインスパイアされたものです。ただ、切り口は少し違っていると思います。今回のセミナーは二つの特徴を持っています。
第一の特徴は、今回のセミナーは、今回のOpenAIの発表の意味を大規模言語モデルの技術の進化の中で、位置付けようとしていることです。
これからもAI技術の進化は続くと思います。それは、それまでの達成と問題を踏まえ次の変化を生み出すというドラスティックなものになるでしょう。その中で、現在の変化をもたらしたものを、その基礎から歴史的に振り返ることは重要なことだと僕は考えています。
今回のセミナーは、AI技術の変化を振り返り、それを基礎から捉え返す機会になると思います。
第二の特徴は、今回のOpenAIの発表には、非常に多岐にわたる内容が含まれているのですが、今回の丸山のセミナーは、その中で二つのことにフォーカスしようとしています。
一つは「AIのマルチモーダル化」で、もう一つは「AIがカスタマイズ可能になること」です。この二つは、AIと人間の未来での関係を考える上で、重要なステップになっていくと僕は考えています。
今回のセミナーでは、AI技術の過去を振り返るとともに、その未来を展望する学びの場になることを願っています。
セミナーの構成
第一部 大規模言語モデルの成立とChatGPTの成功の背景
AttentionメカニズムとGoogle機械翻訳
( スライドのpdf blog:「大規模言語モデルの母胎は「翻訳モデル」」
TransformerとBERT
( スライドのpdf blog:「大規模言語モデルの基礎」)
ChatGPTの成功と「人間のフィードバックからの強化学習」の導入
( スライドのpdf blog:「何がChatGPTの成功を可能にしたのか」)
AIの危険性の認識とModel Refusalという手法
( スライドのpdf blog:「Interlude -- AIと人間の関係を考える」)
第二部 AIのマルチモーダル化の進行
Google Vision Transformer
( スライドのpdf blog:「画像処理でのGoogleとOpenAIのアプローチの違い」)
第三部 AIのカスタム化の動向
GPTをAI Assistantアプリにカスタマイズする
( スライドのpdf blog:「AI利用のインターフェースを劇的に変えるAI Assistant アプリ」)
GPTをAI Assistantアプリにカスタマイズする API編
GPTをAI Assistantアプリにカスタマイズする API編 PDF Viewer
質疑応答
問題提起と司会 角川アスキー総研 遠藤諭 氏
未来展望について
AIの未来展望については、非常に楽観的なものですが、11月23日に開催される日本Androidの会のイベントABC Autumn での丸山の基調講演「Be My AI !」でお話させていただきます。