大規模言語モデルの深層解説
このコースでは、大規模言語モデル（LLM）の発展史、その核心技術的アーキテクチャ、トレーニングパラダイム（事前学習、ファインチューニング、および整合）、マルチモーダル拡張、プロンプト工学、チェーン・オブ・シンキング推論、エージェント、さらにはモデルの安全性やプライバシー保護といった先端的なトピックについて、包括的かつ詳細な紹介を行います。
コース概要
📚 コンテンツ概要
本コースでは、大規模言語モデル（LLM）の進化、核心技術的アーキテクチャ、トレーニングパラダイム（事前学習、ファインチューニング、アライメント）、マルチモーダル拡張、プロンプト工学、思考の連鎖（CoT）、エージェント、さらにはモデルの安全性やプライバシー保護といった最先端トピックについて、包括的かつ深い導入を提供します。
フルスタック大規模モデルの技術的進化と安全性のアライメントについての深層分析。事前学習から汎用エージェントまで。
🎯 学習目標
- モデルアーキテクチャの違いを識別する：エンコーダーのみ、デコーダーのみ、エンコーダー・デコーダー型モデルの構造的差異と用途を特定する。
- LLMトレーニングパイプラインを説明する：自己教師付き事前学習から監督学習によるファインチューニング（SFT）および人間からのフィードバックに基づく強化学習（RLHF）への移行を説明する。
- モデルスケーリングと行動を分析する：スケーリング則、出現能力（文脈内学習、思考の連鎖）および幻覚現象の概念を説明する。
- エンコーダーのみ（BERT）、デコーダーのみ（GPT）、エンコーダー・デコーダー（T5）アーキテクチャの構造的差異を分析する。
- 三段階トレーニングプロセスを説明する：事前学習（ベースモデル）、指示チューニング（SFT）、アライメント（RLHF/PPO）。
- GPT、Llama、Qwen、DeepSeekなどの主要なLLMの性能、スケーリング則、アーキテクチャ的革新を比較する。
- 構造化データ抽出および分類に向けたゼロショットおよびフェイショットプロンプト戦略を実装する。
- ハイパーパラメータ（温度、Top P、ペナルティ）を調整して、創造的出力と決定論的出力のバランスを取る。
- 手動、自動、ゼロショット（「まずステップバイステップで考えましょう」）の方法を用いた効果的な思考の連鎖（CoT）プロンプトを構築する。
- CoTバリエーションを分析・比較する：セルフコンシステンシー、プログラムオブサウンド（PoT）、ツリーオブサウンド（ToT）、グラフオブサウンド（GoT）アーキテクチャの違いを区別する。
レッスン 共 8 课时 · 预计 24.0h
レッスン
Lesson
This lesson explores the paradigm shift from task-specific AI to general-purpose Large Language Models, highlighting how scaling laws and the Transformer architecture enable emergent reasoning capabilities. Students will learn how the self-attention mechanism allows models to process data in parallel and why decoder-only architectures have become the standard for modern generative AI.
This lesson explores the evolution of Transformer architectures, highlighting why the industry has shifted toward Decoder-only models due to their superior scaling laws and generative capabilities. It also examines the foundational training pipeline, covering the transition from pre-training and Chinchilla optimality to modern instruction tuning and alignment techniques.
This lesson explores the evolution of prompting strategies, ranging from zero-shot instructions to few-shot demonstrations and Chain-of-Thought reasoning for complex logic. Students will learn how to improve model performance and reliability by using structural constraints, logical decomposition, and precise formatting to ensure outputs are suitable for programmatic use.
This lesson explores the evolution of reasoning in large language models, moving from linear Chain-of-Thought to advanced structured architectures like Tree-of-Thought and Graph-of-Thought. Students will learn how these frameworks, alongside techniques like Program of Thought and knowledge editing, enable models to perform deliberate planning, verification, and complex mathematical problem-solving.
This lesson explores the challenges of AI safety, focusing on the training paradox between model helpfulness and harmlessness, as well as the mechanics of adversarial jailbreak attacks. It also introduces statistical watermarking techniques, such as the KGW framework, which use vocabulary partitioning and logit bias to embed detectable, invisible signatures into AI-generated content.
This lesson explores the fundamental conflict in AI alignment between maintaining model helpfulness and ensuring harmlessness, highlighting how jailbreak attacks exploit this tension through role-playing and cognitive coercion. Students will learn how these vulnerabilities function and examine technical strategies, such as intent analysis and robust system prompting, to defend against prompt-based bypass attempts.
This lesson explores the evolution of Multi-modal Large Language Models (MLLMs) from vision-centric systems to integrated architectures capable of processing diverse sensory inputs like audio and 3D data. Students will learn how specialized encoders and projection bridges align non-textual signals into a unified semantic space, enabling the model to effectively reason across multiple modalities.
This lesson explores the development of autonomous GUI agents that use a tripartite architecture—planning, decision-making, and reflection—to interact with software interfaces. It further examines how Reinforcement Learning and RLHF enable these agents to adapt to dynamic environments while maintaining safety and reliability against potential risks.