ディープラーニング入門
ディープラーニングは、人工ニューラルネットワークを使用して生データから複雑で階層的な特徴表現を学習する機械学習のサブフィールドです。本コースでは、基本的な原理、基礎となる数学、最適化の概念(勾配降下法、誤差逆伝播)、ネットワークモジュール(線形層、畳み込み層、プーリング層)および一般的なアーキテクチャ(CNN、RNN)について学びます。応用例として、コンピュータビジョン、自然言語処理、強化学習が紹介されます。学生は実装にPyTorch深層学習ライブラリを使用し、現実世界のシナリオに関する最終プロジェクトを完成させます。
コース概要
📚 コンテンツ概要
ディープラーニングは、人工ニューラルネットワークを用いて生データから複雑な階層的特徴表現を学習する機械学習のサブフィールドです。本コースでは、基本的な原理、基礎となる数学、最適化の概念(勾配降下法、誤差逆伝播)、ネットワークモジュール(線形層、畳み込み層、プーリング層)および代表的なアーキテクチャ(CNN、RNN)について扱います。実際の応用例として、コンピュータビジョン、自然言語処理、強化学習が紹介されます。学生は実装にPyTorch深層学習ライブラリを使用し、現実世界のシナリオに関する最終プロジェクトを完成させます。
核心的な目標の要約:ディープラーニング理論を習得し、PyTorchでモデルを実装し、専門的なアーキテクチャ(CNN、RNN、Transformer)を理解し、コンピュータビジョン、NLP、順序付き意思決定にこれらの概念を適用する。
🎯 学習目標
- 深層ニューラルネットワークの訓練に必要な数学的基盤と主要な最適化手法(勾配降下法、誤差逆伝播)を説明できる。
- CUDAアクセレーションと効率的なデータ処理技術を活用して、現代的なネットワークアーキテクチャを効率的に実装・訓練・デバッグできるよう、PyTorch深層学習フレームワークを活用できる。
- 画像データ向けの畳み込みニューラルネットワーク(CNN)や順序依存性に対応するトランスフォーマー型モデルなど、特殊なアーキテクチャを設計・分析できる。
- コンピュータビジョン、自然言語処理、強化学習という主要な応用分野において、ディープラーニング技術を用いて実践的な問題を解決できる。
- 実行可能性、解釈可能性、倫理的公平性に基づいてモデルを評価し、さまざまな高度なパラダイム(生成モデル、半教師あり学習など)の長所を比較できる。
レッスン 共 10 课时 · 预计 30.0h
レッスン
Lesson
AI003: Deep Learning Fundamentals and Optimization (Lesson 1) introduces deep learning as a high-dimensional function approximation task built upon linear algebra and multivariate calculus. Students will learn how to implement and optimize neural networks by mastering the core training cycle of forward passes, backpropagation, and weight updates using vectorized matrix operations.
This lesson introduces PyTorch Tensors as the fundamental multi-dimensional data structures used for hardware-accelerated computation and model parameters. It further explores the dynamic computation graph and the autograd engine, which allow for flexible, real-time gradient tracking and automatic differentiation during neural network training.
EvoClass-AI003: From Fully Connected to Convolutional (Lesson 3) explores the limitations of dense layers in image processing, such as parameter explosion and the loss of spatial locality. It introduces Convolutional Neural Networks (CNNs) as a solution, focusing on the use of receptive fields, weight sharing, and the mathematical definition of the 2D convolution operation.
EvoClass-AI003: Overview and Architectural Evolution (Lesson 4) explores the evolution of deep CNNs by analyzing how VGG, GoogLeNet, and ResNet addressed challenges in depth, computational efficiency, and gradient stability. Students will learn how these seminal architectures utilize techniques like small kernel stacking, bottleneck layers, and skip connections to optimize performance in ultra-deep networks.
EvoClass-AI003: Recurrent Neural Networks and Sequence Modeling (Lesson 5) explores the transition from static data models to sequential data by introducing Recurrent Neural Networks (RNNs). Students will learn how RNNs utilize shared parameters and hidden states to maintain temporal memory, while also examining the challenges of gradient instability in long-sequence processing.
EvoClass-AI003: From Recurrence to Attention (Lesson 6) explores how attention mechanisms overcome the scalability and information bottleneck limitations of traditional RNNs by enabling direct, parallelized dependency modeling. The lesson details the transition from fixed-size context vectors to dynamic, weighted contextual sums using the Query, Key, and Value tensor framework.
EvoClass-AI003: From Sparse Vectors to Semantic Space (Lecture 7). This lesson explores the limitations of sparse representations like One-Hot Encoding, which suffer from extreme dimensionality and a lack of semantic meaning, and introduces dense word embeddings as a solution that captures linguistic relationships through continuous, low-dimensional vector spaces.
This lesson introduces generative modeling as a shift from discriminative tasks to learning the underlying data distribution $P(x)$ through explicit density models like Variational Autoencoders (VAEs) and implicit models like GANs. It specifically explores the VAE framework, detailing how variational inference and the ELBO objective enable the creation of structured, continuous latent spaces for effective data synthesis and representation learning.
This lesson introduces Deep Reinforcement Learning (DRL) as a framework where agents learn optimal policies through trial-and-error interactions within a Markov Decision Process (MDP). Students will explore how agents use scalar reward signals, discount factors, and the Markov property to make sequential decisions and maximize long-term cumulative returns.
This lesson explores the labeling spectrum in machine learning, contrasting the high-cost requirements of supervised learning with the structural discovery of unsupervised learning and the hybrid efficiency of semi-supervised learning. It further examines deep unsupervised learning through autoencoders, which utilize an encoder-decoder architecture to compress data into meaningful latent representations.