딥러닝 입문
딥러닝은 인공 신경망을 사용하여 원시 데이터에서 복잡하고 계층적인 특징 표현을 학습하는 머신 러닝의 하위 분야입니다. 이 과정에서는 기본 원리, 기초 수학, 최적화 개념(경사하강법, 역전파), 네트워크 모듈(선형, 컨볼루션, 풀링 계층) 및 일반적인 아키텍처(CNN, RNN)를 다룹니다. 적용 사례로는 컴퓨터 비전, 자연어 처리, 강화 학습이 포함됩니다. 학생들은 구현을 위해 PyTorch 딥러닝 라이브러리를 사용하며, 실제 세계 시나리오에 대한 최종 프로젝트를 수행하게 됩니다.
강좌 개요
📚 콘텐츠 요약
딥러닝은 인공 신경망을 사용하여 원시 데이터에서 복잡하고 계층적인 특징 표현을 학습하는 데 초점을 맞춘 머신러닝의 하위 분야입니다. 이 과정에서는 기본 원리, 기초 수학, 최적화 개념(경사 하강법, 역전파), 네트워크 모듈(선형, 합성곱, 풀링 계층) 및 일반적인 아키텍처(CNN, RNN)를 다룹니다. 컴퓨터 비전, 자연어 처리, 강화 학습 등 다양한 응용 사례를 제시하며, 학생들은 구현에 파이토치 딥러닝 라이브러리를 사용하고 실제 세계 문제 해결을 위한 최종 프로젝트를 수행하게 됩니다.
핵심 목표 간략 요약: 딥러닝 이론을 숙지하고 파이토치를 활용해 모델을 구현하며, 전문적인 아키텍처(CNN, RNN, 트랜스포머)를 이해하고 이를 컴퓨터 비전, 자연어 처리, 순차적 의사결정에 적용한다.
🎯 학습 목표
- 딥 신경망 학습에 필요한 수학적 기초와 주요 최적화 기술(경사 하강법, 역전파)을 설명할 수 있다.
- 파이토치 딥러닝 프레임워크를 사용해 CUDA 가속과 효율적인 데이터 처리 기법을 활용해 현대적인 네트워크 아키텍처를 효과적으로 구현, 학습 및 디버깅할 수 있다.
- 이미지 데이터에 적합한 합성곱 신경망(CNN)과 시계열 종속성에 적합한 트랜스포머 모델과 같은 전문 아키텍처를 설계하고 분석할 수 있다.
- 컴퓨터 비전, 자연어 처리, 강화 학습 등 핵심 응용 분야에서 실질적인 문제 해결을 위해 딥러닝 기술을 적용할 수 있다.
- 모델의 견고성, 해석 가능성, 윤리적 공정성을 평가하고, 다양한 고급 패러다임(예: 생성 모델, 반감독 학습)의 장점을 비교할 수 있다.
수업 共 10 课时 · 预计 30.0h
수업
Lesson
AI003: Deep Learning Fundamentals and Optimization (Lesson 1) introduces deep learning as a high-dimensional function approximation task built upon linear algebra and multivariate calculus. Students will learn how to implement and optimize neural networks by mastering the core training cycle of forward passes, backpropagation, and weight updates using vectorized matrix operations.
This lesson introduces PyTorch Tensors as the fundamental multi-dimensional data structures used for hardware-accelerated computation and model parameters. It further explores the dynamic computation graph and the autograd engine, which allow for flexible, real-time gradient tracking and automatic differentiation during neural network training.
EvoClass-AI003: From Fully Connected to Convolutional (Lesson 3) explores the limitations of dense layers in image processing, such as parameter explosion and the loss of spatial locality. It introduces Convolutional Neural Networks (CNNs) as a solution, focusing on the use of receptive fields, weight sharing, and the mathematical definition of the 2D convolution operation.
EvoClass-AI003: Overview and Architectural Evolution (Lesson 4) explores the evolution of deep CNNs by analyzing how VGG, GoogLeNet, and ResNet addressed challenges in depth, computational efficiency, and gradient stability. Students will learn how these seminal architectures utilize techniques like small kernel stacking, bottleneck layers, and skip connections to optimize performance in ultra-deep networks.
EvoClass-AI003: Recurrent Neural Networks and Sequence Modeling (Lesson 5) explores the transition from static data models to sequential data by introducing Recurrent Neural Networks (RNNs). Students will learn how RNNs utilize shared parameters and hidden states to maintain temporal memory, while also examining the challenges of gradient instability in long-sequence processing.
EvoClass-AI003: From Recurrence to Attention (Lesson 6) explores how attention mechanisms overcome the scalability and information bottleneck limitations of traditional RNNs by enabling direct, parallelized dependency modeling. The lesson details the transition from fixed-size context vectors to dynamic, weighted contextual sums using the Query, Key, and Value tensor framework.
EvoClass-AI003: From Sparse Vectors to Semantic Space (Lecture 7). This lesson explores the limitations of sparse representations like One-Hot Encoding, which suffer from extreme dimensionality and a lack of semantic meaning, and introduces dense word embeddings as a solution that captures linguistic relationships through continuous, low-dimensional vector spaces.
This lesson introduces generative modeling as a shift from discriminative tasks to learning the underlying data distribution $P(x)$ through explicit density models like Variational Autoencoders (VAEs) and implicit models like GANs. It specifically explores the VAE framework, detailing how variational inference and the ELBO objective enable the creation of structured, continuous latent spaces for effective data synthesis and representation learning.
This lesson introduces Deep Reinforcement Learning (DRL) as a framework where agents learn optimal policies through trial-and-error interactions within a Markov Decision Process (MDP). Students will explore how agents use scalar reward signals, discount factors, and the Markov property to make sequential decisions and maximize long-term cumulative returns.
This lesson explores the labeling spectrum in machine learning, contrasting the high-cost requirements of supervised learning with the structural discovery of unsupervised learning and the hybrid efficiency of semi-supervised learning. It further examines deep unsupervised learning through autoencoders, which utilize an encoder-decoder architecture to compress data into meaningful latent representations.