파이썬에서의 생성형 AI 기초
생성형 AI와 대규모 언어 모델(LLM)을 이해하고 구현하는 포괄적인 안내서입니다. 이 과정에서는 이론적 기초에서 실용적인 파이썬 기반 개발로의 전환을 다루며, GAN, 확산 모델, 트랜스포머, 미세 조정 및 생산 배포를 포함합니다.
강좌 개요
📚 콘텐츠 요약
생성형 AI와 대규모 언어 모델(LLM)을 이해하고 구현하는 종합 가이드. 이 과정은 이론적 기초에서 실용적인 파이썬 기반 개발로의 전환을 다루며, GAN, 확산 모델, 트랜스포머, 미세조정, 그리고 생산 환경 배포를 포함한다.
파이썬을 활용하여 현대적 LLM과 생성 기법의 핵심 원리와 실용적 응용을 마스터하세요.
저자: 카를로스 로드리게스
감사의 말: 저자의 아내 질, 부모님, 그리고 기술 리뷰어인 모건 보이스, 에릭 루이, 사미라 샤이크(서문 작성자)에게 특별한 감사를 드립니다.
🎯 학습 목표
- 전통적인(판별형) 머신러닝 패러다임과 생성형 AI 모델 간의 차이를 구분할 수 있다.
- 생성형 AI의 기초 아키텍처인 GAN, 확산 모델, 트랜스포머를 식별할 수 있다.
- 대규모 언어 모델(LLM)이 전체 인공지능 생태계 내에서 어떻게 역할을 하며 진화해왔는지를 설명할 수 있다.
- GAN, 확산 모델, 트랜스포머의 고유한 특징과 아키텍처 패러다임을 구분할 수 있다.
- 각 모델 유형의 발전과 한계를 분석하며, 모드 붕괴 또는 샘플링 속도 같은 특정 문제를 이해할 수 있다.
- 스테이블 디퓨전 파이프라인을 구현하고, CLIP 기반 로짓과 확률을 사용하여 생성된 출력을 평가할 수 있다.
- 초기 카운트 기반 방법과 RNN에서부터 현대적인 분산 표현과 전이학습으로의 자연어 처리(NLP)의 진화를 추적할 수 있다.
- 멀티헤드 어텐션(MHA), 자기 어텐션, 마스킹, 피드포워드 네트워크(FFN)의 기술적 메커니즘을 설명할 수 있다.
- 데이터 토큰화, 위치 인코딩, 학습/추론 함수를 포함한 완전한 트랜스포머 모델 아키텍처를 구현할 수 있다.
- 구글 콜랩 같은 프로토타이핑 도구를 도커와 VS 코드를 사용해 생산 가능한 환경으로 매핑할 수 있다.
수업 共 7 课时 · 预计 21.0h
수업
Lesson
This lesson explores the concept of the technological Singularity and the exponential growth of AI, while establishing the fundamental distinction between discriminative models that classify data and generative models that synthesize it. Students will learn to analyze the synergy between compute, data, and algorithmic efficiency, as well as the mathematical foundations of probabilistic modeling in high-dimensional spaces.
This lesson explores the three core pillars of generative AI—GANs, diffusion models, and transformers—by analyzing their unique mathematical strategies and architectural trade-offs. Students will learn to differentiate these models based on their training stability, computational efficiency, and specific applications in multimodal synthesis.
This lesson explores the evolution of Natural Language Processing from sparse, count-based methods like TF-IDF to dense, distributed vector representations and recurrent neural architectures. It examines the limitations of RNNs and LSTMs, such as the vanishing gradient problem and the Seq2Seq bottleneck, while establishing the mathematical foundations of the Transformer architecture and self-attention mechanisms.
AI030: Production Engineering and Responsible AI Deployment (Lesson 4) explores the transition from experimental prototyping in notebooks to robust, scalable production systems. Students will learn to implement CI/CD pipelines, ensure model reliability through automated testing, and integrate fairness monitoring to meet ethical and regulatory standards.
This lesson explores the spectrum of model adaptation, comparing the computational efficiency of In-Context Learning with the specialized performance and stability of Parameter-Efficient Fine-Tuning (PEFT) and full fine-tuning. Students will learn to navigate the trade-offs between hardware constraints and model alignment, with a focus on implementing techniques like LoRA to optimize performance in resource-limited environments.
This lesson explores the necessity of domain adaptation for general-purpose LLMs, focusing on techniques like continued pre-training and fine-tuning to align model knowledge with specialized fields. Students will learn to implement parameter-efficient methods like LoRA and develop evaluation frameworks to ensure linguistic accuracy in high-stakes professional environments.
This lesson explores the paradigm shift from resource-heavy model fine-tuning to efficient prompt-based inference and in-context learning. Students will learn to master advanced prompting techniques, such as persona-based conditioning and Chain-of-Thought, to optimize model performance and maintain factual consistency.