Fondamentaux de l'IA générative en Python
Un guide complet pour comprendre et mettre en œuvre l'IA générative et les grands modèles linguistiques (LLM). Ce cours couvre la transition des fondements théoriques au développement pratique en Python, incluant les GAN, les modèles de diffusion, les transformateurs, le fine-tuning et le déploiement en production.
Aperçu du cours
📚 Résumé du contenu
Un guide complet pour comprendre et mettre en œuvre l'IA générative et les grands modèles linguistiques (LLM). Ce cours couvre la transition des fondements théoriques vers un développement pratique basé sur Python, incluant les réseaux antagonistes génératifs (GAN), les modèles de diffusion, les Transformers, le fine-tuning et le déploiement en production.
Maîtrisez les principes fondamentaux et les applications pratiques des LLM modernes et des techniques génératives avec Python.
Auteur : Carlos Rodriguez
Remerciements : Remerciements spéciaux à la femme de l'auteur, Jill, à ses parents, ainsi qu'aux relecteurs techniques Morgan Boyce, Eric Rui et Samira Shaikh (auteure de la préface).
🎯 Objectifs d'apprentissage
- Différencier les paradigmes classiques (discriminatifs) de l'apprentissage machine et les modèles d'IA générative.
- Identifier les architectures fondamentales de l'IA générative, notamment les GAN, les modèles de diffusion et les Transformers.
- Expliquer le rôle et l'évolution des grands modèles linguistiques (LLM) dans le paysage plus large de l'intelligence artificielle.
- Différencier les caractéristiques uniques et les paradigmes architecturaux des GAN, des diffuseurs et des Transformers.
- Analyser les progrès et les limites de chaque type de modèle, y compris des problèmes spécifiques comme le « collapse de mode » ou la vitesse d'échantillonnage.
- Mettre en œuvre une chaîne de traitement Stable Diffusion et évaluer les sorties générées à l’aide de logits et de probabilités basés sur CLIP.
- Suivre l’évolution du traitement du langage naturel (NLP) depuis les méthodes basées sur des comptages initiales et les RNN jusqu’aux représentations distribuées modernes et l’apprentissage par transfert.
- Expliquer les mécanismes techniques du Multi-head Attention (MHA), de l’attention self-attention, du masquage et du réseau feed-forward (FFN).
- Implémenter une architecture complète de Transformer, incluant le tokenisation des données, le codage positionnel et les fonctions d’entraînement et d’inférence.
- Adapter les fonctionnalités de prototypage (ex. Google Colab) à des environnements prêts pour la production via Docker et VS Code.
Leçons 共 7 课时 · 预计 21.0h
Leçons
Lesson
This lesson explores the concept of the technological Singularity and the exponential growth of AI, while establishing the fundamental distinction between discriminative models that classify data and generative models that synthesize it. Students will learn to analyze the synergy between compute, data, and algorithmic efficiency, as well as the mathematical foundations of probabilistic modeling in high-dimensional spaces.
This lesson explores the three core pillars of generative AI—GANs, diffusion models, and transformers—by analyzing their unique mathematical strategies and architectural trade-offs. Students will learn to differentiate these models based on their training stability, computational efficiency, and specific applications in multimodal synthesis.
This lesson explores the evolution of Natural Language Processing from sparse, count-based methods like TF-IDF to dense, distributed vector representations and recurrent neural architectures. It examines the limitations of RNNs and LSTMs, such as the vanishing gradient problem and the Seq2Seq bottleneck, while establishing the mathematical foundations of the Transformer architecture and self-attention mechanisms.
AI030: Production Engineering and Responsible AI Deployment (Lesson 4) explores the transition from experimental prototyping in notebooks to robust, scalable production systems. Students will learn to implement CI/CD pipelines, ensure model reliability through automated testing, and integrate fairness monitoring to meet ethical and regulatory standards.
This lesson explores the spectrum of model adaptation, comparing the computational efficiency of In-Context Learning with the specialized performance and stability of Parameter-Efficient Fine-Tuning (PEFT) and full fine-tuning. Students will learn to navigate the trade-offs between hardware constraints and model alignment, with a focus on implementing techniques like LoRA to optimize performance in resource-limited environments.
This lesson explores the necessity of domain adaptation for general-purpose LLMs, focusing on techniques like continued pre-training and fine-tuning to align model knowledge with specialized fields. Students will learn to implement parameter-efficient methods like LoRA and develop evaluation frameworks to ensure linguistic accuracy in high-stakes professional environments.
This lesson explores the paradigm shift from resource-heavy model fine-tuning to efficient prompt-based inference and in-context learning. Students will learn to master advanced prompting techniques, such as persona-based conditioning and Chain-of-Thought, to optimize model performance and maintain factual consistency.