개발자를 위한 LLM 소개
이 과정은 앤드류 응과 오픈애이의 공동으로 기획한 대규모 언어 모델 시리즈 세 가지 과정의 중국어 적응 버전입니다. 프롬프트 공학, ChatGPT API를 활용한 시스템 구축, LangChain 애플리케이션 개발, 그리고 개인 데이터에 접근하는 데서 LangChain 사용 방법을 다룹니다. 대규모 언어 모델의 능력을 활용하여 요약, 추론, 변환, 확장 및 채팅 기능을 갖춘 애플리케이션을 개발하는 방법에 대해 명확하고 접근성 있는 소개를 제공합니다.
강좌 개요
📚 콘텐츠 요약
이 과정은 앤드류 응(Andrew Ng)과 오픈애이(OpenAI)가 공동 개발한 3부작 대규모 언어 모델(LLM) 시리즈의 중국어 버전입니다. 프롬프트 엔지니어링, ChatGPT API 기반 시스템 구축, LangChain 응용 개발, 그리고 개인 데이터에 접근하는 데서 사용하는 LangChain 활용 방법을 다룹니다. 이 과정은 요약, 추론, 변환, 확장 및 채팅 기능을 갖춘 애플리케이션 개발을 위해 대규모 언어 모델의 능력을 효과적으로 활용하는 깊이 있는 그러나 접근성 있는 소개를 제공합니다.
대규모 모델 시대의 인공지능 애플리케이션 개발자가 되기 위해 프롬프트 엔지니어링과 LangChain 프레임워크를 마스터하세요.
🎯 학습 목표
- 기본 LLM과 지시 조정된 LLM 사이의 차이를 구분할 수 있습니다.
- 명확하고 구체적인 지시를 작성하기 위한 네 가지 전략(구분자, 구조화된 출력, 조건 검사, 소수 예시 프롬프팅)을 적용할 수 있습니다.
- 작업 단계를 명시하고 독립적인 문제 해결을 요구함으로써 모델에게 "생각할 시간"을 주는 전략을 구현할 수 있습니다.
- 구조화된 텍스트 처리를 구현하여 단일 또는 다중 문서에서 특정 정보를 요약하고 추출하며, 출력 길이와 초점을 제어할 수 있습니다.
- 자동 텍스트 분석을 수행하여 감정 분류, 특정 감정 식별, 프롬프트를 사용한 제로샷 주제 분류를 수행할 수 있습니다.
- 다중 모달 변환을 실행하여 언어 간 번역, 데이터 형식 변환(예: JSON → HTML), 그리고 문법/철자 오류를 프로그래밍 방식으로 수정할 수 있습니다.
- 기본 LLM과 지시 조정된 LLM의 차이를 구분하고, 토큰화가 모델 동작에 미치는 영향을 이해할 수 있습니다.
- 시스템, 사용자, 어시스턴트 메시지 역할을 사용하여 구조화된 시스템 아키텍처를 구현하여 모델의 성격을 정의할 수 있습니다.
- 사용자 입력을 안전성 및 라우팅 평가를 위해 분류 및 모니터링 기술을 적용할 수 있습니다.
- 복잡한 작업을 관리 가능한 하위 작업으로 분해하여 신뢰도를 높이고 비용을 줄이는 프롬프트 체이닝을 구현할 수 있습니다.
수업 共 8 课时 · 预计 24.0h
수업
Lesson
This lesson introduces the shift from base LLMs to instruction-tuned models, emphasizing the importance of clear, specific prompting and iterative refinement to achieve reliable results. Developers will learn to treat models as literal assistants by using techniques like delimiters, chain-of-thought reasoning, and structured output to improve accuracy and minimize hallucinations.
This lesson introduces the five core prompting primitives—summarizing, inferring, transforming, expanding, and chatbots—that enable developers to build structured AI-driven workflows. You will learn how to manage LLM state, use delimiters for precision, and choose the right techniques to extract data or analyze sentiment effectively.
This lesson explores how LLMs process information through numerical tokens rather than individual characters, explaining why techniques like hyphenation are necessary for tasks requiring granular detail. It also distinguishes between base models, which focus on pattern prediction, and instruction-tuned models, which are optimized through human feedback to act as reliable assistants.
This lesson introduces prompt chaining and task decomposition as superior alternatives to complex, single-prompt workflows. You will learn how to build modular, cost-effective pipelines that improve reliability and debuggability by integrating dynamic data retrieval, safety moderation, and step-by-step logic.
This lesson introduces LangChain as a modular framework for managing LLM interactions, highlighting how abstractions like ChatOpenAI and ChatPromptTemplate help developers overcome the stateless nature of models. You will learn to manage conversation history, configure temperature for deterministic or creative outputs, and use templates to separate logic from content for scalable application development.
This lesson introduces LangChain orchestration, teaching you how to move beyond single prompts by linking components into sequential pipelines and logic-driven router chains. You will learn to build scalable AI applications by mastering modular workflows that connect models, prompts, and external data to handle complex, multi-step tasks.
This lesson explores the Retrieval-Augmented Generation (RAG) pipeline, focusing on how to ingest, split, and vectorize private data to provide LLMs with relevant, up-to-date context. You will learn to use document loaders to standardize various file formats into structured objects and apply effective chunking strategies to ensure semantic meaning is preserved for accurate retrieval.
This lesson explores advanced Retrieval-Augmented Generation (RAG) techniques designed to overcome the limitations of basic semantic search, such as redundancy and context window constraints. You will learn how to implement tools like Maximum Marginal Relevance (MMR), self-querying, and contextual compression to provide the LLM with a more diverse, filtered, and efficient knowledge base.