초보자를 위한 생성형 인공지능

📚 콘텐츠 요약

생성형 AI, 대규모 언어 모델(LLM), 프롬프트 엔지니어링, 그리고 Azure OpenAI 및 Power Platform 같은 도구를 활용한 인공지능 기반 애플리케이션 개발의 핵심 개념을 탐구하는 포괄적인 과정입니다.

생성형 AI의 기본 원리를 익히고, 스케일에서부터 지능형 애플리케이션을 구축하세요.

감사의 말: 마이크로소프트, 아웃소스, 오픈AI.

🎯 학습 목표

1. 토큰화, 주의 메커니즘, 비결정적 출력을 포함한 LLM의 기계적 내부 작동 원리를 설명합니다.
2. 기초 모델, 오픈소스 대 비상용 모델, 인코더/디코더 아키텍처 등 다양한 LLM 카테고리를 비교하여 비즈니스 상황에 적합한 도구를 선택합니다.
3. 모델 성능을 향상시키기 위한 전략을 평가하고, 프롬프트 엔지니어링, 검색 증강 생성(RAG), 피팅 튜닝 중 어느 방식을 선택할지 결정합니다.
4. 프롬프트 엔지니어링을 정의하고, 생성형 AI의 주요 프로그래밍 인터페이스로서의 역할을 설명합니다.
5. 베이스 LLM과 지시 조정된 LLM의 차이점을 이해하고, 각각이 토큰을 처리하는 방식을 설명합니다.
6. 명령어, 주요 내용, 시그널, 템플릿을 사용해 복잡한 프롬프트를 구성합니다.
7. openai 라이브러리를 사용해 텍스트 생성 애플리케이션을 구성하고 환경 변수를 관리하며 온도를 조절해 출력 다양성을 조정합니다.
8. 규칙 기반 챗봇과 맥락 인식 생성형 AI 애플리케이션의 차이점을 구분하고, 마이크로소프트의 책임 있는 AI 6원칙을 적용합니다.
9. 텍스트를 임베딩(벡터)으로 변환하고 코사인 유사도를 적용하여 단순 키워드 매칭을 넘어서 관련 콘텐츠를 찾는 의미 기반 검색을 수행합니다.
10. 이미지 생성 애플리케이션을 구축하고 구성하며, "메타 프롬프트"를 통해 콘텐츠 경계와 안전성을 정의합니다.

🔹 수업 1: 생성형 AI의 기초와 윤리

개요: 이 수업은 통계적 기계학습에서 시작해 현대의 트랜스포머 기반 대규모 언어 모델(LLM)로 발전한 생성형 AI에 대한 종합적인 소개를 제공합니다. 학습자는 모델이 토큰화와 확률을 통해 어떻게 작동하는지 탐구하고, 오픈소스 대 비상용 모델 간에 적절한 모델 유형을 선택하고 최적화하며, 환각과 편향 등의 위험을 완화하기 위한 책임 있는 AI 원칙의 중요한 프레임워크를 배웁니다.

학습 결과:

• 토큰화, 주의 메커니즘, 비결정적 출력을 포함한 LLM의 기계적 내부 작동 원리를 설명합니다.
• 기초 모델, 오픈소스 대 비상용 모델, 인코더/디코더 아키텍처 등 다양한 LLM 카테고리를 비교하여 비즈니스 상황에 적합한 도구를 선택합니다.
• 모델 결과를 개선하기 위한 전략을 평가하고, 프롬프트 엔지니어링, 검색 증강 생성(RAG), 피팅 튜닝 중 어느 방식을 선택할지 결정합니다.

🔹 수업 2: 프롬프트 엔지니어링의 예술과 과학

개요: 이 수업에서는 프롬프트 엔지니어링(PE)을 대규모 언어 모델(LLM)이 고품질이고 일관된 응답을 생성하도록 안내하기 위해 텍스트 입력(프롬프트)을 설계하고 최적화하는 과정으로 탐색합니다. 학생들은 토큰화와 모델 유형의 기초 메커니즘을 이해한 후, 사고 체인과 마이에우틱 프롬프팅과 같은 고급 기법을 적용하여 모델의 불확실성과 가짜 정보 생성 등의 한계를 완화합니다.

학습 결과:

• 프롬프트 엔지니어링을 정의하고, 생성형 AI의 주요 프로그래밍 인터페이스로서의 역할을 설명합니다.
• 베이스 LLM과 지시 조정된 LLM의 차이점을 이해하고, 각각이 토큰을 처리하는 방식을 설명합니다.
• 명령어, 주요 내용, 시그널, 템플릿을 사용해 복잡한 프롬프트를 구성합니다.

🔹 수업 3: 핵심 인공지능 애플리케이션 개발

개요: 이 수업은 인공지능 기반 도구의 실용적인 개발을 탐구하며, 텍스트 생성, 맥락 인식 챗 인터페이스, 의미 기반 검색 애플리케이션에 초점을 맞춥니다. 학습자는 기본적인 API 통합과 파라미터 조정(온도 및 토큰 수)에서부터 텍스트 임베딩, 코사인 유사도, 책임 있는 AI 프레임워크를 구현하는 고급 기능까지 넘어섭니다.

학습 결과:

• openai 라이브러리를 사용해 텍스트 생성 애플리케이션을 구성하고 환경 변수를 관리하며 온도를 조절해 출력 다양성을 조정합니다.
• 규칙 기반 챗봇과 맥락 인식 생성형 AI 애플리케이션의 차이점을 구분하고, 마이크로소프트의 책임 있는 AI 6원칙을 적용합니다.
• 텍스트를 임베딩(벡터)으로 변환하고 코사인 유사도를 적용하여 단순 키워드 매칭을 넘어서 관련 콘텐츠를 찾는 의미 기반 검색을 수행합니다.

🔹 수업 4: 저코드 및 통합된 인공지능 솔루션

개요: 본 컨텐츠는 인공지능 구현의 세 가지 고급 영역을 다룹니다: DALL-E 및 Midjourney 같은 모델을 활용한 이미지 생성 애플리케이션 개발, 마이크로소프트의 Power Platform을 통한 저코드 솔루션 개발, 그리고 “함수 호출”을 통한 LLM 능력 강화입니다. 내용은 파이썬 기반의 API 통합에서 자연어 기반 앱 개발, 외부 데이터 소스 연결에 이르기까지 실제 구현에 집중합니다.

학습 결과:

• 이미지 생성 애플리케이션을 구축하고 구성하며, "메타 프롬프트"를 활용해 콘텐츠 경계와 안전성을 정의합니다.
• 코파일럿, 데이터베이스, AI 빌더를 활용해 Power Platform 내에서 저코드 인공지능 앱과 자동화 워크플로우를 설계합니다.
• 함수 호출을 구현하여 일관된 구조화된 데이터 출력(예: JSON)을 보장하고, LLM을 외부 API와 통합합니다.

🔹 수업 5: 사용자 경험, 보안 및 애플리케이션 생명주기

개요: 이 수업은 사용자 경험(UX), 보안 프로토콜, 그리고 생성형 인공지능 애플리케이션에 특화된 운영 생애주기의 중요한 교차점에 대해 다룹니다. 설명 가능성과 사용자 통제를 통해 신뢰를 구축하는 방법, 데이터 오염과 프롬프트 삽입 공격과 같은 독특한 인공지능 보안 위협을 식별하며, 전통적인 MLOps에서 LLMOps로의 전환을 통해 애플리케이션 생애주기를 관리하는 방법을 설명합니다.

학습 결과:

• 설명 가능성과 사용자 통제를 통해 신뢰와 투명성을 강화하는 인공지능 인터페이스를 설계합니다.
• 데이터 오염, 프롬프트 삽입, 공급망 취약성과 같은 인공지능 전용 보안 위험을 식별하고 완화합니다.
• MLOps와 LLMOps의 차이점을 구분하고, 생성형 인공지능 애플리케이션 생애주기(아이디어 제시, 개발, 운영)의 단계를 설명합니다.

🔹 수업 6: 고급 검색 및 에이전트 시스템

개요: 이 수업은 기본적인 LLM 상호작용에서부터 검색 증강 생성(RAG)과 자율적 인공지능 에이전트를 활용하는 고도화된 시스템으로의 전환을 다룹니다. 학습자는 벡터 데이터베이스를 이용해 모델을 개인 데이터로 뿌리내리는 방법과, 계획, 도구 사용, 다른 에이전트와의 상호작용이 가능한 에이전트 프레임워크를 통해 LLM의 능력을 확장하는 방법을 탐색합니다.

학습 결과:

• RAG의 기술적 워크플로우(체이닝, 임베딩, 의미 기반 검색)를 설명합니다.
• 비용, 맞춤화, 성능 기준에 따라 적절한 오픈소스 모델(Llama 2, Mistral, Falcon)을 비교하고 선택합니다.
• 주요 인공지능 에이전트 프레임워크(LangChain, AutoGen, TaskWeaver, JARVIS)의 차이점을 이해하고 각각의 특정 용도를 설명합니다.

🔹 수업 7: 모델 피팅 튜닝 및 전문화된 아키텍처

개요: 이 수업은 일반적인 프롬프트 엔지니어링에서부터 감독적 피팅 튜닝과 특화된 소규모 언어 모델(SLM)의 사용을 통한 모델 최적화로의 전환을 다룹니다. 마이크로소프트의 Phi, Mistral, Meta Llama 모델 패밀리의 비교 분석을 제공하며, 클라우드와 엣지 환경에서의 배포를 위한 크기, 컴퓨팅 요구사항, 다중 모달성에 대한 아키텍처적 트레이드오프를 상세히 설명합니다.

학습 결과:

• 피팅 튜닝을 정의하고, 프롬프트 엔지니어링 또는 검색 증강 생성(RAG)보다 언제 피팅 튜닝을 사용할지 판단합니다.
• 대규모 언어 모델(LLM)과 소규모 언어 모델(SLM)의 크기, 이해 능력, 추론 속도 측면에서의 특징을 비교합니다.
• Phi-3.5, Mistral(Mega/Small/NeMo), Llama(3.1/3.2) 모델 패밀리의 고유한 특징과 사용 사례를 식별합니다.