Triton 프로그래밍 소개: 실용적인 가이드

개요: 본 수업에서는 고수준 파이썬 생산성과 저수준 GPU 성능 사이의 격차를 메우는 도메인 특화 언어 및 컴파일러인 튜론을 소개합니다. 학생들은 튜론의 핵심 설계 철학을 탐색하고, 표준 PyTorch 또는 CUDA와는 다른 방식으로 병렬 컴퓨팅을 처리하는 개념적 사고 모델을 세웁니다.

학습 결과:

• 튜론과 딥러닝 소프트웨어 스택 내에서 튜론의 역할을 정의합니다.
• CUDA, PyTorch 즉시 실행 코드, 저수준 GPU 어셈블리와 튜론을 구분합니다.
• 튜론에 적합한 작업 부하를 식별하고, 커널 융합과 버티컬의 중요성을 이해합니다.

개요: 본 수업은 튜론 개발의 필수 기초를 다룹니다. 안정적이고 깨끗한 환경을 확보하고, 기본적인 "정상성" 커널로 검증하는 방법을 배웁니다. 학생들은 산술, 메모리, 런치 오버헤드 등 다양한 유형의 GPU 성능 버티컬을 구분하며, 어떤 PyTorch 연산이 수동 연산 융합에 가장 적합한지 파악하게 됩니다.

학습 결과:

• 튜론 환경의 깨끗한 설치를 수행하고 소프트웨어 스택을 확인합니다.
• 기본 벡터 복사 커널을 구현하여 환경 로직과 커널 로직을 검증합니다.
• GPU 버티컬을 식별하고 분류하여, PyTorch 연산 융합의 필요성을 입증합니다.

개요: 본 수업에서는 튜론 프로그래밍 모델을 소개하며, 파이토치의 고수준 추상화에서 블록 기반 SPMD(Single Program, Multiple Data) 접근 방식으로 전환합니다. 학생들은 튜론이 1차원 런처 그리드와 프로그램 인스턴스를 통해 실행을 조직하는 방식, 메모리에 액세스하기 위한 포인터 조작 방법, 그리고 호스트 측 파이토치 텐서와 컴파일러 수준 튜론 텐서 간의 근본적인 차이점을 배웁니다.

학습 결과:

• 프로그램 인스턴스를 정의하고 cdiv를 사용하여 1차원 런처 그리드의 차원을 계산합니다.
• 특정 프로그램 ID(pid)를 메모리 오프셋으로 매핑하기 위해 포인터 연산을 수행합니다.
• 파이토치 텐서(호스트 측 메타데이터)와 튜론 텐서(컴파일러 수준 블록)를 구분합니다.

개요: 본 수업에서는 튜론의 핵심 언어 의미론을 활용해 글로벌 메모리와 GPU 레지스터 사이 데이터를 이동시키는 기본 연산을 다룹니다. 학생들은 병렬 프로그램 인스턴스를 특정 데이터 인덱스에 매핑하는 방법, 경계 조건을 메모리 마스킹으로 관리하는 방법, 컴파일 타임 상수와 런타임 변수를 구분하는 방법을 배웁니다.

학습 결과:

• tl.arange를 사용하여 프로그램 ID(pid)와 특정 메모리 오프셋 간의 매핑을 계산합니다.
• 경계 마스크를 사용하여 tl.load 및 tl.store를 통한 강력한 메모리 접근을 구현합니다.
• 컴파일러 최적화를 위해 tl.constexpr의 필요성을 설명하고, 형상 정의 함수에서 런타임 값에 대한 제한 사항을 설명합니다.

개요: 본 수업에서는 튜론 커널을 만드는 전체 라이프사이클을 안내하며, 이론에서 기능적인 벡터 덧셈 구현까지 진행합니다. GPU 측 커널 작성, 이를 실행하기 위한 견고한 파이썬 호스트 워퍼 설계, 정확성 보장을 위한 과학적 검증 프로토콜 구현 방법을 배웁니다.

학습 결과:

• 튜론의 포인터 연산과 마스킹 시스템을 사용하여 완전한 벡터 덧셈 커널을 구현합니다.
• 그리드 런칭, 메모리 안전성, 입력 검증을 관리하는 호스트 측 파이썬 워퍼를 설계합니다.
• torch.allclose를 사용하여 다양한 입력 크기와 극단적인 경우를 포함한 결과를 엄격하게 검증합니다.

개요: 본 수업에서는 기본 커널 문법에서 "초기 원칙"에 기반한 GPU 성능으로 전환합니다. 논리적으로 올바른 코드가 여전히 비효율적일 수 있는 이유를 탐구합니다. 학생들은 메모리 트래픽, 점유율, 하드웨어 활용도 간의 관계를 탐색하고, 과학적 벤치마킹 및 BLOCK_SIZE 최적화에 이르는 과정을 마무리합니다.

학습 결과:

• GPU 성능의 초기 원칙을 사용하여 계산 중심과 메모리 중심 커널을 구분합니다.
• "교환 삼각형(Trade-off Triangle)"을 설명하고, 점유율이 메모리 지연을 숨기는 방식을 설명합니다.
• 웜업, 동기화, 매개변수 스윕을 포함한 과학적 벤치마킹 프로토콜을 실행합니다.

개요: 본 수업에서는 1차원 요소 단위 연산에서 2차원 텐서 처리로 전환합니다. 다차원 논리적 인덱스와 선형 물리적 메모리 사이의 근본적인 관계, 즉 스트라이드를 중심으로 다룹니다. 학생들은 튜론에서 2차원 주소 그리드를 구성하고, 메모리 지역성에 따라 작동하는 커널을 설계하는 방법을 배웁니다.

학습 결과:

• 기준 포인터와 스트라이드를 사용하여 2차원 텐서가 메모리에 어떻게 표현되는지 이해합니다.
• 방송된 오프셋 패턴을 사용하여 튜론에서 2차원 주소 그리드를 구성합니다.
• 비연속 메모리를 올바르게 처리하는 레이아웃 인식 커널(복사, 전치, 편향 추가)을 구현합니다.

개요: 본 수업에서는 간단한 요소 단위 커널에서 더 복잡한 축소 연산으로 전환합니다. 학생들은 이러한 커널 유형 간의 아키텍처적 차이를 이해하고, 행 기반 소프트맥스의 표준 구현 패턴을 배우며, 하드웨어에서 수치적 안정성이 가지는 중요한 역할을 설명합니다.

학습 결과:

• 축소 커널과 점별 커널의 계산 패턴을 비교합니다.
• 튜론의 5단계 축소 패턴을 사용하여 수치적으로 안정적인 행 기반 소프트맥스 커널을 구현합니다.
• 지수 계산 전에 최댓값을 빼는 것이 수치적 오버플로를 방지하기 위해 수학적 및 하드웨어 수준에서 반드시 필요한 이유를 설명합니다.

개요: 본 수업에서는 기본 요소 단위 커널에서 일반 행렬 곱셈(GEMM)과 그가 대규모 언어 모델(LLM)에서 핵심적인 역할을 하는 것까지 전환합니다. 학생들은 튜론에서 타일링에 대한 사고 모델을 이해하고, 연산 융합을 통해 달성되는 효율성 향상, 그리고 프로덕션 준비 커널에 요구되는 기준을 배웁니다.

학습 결과:

• 튜론의 GEMM 사고 모델을 설명하고, 프로그램 인스턴스와 타일 차원을 포함합니다.
• LLM 워크플로에서 연산 융합의 기회를 식별하고, 성능에 미치는 영향을 설명합니다.
• GEMM 출력에 편향 추가를 융합하는 논리적 구현을 설계합니다.

개요: 본 수업에서는 기능적인 튜론 코드 작성에서 프로덕션 수준의 고성능 커널 개발로 전환하는 과정을 다룹니다. 의미론-성능에 기반한 체계적인 디버깅 파이프라인을 구축하고, 오토튜닝과 벤치마킹에 필요한 엄격한 사고 방식을 소개합니다.

학습 결과:

• 디버깅 체계화: 성능 장애보다 먼저 의미론적 정확성과 수치적 안정성을 우선시하는 계층적 전략을 적용합니다.
• 오토튜닝 워크플로 구현: 메타매개변수에 대해 유효한 검색 공간을 정의하고, 하드웨어 과적합 같은 일반적인 함정을 피하는 벤치마킹 프로토콜을 실행합니다.
• 전문성 성장 맵핑: 기초 튜론 구현에서 고급 프로덕션 수준 커널 개발까지의 "실용적 계단"을 식별합니다.