Introduzione alla programmazione ROCm e HIP: Un tutorial pratico
Una guida pratica e moderna alla programmazione GPU AMD con ROCm e HIP. Copre l'intero stack software, l'installazione, i flussi di build, la programmazione dei kernel, la gestione della memoria, l'ingegneria delle prestazioni, l'uso delle librerie, il porting da CUDA e le pratiche di debug in produzione.
Panoramica del corso
📚 Riepilogo del contenuto
Una guida pratica e moderna alla programmazione GPU AMD con ROCm e HIP. Copre l'intero stack software, l'installazione, i flussi di compilazione, la programmazione dei kernel, la gestione della memoria, l'ingegneria delle prestazioni, l'uso delle librerie, il porting da CUDA e le pratiche di debug in produzione.
Padroneggia la programmazione GPU AMD e la portabilità da CUDA a HIP con questo approfondimento tecnico.
Autore: EvoClass
Ringraziamenti: Documentazione ufficiale AMD su ROCm e HIP, inclusi progetti come ROCm, HIP e ROCm LLVM.
🎯 Obiettivi di apprendimento
- Definire HIP e il suo ruolo nell'ecosistema ROCm in una singola frase concisa.
- Distinguere tra ROCm (piattaforma), HIP (interfaccia) e le librerie ROCm (elementi costitutivi).
- Identificare i livelli gerarchici dell'architettura ROCm dal hardware ai framework applicativi.
- Definire il rapporto tra l'SDK HIP e la piattaforma ROCm su diverse sistemi operativi.
- Eseguire un flusso di installazione sistematico, compresa la verifica della matrice di supporto e la configurazione dei percorsi post-installazione.
- Compilare ed eseguire un programma di verifica minimo per risolvere problemi comuni di driver e accesso all'ambiente.
- Comprendere perché una strategia di build robusta è essenziale per conciliare la portabilità del codice sorgente con le prestazioni specifiche dell'architettura.
- Implementare lanci di kernel portabili utilizzando il macro
hipLaunchKernelGGLcome alternativa alla sintassi a triple parentesi angolari di CUDA. - Configurare progetti CMake di livello produttivo che mirino a architetture ROCm specifiche e gestiscano dipendenze esterne.
- Definire l'anatomia di un kernel HIP e applicare la formula base per l'indicizzazione dei thread.
Lezioni 共 10 课时 · 预计 30.0h
Lezioni
Lesson
This lesson introduces the ROCm platform and the HIP programming model as a bridge for porting CUDA applications to AMD hardware. Students will learn how to use automated tools like hipify to migrate code while understanding the importance of architecture-aware tuning to achieve optimal performance.
This lesson covers the essential steps for installing and configuring the ROCm software stack, including dependency management, environment variable setup, and user permission requirements. Students will learn how to verify their system environment and ensure successful hardware-software communication through diagnostic tools and proper configuration.
This lesson explores the distinction between source portability and binary performance in the ROCm ecosystem, emphasizing that while HIP code is functionally portable, achieving peak throughput requires architecture-specific compilation. Students will learn to utilize the hipcc toolchain and CMake to manage build configurations that optimize code for specific hardware instruction sets.
This lesson introduces the HIP programming model, focusing on the transition from sequential CPU iteration to spatial GPU parallelism using the Parallel Pivot approach. Students will learn to map independent data tasks to thread grids, manage memory, and implement kernel execution with proper boundary checks and error handling.
AI024: Memory Management and Data Patterns (Lesson 5) explores the memory-centric nature of GPU performance, focusing on the Roofline Model and the critical importance of minimizing data movement between host and device. Students will learn to distinguish between memory-bound and compute-bound kernels while mastering strategies to optimize data residence and bandwidth utilization.
This lesson explores the transition from synchronous to asynchronous GPU execution, focusing on how to use HIP streams to decouple CPU and GPU tasks. Students will learn to optimize performance by implementing non-blocking memory transfers and kernel launches to maximize hardware utilization and eliminate execution bottlenecks.
This lesson introduces a systematic, data-driven approach to performance engineering on AMD GPUs, emphasizing the use of tools like rocprofv3 to identify bottlenecks rather than relying on intuition. Students will learn to follow a six-step scientific workflow to optimize memory access, instruction throughput, and hardware utilization while avoiding common performance "superstitions."
This lesson introduces the Library-First Engineering Principle, which emphasizes using optimized ROCm libraries like rocBLAS and rocFFT to reduce technical debt and ensure hardware portability. Students will learn to prioritize these vendor-tuned solutions over custom kernel development to achieve better performance and easier maintenance across evolving GPU architectures.
AI024: Porting CUDA Applications to HIP (Lesson 9) covers the systematic, incremental migration of CUDA code to the HIP platform using tools like HIPIFY-Clang and HIPIFY-Perl. Students will learn to distinguish between mechanical API translations and architectural optimizations, such as adjusting for warp-size differences, to ensure functional and performance parity on AMD ROCm hardware.
This lesson explores the GPU Developer’s Creed, which prioritizes functional correctness and architectural isolation over raw performance when working with ROCm and HIP. Students will learn to implement systematic debugging, testing, and CI/CD practices to ensure stable, reproducible, and accurate GPU kernel deployments.