Gpu computing

L'insegnamento si propone di fornire agli studenti una formazione avanzata sull'utilizzo delle GPU come piattaforme computazionali ad alte prestazioni, con un duplice focus: da un lato l'acquisizione di competenze sul modello di programmazione parallela CUDA per il calcolo general purpose, dall'altro l'applicazione di tali competenze allo sviluppo e all'ottimizzazione di modelli di deep learning mediante librerie come PyTorch. Attraverso un bilanciamento tra lezioni teoriche e attività pratiche, l'insegnamento favorisce l'integrazione tra i fondamenti architetturali delle GPU, i principali pattern di parallelismo e le strategie di accelerazione per reti neurali, generative models e modelli su strutture geometriche non-euclidee. Lo sviluppo di capacità progettuali e sperimentali su scenari applicativi concreti permette agli studenti di maturare una solida comprensione sia dei concetti teorici sia delle loro implicazioni operative, anche in connessione con le linee di ricerca attuali nel campo dell'HPC e dell'intelligenza artificiale.

I risultati di apprendimento attesi sono i seguenti:
- Conoscere e comprendere le architetture GPU moderne e il modello di calcolo parallelo CUDA per HPC e AI.
- Conoscere i principali paradigmi di deep learning (ad es. GAN, VAE, Transformer, GNN) e le tecniche di accelerazione per il loro addestramento su GPU.
- Scrivere e ottimizzare codice CUDA C per kernel paralleli general purpose.
- Implementare e addestrare modelli di deep learning avanzati in PyTorch, sfruttando le GPU per l'accelerazione computazionale.
- Applicare tecniche di profiling e analisi delle prestazioni per migliorare l'efficienza dei processi di training e inferenza.
- Valutare criticamente soluzioni computazionali GPU-based per problemi di intelligenza artificiale e calcolo scientifico.
- Individuare scelte progettuali ottimali nell'implementazione di modelli e algoritmi su architetture parallele.
- Presentare e discutere in modo chiaro e rigoroso architetture, tecniche di accelerazione e risultati sperimentali, anche mediante relazioni scritte o presentazioni orali.
- Proseguire autonomamente nello studio di modelli e librerie software emergenti nel campo del GPU computing e dell'intelligenza artificiale applicata.