Sicurezza nelle architetture data intensive

L'insegnamento si propone di:
- Introdurre i fondamenti della sicurezza informatica applicata a sistemi intelligenti e architetture distribuite.
- Analizzare le tecniche di protezione dei dati semi-strutturati e non strutturati, con particolare attenzione a confidenzialità, integrità e autenticazione.
- Esplorare gli standard e i linguaggi di autorizzazione per l'accesso sicuro a servizi web e risorse di rete.
- Studiare le pipeline di intelligenza artificiale e i relativi rischi di sicurezza, inclusi attacchi avversariali e vulnerabilità nei modelli ML.
- Approfondire le metodologie di assurance e certificazione dei sistemi intelligenti, con focus su testing statistico e valutazione del rischio.
- Applicare tecniche di modellazione delle minacce, come STRIDE-AI, per valutare la robustezza delle architetture AI.

Al termine dell'inegnamento, gli studenti acquisiranno competenze nei seguenti ambiti:
- Progettazione sicura di pipeline AI
- Capacità di progettare pipeline di intelligenza artificiale resilienti a minacce e attacchi, con attenzione a ogni fase: raccolta dati, addestramento, validazione, deployment.
- Analisi delle vulnerabilità nei modelli ML
- Identificazione e mitigazione di attacchi adversariali, data poisoning, model inversion e membership inference.
- Implementazione di controlli di sicurezza
- Applicazione di tecniche di autenticazione, autorizzazione e cifratura in ambienti distribuiti e cloud-native.
- Testing e assurance dei modelli
- Uso di tecniche di verifica statistica e test di robustezza per valutare la sicurezza e l'affidabilità dei modelli AI.
- Modellazione delle minacce
- Utilizzo di framework come STRIDE-AI per analizzare e documentare i rischi nelle architetture intelligenti.
- Competenze trasversali in questi ambiti: capacità di lavoro in team interdisciplinari, comunicazione tecnica efficace, redazione di documentazione tecnica e presentazione dei risultati a un pubblico tecnico e non tecnico, pianificazione, sviluppo e valutazione di un progetto reale, con milestone, revisioni e consegna finale.
- Pensiero critico e valutazione etica