Sicurezza intelligente

Il cluster è finalizzato ad approfondire temi emergenti relativi all'interazione tra intelligenza artificiale e sicurezza informatica, con particolare riferimento ai modelli generativi e alle architetture basate su agenti (agentic AI), e ai relativi impatti su sistemi e processi digitali. Il percorso introduce i principi di funzionamento dei modelli generativi e ne inquadra i principali ambiti applicativi, evidenziando opportunità, limiti e profili di rischio.
Il cluster approfondisce il ruolo dell'AI nei processi di cybersecurity sia come supporto alle capacità di difesa (ad esempio per analisi, rilevamento e supporto alla risposta) sia come tecnologia che introduce nuove superfici di attacco e vulnerabilità, con particolare attenzione a rischi specifici dei sistemi basati su modelli (ad esempio manipolazioni di input, esposizione di informazioni, abuso e dipendenze da componenti esterne). L'obiettivo formativo è sviluppare una visione integrata che includa aspetti tecnici, principi di governance e misure di protezione per l'adozione e l'uso responsabile di sistemi che impiegano modelli di AI.
Il cluster si articola nei moduli Generative AI e Sicurezza e AI, progettati in modo coerente e coordinato. I moduli concorrono congiuntamente allo sviluppo delle competenze previste, integrando fondamenti di AI generativa con l'analisi dei rischi e delle principali mitigazioni connesse all'uso dell'AI in scenari di sicurezza, secondo le prospettive complementari di AI per la sicurezza e sicurezza dell'AI.

Conoscenza e capacità di comprensione
Al termine del cluster, lo studente è in grado di descrivere i principi di base dei modelli generativi e le principali aree applicative dell'intelligenza artificiale generativa, includendo i possibili impatti sui sistemi digitali.
Capacità di applicare conoscenza e comprensione
Al termine del cluster, lo studente è in grado di:
· applicare principi e tecniche di base per l'uso sicuro di sistemi basati su intelligenza artificiale generativa in uno scenario assegnato, definendo requisiti minimi di protezione (ad esempio gestione dei dati sensibili, controllo degli input e degli output, tracciabilità delle interazioni, controllo degli accessi) e traducendoli in scelte operative motivate;
· impostare ed eseguire una valutazione pratica dei rischi di sicurezza di un sistema che impiega modelli generativi, definendo casi di test e scenari controllati (ad esempio tentativi di manipolazione dell'input, richieste non autorizzate, esposizione di informazioni), raccogliendo evidenze e risultati, e selezionando misure di mitigazione appropriate, documentandone efficacia e limiti.
Autonomia di giudizio
Lo studente sviluppa la capacità di:
· valutare rischi e minacce tipiche associate a sistemi basati su modelli generativi (ad esempio esposizione di dati, manipolazioni dell'input, uso improprio), individuando requisiti di protezione;
· analizzare come l'AI possa supportare attività di difesa e risposta, chiarendo benefici e limiti rispetto a metodi tradizionali;
· riconoscere nuove superfici di attacco e vulnerabilità introdotte dall'adozione di modelli di AI, discutendo scenari realistici e possibili misure di mitigazione;
· proporre misure di mitigazione e principi di governance per un uso sicuro e responsabile di sistemi di AI in contesti operativi.
Abilità comunicative
Al termine del cluster, lo studente è in grado di comunicare in modo chiaro implicazioni e trade-off di sicurezza legati a scelte di progettazione e utilizzo dell'AI, utilizzando terminologia appropriata e argomentazioni strutturate.
Capacità di apprendimento
Lo studente acquisisce la capacità di:
· aggiornare in autonomia conoscenze e strumenti relativi a modelli generativi e alle loro implicazioni per la sicurezza (minacce emergenti, contromisure, valutazione del rischio);
· sperimentare e confrontare strategie e configurazioni (ad esempio tecniche di prompting e di valutazione) per migliorare affidabilità, sicurezza e trasparenza dei risultati;
· apprendere nuove soluzioni e librerie per integrare modelli di intelligenza artificiale generativa in flussi applicativi, documentando scelte e limitazioni.