Corso di laurea magistrale Interateneo in Fisica dei sistemi complessi

Deep Learning

Deep Learning

Anno accademico 2022/2023

Sommario insegnamento

• Obiettivi formativi
• Risultati dell'apprendimento attesi
• Modalità di insegnamento
• Modalità di verifica dell'apprendimento
• Programma
• Testi consigliati e bibliografia
• Strumenti didattici

Obiettivi formativi

Il corso presenta i principali modelli di reti neurali artificiali alla base del moderno "deep learning". 

Il corso esplora i fondamenti teorici del deep learning ma anche le tecniche di applicazione in diversi contesti.

Risultati dell'apprendimento attesi

Conoscenza e capacità di comprensione: Comprensione della teoria alla base dei principali modelli di reti neurali artificiali e delle tecniche di addestramento e di applicazione. 

Capacità di applicare conoscenza e comprensione: Capacita' di costruire un progetto di machine learning usando reti neurali artificiali complesse.

Modalità di insegnamento

Lezioni frontali in presenza.

Orario lezioni disponibile su campusnet.       

Modalità di verifica dell'apprendimento

Esame orale con 3 possibili modalità:

1) Progetto con componente computazionale (es. implementazione di una rete neurale per uno specifico task) + domande di teoria

2) Presentazione di un paper di ricerca (solo teoria o riproduzione di risultati computazionali)  + domande di teoria

3 ) Solo domande di teoria sugli argomenti del corso.

Programma

Breve ripasso di concetti base di machine learning: maximum likelihood estimation, regolarizzazione e inferenza bayesiana. 

Introduzione alla Teoria dell'Informazione.

Reti neurali artificiali: dal percettrone alle reti neurali profonde. 

Ottimizzazione: Stochastic gradient descent e sue varianti, Backpropagation.  

Reti neurali convoluzionali e loro applicazioni. 

PCA & Autoencoders 

Reti Ricorrenti 

C.M. Bishop. Pattern Recognition and Machine Learning. Springer, 2006.

Mehta et al. A high-bias, low-variance introduction to Machine Learning for physicists. 2019. Phys Rep. 810:1-124 https://arxiv.org/abs/1803.088

I. Goodfellow, Y. Bengio, A. Courville. Deep Learning. MIT Press, 2016.

A. Geron. Hands-On Machine Learning With Scikit-Learn and Tensorflow: Concepts, Tools, and Techniques to Build Intelligent Systems. Oreilly & Associates Inc. 2017.

Discussion about the references in the first video lecture

Orario lezioni

• Materiale didattico
• Bacheca appelli
• Vai a Moodle
• Visita i forum