20410364 - IN550 – MACHINE LEARNING

CASTIGLIONE FILIPPO

Fruizione: 20410432 IN550 – MACHINE LEARNING in Scienze Computazionali LM-40 CASTIGLIONE Filippo

Obiettivi

Apprendere a istruire un calcolatore a imparare dei concetti usando i dati, senza essere programmato esplicitamente. Acquisire la conoscenza dei principali metodi di apprendimento automatico con o senza supervisore e discuterne le proprietà e i criteri di applicabilità. Acquisire la capacità di formulare correttamente il problema, scegliere l'algoritmo opportuno, e condurre l'analisi sperimentale per valutare i risultati ottenuti. Curare l'aspetto pratico dell'implementazione dei metodi introdotti presentando diversi esempi di impiego in diversi scenari applicativi.

Programma

Introduzione al Machine Learning: cosa è l'apprendimento automatico; a cosa mira, quali sono i problemi; quali sono gli strumenti teorici utilizzati; panoramica degli argomenti che saranno trattati durante il corso.

Supervised and unsupervised learning; Model representation; La funzione costo; L'algoritmo della discesa del gradiente;

La regressione lineare; Il gradient descent per la regressione lineare; La regressione logistica; Il gradient descent per la regressione logistica; La normal equation;

Il problema della classificazione; La rappresentazione dell'ipotesi; La funzione costo; Il metodo one-vs-all; Il problema dell'overfitting; La regolarizzazione nella regressione lineare e in quella logistica;

Il percettrone; Le Neural Networks; L'algoritmo di Error-back propagation; L'inizializzazione casuale dei pesi;
La selezione del modello; Il train, validation e test set; La diagnosi mediante bias e variance; Le curve di apprendimento; L'analisi degli errori;

Support Vector Machines;

Classificazione mediante l'algoritmo K-means;

Analisi delle componenti principali (PCA) per la riduzione della dimensionalità;

Algoritmi di rilevamento anomalie;

Sistemi di raccomandazione;

Sistemi di machine learning su larga scala compresi sistemi parallelizzati e map-reduce;

Prerequisiti

Algebra lineare (ad es. Operazioni a matrice) Concetti di teoria del calcolo di base (ad es. Derivati) Probabilità e statistiche di base Concetti base di programmazione per computer come struttura dati, algoritmi, strategie di ricerca, complessità, ecc.

Testi Adottati

C.M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006
R.O. Duda, P.E. Hart, D.G. Stork. Pattern Classification (2001) John Wiley & Sons.

Bibliografia Di Riferimento

Tom Mitchell, Machine Learning. McGraw-Hill, 1997. Richard Sutton and Andrew Barto, Reinforcement Learning: An introduction. MIT Press, 1998 David J. C. MacKay. Information Theory, Inference, and Learning Algorithms Cambridge: Cambridge University Press, 2003

Modalità Erogazione

Le lezioni verranno svolte in aula mediante l'uso di proiezioni e della lavagna. Le slides proiettate costituiscono il principale materiale di studio.

Modalità Frequenza

La frequenza non e' obbligatoria ma fortemente consigliata poiche' parte delle lezioni verranno fatte in laboratorio e consisteranno nella scrittura di parte di algoritmo di machine learning visti nella parte teorica.

Modalità Valutazione

La verifica dell’apprendimento avviene attraverso una prova scritta della durata di 2 ore circa e di una parte orale. Lo scritto è organizzato attraverso un certo numero di quesiti a risposta multipla e qualche altro esercizio a risposta aperta, finalizzati a verificare il livello di comprensione effettiva dei concetti e la capacità degli studenti di applicarli in contesti reali.