{"id":44,"date":"2018-04-26T05:14:37","date_gmt":"2018-04-26T03:14:37","guid":{"rendered":"https:\/\/iaaa.lis-lab.fr\/?page_id=44"},"modified":"2024-11-25T10:45:58","modified_gmt":"2024-11-25T09:45:58","slug":"cours-de-m2","status":"publish","type":"page","link":"https:\/\/iaaa.lis-lab.fr\/?page_id=44","title":{"rendered":"M2 IAAA"},"content":{"rendered":"<p style=\"text-align: center;\">Plus de d\u00e9tails sur les contenus des UEs sur le <a href=\"https:\/\/formations.univ-amu.fr\/ME5SIN.html\">site AMU du master<\/a><\/p>\n<h1><\/h1>\n<h1 style=\"text-align: center;\">Organisation g\u00e9n\u00e9rale<\/h1>\n<p>Le M2 est organis\u00e9 en deux semestres.<\/p>\n<ul>\n<li>Le premier semestre (le semestre 3, S3) est un semestre de cours<\/li>\n<li>Le second semestre (S4) est consacr\u00e9 au stage.<\/li>\n<\/ul>\n<h2 style=\"text-align: center;\">Semestre 3<\/h2>\n<p>Les cours du semestre 3 sont organis\u00e9s en un tronc commun et des cours d&rsquo;option.<\/p>\n<h3>Tronc commun<\/h3>\n<p>Tous les cours de Tronc Commun sont obligatoires<\/p>\n<ul>\n<li><strong>Mod\u00e9lisation et r\u00e9solution pour l&rsquo;optimisation <\/strong>:\u00a0[<a href=\"#MRO\">Descriptif<\/a>]<\/li>\n<li><strong>Mod\u00e8les de Langage <\/strong>:\u00a0[<a href=\"#TLNL\">Descriptif<\/a>]<\/li>\n<li><strong>Apprentissage Automatique 1 <\/strong>: [<a href=\"#SD\">Descriptif<\/a>],\u00a0[<a href=\"https:\/\/pageperso.lis-lab.fr\/thierry.artieres\/?page_id=375\">Ressources<\/a>]<\/li>\n<li><strong>Deep learning<\/strong>\u00a0:\u00a0[<a href=\"#DL\">Descriptif<\/a>],\u00a0[<a href=\"https:\/\/pageperso.lis-lab.fr\/thierry.artieres\/?page_id=402\">Ressources<\/a>]<\/li>\n<li><strong>Maths pour l\u2019intelligence artificielle<\/strong> :\u00a0[<a href=\"#MIA\">Descriptif<\/a>]<\/li>\n<li><strong>M\u00e9thodologie <\/strong>[<a href=\"#METHODO\">Descriptif<\/a>]<\/li>\n<\/ul>\n<h3>Options<\/h3>\n<p>Vous devez choisir 5 modules dans la liste suivante:<\/p>\n<ul>\n<li><a href=\"https:\/\/iaaa.lis-lab.fr\/?page_id=616\" rel=\"noopener\"><strong>Apprentissage par renforcement<\/strong><\/a> :\u00a0[<a href=\"#AR\">Descriptif<\/a>]<\/li>\n<li><a href=\"https:\/\/iaaa.lis-lab.fr\/?page_id=615\"><strong>Signal, apprentissage et multim\u00e9dia<\/strong><\/a> :\u00a0[<a href=\"#SAM\">Descriptif<\/a>]<\/li>\n<li><strong>Pr\u00e9diction structur\u00e9e pour le traitement automatique de la langue<\/strong> : [<a href=\"#PSTAL\">Descriptif<\/a>]<\/li>\n<li><strong>Th\u00e9orie de l&rsquo;apprentissage et statistique non param\u00e9trique<\/strong> :\u00a0[<a href=\"#THAS\">Descriptif<\/a>]<\/li>\n<li><b>Apprentissage Automatique 2<\/b><\/li>\n<li><b>Computer Vision<\/b><\/li>\n<li><b>Machine Learning pour les Sciences Cognitives<\/b><\/li>\n<\/ul>\n<h2 style=\"text-align: center;\">Semestre 4<\/h2>\n<p>Le semestre 4 inclut:<\/p>\n<ul>\n<li><strong>TER <\/strong>(F\u00e9vrier Mars) :\u00a0[<a href=\"#UECOM\">Descriptif<\/a>]<\/li>\n<li><strong><a href=\"https:\/\/iaaa.lis-lab.fr\/?page_id=640\">Stage<\/a><\/strong>\u00a0\u00e0 partir d&rsquo;Avril pour cinq \u00e0 six mois<\/li>\n<\/ul>\n<hr \/>\n<h2 style=\"text-align: center;\">D\u00e9tails sur les UEs<\/h2>\n<hr \/>\n<h3 id=\"MIA\"><b>Maths pour l\u2019intelligence artificielle<\/b><b><\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p>Ce cours compl\u00e8te les enseignements dispens\u00e9s en premi\u00e8re ann\u00e9e du parcours Intelligence Artificielle et Apprentissage Automatique (IAAA) du Master d&rsquo;Informatique de l&rsquo;universit\u00e9 Aix-Marseille (AMU) afin de fournir aux \u00e9tudiants le bagage math\u00e9matique n\u00e9cessaire pour suivre les enseignements de deuxi\u00e8me ann\u00e9e de ce parcours.<\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<p>Les enseignements sont regroup\u00e9s en trois th\u00e8mes : (i) probabilit\u00e9s et statistique (ii) optimisation continue et (iii) alg\u00e8bre lin\u00e9aire.<\/p>\n<p>(i) Probabilit\u00e9s et statistique. On se concentre sur les deux utilisations les plus communes de la th\u00e9orie des probabilit\u00e9s en apprentissage automatique: (a) dans le cadre de la formulation des algorithmes d&rsquo;apprentissage (par exemple pour des mod\u00e8les g\u00e9n\u00e9ratifs) et (b) dans le cadre de l&rsquo;analyse des propri\u00e9t\u00e9s th\u00e9oriques des algorithmes d&rsquo;apprentissage (qu&rsquo;ils soient formul\u00e9s en termes probabilistes ou non). Pour le premier point, on travaille les bases du calcul probabiliste avec plusieurs variables al\u00e9atoires dans le cas o\u00f9 la structure de d\u00e9pendance conditionnelle peut \u00eatre d\u00e9crite sous la forme d&rsquo;un graphe dirig\u00e9 acyclique, avec des applications \u00e0 l&rsquo;estimation par maximum de vraisemblance. Pour le deuxi\u00e8me point, on travaille les calculs de moments, avec des applications au calcul explicite du biais et de la variance d&rsquo;un estimateur dans des cas simples. On fait le lien avec le risque dans le cadre des fonctions de co\u00fbts quadratiques et on introduit tr\u00e8s bri\u00e8vement la notion de mesure de complexit\u00e9 (par exemple de Rademacher) et d&rsquo;in\u00e9galit\u00e9 de concentration en expliquant leur utilit\u00e9 pour le contr\u00f4le respectivement du biais et de la variance dans les cas plus compliqu\u00e9s.<\/p>\n<p>(ii) Optimisation continue. On poursuit l&rsquo;\u00e9tude de l&rsquo;optimisation continue commenc\u00e9e en premi\u00e8re ann\u00e9e, en continuant \u00e0 se focaliser sur les conditions d&rsquo;optimalit\u00e9 du premier ordre&#8212;les plus commun\u00e9ment utilis\u00e9es en apprentissage automatique&#8212;et les calculs de gradient, mais en allant au del\u00e0 du cadre des fonctions lisses optimis\u00e9es en l&rsquo;absence de contraintes et de mani\u00e8re d\u00e9terministe. En effet, ce cadre est trop limit\u00e9 pour traiter correctement des cas tr\u00e8s commun\u00e9ment rencontr\u00e9s en apprentissage automatique, telles que la pr\u00e9sence de termes de r\u00e9gularisation non-lisses, de contraintes de positivit\u00e9 ou l&rsquo;utilisation d&rsquo;algorithmes d&rsquo;optimisation stochastique. On commence par revenir sur l&rsquo;optimisation sans contraintes des fonctions lisses en traitant le cas de l&rsquo;optimisation par descente de gradient stochastique de fonctions non convexes. Le cas des fonctions lisses, non convexes en pr\u00e9sence de contraintes est trait\u00e9 en second, donnant l&rsquo;occasion d&rsquo;introduire la notion de Lagrangien. Le cas convexe pour des fonctions lisses avec ou sans contraintes est trait\u00e9 ensuite, en introduisant notamment la notion de dualit\u00e9 Lagrangienne. Enfin, on discute bri\u00e8vement le cas des fonctions non-lisses (convexes ou non, avec ou sans contraintes) en donnant un th\u00e9or\u00e8me utilisable dans la plupart des cas rencontr\u00e9s en pratique en apprentissage automatique.<\/p>\n<p>(iii) Alg\u00e8bre lin\u00e9aire. Cette partie met en oeuvre les notions vues dans les parties pr\u00e9c\u00e9dentes dans un cadre typique en apprentissage automatique avec n points de donn\u00e9es repr\u00e9sent\u00e9s par des vecteurs de R^d (au lieu de deux ou trois variables scalaires dans les parties pr\u00e9c\u00e9dentes). On travaille sur l&rsquo;utilisation des notations matricielles dans ce cadre. On insiste en particulier sur les diff\u00e9rentes interpr\u00e9tations possibles des produits matrice-vecteur et matrice-matrice et leur utilisation en conjonction avec la d\u00e9composition en valeurs singuli\u00e8res ou le th\u00e9or\u00e8me spectral dans le cadre d&rsquo;applications pratiques (par exemple aux distributions gaussiennes multivari\u00e9es, \u00e0 la d\u00e9finition de la notion de pseudo-inverse d&rsquo;une matrice ou \u00e0 la r\u00e9gression lin\u00e9aire au moindres carr\u00e9s, avec ou sans terme de r\u00e9gularisation).<\/p>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p>Thomas Schatz<\/p>\n<p><b>\f<\/b><\/p>\n<hr \/>\n<h3 id=\"SD\"><a href=\"https:\/\/pageperso.lis-lab.fr\/thierry.artieres\/?page_id=375\"><b>Apprentissage Automatique 1<\/b><\/a><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">L\u2019objectif de ce cours est de former les \u00e9tudiants \u00e0 pouvoir r\u00e9pondre \u00e0 une comp\u00e9tition Kaggle quelle qu\u2019elle soit avec des m\u00e9thodes avanc\u00e9es de machine learning. Le cours dresse un panorama avanc\u00e9 de l\u2019apprentissage automatique qu\u2019il s\u2019agisse des paradigmes d\u2019apprentissage (supervis\u00e9, non supervis\u00e9, semi-supervis\u00e9, actif, transductif\u2026), des t\u00e2ches (classification, r\u00e9gression, ranking, metric learning, pr\u00e9diction structur\u00e9e, classification multilabel, multi-instances ou multitaches) ou des m\u00e9thodes.<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<h4><span style=\"font-weight: 400;\">1. Rappels et g\u00e9n\u00e9ralit\u00e9s<\/span><\/h4>\n<ul>\n<li><span style=\"font-weight: 400;\">Contexte et enjeux <\/span><\/li>\n<li><span style=\"font-weight: 400;\">Introduction \u00e0 l\u2019apprentissage automatique supervis\u00e9\u00a0<\/span><\/li>\n<li>Compromis biais \/ variance<\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">2. Panorama des m\u00e9thodes de classification supervis\u00e9e<\/span><\/p>\n<ul>\n<li><span style=\"font-weight: 400;\">kPPV, Arbres de d\u00e9cision<\/span><\/li>\n<li><span style=\"font-weight: 400;\">SVM et m\u00e9thodes \u00e0 noyaux<\/span><\/li>\n<li><span style=\"font-weight: 400;\">R\u00e9gression logistique<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><\/li>\n<\/ul>\n<p>3. G\u00e9n\u00e9ralisation<\/p>\n<ul>\n<li><span style=\"font-weight: 400;\">Minimisation du risque structurel<\/span><\/li>\n<li><span style=\"font-weight: 400;\">Borne de g\u00e9n\u00e9ralisation<\/span><\/li>\n<li><span style=\"font-weight: 400;\">S\u00e9lection de variables<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">4. Apprentissage non supervis\u00e9<\/span><\/p>\n<ul>\n<li><span style=\"font-weight: 400;\">Clustering et apprentissage de densit\u00e9s<\/span><\/li>\n<li>Algorithme EM<\/li>\n<\/ul>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Thierry Arti\u00e8res (responsable), Hachem Kadri, Valentin Emiya<\/span><\/p>\n<hr \/>\n<p><b>\f<\/b><\/p>\n<h3 id=\"TLNL\"><b>Mod\u00e8les de Langage<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Le traitement automatique du langage naturel est \u00e0 la confluence de nombreuses disciplines, dont la linguistique, l\u2019apprentissage automatique, l\u2019intelligence artificielle\u2026 <\/span><\/p>\n<p><span style=\"font-weight: 400;\">L\u2019objectif de cette UE est de pr\u00e9senter d\u2019une part un certain nombre de t\u00e2ches linguistiques, tel que l\u2019analyse morphologique, syntaxique, s\u00e9mantique et discursive et, d\u2019autre part, la mani\u00e8re de les formaliser dans le but de les automatiser. On mettra en particulier l\u2019accent sur la pr\u00e9diction d\u2019arbres et de graphes qui sont utilis\u00e9es pour l\u2019analyse syntaxique et s\u00e9mantique.<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Repr\u00e9sentation des structures syntaxiques, s\u00e9mantiques et discursive pour le langage naturel.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Pr\u00e9diction de structures par exploration compl\u00e8te de l\u2019espace de recherche<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Pr\u00e9diction gloutonne de structures<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Bibliographie:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Dependency Parsing, Sandra K\u00fcbler, Ryan McDonald, Joakim Nivre, Morgan Claypool, 2009<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics and Speech Recognition, Daniel Jurafsky, James Martin, Pearson Intrernational Edition, 2008<\/span><\/li>\n<\/ul>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Alexis Nasr (responsable)<\/span><\/p>\n<p><b>\f<\/b><\/p>\n<hr \/>\n<h3 id=\"DL\"><a href=\"https:\/\/pageperso.lis-lab.fr\/thierry.artieres\/?page_id=402\"><b>Deep learning<\/b><\/a><b><\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Le deep learning a permis des avanc\u00e9es majeures pour des probl\u00e8mes difficiles tels que des t\u00e2ches de perception (vision, audition), de traitement de la langue (traduction&#8230;). Cette technologie envahit de nombreux champs applicatifs est est int\u00e9gr\u00e9e dans des syst\u00e8mes industriels chez de multiples acteurs y compris les plus grands (Google, Microsoft, Amazon, Facebook, etc). L\u2019objectif du cours est de former les \u00e9tudiants \u00e0 l\u2019utilisation de toolkits de deep learning et \u00e0 la conception de syst\u00e8mes bas\u00e9s sur des architectures classiques, autoencodeurs, r\u00e9seaux convolutionnels, r\u00e9seaux r\u00e9currents, et des id\u00e9es r\u00e9centes telles que les embeddings, l\u2019adversarial learning, les m\u00e9canismes d\u2019attention&#8230;<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<ol>\n<li><span style=\"font-weight: 400;\">R\u00e9seaux de neurones et apprentissage de repr\u00e9sentations<\/span><\/li>\n<li><span style=\"font-weight: 400;\"> Architectures classiques (fully connected, convolutionnelles, r\u00e9currentes, attention)<\/span><\/li>\n<li><span style=\"font-weight: 400;\">Int\u00e9r\u00eat de la profondeur et probl\u00e9matiques d&rsquo;optimisation de mod\u00e8les profonds<\/span><\/li>\n<li><span style=\"font-weight: 400;\">Generative Adversarial Networks<\/span><\/li>\n<li>Conception de syst\u00e8mes neuronaux<\/li>\n<\/ol>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Thierry Arti\u00e8res<\/span><\/p>\n<hr \/>\n<p><b>\f<\/b><\/p>\n<h3 id=\"MRO\"><b>Mod\u00e9lisation et r\u00e9solution pour l&rsquo;optimisation<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Cette UE fait suite \u00e0 l\u2019UE Mod\u00e9lisation et r\u00e9solution pour la d\u00e9cision du M1.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Parmi les probl\u00e8mes r\u00e9els, les probl\u00e8mes d\u2019optimisation sont en g\u00e9n\u00e9ral plus fr\u00e9quents que les probl\u00e8mes de d\u00e9cision. De plus, leur r\u00e9solution est souvent plus difficile que celle des probl\u00e8mes de d\u00e9cision associ\u00e9s et n\u00e9cessite des techniques de r\u00e9solution adapt\u00e9s.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Les formalismes \u00e0 base de contraintes, comme COP (Probl\u00e8me d\u2019Optimisation sous Contraintes), WCSP (CSP Pond\u00e9r\u00e9s), et Max-SAT (Satisfiabilit\u00e9 maximum), permettent d\u2019exprimer ais\u00e9ment des probl\u00e8mes d\u2019optimisation en mettant en relation des variables \u00e0 l\u2019aide de contraintes ou de clauses.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ils offrent un cadre relativement puissant permettant de repr\u00e9senter de nombreux probl\u00e8mes industriels et acad\u00e9miques (probl\u00e8me d\u2019allocation de fr\u00e9quence, ordonnancement, cryptographie, bioinformatique, etc.) \u00a0tout en disposant d\u2019outils efficaces (solveurs) pour leur r\u00e9solution.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Pour chaque formalisme, l\u2019\u00e9tudiant devra appr\u00e9hender les techniques de r\u00e9solution et surtout \u00eatre capable de mod\u00e9liser de nouveaux probl\u00e8mes. Diff\u00e9rentes mod\u00e9lisations \u00e9tant envisageables, il devra \u00eatre en mesure d\u2019orienter ses choix en tenant compte des sp\u00e9cificit\u00e9s des solveurs employ\u00e9s.<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Plan du cours :<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Cours 1 \/ TD 1 (2h) : COP (formalisme et r\u00e9solution)<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Cours 2 \/ TD 2 \u00a0(3h) : WCSP (formalisme et r\u00e9solution)<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Cours 3 \/ TD 3 (5h) : Max-SAT (formalisme et r\u00e9solution)<\/span><\/li>\n<\/ul>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Djamal Habet<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cyril Terrioux (responsable)<\/span><\/p>\n<div class=\"\">\n<div class=\"\"><\/div>\n<div class=\"\">\n<hr \/>\n<\/div>\n<\/div>\n<h3 id=\"METHODO\"><b>M\u00e9thodologie (M2)<br \/>\n<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p>Ce cours porte sur la m\u00e9thodologie, les pratiques, les conventions et les pi\u00e8ges \u00e0 \u00e9viter en science des donn\u00e9es et machine learning (ML). Le parti pris est de s&rsquo;appuyer sur des exemples concrets, pour ensuite aborder des notions plus abstraites de m\u00e9thodologie scientifique, afin de (a) rendre agr\u00e9able le th\u00e8me de la m\u00e9thodologie, souvent consid\u00e9r\u00e9 comme mineur ou ennuyeux, (b) justifier l&rsquo;importance des notions abstraites, et (c) s&rsquo;entra\u00eener sur des comp\u00e9tences pratiques utiles et essentielles (p.ex. lors du stage de fin de master).<\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<ol>\n<li>Conception d&rsquo;une exp\u00e9rience : question scientifique, pertinence et justification, bibliographie, lecture critique d&rsquo;articles<\/li>\n<li>Cr\u00e9ation de jeux de donn\u00e9es : s\u00e9lection de donn\u00e9es, annotation de donn\u00e9es, accord inter-annotateur\/ice, biais dans les jeux de donn\u00e9es<\/li>\n<li>Environnement exp\u00e9rimental (d\u00e9tails importants) : instabilit\u00e9 des mod\u00e8les, reproductibilit\u00e9 vs. r\u00e9plicabilit\u00e9, hyper-param\u00e9trage, RGPD, aspects \u00e9thiques<\/li>\n<li>Analyse de r\u00e9sultats d&rsquo;un mod\u00e8le : m\u00e9triques d&rsquo;\u00e9valuation, comparaison de syst\u00e8mes, significativit\u00e9 statistique, test d&rsquo;hypoth\u00e8ses param\u00e9triques et non param\u00e9triques, p-value<\/li>\n<\/ol>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p>Carlos Ramisch (responsable)<\/p>\n<hr \/>\n<h3><\/h3>\n<h3 id=\"AR\"><b>Apprentissage par renforcement<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">L\u2019objectif de cet UE est de fournir \u00e0 l\u2019\u00e9tudiant les bases de l\u2019apprentissage par renforcement. Les th\u00e9matiques abord\u00e9es seront : algorithmes de bandit, Monte Carlo Tree Search, TD-learning. Le TP et le TD seront consacr\u00e9s \u00e0 la r\u00e9alisation d\u2019un projet : programme de jeu de r\u00e9flexion, pilotage de voiture, commande de robot.<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Plan du cours<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Multi-armed bandits &#8212; algorithme UCB<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Multi-armed bandits &#8212; algorithme Thompson Sampling<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Monte Carlo Tree search<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Markov Decision process<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">TD Learning<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Travail en bin\u00f4me sur des projets.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bibliographie (disponibles en ligne)<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Reinforcement Learning: An Introduction, by Richard S. Sutton and Andrew G. Barto<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Algorithms for Reinforcement learning, by Csaba Szepesvari <\/span><\/li>\n<\/ul>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Responsable de l\u2019UE : Valentin Emiya<\/span><\/p>\n<hr \/>\n<h3 id=\"SAM\"><b>Signal, Apprentissage et Multim\u00e9dia<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Cette UE fournit un bagage minimal de connaissances et comp\u00e9tences sur le traitement des donn\u00e9es s\u00e9quentielles telles que les signaux audio, les images, les vid\u00e9os. Elle s&rsquo;adresse \u00e0 un public d&rsquo;informaticiens ayant vocation \u00e0 traiter ces types de donn\u00e9es et n&rsquo;ayant pas suivi une formation de traitement des signaux, images et vid\u00e9o en math\u00e9matiques. Les objectifs sont:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">d&rsquo;acqu\u00e9rir des connaissances et comp\u00e9tences de base ainsi qu&rsquo;une exp\u00e9rience dans le traitement des donn\u00e9es multim\u00e9dia (audio, image, vid\u00e9o) et les t\u00e2ches d&rsquo;apprentissage associ\u00e9es<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">de prendre du recul sur des probl\u00e8mes et m\u00e9thodes g\u00e9n\u00e9riques aux diff\u00e9rentes modalit\u00e9s, consid\u00e9r\u00e9es comme des s\u00e9quences, afin de pouvoir transf\u00e9rer ces approches d&rsquo;un domaine \u00e0 l&rsquo;autre<\/span><\/li>\n<\/ul>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Les notions seront introduites et illustr\u00e9es de fa\u00e7on \u00e0 favoriser d&rsquo;une part une compr\u00e9hension intuitive et d&rsquo;autre part un formalisme appropri\u00e9 pour une utilisation pratique (programmation, exp\u00e9rimentation), en minimisant les pr\u00e9-requis math\u00e9matiques n\u00e9cessaires.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Plan :<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Bases d&rsquo;\u00e9chantillonnage et de temps-fr\u00e9quence (6h environ): d\u00e9finition, th\u00e9or\u00e8me d&rsquo;\u00e9chantillonnage de Shannon, notion de repliement spectral, exemples dans les images et les sons.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Notions de filtrage et de convolution (6h environ) : formulation, interpr\u00e9tation fr\u00e9quentielle, exemples de filtres (lissage, d\u00e9rivation, etc.) et d&rsquo;application aux images et aux sons, lien avec les couches convolutives des r\u00e9seaux de neurones<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Segmentation des images et des signaux audio, extraction de caract\u00e9ristiques (MFCC, etc.), notions de perception (6h environ)<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Une application parmi plusieurs possibilit\u00e9s (9h environ):<\/span>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Reconnaissance (ou synth\u00e8se) de la parole : \u00e9laboration d&rsquo;un syst\u00e8me de reconnaissance de phon\u00e8me \u00e0 partir de MFCC par r\u00e9seaux de neurones<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Voice activity detection, d\u00e9tection parole\/musique\/silence, classification de genres musicaux<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Bandwidth extension en audio \/ Super-r\u00e9solution dans les images<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Cross-modalit\u00e9: espace de repr\u00e9sentation cross-modaux ou traduction d&rsquo;une modalit\u00e9 en une autre.<\/span><\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Responsables de l\u2019UE : Valentin Emiya et Benoit Favre\u00a0<\/span><\/p>\n<p><b>\f<\/b><\/p>\n<hr \/>\n<h3 id=\"PSTAL\"><b>Pr\u00e9dictions structur\u00e9es pour le traitement automatique du langage<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p>Ce cours introduit des mod\u00e8les, algorithmes, ressources et outils pour la r\u00e9solution de probl\u00e8mes structur\u00e9s en traitement automatique des langues (TAL), en particulier \u00e0 l&rsquo;aide de m\u00e9thodes d&rsquo;apprentissage profond (<i>deep learning<\/i>).<\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<ol>\n<li>Introduction aux t\u00e2ches et \u00e0 la mod\u00e9lisation des probl\u00e8mes structur\u00e9s en TAL, notamment pour l&rsquo;\u00e9tiquetage de s\u00e9quences<\/li>\n<li>Programmation pytorch avanc\u00e9e pour des t\u00e2ches complexes (modules, batches, &#8230;)<\/li>\n<li>Mod\u00e8les de markov cach\u00e9s et algorithme de Viterbi, avec application \u00e0 l&rsquo;\u00e9tiquetage et \u00e0 la segmentation de textes<\/li>\n<li>Mod\u00e9lisation du vocabulaire via des informations sous-lexicales, p.ex. \u00e0 l&rsquo;aide de mod\u00e8les RNN ou convolution 1D sur les caract\u00e8res<\/li>\n<li>Usage de mod\u00e8les de langage pr\u00e9-entra\u00een\u00e9s\u00e0 base de transformeurs (p.ex. BERT) pour la pr\u00e9diction structur\u00e9e, embeddings contextuels, fine-tuning<\/li>\n<li>Analyse syntaxique probabiliste avec\/sans grammaire (p.ex. PCFG, transitions, graphes)<\/li>\n<\/ol>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p>Carlos Ramisch (responsable)<\/p>\n<p>Ce cours a \u00e9t\u00e9 adapt\u00e9 \u00e0 partir du cours PSTALN par Benoit Favre :<br \/>\n<a href=\"https:\/\/pageperso.lis-lab.fr\/benoit.favre\/pstaln\/\">https:\/\/pageperso.lis-lab.fr\/benoit.favre\/pstaln\/<\/a><\/p>\n<hr \/>\n<h3 id=\"THAS\"><b>Th\u00e9orie de l&rsquo;apprentissage et statistique non param\u00e9trique<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Ce cours pr\u00e9sente les concepts fondamentaux de l&rsquo;apprentissage automatique, y compris la description et l&rsquo;analyse de plusieurs algorithmes modernes, leur base th\u00e9orique et l&rsquo;illustration de leurs applications. Le cours abordera les notions suivantes : capacit\u00e9 de g\u00e9n\u00e9ralisation, complexit\u00e9 de Rademacher, stabilit\u00e9 algorithmique, SVM, m\u00e9thodes \u00e0 noyau, parcimonie, online-learning.<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<p><b>Plan <\/b><span style=\"font-weight: 400;\">(Cours au Tableau et TD sur machine) :<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cours 1 : Introduction g\u00e9n\u00e9rale \u2013 Concepts et algorithmes (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cours 2 : Complexit\u00e9 de Rademacher et VC-dimension (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cours 3 : SVM et m\u00e9thodes \u00e0 noyau (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cours 4 : Stabilit\u00e9 (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cours 5 : Parcimonie (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Cours 6: Apprentissage en ligne (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">TD 1 : Classification binaire (3h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">TD 2 : Classification multi-class (3h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">TD 3 : R\u00e9gression et parcimonie (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">TD 4 : Apprentissage en ligne (2h)<\/span><\/p>\n<p><span style=\"font-weight: 400;\">TD 5 : TD not\u00e9 et pr\u00e9sentation d\u2019articles<\/span><\/p>\n<p><b>R\u00e9f\u00e9rence <\/b><span style=\"font-weight: 400;\">:<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Mohri, Mehryar, Afshin Rostamizadeh, and Ameet Talwalkar. <\/span><i><span style=\"font-weight: 400;\">Foundations of machine learning<\/span><\/i><span style=\"font-weight: 400;\">. MIT press, 2012.<\/span><\/p>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Equipe enseignante : Hachem Kadri (responsable de l\u2019UE) et Fran\u00e7ois-Xavier Dup\u00e9<\/span><\/p>\n<hr \/>\n<h3 id=\"ISC\"><b>Introduction aux Sciences Cognitives (ouverture incertaine)<\/b><\/h3>\n<h4><b>Objectifs de l\u2019UE<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">L\u2019objectif principal de l\u2019UE est de fournir aux \u00e9tudiants une connaissance approfondie de l\u2019histoire de cette discipline scientifique r\u00e9cente d\u00e9nomm\u00e9 \u201cSciences cognitives\u201d, de son objet d\u2019\u00e9tude (la cognition humaine), de l\u2019\u00e9volution des hypoth\u00e8ses sur la nature\/ architecture cognitive sous-tendant l\u2019esprit humain (cybern\u00e9tique, cognitiviste-symbolique, connexionniste-sub-symbolique, incarn\u00e9e, ancr\u00e9e) ainsi que des grandes questions d\u00e9battues au cours de cette \u00e9volution (par exemple, l\u2019esprit humain utilise-t-il des symboles ? des repr\u00e9sentations ?). Pour faciliter la compr\u00e9hension de questions scientifiques quelquefois ardues, des exemples concrets issus d\u2019\u00e9tudes sur le langage seront \u00e9tudi\u00e9s, un des domaines phares dans l\u2019\u00e9volution du cadre th\u00e9orique des sciences cognitives.<\/span><\/p>\n<h4><b>Programme d\u00e9taill\u00e9<\/b><\/h4>\n<h3><span style=\"font-weight: 400;\">Plan du cours<\/span><\/h3>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Qu&rsquo;est-ce que les Sciences Cognitives ? <\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Les conceptions de l&rsquo;architecture de l&rsquo;esprit humain<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">L&rsquo;exemple de l&rsquo;\u00e9tude du langage<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Bibliographie<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Andler, D. (\u00e9d 2004). Introduction aux sciences cognitives. Gallimard.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Fodor, J. (1986). La modularit\u00e9 de l\u2019esprit. Les \u00e9ditions de Minuit. \u00a0<\/span><\/li>\n<\/ul>\n<h4><b>\u00c9quipe enseignante<\/b><\/h4>\n<p><span style=\"font-weight: 400;\">Pascale Col\u00e9 (Psychologie Cognitive (CNU 16))<\/span><\/p>\n<p><b>\f<\/b><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Plus de d\u00e9tails sur les contenus des UEs sur le site AMU du master Organisation g\u00e9n\u00e9rale Le M2 est organis\u00e9 en deux semestres. Le premier semestre (le semestre 3, S3) est un semestre de cours Le second semestre (S4) est consacr\u00e9 au stage. Semestre 3 Les cours du semestre 3 sont organis\u00e9s en un tronc&hellip;<\/p>\n","protected":false},"author":3,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-44","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=\/wp\/v2\/pages\/44","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=44"}],"version-history":[{"count":53,"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=\/wp\/v2\/pages\/44\/revisions"}],"predecessor-version":[{"id":988,"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=\/wp\/v2\/pages\/44\/revisions\/988"}],"wp:attachment":[{"href":"https:\/\/iaaa.lis-lab.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=44"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}