Séminaires de probabilités et statistiques (SAMM, 2009-2010‪)‬ Université Paris 1 Panthéon-Sorbonne

Résumé : Nous rappelons les bases de l'approche du problème de la classification non supervisée par les modèles de mélange. La méthode usuelle repose sur le maximum de vraisemblance et le choix du nombre de classes à former se fait par des critères pénalisés. Nous nous intéressons particulièrement au critère ICL (Biernacki, Celeux et Govaert, 2000), adapté à ce contexte et pertinent en pratique. L'étude de ce critère et de la notion de classe sous-jacente est abordée dans le cadre de la méthode de minimisation d'un contraste adapté à l'objectif de classification non supervisée. Ce faisant, nous définissons un nouvel estimateur et une nouvelle famille de critères de sélection de modèles dont nous étudions les propriétés - notamment la consistance. La calibration de ces critères par l'heuristique de pente (Birgé et Massart, 2006) est envisagée. Divers aspects pratiques de leur mise en oeuvre sont discutés et leur comportement pratique illustré par des simulations. Vous pouvez entendre l'intervention, tout en visualisant le Power Point, en cliquant sur ce lien : http://epn.univ-paris1.fr/modules/UFR27semSAMOS/SemSamos20091009_Baudry/SemSamos20091009_Baudry.html. Ecouter l'intervention : Bande son disponible au format mp3 Durée : 1H10

Dimensionality reduction is an old yet unsolved problem, with many applications in data visualization, knowledge discovery, and machine learning in general. Our aim in this talk will be to review several developments in the field of dimensionality reduction, with a particular focus on nonlinear methods. As an introduction, we will point out some weird properties of high dimensional spaces, which will motivate the use of dimensionality reduction. Next, we will go back in time and start our review with a short reminder about well known techniques such as principal component analysis and multidimensional scaling. Our travel into time will also bring us to visit Sammon mapping and other methods based on distance preservation. Next, we will come across self-organizing maps and auto-encoders with bottleneck neural networks. Some spectral methods such as Isomap and locally linear embedding will be reviewed as well. A glance at recent methods based on similarity preservation such as stochastic neighbor embedding will close the survey. Finally, we will try to identify the relationships between the different approaches, and say a few words about quality criteria for dimensionality reduction techniques. Vous pouvez entendre l'intervention, tout en visualisant le Power Point, en cliquant sur ce lien : http://epn.univ-paris1.fr/modules/UFR27semSAMOS/SemSamos20090529L_ee/SemSamos20090529_Lee.html. Ecouter l'intervention : Bande son disponible au format mp3 Durée : 1H14

Dans ce travail nous utilisons des méthodes de régularisation pour la résolution de problèmes inverses mal posés. La principale difficulté dans l'application d'une méthode de régularisation est la détermination du paramètre de régularisation. L'approche choisie dans ce travail s'appuie sur des outils de la théorie de sélection de modèles. Nous discutons de la façon dont un grand nombre de méthodes de régularisation, originalement conçues pour résoudre des problèmes inverses mal posés, se traduise en des algorithmes d'apprentissage (comme par exemple les SVM). Tous ces algorithmes sont des méthodes à noyaux qui peut être facilement mis en oeuvre. Nous présentons quelques exemples des ces méthodes de régularisations et nous discuterons leur applicabilité à des problèmes industriels. Vous pouvez entendre l'intervention, tout en visualisant le Power Point, en cliquant sur ce lien : http://epn.univ-paris1.fr/modules/UFR27semSAMOS/SemSamos20090227FerminKarina/SemSamos20090227FerminKarina.html. Ecouter l'intervention : Bande son disponible au format mp3 Durée : 1h27