L’estimation de distribution à l'aide d'un autoencodeur

Ce mémoire introduit MADE, un nouveau modèle génératif spécifiquement développé pour l’estimation de distribution de probabilité pour données binaires. Ce modèle se base sur le simple autoencodeur et le modifie de telle sorte que sa sortie puisse être considérée comme des probabilités conditionnelles. Il a été testé sur une multitude d’ensembles de données et atteint des performances comparables à l’état de l’art, tout en étant plus rapide. Pour faciliter la description de ce modèle, plusieurs concepts de base de l’apprentissage automatique seront décrits ainsi que d’autres modèles d’estimation de distribution. Comme son nom l’indique, l’estimation de distribution est simplement la tâche d’estimer une distribution statistique à l’aide d’exemples tirés de cette dernière. Bien que certains considèrent ce problème comme étant le Saint Graal de l’apprentissage automatique, il a longtemps été négligé par le domaine puisqu’il était considéré trop difficile. Une raison pour laquelle cette tâche est tenue en si haute estime est qu’une fois la distribution des données connue, elle peut être utilisée pour réaliser la plupart des autres tâches de l’apprentissage automatique, de la classification en passant par la régression jusqu’à la génération. L’information est divisée en trois chapitres principaux. Le premier donne un survol des connaissances requises pour comprendre le nouveau modèle. Le deuxième présente les précurseurs qui ont tenu le titre de l’état de l’art et finalement le troisième explique en détail le modèle proposé.

Name thesis:degree_name

M. Sc.

Level thesis:degree_level

Maîtrise

Discipline thesis:degree_discipline

Informatique

Grantor dc:publisher

Université de Sherbrooke

Year dc:date.issued

2015

Author dc:creator

• Germain, Mathieu

Advisor dc:contributor.advisor

• Larochelle, Hugo

• Réseau de neurones
• Autoencodeur
• Apprentissage automatique
• Apprentissage non-supervisé
• Architecture profonde
• Estimation de distribution

Language dc:language.iso

fr, en

Handle dc:identifier.uri

http://hdl.handle.net/11143/6910

OAI identifier oai:identifier

oai:usherbrooke.scholaris.ca:11143/6910