Regularization based multitask learning with applications in computational biology

Diese Arbeit befasst sich mit einem in der biologischen Forschung alltäglichen Problem: Dem Entschlüsseln von biologischen Prozessen mit Hilfe von Experimenten aus verschiedenen biologischen Einheiten. So kann z.B. das Wissen aus verschiedenen Organismen, Gewebetypen, oder Tumorarten jeweils kombiniert werden, wobei man für deren Ähnlichkeiten und Unterschiede Sorge tragen muss. Wir betrachten diesen Ansatz als Problem des überwachten Lernens, wobei das gleiche Inferenzproblem in verschiedenen biologischen Einheiten gelöst wird. Hierfür evaluieren wir zwei Teilbereiche des Transferlernens: Zum einen betrachten wir Domain Adaptation, bei dem ein gerichteter Informationsaustausch zwischen Quellen Domänen, für welche viele Trainingsdaten vorliegen, und den Ziel Domänen, für welche kaum Trainingsdaten vorhanden sind, stattfindet. Zum anderen betrachten wir Methoden des Multitask Learnings, bei dem Informationen wechselseitig zwischen verschiedenen Domänen geteilt werden. Für den Fall von Domain Adaptation entwickeln wir Erweiterungen von etablierten Algorithmen zur regularisierten Risiko Minimierung, die es erlauben einen Informationstransfer zwischen verschiedenen Domänen zu realisieren. Für diese Erweiterungen präsentieren wir effiziente numerische Algorithmen zur Klassifikation und zum Structured Output Learning. Besonderes Augenmerk wird hierbei auf den Fall gelegt, in welchem die Beziehung der verschiedenen Domänen oder Tasks durch eine hierarchische Struktur beschrieben wird. Dieser Fall ist in der Bioinformatik von besonderer Bedeutung, da hier oft Informationen aus verschiedenen Organismen zu kombinieren sind und deren Beziehung durch einen Stammbaum beschrieben werden kann. Wir evaluieren die vorgestellten Methoden sowohl auf synthetischen Daten, als auch in Experimenten mit genomischen Daten. Der Ansatz des Mulitask Learnings ist, Modelle für mehrere verwandte Probleme gemeinsam zu lernen. Unter Verwendung von modernen Methoden aus der mathematischen Optimierung entwickeln wir ein allgemein gehaltenes Rahmenwerk, das sowohl eine Vielzahl von existierenden Multitask Learning Methoden als Spezialfälle abdeckt, sowie die Entwicklung neuer Methoden ermöglicht. Ein besonderes Merkmal unseres Rahmenwerks ist die Möglichkeit, das Ahnlichkeitsmaß zwischen Domänen unter Verwendung des non-sparse Multiple Kernel Learnings zu lernen, bzw. zu verfeinern. Zudem leiten wir einen effizienten Algorithmus her, der das resultierende Optimierungsproblem mit einem dualen Koordinatenabstiegsverfahren löst, und damit Neuerungen aus dem Bereich der linearen Support Vector Machine mit Multitask Learning kombiniert. Als Anwendungen unserer Methoden, betrachten wir eine Vielzahl an Problemen aus der Immuntherapie, biologischen Bildverarbeitung und Genomik. In ihrer Gesamtheit umfasst diese Dissertation die Entwicklung von regularisierungs-basierten Methoden des Transferlernens, das Entwickeln und zur Verfügung stellen von Software, die diese Ideen umsetzt, und die erfolgreiche Anwendung auf ein breites Spektrum an Problemen.

Author dc:creator

• Widmer, Christian

Advisors dc:contributor.advisor

• Müller, Klaus-Robert
• Rätsch, Gunnar

Licence dc:rights.uri

• https://creativecommons.org/licenses/by/3.0/de/

Language dc:language.iso

en, English

Identifier URI

urn:nbn:de:kobv:83-opus4-59075
http://dx.doi.org/10.14279/depositonce-4256

OAI identifier oai:identifier

oai:depositonce.tu-berlin.de:11303/4553