Likelihood Methods in Mixture Models: EM, NPMLE and Zero Bounds
Publication date
2008
Document type
PhD thesis (dissertation)
Author
Sever, Krunoslav
Advisor
Seidel, Wilfried
Referee
Krumbholz, Wolf
Granting institution
Helmut-Schmidt-Universität / Universität der Bundeswehr Hamburg
Exam date
2008-05-05
Organisational unit
DOI
Part of the university bibliography
✅
DDC Class
510 Mathematik
Abstract
In der vorliegenden Dissertation werden statistische Mischungsmodelle betrachtet, die es erlauben inhomogene Grundgesamtheiten zu modellieren. --- Dabei werden speziell Likelihood-Methoden untersucht, in dem die unbekannten Parameter der einzelnen Komponenten der Grundgesamtheit durch Maximierung der Dichte ermittelt werden. --- Nimmt man an, dass eine endliche Obergrenze für die Anzahl der Komponenten bekannt ist, ist die EM-Methode eine beliebte Wahl für dieses Problem. --- Die elementaren Monotonie und Konvergenz-Eigenschaften der EM-Methode werden im allgemeineren Kontext von Modellen mit unvollständigen Daten hergeleitet. Dabei wird speziell darauf geachtet, dass die Modell-Dichten unterschiedliche Träger haben können. --- Ferner spielen Einschränkungen des Parameterraums in der EM-Methode eine besondere Rolle: einerseits kann so die für Konvergenzaussagen wichtige Beschränktheit der Likelihood erreicht werden, andererseits dienen solche Einschränkungen im Mischungskontext zur verbesserten Ausschliessung degenerierter Ergebnisse (sogenanter spurious solutions) im tatsächlich implementierten EM-Algorithmus. --- Ist keine Obergrenze bekannt, tritt die Gradienten-Methode an die Stelle der EM-Methode, in denen Richtungsableitungen genutzt werden, um einen möglichst optimalen Anstieg der Likelihood zu gewährleisten. --- Die essentiellen Richtungsableitungen werden zusammengefasst in der Gradienten-Funktion, deren Maximierung den Kern aller Gradienten-Methoden bildet. Diese erlaubt die Bestimmung einer guten Suchrichtung, wobei Kenntnis von lokalen Maxima die Konvergenzgeschwidigkeit erhöht. --- Die Möglichkeit zur Bestimmung aller lokalen Maxima erlaubt es ferner die Gradienten-Methode auf dem sogenannten Likelihood-Vektor zu basieren, wodurch die technische Implementation der Iteration vereinfacht wird. --- Zur verlässlichen Bestimmung aller lokalen Extrema in Mischungen von Exponentialfamilien, werden für die Ableitung der Gradientenfunktion Schranken für die Zahl der Nullstellen in gewissen Intervallen hergeleitet. Diese Schranken basieren auf einem grundlegenden Resultat von Lindsay, das in der vorliegenden Arbeit verbessert wird. --- Schliesslich wird beschrieben wie diese Schranken effektiv gesammelt und abgearbeitet werden können, um den Parameterraum systematisch und verlässlich nach Extrema der Gradienten-Funktion abzusuchen.
Version
Not applicable (or unknown)
Access right on openHSU
Open access