Effiziente Schätzung

Effiziente Schätzer sind Schätzungen, die die kleinstmögliche Varianz unter allen unverzerrten Schätzern erreichen. Mit anderen Worten, ein effizienter Schätzer ist unverzerrt und hat den kleinstmöglichen Standardfehler unter allen unverzerrten Schätzern. Formal kann es wie folgt beschrieben werden:

Hinweis

Ein effizienter Schätzer ist immer einzigartig, d.h. es gibt keine zwei Schätzer, die gleichzeitig effizient sein könnten.

Warum benötigen wir effiziente Schätzungen und was ist der Unterschied zwischen konsistenten und effizienten Schätzungen?

1. Bei konsistenten Schätzungen tendiert die Varianz gegen null, wenn eine große Anzahl von Stichproben verwendet wird. Gleichzeitig ist in realen Problemen die Anzahl der Stichproben begrenzt, und wir müssen die Varianz der Schätzungen für eine bestimmte Anzahl von Stichproben vergleichen. Dafür müssen wir feststellen, ob die Schätzung effektiv ist;
2. Selbst wenn wir viele Stichproben verwenden, gibt es so etwas wie die Konvergenzrate. Einfach ausgedrückt bestimmt die Konvergenzrate die minimale Anzahl von Stichproben, bei der die Schätzung bereits sehr nahe am realen Parameter liegt. Wenn wir zwei konsistente Schätzungen vergleichen müssen, sollte immer derjenige bevorzugt werden, der von Anfang an eine kleinere Varianz hat.

Kriterium der Effizienz

Wie bei konsistenten Bewertungen ist es manchmal schwierig, die Effektivität per Definition zu überprüfen. Deshalb werden wir das Kriterium für die Effektivität der Schätzung betrachten:

Stichprobenmittelwertschätzung

Lassen Sie uns beweisen, dass der Stichprobenmittelwert und die Varianz mit bekanntem Erwartungswert effiziente Schätzungen für Parameter der Gaußschen Verteilung sind. Zuerst konstruieren wir eine logarithmische Likelihood-Funktion für die Gaußsche Verteilung:

Nehmen wir nun die partielle Ableitung der Log-Likelihood in Bezug auf den Parameter mu:

Nach den Effizienzkriterien sehen wir, dass der Stichprobenmittelwert tatsächlich eine effiziente Schätzung des Parameters mu ist.

Schätzung der Stichprobenvarianz

Lassen Sie uns nun den effektiven Schätzer für die Varianz der Gaußschen Verteilung auf die gleiche Weise definieren:

Obwohl wir aus dem Ergebnis sehen, dass die Stichprobenvarianz mit bekanntem mathematischen Erwartungswert ein effizienter Schätzer ist. Es ist erwähnenswert, dass wir bereits berücksichtigt haben, dass die Stichprobenvarianz mit bekanntem mathematischen Erwartungswert ein unverzerrter Schätzer ist, sodass wir ihn als effektiven Schätzer betrachten können. In der Praxis kennen wir jedoch selten den tatsächlichen Wert des Erwartungswertes. Daher ist es am besten, die angepasste Stichprobenvarianz als Schätzung zu verwenden, da sie unverzerrt und konsistent ist, obwohl sie nicht effizient ist.