Estimation Efficace

Estimateurs efficaces sont des estimations qui atteignent la plus petite variance possible parmi tous les estimateurs non biaisés. En d'autres termes, un estimateur efficace est non biaisé et a l'erreur standard la plus petite possible parmi tous les estimateurs non biaisés. Formellement, cela peut être décrit comme suit :

Remarque

Un estimateur efficace est toujours unique, c'est-à-dire qu'il n'existe pas deux estimateurs qui pourraient être simultanément efficaces.

Pourquoi avons-nous besoin d'estimations efficaces, et quelle est la différence entre les estimations cohérentes et efficaces ?

1. Pour les estimations cohérentes, la variance tend vers zéro lorsqu'on utilise un grand nombre d'échantillons. En même temps, dans les problèmes réels, le nombre d'échantillons est limité, et nous devons comparer la variance des estimations pour un nombre spécifique d'échantillons. Pour cela, nous devons déterminer si l'estimation est efficace ;
2. Même si nous utilisons de nombreux échantillons, il existe une notion appelée taux de convergence. En termes simples, le taux de convergence détermine le nombre minimum d'échantillons à partir duquel l'estimation est déjà très proche du paramètre réel. Si nous devons comparer deux estimations cohérentes, la préférence doit toujours être donnée à celle qui a initialement une variance plus petite.

Critère d'efficacité

Comme dans le cas des évaluations cohérentes, il est parfois difficile de vérifier l'efficacité par définition. C'est pourquoi nous allons considérer le critère d'efficacité de l'estimation :

Estimation de la moyenne de l'échantillon

Prouvons que la moyenne et la variance de l'échantillon avec une espérance connue sont des estimations efficaces pour les paramètres de distribution gaussienne. Tout d'abord, construisons une fonction de vraisemblance logarithmique pour la distribution gaussienne :

Prenons maintenant la dérivée partielle de la vraisemblance logarithmique par rapport au paramètre mu :

Selon les critères d'efficacité, nous voyons que la moyenne de l'échantillon est en effet une estimation efficace du paramètre mu.

Estimation de la variance de l'échantillon

Définissons maintenant l'estimateur efficace pour la variance de la distribution gaussienne de la même manière :

Bien que nous voyions d'après le résultat que la variance de l'échantillon avec une espérance mathématique connue est un estimateur efficace. Il convient de rappeler que nous avons déjà considéré que la variance de l'échantillon avec une espérance mathématique connue est un estimateur non biaisé, nous pouvons donc le considérer comme un estimateur efficace. Cependant, en pratique, nous connaissons rarement la valeur réelle de l'espérance. Par conséquent, il est préférable d'utiliser la variance ajustée de l'échantillon comme estimation puisqu'elle est non biaisée et cohérente, bien qu'elle ne soit pas efficace.