Borne FDCR

En statistique, la limite FDCR, nommée ainsi en l'honneur de Fréchet, Darmois, Cramér et Rao, exprime une limite inférieure sur la variance d'un estimateur sans biais, basée sur l'Information de Fisher.



Catégories :

Estimation (statistique) - Statistiques

Page(s) en rapport avec ce sujet :

  • Supposons que dans J (θ), la limite φ → θ peut être permutée avec l'intégrale..... Pour un n-échantillon, la limite FDCR devient b/n. Examinons l'estimateur... (source : perso.univ-rennes1)
  • D]après le théorème central limite, quand Ν tend vers l]illimité, .... sont satisfaites et déterminons la limite FDCR. La quantité d] information de Fisher... (source : univ-orleans)
  • leurs), qu'en ne se souvenant que du résumé d'information constitué par Sn qui...... Ainsi la limite FDCR est bien atteinte ˙g2 (θ) /I (θ) = ¨B2 (θ) / ¨B (θ) = ¨B (θ)....... Le biais de cet estimateur non paramétrique et un théor`eme de limite... (source : stafav)

En statistique, la limite FDCR (autrement nommée inégalité de Cramér-Rao), nommée ainsi en l'honneur de Fréchet, Darmois, Cramér et Rao, exprime une limite inférieure sur la variance d'un estimateur sans biais, basée sur l'Information de Fisher.

Elle décrit que l'inverse de l'information de Fisher, \mathcal{I}(\theta), d'un paramètre θ, est une limite inférieure de la variance d'un estimateur sans biais de ce paramètre (noté \widehat{\theta}).


\mathrm{var} \left(\widehat{\theta}\right)
\geq
\frac{1}{\mathcal{I}(\theta)}
=
\frac{1}
{
 - \mathrm{E}
 \left[
   \frac{\partialˆ2}{\partial \thetaˆ2} \ln L(X;\theta)
 \right]
}

L (X;θ) est la fonction de vraisemblance.

Occasionnellemen, aucun estimateur non biaisé n'atteint la limite inférieure.

Exemple

Supposons que X est un vecteur aléatoire qui suit une loi normale d'espérance connue μ et de variance inconnue σ2. Considérons T l'estimateur de σ2 :


T=\frac{\sum_{i=1}ˆn\left(X_i-\mu\right)ˆ2}{n}.

Alors T est non biaisé pour σ2, car E[T] = σ2. Quelle est la variance de T ?


\mathrm{Var}(T) = \frac{\mathrm{var}(X-\mu)ˆ2}{n}=\frac{1}{n}
\left[
E\left\{(X-\mu)ˆ4\right\}-\left(E\left\{(X-\mu)ˆ2\right\}\right)ˆ2
\right]

Le premier terme est le quatrième moment centré et vaut 4; le second est le carré de la variance, soit σ4. Donc :

\mathrm{var}(T)=\frac{2\sigmaˆ4}{n}.

Quelle est l'information de Fisher de cet exemple ? Le score V est défini par :


V=\frac{\partial}{\partial\sigmaˆ2}\log L(\sigmaˆ2,X)

avec L étant la fonction de vraisemblance. Donc, dans ce cas,


V=\frac{\partial}{\partial\sigmaˆ2}\log\left[\frac{1}{\sqrt{2\pi\sigmaˆ2}}eˆ{-(X-\mu)ˆ2/{2\sigmaˆ2}}\right]
=\frac{(X-\mu)ˆ2}{2(\sigmaˆ2)ˆ2}-\frac{1}{2\sigmaˆ2}

L'information de nn évènement indépendant étant uniquement n fois l'information d'un seul évènement, soit \frac{n}{2(\sigmaˆ2)ˆ2}.

L'inégalité de Cramér-Rao donne :


\mathrm{var}(T)\geq\frac{1}{I}.

Dans ce cas, on a par conséquent égalité, ce qui montre que l'estimateur est efficace.

Conditions de régularité

Cette inégalité repose sur 2 conditions faibles de régularité des densité de probabilité, f (x;θ) , et l'estimateur T (X)  :

 \frac{\partial}{\partial\theta} \ln f(x;\theta)
soit fini.

 \frac{\partial}{\partial\theta}
 \left[
  \int T(x) f(x;\theta) \,dx
 \right]
 =
 \int T(x)
  \left[
   \frac{\partial}{\partial\theta} f(x;\theta)
  \right]
 \,dx
si le second membre est fini.

Occasionnellemen, un estimateur biaisé peut avoir une variance et une erreur quadratique moyenne en dessous de la limite de Cramér-Rao (cette limite ne s'appliquant que pour les estimateurs non biaisés).

Si la régularité permet d'atteindre la dérivée seconde, alors l'information de Fisher peut se mettre sous une autre forme, et l'inégalité de Cramér-Rao donne :


\mathrm{var} \left(\widehat{\theta}\right)
\geq
\frac{1}{\mathcal{I}(\theta)}
=
\frac{1}
{
 -\mathrm{E}
 \left[
  \frac{\partialˆ2}{\partial \thetaˆ2} \log f(X;\theta)
 \right]
}

Recherche sur Amazon (livres) :



Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Borne_FDCR.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 07/04/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.
Accueil Recherche Aller au contenuDébut page
ContactContact ImprimerImprimer liens d'évitement et raccourcis clavierAccessibilité
Aller au menu