Les deux exemples traités nous conduisent à considérer un échantillon i.i.d (X1,…,Xn) dont la loi de probabilité est connue à un paramètre
θ près :
dans le premier exemple : θ=p ,
dans le second exemple : θ=(μ,σ2).
Pour appréhender ces paramètres, on ne dispose que des observations (x1,…,xn) , réalisations des variables aléatoires i.i.d (X1,…,Xn) .
De manière assez simple, un estimateur est une fonction des observations, qui prend ses valeurs dans le domaine de définition du paramètre. On le note généralement avec un chapeau :
.
Dans le premier exemple, il faudra par exemple considérer une fonction, l'estimateur, qui prenne ses valeurs dans [0,1] car le paramètre qu'on cherche à estimer appartient à cet intervalle.