设 X1,…,Xn 是来自分布族 {Fθ:θ∈Θ} 的独立同分布样本,其中 θ 未知,Θ 是参数空间。用来估计 θ 的统计量
θ^=θ^(X1,…,Xn)称为估计量。统计量只由样本确定,不能含有未知参数;因此估计量在抽样前是随机变量。把一组观测值 x1,…,xn 代入后得到的数值 θ^(x1,…,xn) 称为估计值,它是一个确定的数。
点估计只给出一个数值;区间估计给出一个带有覆盖水平的区间。同一个参数可以用不同方法构造估计量,得到的结果可能不同,因此还需要用无偏性、均方误差和相合性等标准评价,见估计量的无偏性。
常用构造方法包括矩估计和最大似然估计。