浅谈最大似然估计法

(整期优先)网络出版时间:2021-08-18
/ 1



浅谈最大似然估计法

黄文蝶

武警警官学院基础部 四川 成都 610213

摘 要:样本在分布函数形式已知但含有未知参数时,可以用最大似然估计法对未知参数进行参数估计。本文首先介绍最大似然方法和一般步骤,然后通过几个例题来说明最大似然估计方法。

关键词:未知参数;参数估计;最大似然估计

最大似然估计法是总体分布类型已知的条件下所使用的一种参数估计的方法。最早是由德国数学家高斯在1821年提出来的,但直到1922年费希尔重新发现这种方法并首先研究了这种方法的一些性质时,才得到广泛的应用。最大似然估计法的基本原理 :用样本的函数值估计总体参数时所观测到的样本出现的概率最大 。

定义:设总体的概率函数为611c83e0f09da_html_61d1fe1298391e31.gif ,其中611c83e0f09da_html_c99da7296a421b0c.gif 是未知参数参数,611c83e0f09da_html_139655c911bdb7fc.gifl维参数空间,611c83e0f09da_html_6c4aa50f7c0dd0a9.gif 是来自该总体的一个样本,将样本的联合概率函数看成611c83e0f09da_html_33863c2b2f6b8338.gif 的函数,用611c83e0f09da_html_cf16a4fb75da2b05.gif 表示,简记为611c83e0f09da_html_ecf28f9384c23712.gif ,其中611c83e0f09da_html_bf12925c5c3c9bb5.gif

611c83e0f09da_html_177a29f717fe7d09.gif 称为样本的似然函数,如果某统计量611c83e0f09da_html_b86351dfa5e1189c.gif 满足611c83e0f09da_html_4dc26b8ff6297788.gif ,则称611c83e0f09da_html_7da6ea013b233056.gif611c83e0f09da_html_80ae4adbfdfae2d3.gif最大似然估计,简称为MLE。

最大似然估计的一般步骤为:

(1)写出似然函数:611c83e0f09da_html_1ceac929c766e57.gif

(2)对似然函数取对数得:611c83e0f09da_html_2a2ecb259f218185.gif

(3)解似然方程组:611c83e0f09da_html_5662d73da476fa87.gif

(4)若似然函数不存在驻点,则用似然函数的单调性求解未知参数得取值。

以上步骤确实可以解决遇到的大部分关于最大似然估计的问题,但如果题目中的条件稍微灵活变化一下,有的学生就容易犯错。我们通过以下几个例题来说明:

例1 设某地区在每月发生重大事故的次数611c83e0f09da_html_515a86953f177aea.gif 服从参数为611c83e0f09da_html_2cdd33fb17e15e3a.gif 的泊松分布(611c83e0f09da_html_ae753fe32391bd16.gif ),现有九个月的样本观测值7,0,3,2,0,5,4,2,4,求一个月内无重大交通事故的概率611c83e0f09da_html_381a8902e9283c14.gif 的最大似然估计。

解:写出似然函数:611c83e0f09da_html_cba38b1081e5a19b.gif

611c83e0f09da_html_d47a96967d8046f9.gif 取对数,得:611c83e0f09da_html_3a31cf41400023f7.gif

故将611c83e0f09da_html_3eb3c59198600a98.gif611c83e0f09da_html_ba64c3a305043df2.gif 求导,令其为0,得似然方程:611c83e0f09da_html_d58f06e7ff381aad.gif

解方程得:611c83e0f09da_html_c0ec89745e97888c.gif ,611c83e0f09da_html_ba64c3a305043df2.gif 的最大似然估计为:611c83e0f09da_html_63fec336575db44c.gif

由于611c83e0f09da_html_405042adaa9340f5.gif根据最大似然估计的不变性,611c83e0f09da_html_381a8902e9283c14.gif的最大似然估计611c83e0f09da_html_4dca3f6b8c04f8b7.gif

例2设某工序生产的产品的不合格率为611c83e0f09da_html_381a8902e9283c14.gif ,抽611c83e0f09da_html_23fe46f95fef2306.gif 个产品作检验,发现有611c83e0f09da_html_47551f7be4a471b0.gif 个不合格,试求611c83e0f09da_html_381a8902e9283c14.gif 的最大似然估计。

解:写出似然函数:611c83e0f09da_html_239b3ab8be4fc176.gif

611c83e0f09da_html_58181527b623e6d3.gif 取对数,得:611c83e0f09da_html_78e7cd4a1c61b1cc.gif

故将611c83e0f09da_html_ed0738c4c5a0a53.gif611c83e0f09da_html_381a8902e9283c14.gif 求导,令其为0,得似然方程:611c83e0f09da_html_2bec41fe9494608a.gif

解方程得:611c83e0f09da_html_309fae8515f80b56.gif ,故用得611c83e0f09da_html_381a8902e9283c14.gif 的极大似然估计为:611c83e0f09da_html_309fae8515f80b56.gif

例3 设某原件的使用寿命611c83e0f09da_html_894d91cefe5e5a8.gif 的概率密度为611c83e0f09da_html_bec6a3834d810384.gif ,其中611c83e0f09da_html_782714c9e8ca596c.gif 为未知参数,又设611c83e0f09da_html_f399c322ebffbe95.gif 是样本611c83e0f09da_html_69b9f7f01fa4852a.gif 的观察值,求参数611c83e0f09da_html_8a40ea5f1a3a94d9.gif 的最大似然估计。

解:写出似然函数:611c83e0f09da_html_3403e625c1b6ec74.gif

611c83e0f09da_html_50dd7a89104ada92.gif 时,对611c83e0f09da_html_b5b8a413b87c309d.gif 取对数,得:611c83e0f09da_html_5b88373100391841.gif

611c83e0f09da_html_5ae4144de4efd776.gif611c83e0f09da_html_8af88c4f90036bc0.gif 求导得:611c83e0f09da_html_8725da403b073b26.gif

所以611c83e0f09da_html_5ae4144de4efd776.gif随着611c83e0f09da_html_8af88c4f90036bc0.gif的增加而增加,因为611c83e0f09da_html_6c7b7afce750a740.gif 所以参数611c83e0f09da_html_8af88c4f90036bc0.gif的最大似然估计值为611c83e0f09da_html_2d7773eda56d5520.gif

最大似然估计是统计中最重要、应用最广泛的方法之一,它利用了总体分布函数的相关信息,可以克服矩估计的一些不足。本文通过一些例题对最大似然估计方法进行了详细说明,体现了最大似然估计的精髓,也体现了其实用价值。最大似然估计在很多领域都起到了重要作用,所以对其方法探讨具有很大的现实意义.


        参考文献:

        [1]盛骤,谢式千,潘承毅.概率论与数理统计 [M].北京:高等教育出版社,2008,第四版.

        [2] 陈希孺.概率论与数理统计[M].安徽:中国科学技术大学出版社,2009.

[3]茆诗松、程依明、濮晓龙主编,概率论与数理统计教程[M]. 北京:高等教育出版社,2010年,第二版.