Logistic模型的極大似然估計(jì).pdf

1、Logistic模型是對二值因變量(即y＝1或y=0)進(jìn)行回歸分析時(shí)廣泛采用的模型。近年來，人們對這個(gè)模型進(jìn)行了深入、系統(tǒng)的分析，涉及的問題包括參數(shù)估計(jì)、回歸自變量的選擇、隨機(jī)效應(yīng)、統(tǒng)計(jì)診斷。本文考慮logistic模型的參數(shù)估計(jì)問題。在這方面，傳統(tǒng)的方法是用數(shù)值算法搜索似然函數(shù)的極大值點(diǎn)。這個(gè)方法有兩個(gè)缺點(diǎn)：一是搜索算法不是基于概率統(tǒng)計(jì)的思想，顯得不夠自然；二是不適合回歸自變量較多的情形，因?yàn)閿?shù)值搜索算法在高維空間中的效率是成問題的。

2、1977年Dempster等人提出了EM算法。然而，EM算法不能直接用于logistic模型。最近，logistic模型的Bayes分析取得了很大的進(jìn)展Scott(2004)。然而，Bayes估計(jì)一般缺乏精度，而且Monte Carlo搜索算法一般需要很大的計(jì)算量。因此，就參數(shù)估計(jì)而言，極大似然估計(jì)依然足最佳的選擇。本文的主要工作是利用最近Bayes分析方面取得的成果，給出了logistic模型的參數(shù)估計(jì)的EM算法。這里的關(guān)鍵有兩點(diǎn)：一