學(xué)習(xí)筆記，僅供參考，有錯(cuò)必糾

---

文章目錄

• • 時(shí)間序列
  • • 誤差修正模型
    • • F檢驗(yàn)
      • 似然比（LR）檢驗(yàn)
      • W檢驗(yàn)
      • LM乘數(shù)檢驗(yàn)
      • LR, W和LM檢驗(yàn)
      • 自相關(guān)的LM檢驗(yàn)

---

時(shí)間序列

誤差修正模型

在用“一般到特殊”方法建立模型時(shí)的，首先應(yīng)對(duì)初始模型（即對(duì)回歸參數(shù)不加任何約束的動(dòng)態(tài)分布滯后模型）的隨機(jī)誤差項(xiàng)進(jìn)行異方差和自相關(guān)檢驗(yàn)。對(duì)模型的其他檢驗(yàn)都應(yīng)建立在隨機(jī)誤差項(xiàng)是一個(gè)白噪聲序列的基礎(chǔ)之上。在檢驗(yàn)約束條件是否成立的過(guò)程中逐步剔除不顯著變量，化簡(jiǎn)模型，同時(shí)還要保持模型隨機(jī)誤差項(xiàng)的非自相關(guān)性和同方差性不被破壞。在這個(gè)過(guò)程中要用到許多統(tǒng)計(jì)量.

F檢驗(yàn)

把樣本數(shù)據(jù)取對(duì)數(shù)后建立回歸模型，隨機(jī)誤差項(xiàng)一般不會(huì)存在異方差。對(duì)于隨機(jī)誤差項(xiàng)的一階自相關(guān)檢驗(yàn)可用DW統(tǒng)計(jì)量完成。對(duì)于ADL(1,1)模型，約束條件${\alpha }_1=0,{\beta }_1=0,{\beta }_0=0$和 ${\alpha }_1+{\beta }_0+{\beta }_1?1=0$是否成立可用t檢驗(yàn)完成。如果t統(tǒng)計(jì)量的絕對(duì)值大于臨界值，則相應(yīng)約束條件不成立，相應(yīng)解釋變量不能輕易地從模型中剔除掉。否則接受相應(yīng)約束條件，從模型中剔除相應(yīng)解釋變量。

對(duì)于聯(lián)合線性約束條件可用F檢驗(yàn)完成。假定模型誤差項(xiàng)服從正態(tài)分布，共有m個(gè)線性約束條件，則所用統(tǒng)計(jì)量是 ：

在零假設(shè)“約束條件真實(shí)”條件下，$F～F(m,T?k)$.

因?yàn)閮蓚€(gè)模型都是用OLS法估計(jì)的，所以可把被解釋變量的總平方和（SST）分解為回歸平方和 (SSR) 與誤差平方和（SSE）兩部分。

對(duì)于不加約束的模型有:

SST = SSRu + SSEu .

對(duì)于施加約束條件的模型有:

SST = SSRr + SSEr .

如果約束條件成立，那么在施加約束條件下求到的SSEr 不會(huì)比不加約束條件的SSEu大很多，用樣本計(jì)算的F值不會(huì)很大。

若F值小于臨界值，則約束條件是可接受的（真實(shí)的）。否則應(yīng)該拒絕零假設(shè)。

注意，F檢驗(yàn)的零假設(shè)是m個(gè)約束條件同時(shí)為零，備擇假設(shè)是m個(gè)約束條件不同時(shí)為零。所以拒絕零假設(shè)并不排除有部分約束條件為零。應(yīng)利用t檢驗(yàn)進(jìn)一步對(duì)每一個(gè)參數(shù)進(jìn)行顯著性判別。

比如對(duì)ADL(1,1)模型,檢驗(yàn)聯(lián)合約束條件${\alpha }_1={\beta }_1=0$，則：

似然比（LR）檢驗(yàn)

以上介紹的t檢驗(yàn)和F檢驗(yàn)只適用于對(duì)線性約束條件的檢驗(yàn)。對(duì)于非線性約束條件，${\alpha }_1{\beta }_0+{\beta }_1=0$，則無(wú)法用t或F檢驗(yàn)完成。下面介紹三種常用的檢驗(yàn)方法，即:

似然比（LR）檢驗(yàn);

沃爾德（W）檢驗(yàn);

拉格朗日（lagrange）乘數(shù)（LM）檢驗(yàn)。

這三種檢驗(yàn)所用統(tǒng)計(jì)量都是利用極大似然估計(jì)法計(jì)算的。LR檢驗(yàn)由內(nèi)曼—皮爾遜（Neyman-Pearson 1928）提出，只適用于對(duì)線性約束的檢驗(yàn)。W檢驗(yàn)和LM檢驗(yàn)既適用于對(duì)線性約束條件的檢驗(yàn)，也適用于對(duì)非線性約束條件的檢驗(yàn)。

LR檢驗(yàn)的基本思路是如果約束條件成立則相應(yīng)約束模型與非約束模型的極大似然函數(shù)值應(yīng)該是近似相等的。

下式表示非約束模型的極大似然函數(shù)：

其中$\hat{\beta }$和${\hat{\sigma }}^2$分別是對(duì)$\beta$（參數(shù)集合），${\sigma }^2$的極大似然估計(jì)。

下式表示約束模型的極大似然函數(shù)：

其中$\tilde{\beta }$和${\tilde{\sigma }}^2$分別是對(duì)$\beta$（參數(shù)集合），${\sigma }^2$的極大似然估計(jì)。

定義似然比（LR）統(tǒng)計(jì)量為：

中括號(hào)內(nèi)是兩個(gè)似然函數(shù)之比（似然比檢驗(yàn)由此而得名）。在零假設(shè)約束條件成立條件下：

其中m表示約束條件個(gè)數(shù)。用樣本計(jì)算LR統(tǒng)計(jì)量。判別規(guī)則是：

若$LR<{\chi }_{\alpha }^2(m)$ , 則接受零假設(shè)，約束條件成立。

若$LR>{\chi }_{\alpha }^2(m)$ , 則拒絕零假設(shè)，約束條件不成立。

ADL(1,1)模型,檢驗(yàn)聯(lián)合約束條件${\alpha }_1={\beta }_1=0$，則：

LR統(tǒng)計(jì)量只適用于對(duì)線性約束條件的檢驗(yàn)。對(duì)非線性約束條件應(yīng)該采用如下兩種檢驗(yàn)方法。

W檢驗(yàn)

W檢驗(yàn)的優(yōu)點(diǎn)是只需估計(jì)無(wú)約束模型。當(dāng)約束模型的估計(jì)很困難時(shí)，此方法尤其適用。W檢驗(yàn)由沃爾德（Wald 1943）提出，適用于線性與非線性約束條件的檢驗(yàn)。

W檢驗(yàn)的原理是測(cè)量無(wú)約束估計(jì)量與約束估計(jì)量之間的距離。先舉一個(gè)簡(jiǎn)單例子。比如對(duì)模型:

檢驗(yàn)線性約束條件${\beta }_2={\beta }_3$是否成立。W檢驗(yàn)只需對(duì)無(wú)約束模型進(jìn)行估計(jì)，因?yàn)閷?duì)約束估計(jì)量 ${\tilde{\beta }}_2$和${\tilde{\beta }}_3$來(lái)說(shuō)，必然有${\tilde{\beta }}_2?{\tilde{\beta }}_3=0$。如果約束條件成立，則無(wú)約束估計(jì)量${\hat{\beta }}_2?{\hat{\beta }}_3$應(yīng)該近似為零。如果約束條件不成立，則無(wú)約束估計(jì)量應(yīng)該顯著地不為零。關(guān)鍵是要找到一個(gè)準(zhǔn)則，從而判斷什么是顯著地不為零。

其中：

$\frac{?f(\hat{\beta })}{?\hat{\beta }}$表示用無(wú)約束估計(jì)量 代替后的偏導(dǎo)數(shù)矩陣，其中第i行第j列位置上的元素表示第i個(gè)約束條對(duì)第 j個(gè)無(wú)約束估計(jì)量的偏導(dǎo)數(shù)值. $Var(\hat{\beta })$是$\hat{\beta })$的估計(jì)的方差協(xié)方差矩陣.

在約束條件成立條件下：

W統(tǒng)計(jì)量的具體表達(dá)式為：

在零假設(shè)${\beta }_1{\beta }_2={\beta }_3$成立條件下，W統(tǒng)計(jì)量近似服從${\chi }^2(1)$分布.

LM乘數(shù)檢驗(yàn)

與W檢驗(yàn)不同的是拉格朗日（Lagrange）乘數(shù)（LM）檢驗(yàn)只需估計(jì)約束模型。所以當(dāng)施加約束條件后模型形式變得簡(jiǎn)單時(shí)，更適用于這種檢驗(yàn)。LM檢驗(yàn)是由艾奇遜—西爾維（Aitchison-Silvey 1960）提出的。LM檢驗(yàn)另一種表達(dá)式是由拉奧（Rao 1948）提出的，稱為得分檢驗(yàn)。

首先給出非約束模型的對(duì)數(shù)似然函數(shù)：

對(duì)于非約束極大似然估計(jì)量$\widehat{{\beta }_j}$必然有：

假定有兩個(gè)約束條件f1(b)=0和f2(b)=0。為求這兩個(gè)約束條件下的對(duì)數(shù)似然函數(shù)的極大似然估計(jì)量，應(yīng)按拉格朗日乘數(shù)法則建立如下函數(shù)：

對(duì)于線性回歸模型，通常是通過(guò)一個(gè)輔助回歸式計(jì)算LM統(tǒng)計(jì)量的值。LM統(tǒng)計(jì)量與輔助回歸式的可決系數(shù)$R^2$有直接聯(lián)系，而輔助回歸式的形式直接與被檢驗(yàn)的約束條件有關(guān)。

LM檢驗(yàn)的實(shí)際步驟如下:

• 例子

下面介紹用LM輔助回歸方法檢驗(yàn)約束條件${\beta }_2+{\beta }_3=1$：

LM檢驗(yàn)的實(shí)際步驟:

• 實(shí)例(灣灣制造業(yè)生產(chǎn)函數(shù))

(1)用OLS法估計(jì)約束模型，計(jì)算殘差序列$\widehat{u_t}$：

(2)確定LM輔助回歸式的解釋變量。

(3)建立LM輔助回歸式如下：

(4)用OLS法估計(jì)上式并計(jì)算可決系數(shù)$R^2$：

(5)用第四步得到的$R^2$計(jì)算LM統(tǒng)計(jì)量的值：

LR, W和LM檢驗(yàn)

對(duì)LR，W和LM檢驗(yàn)方法的選擇應(yīng)以做實(shí)際計(jì)算時(shí)的難易程度而定。一般來(lái)說(shuō)W和LM檢驗(yàn)應(yīng)優(yōu)于LR檢驗(yàn)，因?yàn)閃和LM檢驗(yàn)只需要估計(jì)一個(gè)模型即可，而LR檢驗(yàn)需估計(jì)約束與非約束兩個(gè)模型。對(duì)W 和LM檢驗(yàn)方法的選擇應(yīng)以約束模型與非約束模型哪個(gè)更容易估計(jì)而定。應(yīng)該注意，即使三種檢驗(yàn)方法都可使用，它們的計(jì)算結(jié)果通常也是不相同的。因?yàn)槿齻€(gè)統(tǒng)計(jì)量只是漸近相同，對(duì)于線性回歸模型，在小樣本條件下有如下關(guān)系成立。：
$$LM\le LR\le W$$
上式說(shuō)明只有當(dāng) LM檢驗(yàn)的結(jié)果為拒絕零假設(shè)（約束條件不成立）或者W檢驗(yàn)的結(jié)果為接受零假設(shè)（約束條件成立）時(shí)，三種檢驗(yàn)的結(jié)論才是一致的。

實(shí)際中，三種檢驗(yàn)方法有可能得出相互不一致的結(jié)論。另外只有當(dāng)用參數(shù)的樣本估計(jì)值計(jì)算的約束條件完全成立時(shí)，即把參數(shù)估計(jì)值代入約束條件能準(zhǔn)確成立時(shí)，式中的三個(gè)統(tǒng)計(jì)量才有完全相等的關(guān)系。

當(dāng)對(duì)數(shù)似然函數(shù)中只含有一個(gè)參數(shù)$\beta$時(shí)，LM, LR 和W三種檢驗(yàn)的關(guān)系可用圖表示：

自相關(guān)的LM檢驗(yàn)

DW統(tǒng)計(jì)量只適用于一階自相關(guān)檢驗(yàn)，而對(duì)于高階自相關(guān)檢驗(yàn)并不適用。利用LM統(tǒng)計(jì)量可建立一個(gè)適用性更強(qiáng)的自相關(guān)檢驗(yàn)方法，既可檢驗(yàn)一階自相關(guān)，也可檢驗(yàn)高階自相關(guān)。

考慮兩種誤差過(guò)程的模型:

總結(jié)

以上是生活随笔為你收集整理的时间序列研(part10)--误差修正模型的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。