Статистичний аналіз тенденцій захворюваності в Україні (стр. 6 из 38)

(II) (

- β)'Х'Х( - β)/σ² = =

= (

- β)'(D )^-1( - β) = ( ₁ – β₁, …, _p – β_p)(D )^-1

=

= (D

)^-1

~ N(β; σ²(X'X)^-1),

- β ~ N(0; σ²(X'X)^-1),

, тоді . Отже, .

(III) Необхідно довести,

не залежить від S². Порахуємо cov( ,Y-X )

cov(

, Y - X ) = cov((X'X)^-1X'Y, Y – X(X'X)^-1X'Y) =

= cov((X'X)^-1X'Y, Y - PY) = cov((X'X)^-1X'Y, (I – P)Y) =

= (X'X)^-1X'cov(Y, Y)(I – P)' = {(I – P)' = I – P} =

= (X'X)^-1X'DY(I – P) = {DY = σ²} = (X'X)^-1X'σ²I(I – P) =

= σ²(X'X)^-1X'(I – P) =

= 0

Залишилось скористатись наступною теоремою:

Нехай Y ~ N(Xβ; σ²I), U = AY, V = BY, матриця А₁ складена з лінійно незалежних рядків матриці А, U₁ = A₁Y. Якщо cov(U, V) = 0, то

1) випадковий вектор U₁ не залежить від V'V;

2) випадкові величини U'U та V'V незалежні.

Позначимо

U₁ =

, V = Y - X , U = U₁ =

U₁ = (X'X)^-1X'Y, V = Y - X

= (I – P)Y.

Оскільки cov(U₁, V) = 0, тоді U₁ =

не залежить від V'V=(Y - X )'(Y - X ) = = (n – p)S².

(IV) Розглянемо

Q₁ = (Y – Xβ)'(Y – Xβ) = (Y - X

+ Х( - β))'(Y - X + X( - β)) =

= (Y – X

)'(Y – X ) + (Y – X )'X ( - β) + ( - β)'X'(Y - X ) +

+ (

- β)'X'X ( - β) =

=

=

= (Y – X

)'(Y – X ) + ( - β)'X'X ( - β) = Q + Q₂. (1.1.15)

Тут ми позначили

(Y - X

)'(Y - Х ) = Q, ( - β)'Х'Х( - β) = Q₂.

При цьому відношення

Q₁/σ² =

= (ε_i ~ N(0; σ²), ε_i /σ ~ N(0; 1)), Q₂/σ² ~ .

Отже, Q = Q₁ + Q₂, Q₁ ~

, Q₂ ~ (n > p). Тому Q/σ² = Q₁/σ² – Q₂/σ ~ ~ .

Теорема доведена.

Нехай лінійна модель регресії має вигляд Y = Xβ + ε, X = X^{(n × p)}, rangX = p, ε ~ N(0; σ²I).

Необхідно оцінити параметр β, при лінійних обмеженнях H: Aβ = c,

де А = А^{(q ×p)} – відома матриця, c = c^(q×1) – відомий вектор. (1.1.16)

Обмеження (1.1.16) можна переписати у вигляді:

H: Aβ = c

H:

β = ,

де a'_i – i-тий рядок матриці А

H: a'_i β = c_i , i = 1, 2, …, q.

Використаємо метод множників Лагранжа для розв’язання цієї задачі.

В подальшому будемо використовувати такий вираз:

λ₁(a'₁β – с₁) + λ₂(a'₂β – с₂) + … + λ_q(a'_qβ – с_q) =

= (λ₁, λ₂, …, λ_q)

= λ'(Aβ – c) = (λ'(Aβ – c))' =

= (Aβ – c)'λ = (β'A' - c')λ (1.1.17)

Мінімізуємо суму квадратів залишків ε'ε при лінійних обмеженнях H:

Aβ = c.

r = ε'ε + λ₁(a'₁β – с₁) + … + λ_q(a'_qβ – с_q) = ε'ε + (β'A' - c')λ = (Y – Xβ)'(Y – Xβ) + (β'A' - c')λ = (Y' – X'β') (Y – Xβ) + (β'A' - c')λ = Y'Y - Y'Xβ - β'X'Y + β'X'Xβ + (β'A' - c')λ = Y'Y - 2β'X'Y + β'X'Xβ + β'A'λ - c'λ

З (1.1.18) випливає, що

X'Xβ = X'Y -

A'λ

= (X'X)^-1X'Y - (X'X)^-1A' (1.1.20)

= - (X'X)^-1A' (1.1.21)

Формулу (1.1.21) підставляємо в (1.1.19)

c = A

= A - (X'X)^-1A'

c - A

= - (X'X)^-1A'

(A(X'X)^-1A')^-1(c - A

) = -