2.3. Случайные составляющие коэффициентов регрессии
На протяжении всего рассмотрения мы будем иметь дело с моделью парной регрессии, в которой К связан с нестохастической переменной Л" следующей зависимостью:
¥ = + (2.14)
На основе п выборочных наблюдений будем оценивать уравнение регрессии
Ъ^Ь+Ь2Х,. (2.15)
Во-первых, заметим, что У1 включает две составляющие. Она содержит неслучайную составляющую ((3,+ (3^.), которая не имеет отношения к законам вероятности (р, и |32 могут быть неизвестными, но, тем не менее, это постоянные величины), и случайную составляющую иг Отсюда следует, что когда мы вычисляем Ъ2 по обычной формуле
±(Х,-Х)(У,-?) Ь2 = ^- , (2.16)
К*,-*)2 /=1
где Ь2 также содержит случайную составляющую.
-У) зависитот значений У, а значения У — от значений и.
Если случайная составляющая принимает разные значения в п наблюдениях, то мы получаем разные значения У и, следовательно, разные значения
Теоретически мы можем разложить Ь2 на неслучайную и случайную составляющие. В соответствии с (2.14),
/=1 /=1 /=1
(2.17) |
/=1 |
/=1 |
Следовательно,
- Щ - 7) р2 £(лг, -х)2+- х)(и, - а)
ь2=ы |
/=1 |
1=1 |
/=1
ХМ3
1=1
/=1 |
(2.18) |
=р2+ |
— \2
ХМ
/=1
Итак, мы показали, что коэффициент рецессии Ь2, полученный по любой выборке, состоит из двух слагаемых: 1) постоянной величины, равной истинному значению коэффициента р2, и 2) случайной составляющей, зависящей от случайного члена в выборке.
Случайная составляющая определяет вариацию Ь2 вокруг постоянной составляющей (32. При необходимости можно записать это разложение более детально:X (X, - X) (М/ - й) = X (.X, - X)и; - иX (X, -Х) = 1=1 1=1 /=1
(2.19) |
= I (*/X,. +пйХ = £ (х,. -Х)и,;
1=1 1=1 |
1=1
поскольку Х1 - пХ. Следовательно,
(х,-х) |
^=Р2+ £*/«/> (2.20) |
ХМ |
/=1 |
/=1 |
/=1 |
хм«,
= Р2+Х
ТТ\2
ХМ
1=1 |
I М
где
а^-У------------- (2.21)
ХМ2 /=1
Таким образом, мы показали, что Ъ2 равно истинному значению коэффициента (32 плюс линейная комбинация значений случайного члена во всех наблюдениях выборки. В определении присутствует некоторая неуклюжесть, и ее нужно устранить для обеспечения математической строгости. Числитель здесь меняется с изменением /, и он будет различным в разных наблюдениях. В то же время знаменатель представляет собой сумму квадратов отклонений для всей выборки и не зависит от /. Таким образом, в определении мы используем / в двух смыслах. Чтобы избежать двусмысленности, мы будем использовать для суммирования в знаменателе другой индекс и запишем знаменатель " — 2
как • Он по-прежнему означает то же самое.
Мы могли бы избежать проблемы, записав знаменатель как (Х{ -Х^ + ... + (Хп -Х^, но это было бы неудобным.
Отметим для проведения будущих выкладок три свойства коэффициен
тов а{
Хч2=------------- 1-------- и ±а,Х, = 1. (2.22)
1=1 1=1 V VI /=1 М |
ХК-[3])2
Доказательства этих свойств приведены во Вставке 2.2.
Подобным же образом можно показать, что Ьх включает постоянную составляющую, равную истинному значению (3,, плюс случайную составляющую, являющуюся линейной комбинацией значений случайного члена. Мы предлагаем провести эти доказательства самостоятельно в качестве упражнения.
Отметим, что практически выполнить эти разложения невозможно, поскольку истинные значения Р, и Р2, а также действительные величины и в выборке неизвестны. Они интересуют нас потому, что при определенных предпосылках позволяют делать выводы о теоретических свойствах Ь^иЬ2.
Вставка 2.2. Доказательства трех свойств коэффициентов а,
Докажем, что Xй/ = О-
X*/= Х
X -X |
1 |
/=1
поскольку
Х(Х1-Х) = ^Х,.-пХ = пХ~пХ = О,
/=1 /=1
-\2 |
используя X = — X
Докажем, что X а? ~ ~
1=1 v
ХМ
\2
п п 2«?=2 |
2м3 /=1 |
1=1 |
Км |
Докажем, что Ха/^г
Еще по теме 2.3. Случайные составляющие коэффициентов регрессии:
- 3.1. Случайные составляющие коэффициентов регрессии
- 14.3. Регрессии со случайным эффектом
- 3.3. Свойства коэффициентов множественной регрессии
- 5.4. Свойства коэффициентов множественной регрессии
- 3.5. Точность коэффициентов регрессии
- Несмещенность коэффициентов регрессии
- 3.2. Вывод и интерпретация коэффициентов множественной регрессии
- 2.6. Точность коэффициентов регрессии
- 5.2. Вывод и интерпретация коэффициентов множественной регрессии
- 8.2. Свойства оценок коэффициентов регрессии по МНК в случае конечной выборки
- 3.4. Несмещенность коэффициентов регрессии
- 3. СВОЙСТВА КОЭФФИЦИЕНТОВ РЕГРЕССИИ И ПРОВЕРКА ГИПОТЕ