<<
>>

2.3. Случайные составляющие коэффициентов регрессии

Коэффициент регрессии, вычисленный методом наименьших квадра­тов, — особая форма случайной величины, свойства которой зависят от свойств случайного члена в уравнении. Мы продемонстрируем это сначала те­оретически, а затем посредством контролируемого эксперимента.

На протяжении всего рассмотрения мы будем иметь дело с моделью пар­ной регрессии, в которой К связан с нестохастической переменной Л" следу­ющей зависимостью:

¥ = + (2.14)

На основе п выборочных наблюдений будем оценивать уравнение регрес­сии

Ъ^Ь+Ь2Х,.

(2.15)

Во-первых, заметим, что У1 включает две составляющие. Она содержит не­случайную составляющую ((3,+ (3^.), которая не имеет отношения к законам вероятности (р, и |32 могут быть неизвестными, но, тем не менее, это постоян­ные величины), и случайную составляющую иг Отсюда следует, что когда мы вычисляем Ъ2 по обычной формуле

±(Х,-Х)(У,-?) Ь2 = ^- , (2.16)

К*,-*)2 /=1

где Ь2 также содержит случайную составляющую. -У) зависит

от значений У, а значения У — от значений и.

Если случайная составляющая принимает разные значения в п наблюдени­ях, то мы получаем разные значения У и, следовательно, разные значения

Теоретически мы можем разложить Ь2 на неслучайную и случайную состав­ляющие. В соответствии с (2.14),

/=1 /=1 /=1

(2.17)
/=1
/=1

Следовательно,

- Щ - 7) р2 £(лг, -х)2+- х)(и, - а)

ь2
/=1
1=1

/=1

ХМ3

1=1

/=1
(2.18)
2+

— \2

ХМ

/=1

Итак, мы показали, что коэффициент рецессии Ь2, полученный по любой выборке, состоит из двух слагаемых: 1) постоянной величины, равной истин­ному значению коэффициента р2, и 2) случайной составляющей, зависящей от случайного члена в выборке. Случайная составляющая определяет вариа­цию Ь2 вокруг постоянной составляющей (32. При необходимости можно запи­сать это разложение более детально:

X (X, - X) (М/ - й) = X (.X, - X)и; - иX (X, -Х) = 1=1 1=1 /=1

(2.19)

= I (*/X,. +пйХ = £ (х,. -Х)и,;

1=1

1=1

1=1

поскольку Х1 - пХ.

Следовательно,
(х,-х)
^=Р2+ £*/«/> (2.20)
ХМ
/=1
/=1
/=1

хм«,

= Р2

ТТ\2

ХМ

1=1

I М

где

а^-У------------- (2.21)

ХМ2 /=1

Таким образом, мы показали, что Ъ2 равно истинному значению коэффи­циента (32 плюс линейная комбинация значений случайного члена во всех на­блюдениях выборки. В определении присутствует некоторая неуклюжесть, и ее нужно устранить для обеспечения математической строгости. Числитель здесь меняется с изменением /, и он будет различным в разных наблюдениях. В то же время знаменатель представляет собой сумму квадратов отклонений для всей выборки и не зависит от /. Таким образом, в определении мы исполь­зуем / в двух смыслах. Чтобы избежать двусмысленности, мы будем использо­вать для суммирования в знаменателе другой индекс и запишем знаменатель " — 2

как • Он по-прежнему означает то же самое. Мы могли бы избе­

жать проблемы, записав знаменатель как (Х{ -Х^ + ... + (Хп -Х^, но это было бы неудобным.

Отметим для проведения будущих выкладок три свойства коэффициен­

тов а{

Хч2=------------- 1-------- и ±а,Х, = 1. (2.22)

1=1 1=1 V VI /=1

М

ХК-[3])2

Доказательства этих свойств приведены во Вставке 2.2.

Подобным же образом можно показать, что Ьх включает постоянную со­ставляющую, равную истинному значению (3,, плюс случайную составляю­щую, являющуюся линейной комбинацией значений случайного члена. Мы предлагаем провести эти доказательства самостоятельно в качестве упражне­ния.

Отметим, что практически выполнить эти разложения невозможно, по­скольку истинные значения Р, и Р2, а также действительные величины и в вы­борке неизвестны. Они интересуют нас потому, что при определенных пред­посылках позволяют делать выводы о теоретических свойствах Ь^иЬ2.

Вставка 2.2. Доказательства трех свойств коэффициентов а,

Докажем, что Xй/ = О-

X*/= Х

X -X
1

/=1

поскольку

Х(Х1-Х) = ^Х,.-пХ = пХ~пХ = О,

/=1 /=1

-\2

используя X = — X

Докажем, что X а? ~ ~

1=1 v

ХМ

\2

п п

2«?=2

3 /=1
1=1
Км

Докажем, что Ха/^г

<< | >>
Источник: Доугерти К.. Введение в эконометрику: Учебник. 3-е изд. / Пер. с англ. — М.: ИНФРА-М, — XIV, 465 с. — (Университетский учебник).. 2009

Еще по теме 2.3. Случайные составляющие коэффициентов регрессии:

  1. 3.1. Случайные составляющие коэффициентов регрессии
  2. 14.3. Регрессии со случайным эффектом
  3. 3.3. Свойства коэффициентов множественной регрессии
  4. 5.4. Свойства коэффициентов множественной регрессии
  5. 3.5. Точность коэффициентов регрессии
  6. Несмещенность коэффициентов регрессии
  7. 3.2. Вывод и интерпретация коэффициентов множественной регрессии
  8. 2.6. Точность коэффициентов регрессии
  9. 5.2. Вывод и интерпретация коэффициентов множественной регрессии
  10. 8.2. Свойства оценок коэффициентов регрессии по МНК в случае конечной выборки
  11. 3.4. Несмещенность коэффициентов регрессии
  12. 3. СВОЙСТВА КОЭФФИЦИЕНТОВ РЕГРЕССИИ И ПРОВЕРКА ГИПОТЕ