8.2. Свойства оценок коэффициентов регрессии по МНК в случае конечной выборки
¥ = ^ + № + (8.6)
В гл. 2 было показано, что оценка по МНК ее коэффициента наклона может быть представлена следующим образом:
±(х1-Щ-у)
Ь = ;--------------------------- = Р2 + X т' (8.7)
/=1
(=1
где
(8.8)
У=1
Следовательно,
Модель А (в которой значения X были нестохастическими и, соответственно, тоже были нестохастическими) позволяла переписать выражение Е(а^ как а(Е(и), которое равно нулю, согласно допущению (А.З).
В данном случае такое рассуждение не пройдет, потому что значения Хв каждом наблюдении являются стохастическими. Вместо этого мы обращаемся к допущению (В.7). Если распределение и1 независимо от каждого значения Хв выборке, то оно независимо и от аг Исходя из независимости X и и, можно выполнить разложениеЕ{/(Х)^и)} = Е{/(Х)}Е{^и)} (8.Ю)
для любых функций ДА) нg(u) (см.
главу «Обзор»). Пусть ДХ) = а( и#(и) = щ, тогдаЕ{а1щ) = Е(а1)Е(щ) = ^ (8.11)
Теперь можно переписать уравнение (8.9) так:
^2МНК) = Р2+Х£(я,Ии,-)- (8-12)
Равенство нулю Е(и) (допущение (В.4)) обусловливает тот факт, что второе слагаемое в правой части уравнения равно нулю и что, соответственно, мы доказали несмещенность. Тем не менее, необходимо убедиться в том, что Е(а) существует. Для этого нужно использовать ддопущение (В.З), которое в случае парной линейной регрессии сводится к требованию наличия вариации переменной X. Строго говоря, данное допущение относится к генеральной совокупности, из которой извлекается X. Даже если генеральная совокупность X обладает вариацией, теоретически возможна выборка с постоянными значениями X. В таком случае невозможно оценить коэффициенты регрессии по МНК.
Оценки по МНК будут несмещенными при условии, что они вообще могут быть получены. (См. Вставку 8.1, в которой приводится доказательство несмещенности при условии более слабого варианта допущения (В.7')).Точность и эффективность
Выражения для дисперсии регрессионных коэффициентов в случае парной линейной регрессии (гл. 2) и в случае множественной регрессии с двумя объясняющими переменным (гл. 3) остаются справедливыми при том, что они определяются выборочными значениями объясняющих переменных. Аналогично теорема Гаусса-Маркова также верна.
Вставка 8.1. Доказательство несмещенности оценки коэффициента наклона в парной линейной регрессии при выполнении допущения (В. 7 )
/=1 |
Записав значения Хв выборке как ..., Хп}} получим
V Ы
Ввиду того, что а1 — это функция от Хг, этот множитель может быть вынесен за пределы оператора математического ожидания. Таким образом,
1=1
так как
Е(и, |{*„...,*„}) = 0
вследствие допущения (В.7').
Таким образом, оценка коэффициента наклона является несмещенной при фактических значениях X в выборке. Исходя из допущения (В.2), это свойство выполняется при любых значениях X, соответственно, и оценка является безусловно несмещенной. Необходимо, однако, чтобы а1 были определены, для чего требуется допущение (В.З), которое необходимо также и для вычисления оценок коэффициентов по МНК. Таким образом, так же как и при допущении (В.7), мы доказали несмещенность оценок по МНК в том случае, если они вообще могут быть получены.
Еще по теме 8.2. Свойства оценок коэффициентов регрессии по МНК в случае конечной выборки:
- 8.3. Асимптотические свойства оценок регрессии поМНК
- 3.3. Свойства коэффициентов множественной регрессии
- 5.4. Свойства коэффициентов множественной регрессии
- 3. СВОЙСТВА КОЭФФИЦИЕНТОВ РЕГРЕССИИ И ПРОВЕРКА ГИПОТЕ
- 2.СВОЙСТВА КОЭФФИЦИЕНТОВ РЕГРЕССИИ И ПРОВЕРКА ГИПОТЕЗ
- 78 МНОГОНАЦИОНАЛЬНЫЕ КОМПАНИИ (МНК). ОРГАНИЗАЦИОННОЕ ПОСТРОЕНИЕ МНК
- 3.1. Случайные составляющие коэффициентов регрессии
- 3.5. Точность коэффициентов регрессии
- 2.3. Случайные составляющие коэффициентов регрессии
- 2.6. Точность коэффициентов регрессии
- Несмещенность коэффициентов регрессии
- 3.2. Вывод и интерпретация коэффициентов множественной регрессии
- 5.2. Вывод и интерпретация коэффициентов множественной регрессии
- 3.4. Несмещенность коэффициентов регрессии
- 3.7. Проверка гипотез, относящихся к коэффициентам регрессии