ОБЗОР: СЛУЧАЙНЫЕ ПЕРЕМЕННЫЕ, ВЫБОРКИ И ОЦЕНКИ

Изучение вводного курса статистики является обязательным условием для любого серьезного курса эконометрики. И вот почему. Курс эконометрики преследует две цели. Во-первых, необходимо показать, как различные коли­чественные методы могут быть использованы для моделирования статистиче­ских данных.

Что вы должны знать из курса статистики

Вводный курс статистики обычно востребован в различных дисциплинах. По этой причине некоторые его темы не имеют большого значения для эко­нометрики. За исключением глав, посвященных выборкам, оценкам и гипо­тезам, другие главы, которые имеют отношение к курсам бизнеса или психо­логии, во многом расходятся с тематикой эконометрики.

Описательная статистика. Распределения частот и графическое представ­ление, включая гистограммы (но не в виде деревьев); линейные графики; меры положения и вариации (среднее значение, медиана, мода, дисперсия и стандартное отклонение). Этот обычный материал не должен вызывать за­труднения.

Вероятность. Пространство событий, относительная частота, понятие ве­роятности; предельная и условная вероятности. Для наших целей простого понимания этих явлений будет достаточно. Теорему Байеса знать не обяза­тельно.

Случайные переменные, распределения вероятностей и ожидания.

Выборки. Достаточно знания простой случайной выборки. Вам не следует тратить время на стратификацию или кластеры, хотя вы наверняка встреча­лись с этими темами, если проводили опросы. Вы не обязаны знать о выбор­ках без замещения.

Оценки. Понимание разницы между способом оценивания и оценкой име­ет большое значение. Вы обязаны знать о несмещенности, дисперсии и оце­нивании дисперсии.

Статистический вывод. Вы обязательно должны глубоко понимать смысл статистических выводов. Вам нужно знать разницу между ошибками первого рода и второго рода, понимать, что такое уровень значимости теста, а также логику использования одностороннего или двустороннего теста. Вы должны уметь проводить /- и /Честы, но знать математические формулы /- и ^-рас- пределений необязательно. Вам должны быть известны доверительные интер­валы. Обязательно уметь применять все эти понятия для проверки гипотез. Необязательно тратить время на проверку гипотез, относящихся к разностям средних значений выборок, или гипотез, относящихся к выборочным про­порциям.

Дисперсионный анализ. Желательно знать эту тему, но это не самое важное.

После изучения этих тем вводного курса статистики, вероятно, можно со­средоточиться на введении в регрессионный анализ; поскольку для многих студентов, изучивших курс статистики, эконометрика не будет отдельным курсом, полезно изучить введение в эту тему. Возможно, это так, но для наших целей это пока еше преждевременно и будет ненужным дублированием.

Обзор этих тем не может заменить изучения курса статистики. Он делается лишь для того, чтобы дать возможность повторить и закрепить статистичес­кие понятия, которые особенно нужны для эконометрического анализа. Ско­рее всего, вам будете не известна только одна тема — асимптотические свой­ства способов оценивания (свойства, когда выборка становится очень боль­шой).

0.2. Дискретная случайная переменная и математическое ожидание

Дискретная случайная переменная

Интуитивного понимания вероятности почти наверняка достаточно для изучения этой книги. Мы начнем непосредственно с дискретных случайных переменных. Случайная переменная — это любая переменная, значение кото­рой не может быть точно предсказано. Дискретной называется случайная ве- личина, имеющая определенный набор возможных значений. Пример — сум­ма выпавших очков при бросании двух игральных костей. Примером случай­ной величины, не являющейся дискретной (т.е. непрерывной), может быть температура в комнате. Она может принять любое из непрерывного диапазона значений и является примером непрерывной случайной величины. К таким величинам мы перейдем в этом обзоре позже.

Продолжая разговор о примере с двумя игральными костями, предполо­жим, что одна из них зеленая, а другая — красная. Если их бросить, то возмож­ны 36 исходов эксперимента, поскольку на зеленой кости может выпасть лю­бое число от 1 до 6, и то же самое — на красной. Случайная переменная, опре­деленная как их сумма, которую мы обозначим через X, может принимать только одно из 11 значений — чисел от 2 до 12. Взаимосвязь между исходами эксперимента и значениями данной случайной величины показана на рис. 0.1.

Рисунок 0.1.

Предположив, что кости «правильные», мы можем воспользоваться рис. 0.1 для определения вероятности получения каждого значения X. Поскольку на костях имеется 36 различных комбинаций, каждый исход имеет вероятность 1/36. Лишь одна из возможных комбинаций — {зеленая = 1, красная = = 1} — дает сумму, равную 2, так что вероятность X— 2 равна 1/36. Чтобы полу­чить сумму X = 7, нам потребуются сочетания {зеленая = 1, красная = 6}, либо {зеленая = 2, красная = 5}, либо {зеленая = 3, красная = 4}, либо {зеленая = 4, красная = 3}, либо {зеленая = 5, красная = 2}, либо {зеленая = 6, красная = 1}. В данном случае нас устроят 6 возможных исходов, и поэтому вероятность по­лучения 7 равна 6/36. Все эти вероятности приведены в табл. 0.1. Если все их сложить, то получится ровно единица. Это будет так, поскольку с вероятностью 100% рассматриваемая сумма примет одно из значений от 2 до 12.

Совокупность всех возможных значений случайной переменной описыва­ется генеральной совокупностью, из которой извлекаются эти значения. В на­шем случае генеральная совокупность — это набор чисел от 2 до 12.

Математическое ожидание дискретной случайной величины

Математическое ожидание дискретной случайной величины — это взве­шенное среднее всех ее возможных значений, причем в качестве весового ко­эффициента берется вероятность соответствующего исхода. Вы можете рас­считать его, перемножив все возможные значения случайной величины на их вероятности и просуммировав полученные произведения. Математически, если случайная величина обозначена как X, то ее математическое ожидание обозначается как Е(Х).

Предположим, что Сможет принимать п конкретных значений (х_], х₂,х_п) и что вероятность получения х₁ равна р_г Тогда

п

Е(Х) = х_х я+...+*„/>„ (0.1)

ы

(Читатели, желающие освежить в памяти использование обозначений Е, могут сделать это с помощью Приложения 0.1).

В случае с двумя костями величинами от х_х до х_п были числа от 2 до 12: х, = 2,х₂ = 3, ...,х_п = 12, и/7, = 1/36, р₂ = 2/36,, = 1/36. Наиболее простой и аккуратный способ расчета математического ожидания осуществляется с по­мощью таблиц. Левая часть табл. 0.2 показывает ход расчетов в абстрактной форме. В правой части показан ход расчетов для конкретного примера. Как можно видеть из таблицы, математическое ожидание здесь равняется 7.

Прежде, чем пойти дальше, рассмотрим еще более простой пример случай­ной переменной, число очков, выпадающее при бросании лишь одной иг­ральной кости.

В данном случае возможны шесть исходов: х_{ = 1, х₂ = 2, = 3, х₄ = 4, х₅ = 5, х₆= 6. Каждый из них имеет вероятность 1/6. Воспользовавшись этим при

расчете математического ожидания, получаем его значение, равное 3,5. Таким образом, в данном случае математическое ожидание случайной величины есть число, которое само не является одним из ее возможных значений

Математическое ожидание случайной величины часто называют ее теоре­тическим средним. Теоретическое среднее для случайной величины X часто обозначают как или просто ц, если это не приводит к неоднозначности.

Математические ожидания функций дискретных случайных -еременных

Пусть £(Х) — некоторая функция от X. Тогда Е^{Х)}, математическое ожи­дание А), записывается как

п

£[£(*)] = £(*! )Рх +...+g(x_n)p_n=^У£g(x_i)p_i, (0.2)

/=1

где суммирование производится по всем возможным значениям X.

В левой части табл. 0.3 показан процесс расчета математического ожида­ния некоторой функции от X. Предположим, что X может принимать п раз­личных значений от х, до х_п с соответствующими вероятностями от до р_п. В первом столбце записывают возможные значения X. Во втором записыва­ются соответствующие вероятности. В третьем столбце рассчитываются зна­чения функции для соответствующих величин X. В четвертом столбце пере­множаются числа из второго и третьего столбцов. Ответ приводится в сумми­рующей строке четвертого столбца.

В правой части табл. 0.3 показан процесс расчета математического ожида­ния величины X¹ для примера с двумя игральными костями. Вы можете ре­шить, что оно равно ц_д², но это не так. Е{Х-) равно 54,83. В табл. 0.2 было по­казано, что математическое ожидание Л'равно 7. Таким образом, ДА"²) не рав­но ц_х², что означает необходимость тщательно различать Е(Х²) и [Е(Х)]² (последнее равно произведению Е(Х) и Е(Х), т.е. ц_х²).

Правила расчета математического ожидания

Существуют три правила, которые далее будут использоваться много раз. Эти правила почти очевидны, и они одинаково применимы для дискретных и непрерывных случайных переменных.

Правило 1. Математическое ожидание суммы нескольких переменных рав­но сумме их математических ожиданий. Например, если имеются три случай­ные переменные X, Y и Z, то

E(X + Y + Z)=E(X)+E(Y)+E(Z). (0.3)

Правило 2. Если случайная переменная умножается на константу, то ее ма­тематическое ожидание умножается на ту же константу. Если X — случайная переменная и Ъ — константа, то

Е{ЬХ) = ЬЕ(Х). (0.4)

Правило 3. Математическое ожидание константы есть она сама. Например, если b — константа, то

E(b)=b. (0.5)

Доказательство правила 2 предоставляем читателю в упражнении 0.5. Пра­вило 3 тривиально, поскольку оно следует из определения константы. Доказа­тельство правила 1 относительно простое, и мы его опустим.

Объединяя все три правила вместе, можно упростить и более сложные вы­ражения. Например, предположим, что вы хотите рассчитать Е(У), где

Y=b_]+b₂X, (0.6)

и Ь₂ — константы. Следовательно,

E(Y)=E(b_] +b₁X) =

= £(£,) + E{bjX) согласно правилу 1

= + b₂E(X) согласно правилам 2 и 3. (0.7)

Таким образом, вместо непосредственного вычисления E(Y) можно рас­считать Е(Х) и получить E(Y) из уравнения 0.7.

Теоретическая дисперсия дискретной случайной переменной

В этой книге нас будет интересовать одна из функций переменной X, ее теоретическая дисперсия, являющаяся полезной мерой разброса для вероят­ностного распределения. Она определяется как математическое ожидание квадрата разности между величиной А' и ее математическим ожиданием, то есть, величины (X - \1_Х)², где \х_х — математическое ожидание X. Дисперсия обычно обозначается как о²_х, и если ясно, о какой переменной идет речь, то нижний индекс может быть опущен:

п

с²_х = Е\(Х -11)² ] = (*, - ц)² р_{ +... + (*, - ц)² Р, = XуТ \ л = 100

IV

а среднее — 5,05. Когда размер выборки вырос до 1000, мода стала равной 4,99, а среднее 5,005. Поэтому, несмотря на то что существует смещение для 20 на­блюдений, оно в основном исчезает для 100, и оценки становятся практиче­ски несмещенными для 1000.

Конечно, эти выводы достоверны только для конкретного случая, в кото­ром были сгенерированы Z, Yи X. Если бы у нас было другое среднее значение Z, другие стандартные отклонения Zw случайной ошибки или другое значе­ние X, то, возможно, наши результаты в отношении величины смещения как функции от размера выборки были бы другими. Если бы мы были серьезно заинтересованы в свойствах оценки, то провели бы дополнительный анализ чувствительности зависимости. Наша цель состояла только в том, чтобы по­казать, что моделирование может пролить свет на некоторые вещи там, где

математические выкладки помочь неспособны.

і

Центральная предельная теорема

Если случайная величина X имеет нормальное распределение, ее выбороч­ное среднее X будет также нормально распределенным. Этот факт удобен для построения ґ-статистик и доверительных интервалов, если мы используем А как оценку для теоретического среднего. Однако, что случится, если мы не может предположить, что величина Анормально распределена? Здесь к нам на помощь приходит центральная предельная теорема. Она утверждает, что если Х₍ в выборке получены независимо друг от друга на основе одного и того же распределения (распределения X) при условии, что это распределение имеет конечное теорети­ческое среднее и дисперсию, то распределение Xбудет сходиться к нормально­му распределению. Это означает, что r-статистики и доверительные интервалы будут приблизительно достоверны, при условии, что размер выборки достаточ­ной велик. На самом деле существует множество центральных теорем. Некото­рые из них позволяют ослабить предположения, связанные с распределением^.. Для обсуждения технических деталей см. Вставку 0.2.

Зставка 0.2. Центральная предельная теорема

Упрощенная версия центральной предельной теоремы, изложенная здесь, предполагает, что выборочные значения X; идентично независимо распределены (иМ.) с теоретическим средним ]х_х и дисперсией су. При этом предположении Сбудет иметь теоретическое среднее \х_х и дисперсию