В эконометрике часто используется иной подход к определению параметров множественной регрессии (2.13) с исключенным коэффициентом :
Разделим обе части уравнения на стандартное отклонение объясняемой переменной S Y и представим его в виде:
Разделим и умножим каждое слагаемое на стандартное отклонение соответствующей факторной переменной, чтобы перейти к стандартизованным (центрированным и нормированным) переменным:
где новые переменные обозначены как
.
Все стандартизованные переменные имеют нулевую среднюю величину и одинаковую дисперсию, равную единице.
Уравнение регрессии в стандартизованной форме имеет вид:
где
- стандартизованные коэффициенты
регрессии.
Стандартизованные
коэффициенты регрессии
отличаются от коэффициентов
обычной,
естественной формы тем, что их величина
не зависит масштаба измерения объясняемой
и объясняющих переменных модели. Кроме
того, между ними существует простая
взаимосвязь:
, (3.2)
которая дает другой
способ вычисления коэффициентов
по
известным значениям
,
более удобный в случае, например,
двухфакторной регрессионной модели.
5.2. Нормальная система уравнений мнк в стандартизованных
переменных
Оказывается, что
для вычисления коэффициентов
стандартизованной регрессии нужно
знать только парные коэффициенты
линейной корреляции. Чтобы показать
каким образом это делается, исключим
из нормальной системы уравнений МНК
неизвестную
с помощью первого уравнения. Умножая
первое уравнение на (
)
и складывая его почленно со вторым
уравнением, получим:
Заменяя обозначениями дисперсии и ковариаций выражения в скобках
перепишем второе уравнение в удобном для дальнейшего упрощения виде:
Разделим обе части этого уравнения на стандартное отклонение переменных S Y и ` S X 1 , а каждое слагаемое разделим и умножим на стандартное отклонение переменной, соответствующей номеру слагаемого:
Вводя характеристики линейной статистической связи:
и стандартизованные коэффициенты регрессии
,
получаем:
После аналогичных преобразований всех остальных уравнений,нормальная система линейных уравнений МНК (2.12) принимает следующий, более простой вид:
(3.3)
5.3. Параметры стандартизованной регрессии
Стандартизованные коэффициенты регрессии в частном случае модели с двумя факторами определяются из следующей системы уравнений:
(3.4)
Решая эту систему уравнений, находим:
, (3.5)
. (3.6)
Подставив найденные
значения коэффициентов парной корреляции
в уравнения (3.4) и (3.5), получим
и
.
Затем с помощью формул (3.2) нетрудно
вычислить оценки коэффициентов
и
,
а затем, при необходимости, вычислить
оценку
по формуле
6. Возможности экономического анализа на основе многофакторной модели
6.1. Коэффициенты стандартизованной регрессии
Стандартизованные
коэффициенты регрессии показывают, на
сколько стандартных отклонений
изменится в среднем объясняемая
переменнаяY
,
если соответствующая объясняющая
переменная Х
i
изменится
на величину
одного ее стандартного отклонения при
сохранении неизменным значений среднего
уровня всех остальных факторов.
В силу того, что в
стандартизованной регрессии все
переменные заданы как центрированные
и нормированные случайные величины,
коэффициенты
сравнимы между собой. Сравнивая их друг
с другом, можно ранжировать соответствующие
им факторыХ
i
по силе воздействия на объясняемую
переменную Y
.
В этом состоит основное преимущество
стандартизованных коэффициентов
регрессии от коэффициентов
регрессии в естественной форме, которые
несравнимы между собой.
Эта особенность
стандартизованных коэффициентов
регрессии позволяет использовать при
отсеве наименее значимых факторов Х
i
с близкими к нулю значениями их выборочных
оценок
.
Решение об исключении их из модельного
уравнения линейной регрессии принимается
после проверки статистических гипотез
о равенстве нулю его средней величины.
Коэффициенты уравнения регрессии, как и всякие абсолютные показатели, не могут быть использованы в сравнительном анализе, если единицы измерения соответствующих переменных различны. Например, если y – расходы семьи на питание, х 1 – размер семьи, а х 2 – общий доход семьи, и мы определяем зависимость типа = a + b 1 x 1 + b 2 x 2 и b 2 > b 1 , то это не значит, что x 2 сильнее влияет на y , чем х 1 , т. к. b 2 – это изменение расходов семьи при изменении доходов на 1 руб., а b 1 – изменение расходов при изменении размера семьи на 1 человека.
Сопоставимость коэффициентов уравнения регрессии достигается при рассмотрении стандартизованного уравнения регрессии:
y 0 = 1 x 1 0 + 2 x 2 0 + … + m x m 0 + е,
где y 0 и x 0 k – стандартизованные значения переменных y и x k :
S y и S– стандартные отклонения переменныхy и x k ,
k (k=) – -коэффициенты уравнения регрессии (но не параметры уравнения регрессии, в отличие от приведенных ранее обозначений). -коэффициенты показывают, на какую часть своего стандартного отклонения (S y) изменится зависимая переменная y , если независимая переменная x k изменится на величину своего стандартного отклонения (S). Оценки параметров уравнения регрессии в абсолютных показателях (b k) и β-коэффициенты связаны соотношением:
-коэффициенты уравнения регрессии в стандартизованном масштабе создают реальное представление о воздействии независимых переменных на моделируемый показатель. Если величина -коэффициента для какой-либо переменной превышает значение соответствующего -коэффициента для другой переменной, то влияние первой переменной на изменение результативного показателя следует признать более существенным. Следует иметь в виду, что стандартизированное уравнение регрессии в силу центрирования переменных не имеет свободного члена по построению.
Для простой регрессии -коэффициент совпадает с коэффициентом парной корреляции, что позволяет придать коэффициенту парной корреляции смысловое значение.
При анализе воздействия показателей, включённых в уравнение регрессии, на моделируемый признак, наравне с -коэффициентами используются также коэффициенты эластичности. Например, показатель средней эластичности рассчитывается по формуле
и показывает, на сколько процентов в среднем изменится зависимая переменная, если среднее значение соответствующей независимой переменной изменится на один процент (при прочих равных условиях).
2.2.9. Дискретные переменные в регрессионном анализе
Как правило, переменные в регрессионных моделях имеют непрерывные области изменения. Однако теория не накладывает никаких ограничений на характер таких переменных. Довольно часто возникает необходимость учитывать в регрессионном анализе влияние качественных признаков и зависимость таковых от разных факторов. В этом случае появляется необходимость вводить в регрессионную модель дискретные переменные. Дискретные переменные могут быть как независимыми, так и зависимыми. Рассмотрим эти случаи по-отдельности. Сначала рассмотрим случай дискретных независимых переменных.
Фиктивные переменные в регрессионном анализе
Чтобы включить в регрессию в качестве независимых переменных качественные признаки, их надо оцифровать. Одним из методов их оцифровки является использование фиктивных переменных. Название не совсем удачное – никакие они не фиктивные, просто для этих целей более удобно использовать переменные, принимающие всего два значения – ноль или единица. Вот их и назвали фиктивными. Обычно качественная переменная может принимать несколько значений-уровней. Например, пол – мужской, женский; квалификация – высокая, средняя, низкая; сезонность – I, II, III и IV кварталы и т. д. Существует правило, согласно которому для оцифровки таких переменных нужно вводить количество фиктивных переменных, числом меньше на единицу, чем число уровней моделируемого показателя. Это необходимо для того, чтобы такие переменные не оказались бы линейно зависимыми.
В наших примерах: пол – одна переменная, равная 1 для мужчин и 0 – для женщин. Квалификации имеет три уровня, значит, нужны две фиктивные переменные: например, z 1 = 1 для высокого уровня, 0 – для других; z 2 = 1 для среднего уровня, 0 – для других. Третью аналогичную переменную вводить нельзя, т. к. в этом случае они оказались бы линейно зависимыми (z 1 + z 2 + z 3 = 1), определитель матрицы (X T X) обратился бы в нуль и найти обратную матрицу (X T X) -1 не удалось бы. Как известно, оценки параметров уравнения регрессии определяются из соотношения: T X) -1 X T Y).
Коэффициенты при фиктивных переменных показывают, насколько значение зависимой переменной отличается при анализируемом уровне по сравнению с отсутствующим уровнем. Например, если бы моделировался уровень зарплаты в зависимости от нескольких признаков и уровня квалификации, то коэффициент при z 1 показал бы, насколько зарплата у специалистов с высоким уровнем квалификации отличается от зарплаты у специалиста с низким уровнем квалификации при прочих равных условиях, а коэффициент при z 2 – аналогичный смысл для специалистов со средним уровнем квалификации. В случае с сезонностью пришлось бы вводить три фиктивных переменных (если рассматриваются квартальные данные) и коэффициенты при них показали бы, насколько величина зависимой переменной отличается для соответствующего квартала от уровня зависимой переменной для квартала, который не был введён при их оцифровке.
Фиктивные переменные кроме того вводятся для моделирования структурных изменений в динамике изучаемых показателей при анализе временных рядов.
Пример 4. Стандартизированное уравнение регрессии и фиктивные переменные
Рассмотрим пример использования стандартизированных коэффициентов и фиктивных переменных на примере анализа рынка двухкомнатных квартир на основе уравнения множественной регрессии при следующем наборе переменных:
PRICE – цена;
TOTSP – общая площадь;
LIVSP – жилая площадь;
KITSP – площадь кухни;
DIST – расстояние до центра города;
WALK – равна 1, если до станции метро можно дойти пешком и равна 0, если надо воспользоваться общественным транспортом;
BRICK – равна 1, если дом кирпичный и равна 0, если панельный;
FLOOR – равна 1, если квартира не на первом и не на последнем этаже и равна 0 в противном случае;
TEL – равна 1, если в квартире есть телефон и равна 1, если нет;
BAL – равна 1, если есть балкон и равна 0, если балкона нет.
Расчёты проведены с помощью ППП STATISTICA (рисунок 2.23). Наличие -коэффициентов позволяет упорядочить переменные по степени их влияния на зависимую переменную. Проведем краткий анализ результатов расчётов.
На основе статистики Фишера делаем вывод о значимости уравнения регрессии (р-level < 0,05). Обработана информация о 6 286 квартирах (n–m–1 = 6 276, а m = 9). Все коэффициенты уравнения регрессии (кроме при переменной BAL) значимы (р-величины для них < 0,05), а наличие или отсутствие балкона в этом случае существенно не сказывается на цене квартиры.
Рисунок 2.24 – Отчёт о рынке квартир на основе ППП STATISTICA
Коэффициент множественной детерминации равен 52%, следовательно, включённые в регрессию переменные обусловливают изменение цены на 52 %, а остальные 48 % изменения цены квартиры зависят от неучтённых факторов. В том числе и от случайных колебаний цены.
Каждый из коэффициентов при переменной показывает, насколько изменится цена квартиры (при прочих равных условиях), если данная переменная изменится на единицу. Так, например, при изменении общей площади на 1 кв. м цена квартиры в среднем изменится на 0,791 у.е., а при удалении квартиры от центра города на 1 км цена квартиры в среднем уменьшится на 0,596 у.е. и т. д. Фиктивные переменные (последние 5) показывают, на сколько в среднем изменится цена квартиры, если перейти с одного уровня этой переменной на другой. Так, например, если дом кирпичный, то квартира в нем в среднем на 3,104 у. е. дороже, чем такая же в панельном доме, а наличие телефона в квартире поднимает ее цену в среднем на 1,493 у. е. и т. п.
На основе -коэффициентов можно сделать следующие выводы. Наибольшим -коэффициентом, равным 0,514 является коэффициент при переменной «общая площадь», следовательно в первую очередь цена квартиры формируется под влиянием её общей площади. Следующий фактор по степени влияния на изменение цены квартиры является расстояние до центра города, затем материал, из которого построен дом, затем площадь кухни и т. д.
Оценка параметров уравнения регресии в стандартизованном масштабе
Параметры уравнения множественной регрессии в задачах по эконометрике оценивают аналогично парной регрессии, методом наименьших квадратов (МНК). При применении этого метода строится система нормальных уравнений, решение которой и позволяет получать оценки параметров регрессии.
При определении параметров уравнения множественной регрессии на основе матрицы парных коэффициентов корреляции строим уравнение регрессии в стандартизованном масштабе:
в уравнении стандартизированные переменные
Применяя метод МНК к моделям множественной регрессии в стандартизованном масштабе, после опрделенных преобразований получим систему нормальных уравнений вида
Решая системы методом определителей, находим параметры - стандартизованные коэффициенты регрессии (бета - коэффициенты). Сравнивая коэффициенты друг с другом, можно ранжировать факторы по силе их воздействия на результат. В этом заключается основное достоинство стандартизованных коэффициентов в отличие от обычных коэффициентов регрессии, которые несравнимы между собой.
В парной зависимости стандартизованный коэффициент регрессии связан с соответствующим коэфициентом уравнения зависимостью
Это позволяет от уравнения в стандартизованном масштабе переходить к регрессионному уравнению в натуральном масштабе переменных:
Параметр а определяется из следующего уравнения
Стандартизованные коэффициенты регрессии показывают, на сколько сигм изменится в среднем результат, если соответствующий фактор xj изменится на одну сигму при неизменном среднем уровне других факторов. В силу того, что все перемеyные заданы как центрированные и нормированные, стандартизованные коэффициенты регрессии сравнимы между собой.
Рассмотренный смысл стандартизованных коэффициентов позволяет использовать их при отсеве факторов, исключая из модели факторы с наименьшим значением.
Компьютерные программы построения уравнения множественной регрессии позволяют получать либо только уравнение регрессии для исходных данных и уравнение регрессии в стандартизованном масштабе.
19. Характеристика эластичности по модели множественной регрессии. СТР 132-136
http://math.semestr.ru/regress/mregres.php
20. Взаимосвязь стандартизированных коэффициентов регрессии и коэффициентов эластичности. СТР 120-124
21. Показатели множественной и частной корреляции. Их роль при построении эконометрических моделей
Корреляция -это статистическая взаимосвязь двух или нескольких случайных величин (либо величин, которые можно с некоторой допустимой степенью точности считать таковыми). При этом, изменения одной или нескольких из этих величин приводят к систематическому изменению другой или других величин. Математической мерой Корреляции двух случайных величин служит коэффициент Корреляции. Понятие корреляции появилось в середине XIX века в работах английских статистиков Ф. Гальтона и К. Пирсона.
Коэффициент множественной корреляции (R) характеризует тесноту связи между результативным показателем и набором факторных показателей:
где σ 2 - общая дисперсия эмпирического ряда, характеризующая общую вариацию результативного показателя (у) за счет факторов;
σ ост 2 - остаточная дисперсия в ряду у, отражающая влияния всех факторов, кроме х;
у - среднее значение результативного показателя, вычисленное по исходным наблюдениям;
s - среднее значение результативного показателя, вычисленное по уравнению регрессии.
Коэффициент множественной корреляции принимает только положительные значения в пределах от 0 до 1. Чем ближе значение коэффициента к 1, тем больше теснота связи. И, наоборот, чем ближе к 0, тем зависимость меньше. При значении R < 0,3 говорят о малой зависимости между величинами. При значении 0,3 < R < 0,6 говорят о средней тесноте связи. При R > 0,6 говорят о наличии существенной связи.
Квадрат коэффициента множественной корреляции называется коэффициентом детерминации (D): D = R 2 . Коэффициент детерминации показывает, какая доля вариации результативного показателя связана с вариацией факторных показателей. В основе расчета коэффициента детерминации и коэффициента множественной корреляции лежит правило сложения дисперсий, согласно которому общая дисперсия (σ 2) равна сумме межгрупповой дисперсии (δ 2) и средней из групповых дисперсий σ i 2):
σ 2 = δ 2 + σ i 2 .
Межгрупповая дисперсия характеризует колеблемость результативного показателя за счет изучаемого фактора, а средняя из групповых дисперсий отражает колеблемость результативного показателя за счет всех прочих факторов, кроме изучаемого.
Показатели частной корреляции. Основаны на соотношении сокращения остаточной вариации за счет дополнительно включенного в модель фактора к остаточной вариации до включения в модель соответствующего фактора
Рассмотренные показатели можно также использовать для сравнения факторов, т.е. Можно ранжировать факторы(т.е.2ой фактор более тесно связан).
Частные коэффициенты могут быть использованы в процедуре отсева факторов при построении модели.
Рассмотренные выше показатели являются коэф-ми корреляции первого порядка,т.е.они характризуют связь между двумя факторами при закреплении одного фактора (yx1. x2). Однако можно построить коэф-ты 2го и более порядка (yx1. x2x3, yx1. x2x3x4).
22. Оценка надежности результатов множественной регрессии.
Коэфициенты структурной модели могут быть оценены разными способами в зависимости от вида одновренных уравнений.
Методы оценивания коэф-тов структурной модели:
1) Косвенный МНК(КМНК)
2)Двухшаговый МНК(ДМНК)
3)Трехшаговый МНК(ТМНК)
4)МНП с полной информацией
5)МНП при огранич. информации
Применение КМНК:
КМНК применяется в случаеточнойидентификацииструктурноймодели.
Процедуры примения КМНК:
1. Структурн. модель преобраз. в привед. форму модели.
2. Для каждого уравнения привед.форма модели обычным МНК оцениваются привед. коэф
3. Коэфициенты приведенной формы модели трансформируются в параметры структурной модели.
Еслиси стема сверхидентифицируема, то КМНК не исп, так как не дает однозначных оценок для параметров структурной модели. В этом случае могут исп. разные методы оценивания, среди которых наиболее распространен ДМНК.
Основная идея ДМНК на основе приведенной модели получить для сверхидентиф. уравнения теор. значения эндогенных переменных, содерж. в правой части ур-ния. Далее подставив в найденные значения вместо факт.значений применяется обычный МНК и структурн. форма сверхидент. ур-ния.
1 шаг: при опред.привед. формы модели и нахождении на ее основе оценок теор. значений эндогенной переменой
2 шаг: Применительно к структурному сверхидентифицируемому уравнению при определении структурных коэфициентов модели по данным теоритических значений эндогенных переменных.
23. Дисперсионный анализ результатов множественной регрессии.
Задача дисперсионного анализа в проверке гипот Н0 о статист незачимости уравн регрессии в целом и показат тесн связи. Выполняется на основе сравнения факт и табличн значений F-крит кот определяются из соотн факторной и остаточной дисперсий, рассчитан на одну степень свободы
| таблица дисперсионного анализа | ||||
| Вару | df | СКО,S | Дисп на одну df,S 2 | Fфакт |
| общ | n-1 | d y 2 * n | - | - |
| факт | m | d y 2 * n*R 2 yx1x2 | ||
| Ост | n-m-1 | d y 2 * n*(1-R 2 yx 1 x 2) =Sобщ-Sфакт | - |
Также можно построить таблицу частного дисперсионного анализа , и найти частный F крит который оценивает целесообразность включения фактора в модель после включения др переменной
24. Частный F-критерий Фишера, t- критерий Стьюдента. Их роль в построении регрессионных моделей.
F-критерия Фишера.
Для оценки статистич целесообразности добавления нов факторов в регрессион модель исп-ся частн критерий Фишера, т.к на рез-ты регрессион анализа влияет не только состав факторов, но и последовательность включения фактора в модель. Это обьясняется наличием связи между факторами.
F xj =((R 2 по yx1x2...xm – R 2 по yx1x2…xj-1,хj+1…xm)/(1- R 2 по yx1x2...xm))*((n-m-1)/1)
F табл (альфа,1, n-m-1) F xj больше F табл – фактор x j целесообразно лючать в модель после др.факторов.
Если рассматривается уравнение y=a+b1x1+b2+b3x3+e, то определяются последовательно F-критерий для уравнения с одним фактором х1, далее F- критерий для дополнительного включения в модель фактора х2, т. е. для перехода от однофакторного уравнения регрессии к двухфакторному, и, наконец, F-критерий для дополнительного включения в модель фактора х3, т.е. дается оценка значимости фактора х3 после включения в модель факторов x1 их2. В этом случае F-критерий для дополнительного включения фактора х2 после х1 является последовательным в отличие от F-критерия для дополнительного включения в модель фактора х3, который является частным F- критерием, ибо оценивает значимость фактора в предположении, что он включен в модель последним. С t-критерием Стьюдента связан именно частный F- критерий. Последовательный F-критерий может интересовать исследователя настадии формирования модели. Для уравнения y=a+b1x1+b2+b3x3+e оценка значимости коэффициентов регрессии Ь1,Ь2,b3 предполагает расчет трех межфакторных коэффициентов детерминации.
Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитываются t-критерий Стьюдента и доверительные интервалы каждого из показателей.
Сравнивая фактическое и критическое (табличное) значения t-статистики и tтабл. - принимаем или отвергаем гипотезу H0
. Связь между F-критерием Фишера
и t-статистикой Стьюдента
выражается равенством
Если t табл.< tфакт ., то H0 отклоняется, т.е. a, b и r ху не случайно отличаются от нуля и сформировались под влиянием систематически действующего фактора х.
Если, t табл.> tфакт. то гипотеза H0 не отклоняется и признается случайная природа формирования a, b или r ху.
25. Оценка качества регрессионных моделей. Стандартная ошибка линии регрессии.
Оценка качества линейной регрессии: коэффициент детерминации R 2
Из-за линейного соотношения и мы ожидаем, что изменяется, по мере того как изменяется , и называем это вариацией, которая обусловлена или объясняется регрессией. Остаточная вариация должна быть как можно меньше.
Если это так, то большая часть вариации будет объясняться регрессией, а точки будут лежать близко к линии регрессии, т.е. линия хорошо соответствует данным.
Долю общей дисперсии , которая объясняется регрессией называют коэффициентом детерминации , обычно выражают через процентное соотношение и обозначают R 2 (в парной линейной регрессии это величина r 2 , квадрат коэффициента корреляции), позволяет субъективно оценить качество уравнения регрессии.
Разность представляет собой процент дисперсии который нельзя объяснить регрессией.
Нет формального теста для оценки мы вынуждены положиться на субъективное суждение, чтобы определить качество подгонки линии регрессии.
Применение линии регрессии для прогноза
Применение линии регрессии для прогноза
Можно применять регрессионную линию для прогнозирования значения по значению в пределе наблюдаемого диапазона (никогда не экстраполируйте вне этих пределов).
Мы предсказываем среднюю величину для наблюдаемых, которые имеют определенное значение путем подстановки этого значения в уравнение линии регрессии.
Итак, если прогнозируем как Используем эту предсказанную величину и ее стандартную ошибку, чтобы оценить доверительный интервал для истинной средней величины в популяции.
Повторение этой процедуры для различных величин позволяет построить доверительные границы для этой линии. Это полоса или область, которая содержит истинную линию, например, с 95% доверительной вероятностью.
26. Взаимосвязь частного F-критерия, t- критерия Стьюдента и частного коэффициента корреляции.
Ввиду корреляции м/у факторами значимость одного и того же фактора м/б различной в зависимости от последовательности его введения в модель. Мерой для оценки включения фактора в модель служит частый F-критерий, т.е. F xi . В общем виде для фактора x i частый F-критерий определяется как:
Если рассматривается уравнение y=a+b 1 x 1 +b 2 +b 3 x 3 +e , то определяются последовательно F-критерий для уравнения с одним фактором х 1 , далее F-критерий для дополнительного включения в модель фактора х 2 , т. е. для перехода от однофакторного уравнения регрессии к двухфакторному, и, наконец, F-критерий для дополнительного включения в модель фактора х 3 , т. е. дается оценка значимости фактора х 3 после включения в модель факторов x 1 их 2 . В этом случае F-критерий для дополнительного включения фактора х 2 после х 1 является последовательным в отличие от F-критерия для дополнительного включения в модель фактора х 3 , который является частным F-критерием, ибо оценивает значимость фактора в предположении, что он включен в модель последним. С t-критерием Стьюдента связан именно частный F-критерий. Последовательный F-критерий может интересовать исследователя на стадии формирования модели. Для уравнения y=a+b 1 x 1 +b 2 +b 3 x 3 +e оценка значимости коэффициентов регрессии Ь 1 ,Ь 2,b 3 предполагает расчет трех межфакторных коэффициентов детерминации, а именно: , , и можно убедиться, что существует связьмежду собой t- критерия Стьюдента для оценки значимости b i и частным F-критерием:
На основе соотношения b i и получим:
27. Варианты построения регрессионной модели. Их краткая характеристика.
28. Интерпретация параметров линейной и нелинейной регрессии.
| b | a | ||
| парная | линейная | Коэффициент регрессии b показывает среднее изменение результативного показателя (в единицах измерения у) с повышением или понижением величины фактора х на единицу его измерения. Связь между у и х определяет знак коэффициента регрессии b (если > 0 – прямая связь, иначе – обратная | не интерпретируется, только знак >0 – рез-т изменяется медленнее фактора, <0 рез-т изм быстрее фактора |
| нелинейная | в степенной – коэфф эластичноести, т.е. на ск % изм рез-т в среднем при изменении фактора на 1% обратная ф-я – также как и в линейной, | не интерпретируется | |
| множ | линейная | В линейной множественной регрессии коэффициенты при хi характеризуют среднее изменение результата с изменением соответствующего фактора на единицу при неизменных значениях других факторов, закреплённых на среднем уровне | не интерпретируется |
29. Матрица парных и частных коэффициентов корреляции при построении регрессионных моделей.
30. Предпосылки метода наименьших квадратов.
Предпосылки метода наименьших квадратов (условия Гаусса-Маркова)
1. Математическое ожидание случайного отклонения равно нулю для всех наблюдений. Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В каждом конкретном наблюдении случайный член может быть либо положительным, либо отрицательным, но он не должен иметь систематического смещения.
2. Дисперсия случайных отклонений постоянна для любых наблюдений . Это условие подразумевает, что несмотря на то, что при каждом конкретном наблюдении случайное отклонение может быть либо большим, либо меньшим, не должно быть некой априорной причины, вызывающей большую ошибку (отклонение).
Выполнимость данной предпосылки называется гомоскедастичностью (постоянством дисперсии отклонений). Невыполнимость данной предпосылки называется гетероскедастичностью (непостоянством дисперсии отклонений).
3. Случайные отклонения u i и u j являются независимыми друг от друга для i¹j. Выполнимость данной предпосылки предполагает, что отсутствует систематическая связь между любыми случайными отклонениями. Другими словами, величина и определенный знак любого случайного отклонения не должны быть причинами величины и знака любого другого отклонения. Выполнимость данной предпосылки влечет следующее соотношение:
Поэтому, если данное условие выполняется, то говорят об отсутствии автокорреляции.
4. Случайное отклонение должно быть независимо от объясняющих переменных.
Обычно это условие выполняется автоматически, если объясняющие переменные не являются случайными в данной модели. Данное условие предполагает выполнимость следующего соотношения:
5. Модель является линейной относительно параметров.
Теорема Гаусса-Маркова. Если предпосылки 1-5 выполнены, то оценки, полученные по МНК, обладают следующими свойствами:
- Оценки являются несмещенными, то есть М(b 0) = b 0 , М(b 1) = b 1 , где b 0 , b 1) – коэффициенты эмпирического уравнения регрессии, а b 0 , b 1 – их теоретические прототипы. Это вытекает из первой предпосылки и говорит об отсутствии систематической ошибки в определении положения линии регрессии.
- Оценки состоятельны, так как дисперсия оценок параметров при возрастании числа n наблюдений стремится к нулю. Другими словами, при увеличении объема выборки надежность оценок увеличивается (коэффициенты теоретического и эмпирического уравнений регрессии практически совпадают).
- Оценки эффективны, то есть они имеют наименьшую дисперсию по сравнению с любыми оценками данных параметров, линейными относительно величин y i .
Если предпосылки 2 и 3 нарушены, то есть дисперсия отклонений непостоянна и (или) значения случайных отклонений связаны друг с другом, то свойства несмещенности и состоятельности сохраняются, но свойство эффективности – нет.
Наряду с выполнимостью указанных предпосылок при построении классических линейных регрессионных моделей делаются еще некоторые предположения. Например:
- объясняющие переменные не являются СВ;
- случайные отклонения имеют нормальное распределение;
- число наблюдений существенно больше числа объясняющих переменных.
ДРУГОЙ ВАРИАНТ БИЛЕТА 30.
Метод наименьших квадратов - один из методов регрессионного анализа для оценки неизвестных величин по результатам измерений, содержащих случайные ошибки.
МНК применяется также для приближённого представления заданной функции другими (более простыми) функциями и часто оказывается полезным при обработке наблюдений.
Когда искомая величина может быть измерена непосредственно, как, например, длина отрезка или угол, то, для увеличения точности, измерение производится много раз, и за окончательный результат берут арифметическое среднее из всех отдельных измерений. Это правило арифметической середины основывается на соображениях теории вероятностей; легко показать, что сумма квадратов уклонений отдельных измерений от арифметической середины будет меньше, чем сумма квадратов уклонений отдельных измерений от какой бы то ни было другой величины. Само правило арифметической середины представляет, следовательно, простейший случай метода наименьших квадратов.
МНК позволяет получить такие оценки параметров, при кот. сумма квадратов отклон-й фактич.значений результат. признака от теоретич. минимальна.
Модель д.б. линейной по параметрам
Х - случайная переменная
Значение ошибки – случайны, их изменения не образуют опред.модели (модели остатков)
Число налюденийд.б. больше чисоаоценив.парметров (в 5-6р)
Значения переменной х не д.б. одинаковыми
Совокупность должна быть однородной
Отсутствие взаимосвязи м/у ф-ром х и остатком
Модель регрессии д.б. корректно специфифированна
В модели не д.б. тесной взаимосвязи м/у фак-ми (ля множ.регрессии)
Основные предпосылки МНК:
случайный характер остатков
нулевая средняя остатков, не зависящая от фактора x
гомоскедастичность (дисперсия каждого отклонения одинакова для всех значений x)
отсутствие автокорреляции остатков
остатки должны подчиняться нормальному распределению
Если регрессионная модель у = a + bх + E удовлетворяет условием Гаусса-Маркова, то оценки а и b, полученные на основе МНК имеют наилучшую дисперсию в классе всех линейных, несмещенных оценок.
31. Исследование остатков уравнения множественной регрессии.
Исследования остатков предполагают проверку наличия следующих пяти предпосылок МНК:
1) случайный характер остатков;
2) нулевая средняя величина остатков, не зависящая от ;
3) гомоскедастичность – дисперсия каждого отклонения , одинакова для всех значений ;
4) отсутствие автокорреляции остатков – значения остатков распределены независимо друг от друга;
5) остатки подчиняются нормальному распределению.
Если распределение случайных остатков не соответствует некоторым предпосылкам МНК, то следует корректировать модель.
Прежде всего, проверяется случайный характер остатков – первая предпосылка МНК. С этой целью стоится график зависимости остатков от теоретических значений результативного признака (рис. 2.1). Если на графике получена горизонтальная полоса, то остатки представляют собой случайные величины и МНК оправдан, теоретические значения хорошо аппроксимируют фактические значения .
32. Гетероскедастичность и ее учет при построении модели множественной регрессии. Качественная оценка гретероскедастичности.
Гетероскедастичность проявляется, если совокупность исходных данных включает качественно разнородные области. Гетероскедастичность означает неравную дисперсию остатков для разных значений x. Если имеет место гетероскедастичность, то:
- Оценки МНК будут неэффективными .
- Могут быть смещены оценки коэфф регрессии и они будут неэффективными .
- Сложно исп формулу станд ошибок, т.к она предполаг единую дисперсию остатков.
Меры по устранению гетероскедастичности
p Увеличениечисланаблюдений
p Изменениефункциональнойформымодели
p Разделениеисходнойсовокупностинакачественно-однородныегруппы и проведениеанализа в каждойгруппе
p Использованиефиктивныхпеременных, учитывающихнеоднородность
p Исключениеизсовокупностиединиц, дающихнеоднородность
Тесты, используемыедлявыявлениягетероскедастичности
p Гольдфельда-Квандта
p Глейзера
p РанговойкорреляцииСпирмена
33. Автокорреляция остатков и ее роль при построении регрессионной модели.
Зависимость между последовательными уровнями врем. ряда называют автокорреляцией уровня ряда. В эконометрич. исследованиях часто возникают и такие ситуации, когда дисперсия остатков постоянная, но наблюдается их ковариация. Это явление называют автокорреляцией остатков.
Один из наиболее распространенных методов определения автокорреляции в остатках – критерий Дарбина-Уотсона:
d = ;
d – отношение суммы квадратов разностей последовательных значений к остаточной сумме квадратов по модели регрессии.
Сущ-ет след. соотношение между критерием Д-У «d» и коэф-ом автокорреляции остатков 1ого порядка r 1:
d = 2 * (1-r 1) .
Если в остатках сущ-ет полная положит. автокорреляция и r 1 = 1, то d = 0.
Если в остатках полная отриц. автокорреляция, то r 1 = -1 и d = 4.
Если автокорреляция отсутствует, то r 1 = 0 и d = 2.
Т.е. 0≤d≤4.
Рассмотрим алгоритм выявления автокорреляции остатков на основе критерия Д-У.
Выдвигается гипотеза H 0 об отсутствии автокорреляции остатков . Альтернативные гипотезы H 1 и H 1 * предполагают наличие положительной или отрицательной автокорреляции в остатках. Затем по спец. таблицам определяютсякритические значения критерия Дарбина - Уотсона d L и d u для заданного числа наблюдений n, числа независимых переменных модели k при уровня значимости ɑ (обычно 0,95). По этим значениям промежуток разбивают на пять отрезков. Принятие или отклонение каждой из гипотез с вероятностью (1-ɑ) представлено на след: рисунке:
| + есть | ? | НЕТ | ? | - есть | ||||||
| d L | d u | 4- d u | 4- d L | |||||||
Если фактич. значение критерия Дарбина - Уотсона попадает в зону неопределенности , то на практике предполагают существование автокорреляции остатков и гипотезу Н 0 отклоняют.
34. Выбор наилучшего варианта модели регрессии.
35. Нелинейные модели множественной регрессии, их общая характеристика.
Если между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих нелинейных функций: например, равносторонней гиперболы , параболы второй степени и д.р.
Различают два класса нелинейных регрессий:
регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам;
Регрессии, нелинейные по оцениваемым параметрам.
Примером нелинейной регрессии по включаемым в нее объясняющим переменным могут служить следующие функции:
- полиномы разных степеней
- равносторонняя гипербола
К нелинейным регрессиям по оцениваемым параметрам относятся функции:
- степенная
- показательная
- экспоненциальная
36. Модели гиперболического типа. Кривые Энгеля, кривая Филипса, и другие примеры использования моделей данного типа.
Кривые Энгеля (Engel curve ) иллюстрируют зависимость между объемом потребления благ (C ) и доходом потребителя (I ) при неизменных ценах и предпочтениях. Названа в честь немецкого статистика Эрнста Энгеля, занимавшегося анализом влияния изменения дохода на структуру потребительских расходов.
На оси абсцисс откладывается уровень дохода потребителя, а на оси ординат - расходы на потребление данного блага.
На графике показан примерный вид кривых Энгеля:
- E 1 - кривая для нормальных товаров;
- E 2 - кривая для предметов роскоши;
- E 3 - кривая для низкокачественных товаров.
Кривая филипса отражает взаимосвязь между темпами инфляции ибезработицы.
Кейнсианская модель экономики показывает, что в экономике может возникнуть либо безработица (вызванная спадом производства, следовательно уменьшением спроса на рабочую силу), либо инфляция (если экономика функционирует в состоянии полной занятости).
Одновременно высокая инфляция и высокая безработица существовать не могут.
Кривая Филипса была построена А.У. Филлипсом на основе данных заработной платы и безработицы в Великобритании за 1861-1957 годы.
Следуя кривой Филлипса государство может выстроить свою экономическую политику. Государство с помощью стимулирования совокупного спроса может увеличить инфляцию и снизить безработицу и наоборот.
Кривая Филипса была полностью верна до середины 70х годов. В этот период случилась стагнация (одновременный рост инфляции и безработицы), которую кривая филипса не смогла объяснить.
Применение Кривой Филипса
©2015-2019 сайт
Все права принадлежать их авторам. Данный сайт не претендует на авторства, а предоставляет бесплатное использование.
Дата создания страницы: 2016-02-16
Г. Этот показатель представляет собой стандартизованный коэффициент регрессии, т. е. коэффициент, выраженный не в абсолютных единицах измерения признаков, а в долях среднего квадратического отклонения результативного признака
Коэффициенты условно-чистой регрессии bf являются Именованными числами, выраженными в разных единицах измерения , и поэтому несравнимы друг с другом. Для преобразования их в сравнимые относительные показатели применяется то же преобразование, что и для получения коэффициента парной корреляции. Полученную величину называют стандартизованным коэффициентом регрессии или -коэффициентом.
На практике часто бывает необходимо сравнение влияния на зависимую переменную различных объясняющих переменных, когда последние выражаются разными единицами измерения . В этом случае используют стандартизованные коэффициенты регрессии b j и коэффициенты эластичности Ej Q = 1,2,..., р)
Стандартизованный коэффициент регрессии b j показывает, на сколько величин sy изменится в среднем зависимая переменная Y при увеличении только j-й объясняющей переменной на sx, a
Решение. Для сравнения влияния каждой из объясняющих переменных по формуле (4.10) вычислим стандартизованные коэффициенты регрессии
Определите стандартизованные коэффициенты регрессии.
В парной зависимости стандартизованный коэффициент регрессии есть не что иное, как линейный коэффициент корреляции fa Подобно тому, как в парной зависимости коэффициенты регрессии и корреляции связаны между собой, так и во множественной регрессии коэффициенты чистой регрессии й, связаны со стандартизованными коэффициентами регрессии / ,-, а именно
Рассмотренный смысл стандартизованных коэффициентов регрессии позволяет их использовать при отсеве факторов - из модели исключаются факторы с наименьшим значением jQy.
Как было показано выше, ранжирование факторов, участвующих в множественной линейной регрессии , может быть проведено через стандартизованные коэффициенты регрессии (/ -коэффициенты). Эта же цель может быть достигнута с помощью частных коэффициентов корреляции - для линейных связей. При нелинейной взаимосвязи исследуемых признаков эту функцию выполняют частные индексы детерминации. Кроме того, частные показатели корреляции широко используются при решении проблемы отбора факторов целесообразность включения того или иного фактора в модель доказывается величиной показателя частной корреляции.
Иными словами, в двухфакторном анализе частные коэффициенты корреляции - это стандартизованные коэффициенты регрессии, умноженные на корень квадратный цз соотношения долей остаточных дисперсий фиксируемого фактора на фактор и на результат.
В процессе разработки нормативов численности собираются исходные данные о списочной численности управленческого персонала и значениях факторов по отобранным базовым предприятиям. Далее отбираются существенные факторы для каждой функции на основе корреляционного анализа , исходя из значения коэффициентов корреляции . Выбираются факторы с наибольшим значением парного коэффициента корреляции с функцией и стандартизованного коэффициента регрессии.
Стандартизованные коэффициенты регрессии (р) рассчитываются для каждой функции по совокупности всех аргументов согласно формуле
Тем не менее, в статистике даются полезные рекомендации, позволяющие получить хотя бы оценочные представления по этому поводу. В качестве примера познакомимся с одним из таких методов - сравнение стандартизованных коэффициентов регрессии.
Стандартизованный коэффициент регрессии вычисляется путем умножения коэффициента регрессии bi на стандартное отклонение Sn (для наших -переменных обозначим его как Sxk) и деления полученного произведения на Sy. Это означает, что каждый стандартизованный коэффициент регрессии измеряется как величина b Sxk / .Применительно к нашему примеру получим следующие результаты (табл.10).
Стандартизованные коэффициенты регрессии
Таким образом, приведенное сравнение абсолютных величин стандартизованных коэффициентов регрессии позволяет получить пусть и довольно грубое, но достаточно наглядное представление о важности рассматриваемых факторов. Еще раз напомним, что эти результаты не являются идеальными, поскольку не в полной мере отражают реальное влияние исследуемых переменных (мы оставляем без внимания факт возможного взаимодействия этих факторов, что может исказить первоначальную картину).
Коэффициенты этого уравнения (blf 62, Ь3) определяются решением стандартизованного уравнения регрессии
Оператор 5. Вычисление -коэффициентов - коэффициентов регрессии в стандартизованном масштабе.
Нетрудно видеть, что путем замены на 2 и дальнейших простых преобразований можно прийти к системе нормальных уравнений в стандартизованном масштабе. Подобное преобразование мы будем применять в дальнейшем, поскольку нормирование, с одной стороны, позволяет нам избежать слишком больших чисел и, с другой стороны, сама вычислительная схема при определении коэффициентов регрессии становится стандартной.
Вид графа непосредственных связей говорит о том, что при построении уравнения регрессии только по двум факторам - количеству тралений и времени чистого траления- остаточная дисперсия ст.з4 не отличалась бы от остаточной дисперсии а.23456. полученной из уравнения регрессии , построенного по всем факторам. Чтобы оценить различие, мы обратимся в данном случае к выборочной оценке . 1.23456 = 0,907, а 1.34 = 0,877. Но если скорректировать коэффициенты по формуле (38), то 1.23456=0,867, a / i.34= = 0,864. Различие вряд ли можно считать существенным. Более того, г14 = 0,870. Это наводит на мысль, что количество тралений почти не оказывает непосредственного влияния на размер улова. Действительно, в стандартизованном масштабе 1.34 = 0,891 4 - 0,032 3- Нетрудно убедиться, что коэффициент регрессии при t3 недостоверен даже при очень низком доверительном интервале.
Рх/. - соответствующий коэффициент
Общие интенсивные коэффициенты (рождаемости, смертности, детской смертности, заболеваемости и т.д.) правильно отражают частоту явлений при их сопоставлении лишь в том случае, если состав сравниваемых совокупностей однороден. Если же они имеют неоднородный возрастно-половой или профессиональный состав, различие по тяжести болезни, по нозологическим формам иди по другим признакам, то ориентируясь на общие показатели, сравнивая их, можно сделать неправильный вывод о тенденциях изучаемых явлений и истинных причинах разницы общих показателей сравниваемых совокупностей.
Например, больничная летальность на терапевтическом отделении № 1 в отчетном году составила 3%, а на терапевтическом отделении №2 в том же году - 6%. Если оценивать деятельность этих отделений по общим показателям, то можно сделать вывод о неблагополучии на 2 терапевтическом отделении. А если предположить, что состав лечившихся на этих отделениях разнится по нозологическим формам или по тяжести заболеваний госпитализированных, то наиболее правильным способом анализа является сопоставление специальных коэффициентов, рассчитанных отдельно.для каждой группы больных с одинаковыми нозологическими формами или тяжестью заболеваний, так называемых «повозрастных коэффициентов».
Зачастую, однако, в сравниваемых совокупностях наблюдаются противоречивые данные. Кроме того, даже при наличии одинаковой тенденции во всех сравниваемых группах не всегда удобно пользоваться набором показателей, а предпочтительнее получить единую суммарную оценку. Во всех подобных случаях прибегают к методу стандартизации, то есть к устранению (элиминации) влияния состава (структуры) совокупностей на общий, итоговый показатель.
Следовательно, метод стандартизации применяется тогда, когда имеющиеся различия в составе сравниваемых совокупностей могут повлиять на размеры общих коэффициентов.
Для того, чтобы устранить влияние неоднородности составов сравниваемых совокупностей на величину получаемых коэффициентов, их приводят к единому стандарту, то есть условно допускается, что состав сравниваемых совокупностей одинаков. В качестве стандарта можно принять состав какой-либо близкой по существу третьей совокупности, средний состав двух сравниваемых групп или, проще всего, состав одной из сравниваемых групп.
Стандартизованные коэффициенты показывают, каковы были бы общие интенсивные показатели (рождаемости, заболеваемости, смертности, летальности и т.д.), если бы на их величину не оказывала влияние неоднородность в составах сравниваемых групп. Стандартизованные коэффициенты являются условными величинами и применяются исключительно для анализа в целях сравнения.
Существуют три метода стандартизации: прямой, косвенный и обратный (Керриджа).
Рассмотрим применение этих трех методов стандартизации на примерах, взятых из статистики злокачественных новообразований. Как известно, с возрастом значительно повышаются, коэффициенты смертности от злокачественных новообразований. Отсюда следует, что если в каком-либо городе будет относительно высока доля людей пожилых возрастов, а в другом - преобладать население среднего возраста, то даже при полном равенстве санитарных условий жизни и медицинской помощи в обоих сравниваемых городах неизбежно общий коэффициент смертности населения от злокачественных новообразований в первом городе будет выше, чем тот же коэффициент во втором городе.
Для того, чтобы нивелировать влияние возраста на общий показатель смертности населения от злокачественных новообразований, необходимо применить стандартизацию. Только после этого можно будет сравнивать полученные коэффициенты и сделать обоснованный вывод о большем или меньшем уровне смертности от злокачественных новообразований в целом в сравниваемых городах.
Прямой метод стандартизации. В нашем примере его можно применять в том случае, когда известен возрастной состав населения и есть информация для расчета повозрастных коэффициентов смертности населения от злокачественных новообразований (числа умерших от злокачественных новообразований в каждой возрастной группе).
Методика вычисления стандартизованных коэффициентов прямым методом слагается из четырех последовательных этапов (табл. 5.1).
Первый этап. Вычисление «повозрастных» коэффициентов смертности от злокачественных новообразований (отдельно для каждой возрастной группы).
Второй этап. Выбор стандарта осуществляется произвольно. В нашем примере за стандарт взят возрастной состав населения в городе «А».
Таблица 5.1
Стандартизация коэффициентов смертности от злокачественных новообразований в городах «А» и «Б» (прямой метод)
Третий этап. Расчет «ожидаемых» чисел. Мы определяем, сколько бы человек умерло от злокачественных новообразований в каждой возрастной группе населения города «Б» при имеющихся повозрастных показателях смертности от злокачественных новообразований в этом городе, но при возрастном составе города «А» (стандарт).
Например, в возрастной группе «до 30 лет»:
или в возрастной группе «40-49 лет»:
Четвертый этап. Расчет стандартизованных коэффициентов. Сумму «ожидаемых» чисел (1069,0) мы предлагаем получить из общей численности населения города «А» (700000). А сколько же умерших от злокачественных новообразований приходится на 100000 населения?
Из наших результатов можно сделать следующий вывод: если бы возрастной состав населения «Б» был бы такой же, как в городе «А» (стандарт), то смертность населения от злокачественных новообразований в городе «Б» была бы существенно выше (152,7%ооо против 120,2%ооо).
Косвенный метод стандартизации. Применяется, если специальные коэффициенты в сравниваемых группах неизвестны или известны, но мало достоверны. Это наблюдается, например, когда числа заболевших очень малы и, следовательно, вычисляемые коэффициенты будут существенно меняться в зависимости от прибавления одного или нескольких случаев заболеваний.
Вычисление стандартизованных коэффициентов косвенным способом можно разбить на три этапа (см. табл. 5.2).
Первый этап. Состоит в выборе стандарта. Так как нам обычно неизвестны специальные коэффициенты сравниваемых групп (коллективов), то за стандарт берутся специальные коэффициенты какого-то хорошо изученного коллектива. В рассматриваемом примере таковыми могут служить повозрастные показатели смертности от злокачественных новообразований в городе «С».
Второй этап включает вычисление «ожидаемых» чисел умерших от злокачественных новообразований. Допуская, что повозрастные коэффициенты смертности в обоих сравниваемых городах равны стандартным, определяем сколько бы умерло людей от злокачественных новообразований в каждой возрастной группе.
На третьем этапе вычисляются стандартизованные коэффициенты смертности населения от злокачественных новообразований. Для этого действительное число умерших относят к суммарному «ожидаемому» числу, и результат умножают на общий коэффициент смертности стандарта.
Действительное число умерших Общий коэф. смертности стандарта
«Ожидаемое» число умерших