Величина стандартной ошибки коэффициента регрессии эконометрической модели рассчитывается - Решение и исправление самых разных ошибок на TopOshibok.ru

№

Текст вопроса/ответа

Рейтинг вопроса

Вопрос обязателен/ответ
правилен

Вопрос 1

Меньшее значение
коэффициента случайной изменчивости
свидетельствует:

—

Ответ 1

о лучшей адаптации
модели к эмпирическим данным

Ответ 2

о лучшей адаптации
модели к теоретическим данным

—

Ответ 3

об отсутствии
адаптации модели к эмпирическим
данным

—

Ответ 4

об абсолютной
адаптации модели к эмпирическим
данным

—

Вопрос 2

Как проверить
правильность расчетов коэффициента
сходимости и коэффициента детерминации?

—

Ответ 1

—

Ответ 2

—

Ответ 3

Ответ 4

—

Вопрос 3

Коэффициент …
информирует какая доля полной
вариабельности объясняемой переменной
не отражается моделью.

—

Ответ 1

детерминации

—

Ответ 2

сходимости

Ответ 3

инфляции

—

Ответ 4

средних цен

—

Вопрос 4

В каких случаях
применяется обобщенный МНК?

—

Ответ 1

при большой выборке

—

Ответ 2

в любом случае

—

Ответ 3

при выполнении
принципов стабильности дисперсии
случайных отклонений.

—

Ответ 4

при невыполнении
принципов стабильности дисперсии
случайных отклонений.

Вопрос 5

Для чего проводится
исследование существенности структурных
параметров линейной эконометрической
модели?

—

Ответ 1

для того чтобы
обнаружит эффект катализа

—

Ответ 2

это одна из предпосылок
МНК

—

Ответ 3

для проверки
значительности воздействия объясняемой
переменной на объясняющие

—

Ответ 4

для проверки
значительно или нет объясняющие
переменные воздействуют на объясняемую
переменную

Вопрос 6

Нуль-гипотеза для
коэффициента множественной корреляции
R имеет вид:

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 7

Укажите вектор
наблюдаемых значений результативного
признака.

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 8

В уравнении ,
знак “^” означает:

—

Ответ 1

эффект катализа

—

Ответ 2

автокорреляция
переменных

—

Ответ 3

переменные независимы

—

Ответ 4

между переменными
нет строгой функциональной зависимости

Вопрос 9

Чему равно среднее
значение остатков?

—

Ответ 1

единице

—

Ответ 2

нулю

Ответ 3

зависит от величины
каждого остатка

—

Ответ 4

значению первого в
ряду остатка

—

Вопрос 10

При исследовании
существенности структурных параметров
линейной эконометрической модели
для каждого i=1,2…n проверяется:

—

Ответ 1

стандартная
погрешность

—

Ответ 2

нуль-статистика

—

Ответ 3

гипотеза о
существенности

—

Ответ 4

нуль-гипотеза

Вопрос 11

В каком интервале
лежат значения коэффициента сходимости?

—

Ответ 1

(-1;1)

—

Ответ 2

(-2;2)

—

Ответ 3

Ответ 4

8-10%

—

Вопрос 12

Матрица R симметрична.
Это означает:

—

Ответ 1

—

Ответ 2

элементы главной
диагонали равны элементам побочной

—

Ответ 3

—

Ответ 4

Вопрос 13

Как называется
переменная вызывающая эффект катализа
в линейной эконометрической модели?

—

Ответ 1

переменная

—

Ответ 2

детерминанта

—

Ответ 3

катализатор

Ответ 4

регрессия

—

Вопрос 14

Формула необходима
для расчета элементов …матрицы.

—

Ответ 1

нейтральной

Ответ 2

квадратной

—

Ответ 3

обратной

—

Ответ 4

единичной

—

Вопрос 15

Предпосылками МНК
являются:

—

Ответ 1

случайный характер
остатков

—

Ответ 2

нулевая средняя
величина остатков не зависящая от Х

—

Ответ 3

гомоскедастичность

—

Ответ 4

все перечисленное
верно

Вопрос 16

Исследование остатков
в линейной регрессионной модели
предполагает:

—

Ответ 1

построение нейтральной
матрицы

—

Ответ 2

проверку наличия
предпосылок МНК

Ответ 3

проверку точности
математических расчетов

—

Ответ 4

проверку соответствия
остатков эмпирическим данным

—

Вопрос 17

Каким требованиям
должны отвечать факторы при множественном
корреляционном анализе (два правильных
ответа):

—

Ответ 1

данные экономического
характера

—

Ответ 2

доступность

—

Ответ 3

количественно
измеримы

Ответ 4

не должны быть в
точной функциональной зависимости

Вопрос 18

В каких случаях в
эконометрической модели может быть
использована парабола второй степени?

—

Ответ 1

когда для определенного
интервала значений не меняется
характер связи рассматриваемых
признаков

—

Ответ 2

когда для определенного
интервала значений меняется характер
связи рассматриваемых признаков

Ответ 3

когда между переменными
наблюдается прямая связь

—

Ответ 4

когда между переменными
наблюдается обратная связь

—

Вопрос 19

МНК — это

—

Ответ 1

метод наименьших
квадратов

Ответ 2

метод наибольших
констант

—

Ответ 3

мера независимости
коэффициентов

—

Ответ 4

метод нормальной
корреляции

—

Вопрос 20

Как называется
регрессия между двумя переменными?

—

Ответ 1

абсолютная

—

Ответ 2

эконометрическая

—

Ответ 3

множественная

—

Ответ 4

парная

Вопрос 21

Дисперсия случайных
отклонений оценивается по формуле:

—

Ответ 1

Ответ 2

—

Ответ 3

—

Ответ 4

—

Вопрос 22

Выражение для вектора
а структурных параметров множественной
регрессионной модели имеет вид:

—

Ответ 1

Ответ 2

—

Ответ 3

—

Ответ 4

—

Вопрос 23

По какой формуле
рассчитывается индивидуальный
показатель информационной емкости ?

—

Ответ 1

—

Ответ 2

—

Ответ 3

Ответ 4

—

Вопрос 24

По какой формуле
рассчитывается интегральный показатель
информационной емкости?

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 25

Если для любого
i=1,2…n , коэффициенты корреляции в
векторе положительны
и упорядочены по возрастанию, то как
называется пара :

—

Ответ 1

вектором корреляции

—

Ответ 2

корреляционными
остатками

—

Ответ 3

нерегулярной
корреляционной парой

—

Ответ 4

регулярной
корреляционной парой

Вопрос 26

Что является
предварительным условием присвоения
различным величинам статуса объясняющих
переменных в эконометрической модели?

—

Ответ 1

достаточно высокая
вариабельность.

Ответ 2

эти величины должны
мало отличатся друг от друга.

—

Ответ 3

среднее арифметическая
величина этих величин должна равняться
нулю.

—

Ответ 4

величины должны
быть подобраны статистическими
методами.

—

Вопрос 27

Укажите формулу
коэффициента вариации.

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 28

Как находится
стандартное отклонение переменной
Х?

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 29

Сумма произведений
значений случайной величины на
соответствующие вероятности называется:

—

Ответ 1

матрица

—

Ответ 2

множественная
регрессия

—

Ответ 3

математическое
ожидание

Ответ 4

парная регрессия

—

Вопрос 30

В парной регрессии
выбор вида математической функции
может быть осуществлен следующими
методами (несколько правильных
ответов):

—

Ответ 1

графический

Ответ 2

аналитический

Ответ 3

метод наименьших
квадратов

—

Ответ 4

экспериментальный

Вопрос 31

В данном уравнении ,
величина—
характеризует:

—

Ответ 1

независимая переменная

—

Ответ 2

теоретическое
значение результативного признака

—

Ответ 3

случайная величина
отклонения реального значения от
теоретического

Ответ 4

фактическое значение
результативного признака

—

Вопрос 32

Коэффициент сходимости
рассчитывается по формуле:

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 33

Коэффициент, который
показывает какая доля полной вариации
объясняемой переменной, предопределена
её теоретическими характеристиками?

—

Ответ 1

коэффициент
детерминации

Ответ 2

коэффициент сходимости

—

Ответ 3

коэффициент случайной
изменчивости

—

Ответ 4

коэффициент
эластичности

—

Вопрос 34

Коэффициент случайной
изменчивости определяется по формуле:

—

Ответ 1

Ответ 2

—

Ответ 3

—

Ответ 4

—

Вопрос 35

В чем заключается
эффект катализа в линейной
эконометрической модели?

—

Ответ 1

данный эффект в
линейной модели не наблюдается.

—

Ответ 2

сильная корреляция
объясняемой переменной с объясняющими
переменными.

Ответ 3

сильная корреляция
между структурными параметрами модели

—

Ответ 4

отсутствие корреляции
между переменными

—

Вопрос 36

Линейный коэффициент
корреляции находится по формуле:

—

Ответ 1

—

Ответ 2

—

Ответ 3

—

Ответ 4

Вопрос 37

Линейный коэффициент
корреляции находится в пределах от
-1 до 1. Выберите правильное утверждение:

—

Ответ 1

чем ближе абсолютное
значение к единице, тем сильнее
обратная связь между факторами

—

Ответ 2

чем ближе абсолютное
значение к единице, тем сильнее
линейная связь между факторами.

Ответ 3

чем ближе абсолютное
значение к нулю, тем сильнее линейная
связь между факторами

—

Ответ 4

чем ближе абсолютное
значение к единице, тем слабее связь
между факторами

—

Вопрос 38

Средний коэффициент
эластичности находится по формуле:

—

Ответ 1

—

Ответ 2

—

Ответ 3

Ответ 4

—

Вопрос 39

Среднее отклонение
расчетных значений от теоретических
— это:

—

Ответ 1

средняя ошибка
аппроксимации.

Ответ 2

средний коэффициент
эластичности.

—

Ответ 3

теоретическое
стандартное отклонение.

—

Ответ 4

средний коэффициент
корреляции.

—

Вопрос 40

Примером нелинейной
зависимости экономических показателей
является …

—

Ответ 1

классическая
гиперболическая зависимость спроса
от цены.

Ответ 2

зависимость объема
продаж от недели реализации, выраженная
линейным трендом.

—

Ответ 3

линейная зависимость
выручки от величины оборотных средств.

—

Ответ 4

линейная зависимость
затрат на производство от объема
выпуска продукции.

—

Вопрос 41

Отбор факторов
множественной линейной регрессионной
модели можно проводить по t-критерию
Стъюдента для коэффициентов регрессии.
Из уравнения исключаются факторы с
величиной t-критерия

—

Ответ 1

равные нулю.

—

Ответ 2

больше табличного
значения.

Ответ 3

меньше единицы.

—

Ответ 4

меньше табличного
значения.

—

Вопрос 42

Параметр является
существенным, если

—

Ответ 1

расчетное значение
критерия Стъюдента меньше табличного
значения.

Ответ 2

доверительный
интервал проходит через ноль.

—

Ответ 3

стандартная ошибка
превышает половину значения самого
параметра.

—

Ответ 4

доверительный
интервал не проходит через ноль.

—

Вопрос 43

Статистической
гипотезой называется

—

Ответ 1

всякое высказывание
о генеральной совокупности, проверяемое
по выборке.

Ответ 2

всякое высказывание
о генеральной совокупности, проверяемое
по генеральной совокупности.

—

Ответ 3

всякое высказывание
о выборочной совокупности, проверяемое
по выборке.

—

Ответ 4

всякое высказывание
о выборочной совокупности, проверяемое
по генеральной совокупности.

—

Вопрос 44

Укажите требования
к факторам, включаемым в модель
множественной линейной регрессии:

—

Ответ 1

факторы должны иметь
одинаковую размерность.

—

Ответ 2

факторы должны быть
количественно измеримы.

Ответ 3

между факторами не
должна существовать высокая корреляция.

—

Ответ 4

факторы должны
представлять временные ряды.

—

Вопрос 45

Результаты расходов
на питание от
доходов населения R и цены на питание
P (в %) имеют вид = 150 + 0,15R – 0,05P
(в млрд. руб.). На сколько руб. увеличатся
расходы на питание, если доходы
населения увеличатся на 1 млрд. руб.?

—

Ответ 1

150 млрд.руб.

—

Ответ 2

15 млн.руб.

—

Ответ 3

150 млн.руб.

Ответ 4

150,15 млрд.руб.

—

Вопрос 46

Результаты расходов
на питание от
доходов населения R и цены на питание
P (в %) имеют вид = 120 + 0,13R – 0,06P
(в млрд. руб.). На сколько руб. увеличатся
расходы на питание, если цены уменьшатся
на 10%?

—

Ответ 1

120 млрд.руб.

—

Ответ 2

60 млн.руб.

—

Ответ 3

600 млн.руб.

Ответ 4

60 млрд.руб.

—

Вопрос 47

Пусть исследуется
линейная зависимость вида .
Величина, показывающая, на сколько
процентов изменится y при изменении
xi на 1% называется …

—

Ответ 1

коэффициентом
регрессии.

—

Ответ 2

коэффициентом
эластичности.

Ответ 3

коэффициентом
корреляции.

—

Ответ 4

коэффициентом
детерминации.

—

Вопрос 48

В линейном уравнении
множественной регрессии переменными
регрессии являются (два правильных
ответа):

—

Ответ 1

b1.

—

Ответ 2

b2.

—

Ответ 3

x1.

Ответ 4

x2.

Вопрос 49

В линейном уравнении
множественной регрессии
ŷ = a + b1nx1 + b2nx2
коэффициентами регрессии являются
(два правильных ответа):

—

Ответ 1

b1n.

Ответ 2

b2n.

Ответ 3

x1.

—

Ответ 4

x2.

—

Вопрос 50

Как записывается
множественное регрессионное линейное
уравнение?

—

Ответ 1

Ответ 2

—

Ответ 3

—

Ответ 4

—

Вопрос 51

Коэффициент
множественной корреляции изменяется
в пределах

—

Ответ 1

[0, 1).

—

Ответ 2

(0, 1].

—

Ответ 3

(0, 1).

—

Ответ 4

[0, 1].

Вопрос 52

Автокорреляция
остатков — это

—

Ответ 1

независимость
дисперсии остатков от номера наблюдения.

—

Ответ 2

зависимость дисперсии
остатков от номера наблюдения.

—

Ответ 3

сильная коррелированность
остатков для разных наблюдений.

Ответ 4

сильная коррелированность
фактором друг от друга.

—

Вопрос 53

Обобщенный МНК
подразумевает:

—

Ответ 1

линеаризацию
уравнения регрессии.

—

Ответ 2

двухэтапное применение
МНК.

Ответ 3

преобразование
переменных.

—

Ответ 4

переход от множественной
регрессии к парной.

—

Вопрос 54

Метод оценки
параметров модели с гетероскедастичными
остатками называется … МНК.

—

Ответ 1

косвенным.

—

Ответ 2

обобщенным.

Ответ 3

минимальным.

—

Ответ 4

обычным.

—

Вопрос 55

Проверку выполнения
предпосылки МНК о гомоскедастичности
(гетероскедастичности) остатков можно
проверить …

—

Ответ 1

на основании
параметрических тестов.

—

Ответ 2

методом линеаризации
уравнения.

—

Ответ 3

дифференцированием
переменных.

—

Ответ 4

визуально по
графику.

Вопрос 56

Если предпосылки
МНК не выполняются, то оценки параметров
уравнения регрессии могут не обладать
свойствами (три правильных ответа):

—

Ответ 1

состоятельности.

Ответ 2

несмещенности.

Ответ 3

правильности.

—

Ответ 4

эффективности.

Вопрос 57

Гетероскедастичность
остатков — это

—

Ответ 1

независимость
дисперсии остатков от номера наблюдения.

—

Ответ 2

зависимость дисперсии
остатков от номера наблюдения.

Ответ 3

сильная коррелированность
остатков для разных наблюдений.

—

Ответ 4

сильная коррелированность
фактором друг от друга.

—

Вопрос 58

Неизменность
отклонений регрессионных остатков
от номера наблюдения называют

—

Ответ 1

гомоскедастичностью
остатков.

Ответ 2

гетероскедастичностью
остатков.

—

Ответ 3

автокоррелированностью
остатков.

—

Ответ 4

автокоррелированностью
факторов модели.

—

Вопрос 59

Гомоскедастичность
остатков — это

—

Ответ 1

независимость
дисперсии остатков от номера наблюдения.

Ответ 2

зависимость дисперсии
остатков от номера наблюдения.

—

Ответ 3

сильная коррелированность
остатков для разных наблюдений.

—

Ответ 4

сильная коррелированность
фактором друг от друга.

—

Вопрос 60

О хорошем качестве
регрессионной модели свидетельствует
величина средней ошибки аппроксимации

—

Ответ 1

около 100%.

—

Ответ 2

более 10%.

—

Ответ 3

менее 59%.

—

Ответ 4

менее 10%.

Вопрос 61

Средняя ошибка
аппроксимации на основе относительных
отклонений по каждому наблюдению
подсчитывается по формуле

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 62

Величина стандартной
ошибки коэффициента регрессии
эконометрической модели рассчитывается
для определения значимости
(существенности) …

—

Ответ 1

коэффициента
детерминации.

—

Ответ 2

коэффициента
регрессии.

Ответ 3

случайной составляющей
модели.

—

Ответ 4

зависимой переменной.

—

Вопрос 63

Найти дисперсию
остатков ,
если известны коэффициент
детерминации = 0,88,
дисперсия показателя D(y) = 4 и
n = 10.

—

Ответ 1

0,15.

—

Ответ 2

0,06.

—

Ответ 3

0,6.

Ответ 4

0,2.

—

Вопрос 64

Найти коэффициент
детерминации ,
если известны дисперсии остатков = 0,6
и показателя D(y) = 4 и n = 10.

—

Ответ 1

0,15.

—

Ответ 2

0,6.

—

Ответ 3

0,24.

—

Ответ 4

0,88.

Вопрос 65

Случайными
воздействиями обусловлено 12% дисперсии
результирующего признака, следовательно,
значение коэффициента детерминации
составило

—

Ответ 1

88.

—

Ответ 2

12.

—

Ответ 3

0,12.

—

Ответ 4

0,88.

Вопрос 66

Значение коэффициента
детерминации рассчитывается как
отношение дисперсии результативного
признака объясненной регрессии к …
дисперсии результативного признака.

—

Ответ 1

общей.

Ответ 2

средней.

—

Ответ 3

остаточной.

—

Ответ 4

факторной.

—

Вопрос 67

Остаточная сумма
квадратов отклонений может
интерпретироваться как мера

—

Ответ 1

разброса величины
y, объясненной с помощью регрессии,
относительно .

Ответ 2

общего разброса
величины y относительно .

—

Ответ 3

разброса остаточной
величины, не объясненной уравнением
регрессии.

—

Ответ 4

влияние величины
остаточной суммы квадратов отклонений
на число степеней свободы.

—

Вопрос 68

Для подсчета суммы
квадратов остатков, используется
формула

—

Ответ 1

—

Ответ 2

—

Ответ 3

Ответ 4

—

Вопрос 69

При расчете значений
коэффициента детерминации используется
отношение

—

Ответ 1

дисперсий.

Ответ 2

остаточных величин.

—

Ответ 3

параметров уравнения
регрессии.

—

Ответ 4

математических
ожиданий.

—

Вопрос 70

Величина коэффициента
детерминации …

—

Ответ 1

оценивает значимость
каждого из факторов, включенных в
уравнение регрессии.

—

Ответ 2

характеризует долю
дисперсии зависимой переменной y,
объясненную уравнением, в ее общей
дисперсии.

Ответ 3

рассчитывается для
оценки качества подбора уравнения
регрессии.

—

Ответ 4

характеризует долю
дисперсии остаточной величины в общей
дисперсии зависимой переменной.

—

Вопрос 71

Общая дисперсия
служит для оценки влияния

—

Ответ 1

учтенных явно в
модели факторов.

—

Ответ 2

величины постоянной
составляющей в уравнении.

—

Ответ 3

случайных воздействий.

—

Ответ 4

как учтенных факторов,
так и случайных воздействий.

Вопрос 72

Найти средний
коэффициент эластичности
регрессии = 2 – 0,2x,
если = 4, =
2.

—

Ответ 1

– 0,2.

—

Ответ 2

—

Ответ 3

– 0,4.

Ответ 4

—

Вопрос 73

Результаты расходов
на питание от
доходов населения R имеют
вид = 10,5 + 0,45R
(в млрд. руб.). На сколько руб. увеличатся
расходы на питание, если доходы
населения увеличатся на 1 млрд. руб.?

—

Ответ 1

10,5 млрд.руб.

—

Ответ 2

45 млрд.руб.

—

Ответ 3

45 млн.руб.

—

Ответ 4

450 млн.руб.

Вопрос 74

Величина коэффициента
эластичности показывает …

—

Ответ 1

на сколько % в среднем
изменится результат при изменении
фактора на 1%.

Ответ 2

во сколько раз в
среднем изменится результат при
изменении фактора в два раза.

—

Ответ 3

предельно допустимое
изменение варьируемого признака.

—

Ответ 4

предельно возможное
значение результата.

—

Вопрос 75

В линейном уравнении
парной регрессии y = a + bx + e
параметр b показывает

—

Ответ 1

насколько % в среднем
изменится y, если x изменится на 1
единицу.

—

Ответ 2

на какую величину
в среднем изменится x, если y изменится
на 1 единицу.

—

Ответ 3

на какую величину
в среднем изменится y, если x изменится
на 1 единицу.

Ответ 4

насколько % в среднем
изменится y, если x изменится на 1%.

—

Вопрос 76

Величина коэффициента
регрессии характеризует

—

Ответ 1

значение свободного
члена в уравнении.

—

Ответ 2

среднее изменение
результата при изменении фактора на
одну единицу.

Ответ 3

фактическое значение
независимой переменной.

—

Ответ 4

значение параметра
при независимой переменной.

—

Вопрос 77

Найти оценку для
регрессионного параметра в
модели y = a + bx,
если = 2, = 0,5, =
4.

—

Ответ 1

Ответ 2

—

Ответ 3

0,25.

—

Ответ 4

0,5.

—

Вопрос 78

Найти оценку для
коэффициента регрессии в
модели y = a + bx, если
cov(x, y) = 4, D(x) = 16.

—

Ответ 1

16.

—

Ответ 2

—

Ответ 3

0,25.

Ответ 4

0,5.

—

Вопрос 79

Сопоставление
реальных и модельных данных, проверка
адекватности модели, оценка точности
модельных данных проводится на этапе

—

Ответ 1

параметризации.

—

Ответ 2

верификации.

Ответ 3

идентификации.

—

Ответ 4

линеаризации.

—

Вопрос 80

Коэффициент
регрессии является
состоятельной оценкой параметра b
модели y = a + bx при условии,
что

—

Ответ 1

математическое
ожидание оценки равно
оцениваемому параметру b.

—

Ответ 2

дисперсия
оценки является
наименьшей среди всех возможных
дисперсий несмещенных оценок параметра
b.

—

Ответ 3

дисперсия оценки равна
нулю.

—

Ответ 4

оценка стремится
к оцениваемому параметру b при больших
выборках.

Вопрос 81

Коэффициент
регрессии является
эффективной оценкой параметра b модели
y = a + bx при условии, что

—

Ответ 1

математическое
ожидание оценки равно
оцениваемому параметру b.

—

Ответ 2

дисперсия
оценки является
наименьшей среди всех возможных
дисперсий несмещенных оценок параметра
b.

Ответ 3

дисперсия оценки равна
нулю.

—

Ответ 4

оценка стремится
к оцениваемому параметру b при больших
выборках.

—

Вопрос 82

Коэффициент
регрессии является
несмещенной оценкой параметра b модели
y = a + bx при условии, что

—

Ответ 1

математическое
ожидание оценки равно
оцениваемому параметру b.

—

Ответ 2

дисперсия
оценки является
наименьшей среди всех возможных
дисперсий несмещенных оценок параметра
b.

—

Ответ 3

дисперсия оценки равна
нулю.

Ответ 4

оценка стремится
к оцениваемому параметру b при больших
выборках.

—

Вопрос 83

При увеличении
объема выборки становятся маловероятным
значительные ошибки при оценивании
параметров регрессии. Это означает,
что используются … оценки.

—

Ответ 1

состоятельные.

Ответ 2

несмещенные.

—

Ответ 3

эффективные.

—

Ответ 4

асимптотически
эффективные.

—

Вопрос 84

Оценки неизвестных
параметров регрессии по МНК определяется
из условия минимума суммы случайных
ошибок ei

—

Ответ 1

—

Ответ 2

—

Ответ 3

Ответ 4

—

Вопрос 85

Предпосылкой
применения МНК является

—

Ответ 1

равенство нулю
дисперсии случайных отклонений et.

—

Ответ 2

положительный знак
дисперсии случайных отклонений et.

—

Ответ 3

постоянство дисперсии
случайных отклонений et.

Ответ 4

отрицательный знак
дисперсии случайных отклонений et.

—

Вопрос 86

Для успешного
применения МНК необходимо, чтобы
математическое ожидание случайного
отклонения ei равнялось нулю. Это
означает, что

—

Ответ 1

случайное отклонение
в среднем не оказывает существенного
влияния на зависимую переменную.

Ответ 2

случайное отклонение
оказывает на зависимую переменную
сильное влияние.

—

Ответ 3

равны математические
ожидания случайного отклонения для
каждого наблюдения.

—

Ответ 4

случайное отклонение
в среднем равно 1.

—

Вопрос 87

МНК для оценки
параметров уравнений регрессии дает
хорошие результаты

—

Ответ 1

всегда.

—

Ответ 2

при большом количестве
наблюдений.

Ответ 3

при выполнении
определенных предпосылок.

—

Ответ 4

при небольшом
количестве наблюдений.

—

Вопрос 88

При увеличении
объема выборки дисперсия эффективной
оценки параметра становится бесконечно
малой величиной. Такая оценка параметра
называется

—

Ответ 1

состоятельной.

—

Ответ 2

несмещенной.

—

Ответ 3

эффективной.

Ответ 4

асимптотически
эффективной.

—

Вопрос 89

МНК используется
для оценивания …

—

Ответ 1

коэффициента
детерминации.

—

Ответ 2

средней ошибки
аппроксимации.

—

Ответ 3

параметров линейной
регрессии.

Ответ 4

коэффициента
корреляции.

—

Вопрос 90

Самым распространенным
методом оценки параметров регрессии
является

—

Ответ 1

метод моментов.

—

Ответ 2

метод наименьших
модулей.

—

Ответ 3

метод максимального
правдоподобия.

—

Ответ 4

МНК.

Вопрос 91

При использовании
МНК минимизируется … отклонений
наблюдаемых значений зависимой
переменной и ее расчетных значений.

—

Ответ 1

разность сумм
квадратов.

—

Ответ 2

квадрат суммы.

—

Ответ 3

сумма модулей.

—

Ответ 4

сумма квадратов.

Вопрос 92

Основное отличие
эконометрических моделей от других
видов экономико-математических
моделей состоит в

—

Ответ 1

учете случайных
возмущений для зависимой переменной.

Ответ 2

учете всех факторов,
влияющих на результат.

—

Ответ 3

использовании
линейной формы зависимости.

—

Ответ 4

анализе данных,
меняющихся во времени.

—

Вопрос 93

В классической
модели парной линейной регрессии
y = a + bx + e

—

Ответ 1

y, e — детерминированные
величины, x — случайная величина.

—

Ответ 2

x — детерминированная
величина, y, e — случайные величины.

—

Ответ 3

y — детерминированная
величина, x, e — случайные величины.

Ответ 4

e — детерминированная
величины, x, y — случайные величины.

—

Вопрос 94

Как записывается
однофакторное регрессионное линейное
уравнение?

—

Ответ 1

—

Ответ 2

—

Ответ 3

—

Ответ 4

Вопрос 95

В линейном уравнении
парной регрессии y = a + bx + e
параметрами являются

—

Ответ 1

—

Ответ 2

—

Ответ 3

Ответ 4

—

Вопрос 96

В линейном уравнении
парной регрессии y = a + bx + e
переменными являются

—

Ответ 1

Ответ 2

—

Ответ 3

—

Ответ 4

—

Вопрос 97

Эконометрическая
модель объекта представляет собой

—

Ответ 1

экономико-математическую
модель с учетом случайных возмущений
зависимой переменной.

—

Ответ 2

любую
экономико-математическую модель.

—

Ответ 3

экономико-математическую
модель с учетом случайных возмущений
независимой переменной.

—

Ответ 4

эмпирическую
зависимость результирующего признака
от фактора.

Вопрос 98

Формализация
закономерностей общей эконометрической
теории является одним из принципов
… эконометрической модели.

—

Ответ 1

спецификации.

Ответ 2

верификации.

—

Ответ 3

идентификации.

—

Ответ 4

параметризация.

—

Вопрос 99

Эконометрика – это
…

—

Ответ 1

специальный раздел
математики, посвященный анализу
экономической информации.

—

Ответ 2

наука, которая дает
количественное выражение взаимосвязей
экономических явлений и процессов.

Ответ 3

наука, которая
осуществляет качественный анализ
взаимосвязей экономических явлений
и процессов.

—

Ответ 4

раздел экономической
теории, связанный с анализом
статистической информацией.

—

Вопрос 100

Какое из этих значений
может принимать линейный коэффициент
корреляции при обратной связи?

—

Ответ 1

– 0,8.

Ответ 2

0,7.

—

Ответ 3

1,2.

—

Ответ 4

– 1,2.

—

Вопрос 101

Какое из этих значений
может принимать линейный коэффициент
корреляции при прямой связи?

—

Ответ 1

– 0,6.

—

Ответ 2

0,6.

Ответ 3

1,2.

—

Ответ 4

– 1,2.

—

Вопрос 102

Линейный коэффициент
корреляции изменяется в пределах

—

Ответ 1

[0, 1).

—

Ответ 2

[–1, 1].

Ответ 3

(0, 1).

—

Ответ 4

[0, 1].

—

Вопрос 103

Коэффициент парной
линейной корреляции равен нулю. Это
значит, что

—

Ответ 1

отсутствует
автокорреляция факторного признака.

—

Ответ 2

отсутствует
автокорреляция результативного
признака.

—

Ответ 3

между признаками
нет линейной корреляционной связи.

—

Ответ 4

между признаками
отсутствует какая-либо зависимость.

Вопрос 104

Расчет формулы для
коэффициента парной линейной корреляции
случайных величин x и y имеет вид

—

Ответ 1

—

Ответ 2

Ответ 3

—

Ответ 4

—

Вопрос 105

Линейный коэффициент
корреляции

—

Ответ 1

выражается квадратичной
размерностью показателя.

—

Ответ 2

показывает в среднем,
на сколько отклоняются значения
показателя от среднего значения.

—

Ответ 3

является мерой
однородности совокупности.

—

Ответ 4

показывает меру
тесноты связи между двумя показателями.

Вопрос 106

Линейный коэффициент
корреляции – это отношение …

—

Ответ 1

суммы значений
показателя к объему совокупности.

—

Ответ 2

суммы квадратов
отклонений значений показателя от
среднего значения к объему совокупности.

—

Ответ 3

среднего квадратичного
отклонения к средней арифметической
величине.

—

Ответ 4

ковариации к
произведению средних квадратичных
отклонений двух показателей.

Вопрос 107

Корреляция
подразумевает наличие связи между …

—

Ответ 1

случайными факторами.

Ответ 2

параметрами.

—

Ответ 3

результатом и
случайными факторами.

—

Ответ 4

переменными.

—

Вопрос 108

Найти дисперсию,
если среднее квадратичное отклонение
равно 4,5.

—

Ответ 1

4,5.

—

Ответ 2

—

Ответ 3

12,25.

—

Ответ 4

20,25.

Вопрос 109

Найти среднее
квадратичное отклонение, если дисперсия
совокупности равна. 12,25.

—

Ответ 1

12,25.

—

Ответ 2

24,5.

—

Ответ 3

4,5.

—

Ответ 4

3,5.

Вопрос 110

Найти среднюю
урожайность пшеницы с 1 га за три года:
60ц, 49ц, 41ц.

—

Ответ 1

41.

—

Ответ 2

49.

—

Ответ 3

50.

Ответ 4

55.

—

Вопрос 111

Формулой определяется
… показателей x и y.

—

Ответ 1

средняя арифметическая
величина.

—

Ответ 2

дисперсия.

—

Ответ 3

среднее квадратичное
отклонение.

—

Ответ 4

ковариация.

Вопрос 112

Формулой определяется
… показателя x.

—

Ответ 1

средняя арифметическая
величина.

—

Ответ 2

дисперсия.

—

Ответ 3

среднее квадратичное
отклонение.

Ответ 4

ковариация.

—

Вопрос 113

Формулой определяется
… показателя x.

—

Ответ 1

средняя арифметическая
величина.

—

Ответ 2

дисперсия.

Ответ 3

среднее квадратичное
отклонение.

—

Ответ 4

ковариация.

—

Вопрос 114

Формулой определяется
… показателей x и y.

—

Ответ 1

средняя арифметическая
величина.

—

Ответ 2

дисперсия.

—

Ответ 3

среднее квадратичное
отклонение.

—

Ответ 4

ковариация.

Вопрос 115

Формулой определяется
… показателя x.

—

Ответ 1

средняя арифметическая
величина.

—

Ответ 2

дисперсия.

—

Ответ 3

среднее квадратичное
отклонение.

Ответ 4

ковариация.

—

Вопрос 116

Формулой определяется
… показателя x.

—

Ответ 1

средняя арифметическая
величина.

—

Ответ 2

дисперсия.

Ответ 3

среднее квадратичное
отклонение.

—

Ответ 4

ковариация.

—

Вопрос 117

Формулой определяется
… показателя x.

—

Ответ 1

средняя арифметическая
величина.

Ответ 2

дисперсия.

—

Ответ 3

среднее квадратичное
отклонение.

—

Ответ 4

ковариация.

—

Вопрос 118

Среднее квадратичное
отклонение:

—

Ответ 1

выражается квадратичной
размерностью показателя.

—

Ответ 2

показывает в среднем,
на сколько отклоняются значения
показателя от среднего значения.

—

Ответ 3

является мерой
однородности совокупности.

Ответ 4

показывает меру
тесноты связи между двумя показателями.

—

Вопрос 119

Дисперсия – это
отношение:

—

Ответ 1

суммы значений
показателя к объему совокупности.

—

Ответ 2

суммы квадратов
отклонений значений показателя от
среднего значения к объему совокупности.

Ответ 3

среднего квадратичного
отклонения к средней арифметической
величине.

—

Ответ 4

ковариации к
произведению средних квадратичных
отклонений двух показателей.

—

Вопрос 120

Средняя арифметическая
величина – это отношение:

—

Ответ 1

суммы значений
показателя к объему совокупности.

Ответ 2

суммы квадратов
отклонений значений показателя от
среднего значения к объему совокупности.

—

Ответ 3

среднего квадратичного
отклонения к средней арифметической
величине.

—

Ответ 4

ковариации к
произведению средних квадратичных
отклонений двух показателей.

—

Источник

Величина стандартной ошибки коэффициента регрессии эконометрической модели рассчитывается для определения значимости (существенности)

коэффициента детерминации
зависимой переменной
влияния соответствующей независимой переменной (фактора) на зависимую переменную
этого коэффициента регрессии

Тип вопроса: Вопрос с одним правильными вариантом

Ответ на этот вопрос уже получили: 23 раз(а)

Помогли ответы? Ставь лайк 👍

Вопрос задал(а): Анастасия, 20 Май 2015 в 18:20
На вопрос ответил(а): Астафьева Любовь, 20 Май 2015 в 18:20

Источник

Ниворожкина Л.И. Основы статистики с элементами теории вероятностей для экономистов: Руководство для решения задач — файл n1.doc

приобрести
Ниворожкина Л.И. Основы статистики с элементами теории вероятностей для экономистов: Руководство для решения задач
скачать (17128 kb.)
Доступные файлы (1):

Рушайло М.Ф. Элементы теории вероятностей и математической статистики (Документ)
Рушайло М.Ф. Элементы теории вероятностей и математической статистики (Документ)
Кремер Н.Ш. Теория вероятностей и математическая статистика (Документ)
Мордкович А.Г., Семенов П.В. События. Вероятности. Статистическая обработка данных: Дополнительные параграфы к курсу алгебры 7-9 кл. общеобразовательных учреждений (Документ)
Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике (Документ)
Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике (Документ)
Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике (Документ)
Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике (Документ)
Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике (Документ)
Кремер Н.Ш. Теория вероятностей и математическая статистика (Документ)
Коваленко И.Н., Гнеденко Б.В. Теория вероятностей (Документ)
Кафедра «Электроснабжение» В. Б. Козловская, В. В. Сталович математические задачи энергетики (Документ)

n1.doc

Хотя метод наименьших квадратов дает нам линию регрессии, которая обеспечивает минимум вариации, регрессионное уравнение не является идеальным в смысле предсказания, поскольку не все значения зависимого признака Y удовлетворяют уравнению регрессии. Нам необходима статистическая мера вариации фактических значений Y от предсказанных значений Y. Эта мера в то же время является средней вариацией каждого значения относительно среднего значения Y. Мера вариации относительно линии регрессии называется стандартной ошибкой оценки.

Колеблемость фактических значений признака Y относительно линии регрессии показана на рис. 9.3.

Из диаграммы видно, что хотя теоретическая линия регрессии проходит относительно близко от фактических значений Y, часть этих точек лежит выше или ниже линии регрессии. При этом

Стандартная ошибка оценки определяется как

где у_i — фактические значения Y;

y_x — предсказанные значения Y для заданного х.

Для вычисления более удобна следующая формула:

Нам уже известны

Тогда

Итак, для нашего примера: S_yx = 0,497. Эта стандартная ошибка характеризует меру вариации фактических данных относительно линии регрессии. Интерпретация этой меры аналогична интерпретации среднего квадратического отклонения. Если среднее квадратическое отклонение — это мера вариации относительно средней, то стандартная ошибка — это оценка меры вариации относительно линии регрессии. Однако стандартная ошибка оценки может быть использована для выводов о значении y_x и выяснения, является ли статистически значимой взаимосвязь между двумя переменными.

9.11. Измерение вариации по уравнению регрессии

Для проверки того, насколько хорошо независимая переменная предсказывает зависимую переменную в нашей модели, необходим расчет ряда мер вариации. Первая из них — общая (полная) сумма квадратов отклонений результативного признака от средней — есть мера вариации значений Y относительно их среднего Y . В регрессионном анализе общая сумма квадратов может быть разложена на объясняемую вариацию или сумму квадратов отклонений за счет регрессии и необъясняемую вариацию или остаточную сумму квадратов отклонений (рис. 9.4).

Сумма квадратов отклонений вследствие регрессии это — сумма квадратов разностей между y

(средним значением Y) и y_x (значением Y, предсказанным по уравнению регрессии). Сумма квадратов отклонений, не объясняемая регрессией (остаточная сумма квадратов), — это сумма квадратов разностей y и y_x . Эти меры вариации могут быть представлены следующим образом (табл. 9.8):

Таблица 9.8

Общая сумма квадратов

(S_T)

Сумма квадратов за счет регрессии

(S_R)

Остаточная сумма квадратов

(S_E)

Легко увидеть, что остаточная сумма квадратов (y-y_x)² — это выражение, стоящее под знаком корня в формуле (9.25) (стандартной ошибки оценки). Тем не менее в процессе вычислений стандартной ошибки мы всегда вначале вычисляем сумму квадратов ошибки.

Остаточная сумма квадратов может быть представлена следующим образом:

Объясняемая сумма квадратов выразится так:

В самом деле

51,3605 = 46,9145 + 4,4460.

Из этого соотношения определяется коэффициент детерминации:

Отсюда коэффициент детерминации — доля вариации Y, которая объясняется независимыми переменными в регрессионной модели. Для нашего примера r^г= 46,9145/51,3605 = 0,913.

Следовательно, 91,3% вариации еженедельной выручки магазинов могут быть объяснены числом покупателей, варьирующим от магазина к магазину. Только 8,7% вариации можно объяснить иными факторами, не включенными в уравнение регрессии.

В случае парной регрессии коэффициент детерминации равен квадратному корню из квадрата коэффициента линейной корреляции Пирсона

В простой линейной регрессии г имеет тот же знак, что и b₁, Если b₁ > 0, то r > 0; если b₁ < 0, то r < 0, если b₁ = 0, то r = 0.

В нашем примере r² = 0,913 и b₁ > 0, коэффициент корреляции r = 0,956. Близость коэффициента корреляции к 1 свидетельствует о тесной положительной связи между выручкой магазина от продажи пива и числом посетителей.

Мы интерпретировали коэффициент корреляции в терминах регрессии, однако корреляция и регрессия — две различные техники. Корреляция устанавливает силу связи между признаками, а регрессия — форму этой связи. В ряде случаев для анализа достаточно найти меру связи между признаками, без использования одного из них в качестве факторного признака для другого.

9.12. Доверительные интервалы для оценки неизвестного генерального значения y_ген(_yх) и индивидуального значения y_i

Поскольку в основном для построения регрессионных моделей используются данные выборок, то зачастую интерпретация взаимоотношений между переменными в генеральной совокупности базируется на выборочных результатах.

Как было сказано выше, регрессионное уравнение используется для прогноза значений Y по заданному значению X. В нашем примере показано, что при 600 посетителях магазина сумма выручки могла бы быть 7,661 у. е. Однако это значение — только точечная оценка истинного среднего значения. Мы знаем, что для оценки истинного значения генерального параметра возможна интервальная оценка.

Доверительный интервал для оценки неизвестного генерального значения y_ген(_yх) имеет вид

где

Здесь y_x — предсказанное значение Y

(y_x₌=b₀+b₁y_i);

S_yx — стандартная ошибка оценки;

п — объем выборки;

х_i — заданное значение X.

Легко видеть, что длина доверительного интервала зависит от нескольких факторов. Для заданного уровня значимости  увеличение вариации вокруг линии регрессии, измеряемой стандартной ошибкой оценки, увеличивает длину интервала. Увеличение объема выборки уменьшит длину интервала. Более того, ширина интервала также варьирует с различными значениями X. Когда оценивается y_x по значениям X, близким к x, то интервал тем уже, чем меньше абсолютное отклонение х_i от x (рис. 9.5).

Когда оценка осуществляется по значениям X, удаленным от среднего x, то длина интервала возрастает.

Рассчитаем 95%-й доверительный интервал для среднего значения выручки во всех магазинах с числом посетителей, равным 600. По данным нашего примера уравнение регрессии имеет вид

y_x = 2,423 + 0,00873x:

и для x_i = 600 получим y_i; =7,661, а также

По таблице Стьюдента (приложение 5)

t₁₈ = 2,10.

Отсюда, используя формулы (9.31) и (9.32), рассчитаем границы искомого доверительного интервала для _yx

Итак, 7,369  _yx 7,953.

Следовательно, наша оценка состоит в том, что средняя дневная выручка находится между 7,369 и 7,953 у. е. для всех магазинов с 600 посетителями.

Для построения доверительного интервала для индивидуальных значений Y_x, лежащих на линии регрессии, используется доверительный интервал регрессии вида

где h_i y_i_,, S_yx ,п и х_i — определяются, как и в формулах (9.31) и (9.32).

Определим 95% -и доверительный интервал для оценки дневных продаж отдельного магазина с 600 посетителями

В результате вычислений получим

Итак, 6,577 y_i  8,745.

Следовательно, с 95%-й уверенностью можно утверждать, что ежедневная выручка отдельного магазина, который посетили 600 покупателей, находится в пределах от 6,577 до 8,745 у. е. Длина этого интервала больше чем длина интервала, полученного ранее для оценки среднего значения Y.

9.10. Стандартная ошибка оценки уравнения регрессии

Содержание:

Регрессионный анализ:

Регрессионным анализом называется раздел математической статистики, объединяющий практические методы исследования корреляционной зависимости между случайными величинами по результатам наблюдений над ними. Сюда включаются методы выбора модели изучаемой зависимости и оценки ее параметров, методы проверки статистических гипотез о зависимости.

Пусть между случайными величинами X и Y существует линейная корреляционная зависимость. Это означает, что математическое ожидание Y линейно зависит от значений случайной величины X. График этой зависимости (линия регрессии Y на X) имеет уравнение

Линейная модель пригодна в качестве первого приближения и в случае нелинейной корреляции, если рассматривать небольшие интервалы возможных значений случайных величин.

Пусть параметры линии регрессии неизвестны, неизвестна и величина коэффициента корреляции Над случайными величинами X и Y проделано n независимых наблюдений, в результате которых получены n пар значений: Эти результаты могут служить источником информации о неизвестных значениях надо только уметь эту информацию извлечь оттуда.

Неизвестная нам линия регрессии как и всякая линия регрессии, имеет то отличительное свойство, что средний квадрат отклонений значений Y от нее минимален. Поэтому в качестве оценок для можно принять те их значения, при которых имеет минимум функция

Такие значения , согласно необходимым условиям экстремума, находятся из системы уравнений:

Решения этой системы уравнений дают оценки называемые оценками по методу наименьших квадратов.

Известно, что оценки по методу наименьших квадратов являются несмещенными и, более того, среди всех несмещенных оценок обладают наименьшей дисперсией. Для оценки коэффициента корреляции можно воспользоваться тем, что где средние квадратические отклонения случайных величин X и Y соответственно. Обозначим через оценки этих средних квадратических отклонений на основе опытных данных. Оценки можно найти, например, по формуле (3.1.3). Тогда для коэффициента корреляции имеем оценку

По методу наименьших квадратов можно находить оценки параметров линии регрессии и при нелинейной корреляции. Например, для линии регрессии вида оценки параметров находятся из условия минимума функции

Пример:

По данным наблюдений двух случайных величин найти коэффициент корреляции и уравнение линии регрессии Y на X

Решение. Вычислим величины, необходимые для использования формул (3.7.1)–(3.7.3):

По формулам (3.7.1) и (3.7.2) получим

Итак, оценка линии регрессии имеет вид Так как то по формуле (3.1.3)

Аналогично, Поэтому в качестве оценки коэффициента корреляции имеем по формуле (3.7.3) величину

Ответ.

Пример:

Получена выборка значений величин X и Y

Для представления зависимости между величинами предполагается использовать модель Найти оценки параметров

Решение. Рассмотрим сначала задачу оценки параметров этой модели в общем виде. Линия играет роль линии регрессии и поэтому параметры ее можно найти из условия минимума функции (сумма квадратов отклонений значений Y от линии должна быть минимальной по свойству линии регрессии)

Необходимые условия экстремума приводят к системе из двух уравнений:

Откуда

Решения системы уравнений (3.7.4) и (3.7.5) и будут оценками по методу наименьших квадратов для параметров

На основе опытных данных вычисляем:

В итоге получаем систему уравнений (?????) и (?????) в виде

Эта система имеет решения

Ответ.

Если наблюдений много, то результаты их обычно группируют и представляют в виде корреляционной таблицы.

В этой таблице равно числу наблюдений, для которых X находится в интервале а Y – в интервале Через обозначено число наблюдений, при которых а Y произвольно. Число наблюдений, при которых а X произвольно, обозначено через

Если величины дискретны, то вместо интервалов указывают отдельные значения этих величин. Для непрерывных случайных величин представителем каждого интервала считают его середину и полагают, что и наблюдались раз.

При больших значениях X и Y можно для упрощения вычислений перенести начало координат и изменить масштаб по каждой из осей, а после завершения вычислений вернуться к старому масштабу.

Пример:

Проделано 80 наблюдений случайных величин X и Y. Результаты наблюдений представлены в виде таблицы. Найти линию регрессии Y на X. Оценить коэффициент корреляции.

Решение. Представителем каждого интервала будем считать его середину. Перенесем начало координат и изменим масштаб по каждой оси так, чтобы значения X и Y были удобны для вычислений. Для этого перейдем к новым переменным Значения этих новых переменных указаны соответственно в самой верхней строке и самом левом столбце таблицы.

Чтобы иметь представление о виде линии регрессии, вычислим средние значения при фиксированных значениях :

Нанесем эти значения на координатную плоскость, соединив для наглядности их отрезками прямой (рис. 3.7.1).

По виду полученной ломанной линии можно предположить, что линия регрессии Y на X является прямой. Оценим ее параметры. Для этого сначала вычислим с учетом группировки данных в таблице все величины, необходимые для использования формул (3.31–3.33):

Тогда

В новом масштабе оценка линии регрессии имеет вид График этой прямой линии изображен на рис. 3.7.1.

Для оценки по корреляционной таблице можно воспользоваться формулой (3.1.3):

Подобным же образом можно оценить величиной Тогда оценкой коэффициента корреляции может служить величина

Вернемся к старому масштабу:

Коэффициент корреляции пересчитывать не нужно, так как это величина безразмерная и от масштаба не зависит.

Ответ.

Пусть некоторые физические величины X и Y связаны неизвестной нам функциональной зависимостью Для изучения этой зависимости производят измерения Y при разных значениях X. Измерениям сопутствуют ошибки и поэтому результат каждого измерения случаен. Если систематической ошибки при измерениях нет, то играет роль линии регрессии и все свойства линии регрессии приложимы к . В частности, обычно находят по методу наименьших квадратов.

Регрессионный анализ

Основные положения регрессионного анализа:

Основная задача регрессионного анализа — изучение зависимости между результативным признаком Y и наблюдавшимся признаком X, оценка функции регрессий.

Предпосылки регрессионного анализа:

Y — независимые случайные величины, имеющие постоянную дисперсию;
X— величины наблюдаемого признака (величины не случайные);
условное математическое ожидание можно представить в виде

Выражение (2.1), как уже упоминалось в п. 1.2, называется функцией регрессии (или модельным уравнением регрессии) Y на X. Оценке в этом выражении подлежат параметры называемые коэффициентами регрессии, а также — остаточная дисперсия.

Остаточной дисперсией называется та часть рассеивания результативного признака, которую нельзя объяснить действием наблюдаемого признака; Остаточная дисперсия может служить для оценки точности подбора вида функции регрессии (модельного уравнения регрессии), полноты набора признаков, включенных в анализ. Оценки параметров функции регрессии находят, используя метод наименьших квадратов.

В данном вопросе рассмотрен линейный регрессионный анализ. Линейным он называется потому, что изучаем лишь те виды зависимостей которые линейны по оцениваемым параметрам, хотя могут быть нелинейны по переменным X. Например, зависимости

линейны относительно параметров хотя вторая и третья зависимости нелинейны относительно переменных х. Вид зависимости выбирают, исходя из визуальной оценки характера расположения точек на поле корреляции; опыта предыдущих исследований; соображений профессионального характера, основанных и знании физической сущности процесса.

Важное место в линейном регрессионном анализе занимает так называемая «нормальная регрессия». Она имеет место, если сделать предположения относительно закона распределения случайной величины Y. Предпосылки «нормальной регрессии»:

Y — независимые случайные величины, имеющие постоянную дисперсию и распределенные по нормальному закону;
X— величины наблюдаемого признака (величины не случайные);
условное математическое ожидание можно представить в виде (2.1).

В этом случае оценки коэффициентов регрессии — несмещённые с минимальной дисперсией и нормальным законом распределения. Из этого положения следует что при «нормальной регрессии» имеется возможность оценить значимость оценок коэффициентов регрессии, а также построить доверительный интервал для коэффициентов регрессии и условного математического ожидания M(YX=x).

Линейная регрессия

Рассмотрим простейший случай регрессионного анализа — модель вида (2.1), когда зависимость линейна и по оцениваемым параметрам, и

по переменным. Оценки параметров модели (2.1) обозначил Оценку остаточной дисперсии обозначим Подставив в формулу (2.1) вместо параметров их оценки, получим уравнение регрессии коэффициенты которого находят из условия минимума суммы квадратов отклонений измеренных значений результативного признака от вычисленных по уравнению регрессии

Составим систему нормальных уравнений: первое уравнение

откуда

второе уравнение

откуда

Итак,

Оценки, полученные по способу наименьших квадратов, обладают минимальной дисперсией в классе линейных оценок. Решая систему (2.2) относительно найдём оценки параметров

Остаётся получить оценку параметра . Имеем

где т — количество наблюдений.

Еслит велико, то для упрощения расчётов наблюдавшиеся данные принята группировать, т.е. строить корреляционную таблицу. Пример построения такой таблицы приведен в п. 1.5. Формулы для нахождения коэффициентов регрессии по сгруппированным данным те же, что и для расчёта по несгруппированным данным, но суммызаменяют на

где — частоты повторений соответствующих значений переменных. В дальнейшем часто используется этот наглядный приём вычислений.

Нелинейная регрессия

Рассмотрим случай, когда зависимость нелинейна по переменным х, например модель вида

На рис. 2.1 изображено поле корреляции. Очевидно, что зависимость между Y и X нелинейная и её графическим изображением является не прямая, а кривая. Оценкой выражения (2.6) является уравнение регрессии

где —оценки коэффициентов регрессии

Принцип нахождения коэффициентов тот же — метод наименьших квадратов, т.е.

или

Дифференцируя последнее равенство по и приравнивая правые части нулю, получаем так называемую систему нормальных уравнений:

В общем случае нелинейной зависимости между переменными Y и X связь может выражаться многочленом k-й степени от x:

Коэффициенты регрессии определяют по принципу наименьших квадратов. Система нормальных уравнений имеет вид

Вычислив коэффициенты системы, её можно решить любым известным способом.

Оценка значимости коэффициентов регрессии. Интервальная оценка коэффициентов регрессии

Проверить значимость оценок коэффициентов регрессии — значит установить, достаточна ли величина оценки для статистически обоснованного вывода о том, что коэффициент регрессии отличен от нуля. Для этого проверяют гипотезу о равенстве нулю коэффициента регрессии, соблюдая предпосылки «нормальной регрессии». В этом случае вычисляемая для проверки нулевой гипотезы статистика

имеет распределение Стьюдента с к= n-2 степенями свободы (b — оценка коэффициента регрессии, — оценка среднеквадратического отклонения

коэффициента регрессии, иначе стандартная ошибка оценки). По уровню значимости а и числу степеней свободы к находят по таблицам распределения Стьюдента (см. табл. 1 приложений) критическое значение удовлетворяющее условию то нулевую гипотезу о равенстве нулю коэффициента регрессии отвергают, коэффициент считают значимым. Принет оснований отвергать нулевую гипотезу.

Оценки среднеквадратического отклонения коэффициентов регрессии вычисляют по следующим формулам:

где — оценка остаточной дисперсии, вычисляемая по
формуле (2.5).

Доверительный интервал для значимых параметров строят по обычной схеме. Из условия

где а — уровень значимости, находим

Интервальная оценка для условного математического ожидания

Линия регрессии характеризует изменение условного математического ожидания результативного признака от вариации остальных признаков.

Точечной оценкой условного математического ожидания является условное среднее Кроме точечной оценки для можно
построить доверительный интервал в точке

Известно, что имеет распределение
Стьюдента с k=n—2 степенями свободы. Найдя оценку среднеквадратического отклонения для условного среднего, можно построить доверительный интервал для условного математического ожидания

Оценку дисперсии условного среднего вычисляют по формуле

или для интервального ряда

Доверительный интервал находят из условия

где а — уровень значимости. Отсюда

Доверительный интервал для условного математического ожидания можно изобразить графически (рис, 2.2).

Из рис. 2.2 видно, что в точке границы интервала наиболее близки друг другу. Расположение границ доверительного интервала показывает, что прогнозы по уравнению регрессии, хороши только в случае, если значение х не выходит за пределы выборки, по которой вычислено уравнение регрессии; иными словами, экстраполяция по уравнению регрессии может привести к значительным погрешностям.

Проверка значимости уравнения регрессии

Оценить значимость уравнения регрессии — значит установить, соответствует ли математическая, модель, выражающая зависимость между Y и X, экспериментальным данным. Для оценки значимости в предпосылках «нормальной регрессии» проверяют гипотезу Если она отвергается, то считают, что между Y и X нет связи (или связь нелинейная). Для проверки нулевой гипотезы используют основное положение дисперсионного анализа о разбиении суммы квадратов на слагаемые. Воспользуемся разложением — Общая сумма квадратов отклонений результативного признака

разлагается на (сумму, характеризующую влияние признака

X) и (остаточную сумму квадратов, характеризующую влияние неучтённых факторов). Очевидно, чем меньше влияние неучтённых факторов, тем лучше математическая модель соответствует экспериментальным данным, так как вариация У в основном объясняется влиянием признака X.

Для проверки нулевой гипотезы вычисляют статистику которая имеет распределение Фишера-Снедекора с А степенями свободы (в п — число наблюдений). По уровню значимости а и числу степеней свободы находят по таблицам F-распределение для уровня значимости а=0,05 (см. табл. 3 приложений) критическое значение удовлетворяющее условию . Если нулевую гипотезу отвергают, уравнение считают значимым. Если то нет оснований отвергать нулевую гипотезу.

Многомерный регрессионный анализ

В случае, если изменения результативного признака определяются действием совокупности других признаков, имеет место многомерный регрессионный анализ. Пусть результативный признак У, а независимые признаки Для многомерного случая предпосылки регрессионного анализа можно сформулировать следующим образом: У -независимые случайные величины со средним и постоянной дисперсией — линейно независимые векторы . Все положения, изложенные в п.2.1, справедливы для многомерного случая. Рассмотрим модель вида

Оценке подлежат параметры и остаточная дисперсия.

Заменив параметры их оценками, запишем уравнение регрессии

Коэффициенты в этом выражении находят методом наименьших квадратов.

Исходными данными для вычисления коэффициентов является выборка из многомерной совокупности, представляемая обычно в виде матрицы X и вектора Y:

Как и в двумерном случае, составляют систему нормальных уравнений

которую можно решить любым способом, известным из линейной алгебры. Рассмотрим один из них — способ обратной матрицы. Предварительно преобразуем систему уравнений. Выразим из первого уравнения значение через остальные параметры:

Подставим в остальные уравнения системы вместо полученное выражение:

Пусть С — матрица коэффициентов при неизвестных параметрах — матрица, обратная матрице С; — элемент, стоящий на пересечении i-Й строки и i-го столбца матрицы — выражение
. Тогда, используя формулы линейной алгебры,

запишем окончательные выражения для параметров:

Оценкой остаточной дисперсии является

где — измеренное значение результативного признака; значение результативного признака, вычисленное по уравнению регрессий.

Если выборка получена из нормально распределенной генеральной совокупности, то, аналогично изложенному в п. 2.4, можно проверить значимость оценок коэффициентов регрессии, только в данном случае статистику вычисляют для каждого j-го коэффициента регрессии

где —элемент обратной матрицы, стоящий на пересечении i-й строки и j-
го столбца; —диагональный элемент обратной матрицы.

При заданном уровне значимости а и числе степеней свободы к=n— m—1 по табл. 1 приложений находят критическое значение Если то нулевую гипотезу о равенстве нулю коэффициента регрессии отвергают. Оценку коэффициента считают значимой. Такую проверку производят последовательно для каждого коэффициента регрессии. Если то нет оснований отвергать нулевую гипотезу, оценку коэффициента регрессии считают незначимой.

Для значимых коэффициентов регрессии целесообразно построить доверительные интервалы по формуле (2.10). Для оценки значимости уравнения регрессии следует проверить нулевую гипотезу о том, что все коэффициенты регрессии (кроме свободного члена) равны нулю: — вектор коэффициентов регрессии). Нулевую гипотезу проверяют, так же как и в п. 2.6, с помощью статистики , где — сумма квадратов, характеризующая влияние признаков X; — остаточная сумма квадратов, характеризующая влияние неучтённых факторов; Для уровня значимости а и числа степеней свободы по табл. 3 приложений находят критическое значение Если то нулевую гипотезу об одновременном равенстве нулю коэффициентов регрессии отвергают. Уравнение регрессии считают значимым. При нет оснований отвергать нулевую гипотезу, уравнение регрессии считают незначимым.

Факторный анализ

Основные положения. В последнее время всё более широкое распространение находит один из новых разделов многомерного статистического анализа — факторный анализ. Первоначально этот метод

разрабатывался для объяснения многообразия корреляций между исходными параметрами. Действительно, результатом корреляционного анализа является матрица коэффициентов корреляций. При малом числе параметров можно произвести визуальный анализ этой матрицы. С ростом числа параметра (10 и более) визуальный анализ не даёт положительных результатов. Оказалось, что всё многообразие корреляционных связей можно объяснить действием нескольких обобщённых факторов, являющихся функциями исследуемых параметров, причём сами обобщённые факторы при этом могут быть и неизвестны, однако их можно выразить через исследуемые параметры.

Один из основоположников факторного анализа Л. Терстоун приводит такой пример: несколько сотен мальчиков выполняют 20 разнообразных гимнастических упражнений. Каждое упражнение оценивают баллами. Можно рассчитать матрицу корреляций между 20 упражнениями. Это большая матрица размером 20><20. Изучая такую матрицу, трудно уловить закономерность связей между упражнениями. Нельзя ли объяснить скрытую в таблице закономерность действием каких-либо обобщённых факторов, которые в результате эксперимента непосредственно, не оценивались? Оказалось, что обо всех коэффициентах корреляции можно судить по трём обобщённым факторам, которые и определяют успех выполнения всех 20 гимнастических упражнений: чувство равновесия, усилие правого плеча, быстрота движения тела.

Дальнейшие разработки факторного анализа доказали, что этот метод может быть с успехом применён в задачах группировки и классификации объектов. Факторный анализ позволяет группировать объекты со сходными сочетаниями признаков и группировать признаки с общим характером изменения от объекта к объекту. Действительно, выделенные обобщённые факторы можно использовать как критерии при классификации мальчиков по способностям к отдельным группам гимнастических упражнений.

Методы факторного анализа находят применение в психологии и экономике, социологии и экономической географии. Факторы, выраженные через исходные параметры, как правило, легко интерпретировать как некоторые существенные внутренние характеристики объектов.

Факторный анализ может быть использован и как самостоятельный метод исследования, и вместе с другими методами многомерного анализа, например в сочетании с регрессионным анализом. В этом случае для набора зависимых переменных наводят обобщённые факторы, которые потом входят в регрессионный анализ в качестве переменных. Такой подход позволяет сократить число переменных в регрессионном анализе, устранить коррелированность переменных, уменьшить влияние ошибок и в случае ортогональности выделенных факторов значительно упростить оценку значимости переменных.

Представление, информации в факторном анализе

Для проведения факторного анализа информация должна быть представлена в виде двумерной таблицы чисел размерностью аналогичной приведенной в п. 2.7 (матрица исходных данных). Строки этой матрицы должны соответствовать объектам наблюдений столбцы — признакамтаким образом, каждый признак является как бы статистическим рядом, в котором наблюдения варьируют от объекта к объекту. Признаки, характеризующие объект наблюдения, как правило, имеют различную размерность. Чтобы устранить влияние размерности и обеспечить сопоставимость признаков, матрицу исходных данных обычно нормируют, вводя единый масштаб. Самым распространенным видом нормировки является стандартизация. От переменных переходят к переменным В дальнейшем, говоря о матрице исходных переменных, всегда будем иметь в виду стандартизованную матрицу.

Основная модель факторного анализа. Основная модель факторного анализа имеет вид

где -j-й признак (величина случайная); — общие факторы (величины случайные, имеющие нормальный закон распределения); — характерный фактор; — факторные нагрузки, характеризующие существенность влияния каждого фактора (параметры модели, подлежащие определению); — нагрузка характерного фактора.

Модель предполагает, что каждый из j признаков, входящих в исследуемый набор и заданных в стандартной форме, может быть представлен в виде линейной комбинации небольшого числа общих факторов и характерного фактора

Термин «общий фактор» подчёркивает, что каждый такой фактор имеет существенное значение для анализа всех признаков, т.е.

Термин «характерный фактор» показывает, что он относится только к данному j-му признаку. Это специфика признака, которая не может быть, выражена через факторы

Факторные нагрузки . характеризуют величину влияния того или иного общего фактора в вариации данного признака. Основная задача факторного анализа — определение факторных нагрузок. Факторная модель относится к классу аппроксимационных. Параметры модели должны быть выбраны так, чтобы наилучшим образом аппроксимировать корреляции между наблюдаемыми признаками.

Для j-го признака и i-го объекта модель (2.19) можно записать в. виде

где значение k-го фактора для i-го объекта.

Дисперсию признака можно разложить на составляющие: часть, обусловленную действием общих факторов, — общность и часть, обусловленную действием j-го характера фактора, характерность Все переменные представлены в стандартизированном виде, поэтому дисперсий у-го признака Дисперсия признака может быть выражена через факторы и в конечном счёте через факторные нагрузки.

Если общие и характерные факторы не коррелируют между собой, то дисперсию j-го признака можно представить в виде

где —доля дисперсии признака приходящаяся на k-й фактор.

Полный вклад k-го фактора в суммарную дисперсию признаков

Вклад общих факторов в суммарную дисперсию

Факторное отображение

Используя модель (2.19), запишем выражения для каждого из параметров:

Коэффициенты системы (2,21) — факторные нагрузки — можно представить в виде матрицы, каждая строка которой соответствует параметру, а столбец — фактору.

Факторный анализ позволяет получить не только матрицу отображений, но и коэффициенты корреляции между параметрами и

факторами, что является важной характеристикой качества факторной модели. Таблица таких коэффициентов корреляции называется факторной структурой или просто структурой.

Коэффициенты отображения можно выразить через выборочные парные коэффициенты корреляции. На этом основаны методы вычисления факторного отображения.

Рассмотрим связь между элементами структуры и коэффициентами отображения. Для этого, учитывая выражение (2.19) и определение выборочного коэффициента корреляции, умножим уравнения системы (2.21) на соответствующие факторы, произведём суммирование по всем n наблюдениям и, разделив на n, получим следующую систему уравнений:

где — выборочный коэффициент корреляции между j-м параметром и к-
м фактором; — коэффициент корреляции между к-м и р-м факторами.

Если предположить, что общие факторы между собой, не коррелированы, то уравнения (2.22) можно записать в виде

, т.е. коэффициенты отображения равны
элементам структуры.

Введём понятие, остаточного коэффициента корреляции и остаточной корреляционной матрицы. Исходной информацией для построения факторной модели (2.19) служит матрица выборочных парных коэффициентов корреляции. Используя построенную факторную модель, можно снова вычислить коэффициенты корреляции между признаками и сравнись их с исходными Коэффициентами корреляции. Разница между ними и есть остаточный коэффициент корреляции.

В случае независимости факторов имеют место совсем простые выражения для вычисляемых коэффициентов корреляции между параметрами: для их вычисления достаточно взять сумму произведений коэффициентов отображения, соответствующих наблюдавшимся признакам:
где —вычисленный по отображению коэффициент корреляции между j-м
и к-м признаком. Остаточный коэффициент корреляции

Матрица остаточных коэффициентов корреляции называется остаточной матрицей или матрицей остатков

где — матрица остатков; R — матрица выборочных парных коэффициентов корреляции, или полная матрица; R’— матрица вычисленных по отображению коэффициентов корреляции.

Результаты факторного анализа удобно представить в виде табл. 2.10.

Здесь суммы квадратов нагрузок по строкам — общности параметров, а суммы квадратов нагрузок по столбцам — вклады факторов в суммарную дисперсию параметров. Имеет место соотношение

Определение факторных нагрузок

Матрицу факторных нагрузок можно получить различными способами. В настоящее время наибольшее распространение получил метод главных факторов. Этот метод основан на принципе последовательных приближений и позволяет достичь любой точности. Метод главных факторов предполагает использование ЭВМ. Существуют хорошие алгоритмы и программы, реализующие все вычислительные процедуры.

Введём понятие редуцированной корреляционной матрицы или просто редуцированной матрицы. Редуцированной называется матрица выборочных коэффициентов корреляции у которой на главной диагонали стоят значения общностей :

Редуцированная и полная матрицы связаны соотношением

где D — матрица характерностей.

Общности, как правило, неизвестны, и нахождение их в факторном анализе представляет серьезную проблему. Вначале определяют (хотя бы приближённо) число общих факторов, совокупность, которых может с достаточной точностью аппроксимировать все взаимосвязи выборочной корреляционной матрицы. Доказано, что число общих факторов (общностей) равно рангу редуцированной матрицы, а при известном ранге можно по выборочной корреляционной матрице найти оценки общностей. Числа общих факторов можно определить априори, исходя из физической природы эксперимента. Затем рассчитывают матрицу факторных нагрузок. Такая матрица, рассчитанная методом главных факторов, обладает одним интересным свойством: сумма произведений каждой пары её столбцов равна нулю, т.е. факторы попарно ортогональны.

Сама процедура нахождения факторных нагрузок, т.е. матрицы А, состоит из нескольких шагов и заключается в следующем: на первом шаге ищут коэффициенты факторных нагрузок при первом факторе так, чтобы сумма вкладов данного фактора в суммарную общность была максимальной:

Максимум должен быть найден при условии

где —общностьпараметра

Затем рассчитывают матрицу коэффициентов корреляции с учётом только первого фактора Имея эту матрицу, получают первую матрицу остатков:

На втором шаге определяют коэффициенты нагрузок при втором факторе так, чтобы сумма вкладов второго фактора в остаточную общность (т.е. полную общность без учёта той части, которая приходится на долю первого фактора) была максимальной. Сумма квадратов нагрузок при втором факторе

Максимум находят из условия

где — коэффициент корреляции из первой матрицы остатков; — факторные нагрузки с учётом второго фактора. Затем рассчитыва коэффициентов корреляций с учётом второго фактора и вычисляют вторую матрицу остатков:

Факторный анализ учитывает суммарную общность. Исходная суммарная общность Итерационный процесс выделения факторов заканчивают, когда учтённая выделенными факторами суммарная общность отличается от исходной суммарной общности меньше чем на — наперёд заданное малое число).

Адекватность факторной модели оценивается по матрице остатков (если величины её коэффициентов малы, то модель считают адекватной).

Такова последовательность шагов для нахождения факторных нагрузок. Для нахождения максимума функции (2.24) при условии (2.25) используют метод множителей Лагранжа, который приводит к системе т уравнений относительно m неизвестных

Метод главных компонент

Разновидностью метода главных факторов является метод главных компонент или компонентный анализ, который реализует модель вида

где m — количество параметров (признаков).

Каждый из наблюдаемых, параметров линейно зависит от m не коррелированных между собой новых компонент (факторов) По сравнению с моделью факторного анализа (2.19) в модели (2.28) отсутствует характерный фактор, т.е. считается, что вся вариация параметра может быть объяснена только действием общих или главных факторов. В случае компонентного анализа исходной является матрица коэффициентов корреляции, где на главной диагонали стоят единицы. Результатом компонентного анализа, так же как и факторного, является матрица факторных нагрузок. Поиск факторного решения — это ортогональное преобразование матрицы исходных переменных, в результате которого каждый параметр может быть представлен линейной комбинацией найденных m факторов, которые называют главными компонентами. Главные компоненты легко выражаются через наблюдённые параметры.

Если для дальнейшего анализа оставить все найденные т компонент, то тем самым будет использована вся информация, заложенная в корреляционной матрице. Однако это неудобно и нецелесообразно. На практике обычно оставляют небольшое число компонент, причём количество их определяется долей суммарной дисперсии, учитываемой этими компонентами. Существуют различные критерии для оценки числа оставляемых компонент; чаще всего используют следующий простой критерий: оставляют столько компонент, чтобы суммарная дисперсия, учитываемая ими, составляла заранее установленное число процентов. Первая из компонент должна учитывать максимум суммарной дисперсии параметров; вторая — не коррелировать с первой и учитывать максимум оставшейся дисперсии и так до тех пор, пока вся дисперсия не будет учтена. Сумма учтённых всеми компонентами дисперсий равна сумме дисперсий исходных параметров. Математический аппарат компонентного анализа полностью совпадает с аппаратом метода главных факторов. Отличие только в исходной матрице корреляций.

Компонента (или фактор) через исходные переменные выражается следующим образом:

где — элементы факторного решения:— исходные переменные; .— k-е собственное значение; р — количество оставленных главных
компонент.

Для иллюстрации возможностей факторного анализа покажем, как, используя метод главных компонент, можно сократить размерность пространства независимых переменных, перейдя от взаимно коррелированных параметров к независимым факторам, число которых р

Следует особо остановиться на интерпретации результатов, т.е. на смысловой стороне факторного анализа. Собственно факторный анализ состоит из двух важных этапов; аппроксимации корреляционной матрицы и интерпретации результатов. Аппроксимировать корреляционную матрицу, т.е. объяснить корреляцию между параметрами действием каких-либо общих для них факторов, и выделить сильно коррелирующие группы параметров достаточно просто: из корреляционной матрицы одним из методов

факторного анализа непосредственно получают матрицу нагрузок — факторное решение, которое называют прямым факторным решением. Однако часто это решение не удовлетворяет исследователей. Они хотят интерпретировать фактор как скрытый, но существенный параметр, поведение которого определяет поведение некоторой своей группы наблюдаемых параметров, в то время как, поведение других параметров определяется поведением других факторов. Для этого у каждого параметра должна быть наибольшая по модулю факторная нагрузка с одним общим фактором. Прямое решение следует преобразовать, что равносильно повороту осей общих факторов. Такие преобразования называют вращениями, в итоге получают косвенное факторное решение, которое и является результатом факторного анализа.

Приложения

Значение t — распределения Стьюдента

Понятие о регрессионном анализе. Линейная выборочная регрессия. Метод наименьших квадратов (МНК)

Основные задачи регрессионного анализа:

Вычисление выборочных коэффициентов регрессии
Проверка значимости коэффициентов регрессии
Проверка адекватности модели
Выбор лучшей регрессии
Вычисление стандартных ошибок, анализ остатков

Построение простой регрессии по экспериментальным данным.

Предположим, что случайные величины связаны линейной корреляционной зависимостью для отыскания которой проведено независимых измерений

Диаграмма рассеяния (разброса, рассеивания)

— координаты экспериментальных точек.

Выборочное уравнение прямой линии регрессии имеет вид

Задача: подобрать таким образом, чтобы экспериментальные точки как можно ближе лежали к прямой

Для того, что бы провести прямую воспользуемся МНК. Потребуем,

чтобы

Постулаты регрессионного анализа, которые должны выполняться при использовании МНК.

подчинены нормальному закону распределения.
Дисперсия постоянна и не зависит от номера измерения.
Результаты наблюдений в разных точках независимы.
Входные переменные независимы, неслучайны и измеряются без ошибок.

Введем функцию ошибок и найдём её минимальное значение

Решив систему, получим искомые значения

является несмещенными оценками истинных значений коэффициентов

где

несмещенная оценка корреляционного момента (ковариации),
несмещенная оценка дисперсии

выборочная ковариация,

выборочная дисперсия

— выборочный коэффициент корреляции

Коэффициент детерминации

— наблюдаемое экспериментальное значение при

— предсказанное значение удовлетворяющее уравнению регрессии

— средневыборочное значение

— коэффициент детерминации, доля изменчивости объясняемая рассматриваемой регрессионной моделью. Для парной линейной регрессии

Коэффициент детерминации принимает значения от 0 до 1. Чем ближе значение коэффициента к 1, тем сильнее зависимость. При оценке регрессионных моделей это используется для доказательства адекватности модели (качества регрессии). Для приемлемых моделей предполагается, что коэффициент детерминации должен быть хотя бы не меньше 0,5 (в этом случае коэффициент множественной корреляции превышает по модулю 0,7). Модели с коэффициентом детерминации выше 0,8 можно признать достаточно хорошими (коэффициент корреляции превышает 0,9). Подтверждение адекватности модели проводится на основе дисперсионного анализа путем проверки гипотезы о значимости коэффициента детерминации.

регрессия незначима

регрессия значима

— уровень значимости

— статистический критерий

Критическая область — правосторонняя;

Если то нулевая гипотеза отвергается на заданном уровне значимости, следовательно, коэффициент детерминации значим, следовательно, регрессия адекватна.

Мощность статистического критерия. Функция мощности

Определение. Мощностью критерия называют вероятность попадания критерия в критическую область при условии, что справедлива конкурирующая гипотеза.

Задача: построить критическую область таким образом, чтобы мощность критерия была максимальной.

Определение. Наилучшей критической областью (НКО) называют критическую область, которая обеспечивает минимальную ошибку второго рода

Пример:

По паспортным данным автомобиля расход топлива на 100 километров составляет 10 литров. В результате измерения конструкции двигателя ожидается, что расход топлива уменьшится. Для проверки были проведены испытания 25 автомобилей с модернизированным двигателем; выборочная средняя расхода топлива по результатам испытаний составила 9,3 литра. Предполагая, что выборка получена из нормально распределенной генеральной совокупности с математическим ожиданием и дисперсией проверить гипотезу, утверждающую, что изменение конструкции двигателя не повлияло на расход топлива.

3) Уровень значимости

4) Статистический критерий

5) Критическая область — левосторонняя

следовательно отвергается на уровне значимости

Пример:

В условиях примера 1 предположим, что наряду с рассматривается конкурирующая гипотеза а критическая область задана неравенством Найти вероятность ошибок I рода и II рода.

автомобилей имеют меньший расход топлива)

автомобилей, имеющих расход топлива 9л на 100 км, классифицируются как автомобили, имеющие расход 10 литров).

Определение. Пусть проверяется — критическая область критерия с заданным уровнем значимости Функцией мощности критерия называется вероятность отклонения как функция параметра т.е.

— ошибка 1-ого рода

— мощность критерия

Пример:

Построить график функции мощности из примера 2 для

попадает в критическую область.

Пример:

Какой минимальный объем выборки следует взять в условии примера 2 для того, чтобы обеспечить

Лемма Неймана-Пирсона.

При проверке простой гипотезы против простой альтернативной гипотезы наилучшая критическая область (НКО) критерия заданного уровня значимости состоит из точек выборочного пространства (выборок объема для которых справедливо неравенство:

— константа, зависящая от

— элементы выборки;

— функция правдоподобия при условии, что соответствующая гипотеза верна.

Пример:

Случайная величина имеет нормальное распределение с параметрами известно. Найти НКО для проверки против причем

Решение:

Ошибка первого рода:

НКО:

Пример:

Для зависимости заданной корреляционной табл. 13, найти оценки параметров уравнения линейной регрессии остаточную дисперсию; выяснить значимость уравнения регрессии при

Решение. Воспользуемся предыдущими результатами

Согласно формуле (24), уравнение регрессии будет иметь вид тогда

Для выяснения значимости уравнения регрессии вычислим суммы Составим расчетную таблицу:

Из (27) и (28) по данным таблицы получим

по табл. П7 находим

Вычислим статистику

Так как то уравнение регрессии значимо. Остаточная дисперсия равна

Корреляционный анализ
Статистические решающие функции
Случайные процессы
Выборочный метод
Проверка гипотезы о равенстве вероятностей
Доверительный интервал для математического ожидания
Доверительный интервал для дисперсии
Проверка статистических гипотез

Источник

Когда мы подгоняем регрессионную модель к набору данных, нас часто интересует, насколько хорошо регрессионная модель «подходит» к набору данных. Две метрики, обычно используемые для измерения согласия, включают R -квадрат (R2) и стандартную ошибку регрессии , часто обозначаемую как S.

В этом руководстве объясняется, как интерпретировать стандартную ошибку регрессии (S), а также почему она может предоставить более полезную информацию, чем R 2 .

Стандартная ошибка по сравнению с R-квадратом в регрессии

Предположим, у нас есть простой набор данных, который показывает, сколько часов 12 студентов занимались в день в течение месяца, предшествующего важному экзамену, а также их баллы за экзамен:

Если мы подгоним простую модель линейной регрессии к этому набору данных в Excel, мы получим следующий результат:

R-квадрат — это доля дисперсии переменной отклика, которая может быть объяснена предикторной переменной. При этом 65,76% дисперсии экзаменационных баллов можно объяснить количеством часов, потраченных на учебу.

Стандартная ошибка регрессии — это среднее расстояние, на которое наблюдаемые значения отклоняются от линии регрессии. В этом случае наблюдаемые значения отклоняются от линии регрессии в среднем на 4,89 единицы.

Если мы нанесем фактические точки данных вместе с линией регрессии, мы сможем увидеть это более четко:

Обратите внимание, что некоторые наблюдения попадают очень близко к линии регрессии, в то время как другие не так близки. Но в среднем наблюдаемые значения отклоняются от линии регрессии на 4,19 единицы .

Стандартная ошибка регрессии особенно полезна, поскольку ее можно использовать для оценки точности прогнозов. Примерно 95% наблюдений должны находиться в пределах +/- двух стандартных ошибок регрессии, что является быстрым приближением к 95% интервалу прогнозирования.

Если мы заинтересованы в прогнозировании с использованием модели регрессии, стандартная ошибка регрессии может быть более полезной метрикой, чем R-квадрат, потому что она дает нам представление о том, насколько точными будут наши прогнозы в единицах измерения.

Чтобы проиллюстрировать, почему стандартная ошибка регрессии может быть более полезной метрикой для оценки «соответствия» модели, рассмотрим другой пример набора данных, который показывает, сколько часов 12 студентов занимались в день в течение месяца, предшествующего важному экзамену, а также их экзаменационная оценка:

Обратите внимание, что это точно такой же набор данных, как и раньше, за исключением того, что все значения s сокращены вдвое.Таким образом, студенты из этого набора данных учились ровно в два раза дольше, чем студенты из предыдущего набора данных, и получили ровно половину экзаменационного балла.

Обратите внимание, что R-квадрат 65,76% точно такой же, как и в предыдущем примере.

Однако стандартная ошибка регрессии составляет 2,095 , что ровно вдвое меньше стандартной ошибки регрессии в предыдущем примере.

Если мы нанесем фактические точки данных вместе с линией регрессии, мы сможем увидеть это более четко:

Обратите внимание на то, что наблюдения располагаются гораздо плотнее вокруг линии регрессии. В среднем наблюдаемые значения отклоняются от линии регрессии на 2,095 единицы .

Таким образом, несмотря на то, что обе модели регрессии имеют R-квадрат 65,76% , мы знаем, что вторая модель будет давать более точные прогнозы, поскольку она имеет более низкую стандартную ошибку регрессии.

Преимущества использования стандартной ошибки

Стандартную ошибку регрессии (S) часто бывает полезнее знать, чем R-квадрат модели, потому что она дает нам фактические единицы измерения. Если мы заинтересованы в использовании регрессионной модели для получения прогнозов, S может очень легко сказать нам, достаточно ли точна модель для прогнозирования.

Например, предположим, что мы хотим создать 95-процентный интервал прогнозирования, в котором мы можем прогнозировать результаты экзаменов с точностью до 6 баллов от фактической оценки.

Наша первая модель имеет R-квадрат 65,76%, но это ничего не говорит нам о том, насколько точным будет наш интервал прогнозирования. К счастью, мы также знаем, что у первой модели показатель S равен 4,19. Это означает, что 95-процентный интервал прогнозирования будет иметь ширину примерно 2*4,19 = +/- 8,38 единиц, что слишком велико для нашего интервала прогнозирования.

Наша вторая модель также имеет R-квадрат 65,76%, но опять же это ничего не говорит нам о том, насколько точным будет наш интервал прогнозирования. Однако мы знаем, что вторая модель имеет S 2,095. Это означает, что 95-процентный интервал прогнозирования будет иметь ширину примерно 2*2,095= +/- 4,19 единиц, что меньше 6 и, следовательно, будет достаточно точным для использования для создания интервалов прогнозирования.

Дальнейшее чтение

Введение в простую линейную регрессию
Что такое хорошее значение R-квадрата?

Источник

Регрессия позволяет прогнозировать зависимую переменную на основании значений фактора. В

MS

EXCEL

имеется множество функций, которые возвращают не только наклон и сдвиг линии регрессии, характеризующей линейную взаимосвязь между факторами, но и регрессионную статистику. Здесь рассмотрим простую линейную регрессию, т.е. прогнозирование на основе одного фактора.

Disclaimer

: Данную статью не стоит рассматривать, как пересказ главы из учебника по статистике. Статья не обладает ни полнотой, ни строгостью изложения положений статистической науки. Эта статья – о применении MS EXCEL для целей

Регрессионного анализа.

Теоретические отступления приведены лишь из соображения логики изложения. Использование данной статьи для изучения

Регрессии

– плохая идея.

Статья про

Регрессионный анализ

получилась большая, поэтому ниже для удобства приведены ее разделы:

Немного теории и основные понятия
Предположения линейной регрессионной модели
Задачи регрессионного анализа
Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
Оценка неизвестных параметров линейной модели (через статистики выборок)
Оценка неизвестных параметров линейной модели (матричная форма)
Построение линии регрессии
Коэффициент детерминации
Стандартная ошибка регрессии
Стандартные ошибки и доверительные интервалы для наклона и сдвига
Проверка значимости взаимосвязи переменных
Доверительные интервалы для нового наблюдения Y и среднего значения
Проверка адекватности линейной регрессионной модели

Примечание

: Если прогнозирование переменной осуществляется на основе нескольких факторов, то имеет место

множественная регрессия

Чтобы разобраться, чем может помочь MS EXCEL при проведении регрессионного анализа, напомним вкратце теорию, введем термины и обозначения, которые могут отличаться в зависимости от различных источников.

Примечание

: Для тех, кому некогда, незачем или просто не хочется разбираться в теоретических выкладках предлагается сразу перейти к вычислительной части —

оценке неизвестных параметров линейной модели

Немного теории и основные понятия

Пусть у нас есть массив данных, представляющий собой значения двух переменных Х и Y. Причем значения переменной Х мы можем произвольно задавать (контролировать) и использовать эту переменную для предсказания значений зависимой переменной Y. Таким образом, случайной величиной является только переменная Y.

Примером такой задачи может быть производственный процесс изготовления некого волокна, причем

прочность этого волокна

(Y) зависит только от

рабочей температуры процесса

в реакторе (Х), которая задается оператором.

Построим

диаграмму рассеяния

(см.

файл примера лист Линейный

), созданию которой

посвящена отдельная статья

. Вообще, построение

диаграммы рассеяния

для целей

регрессионного анализа

де-факто является стандартом.

СОВЕТ

: Подробнее о построении различных типов диаграмм см. статьи

Основы построения диаграмм

Основные типы диаграмм

Приведенная выше

диаграмма рассеяния

свидетельствует о возможной

линейной взаимосвязи

между Y от Х: очевидно, что точки данных в основном располагаются вдоль прямой линии.

Примечание

: Наличие даже такой очевидной

линейной взаимосвязи

не может являться доказательством о наличии причинной взаимосвязи переменных. Наличие

причинной

взаимосвязи не может быть доказано на основании только анализа имеющихся измерений, а должно быть обосновано с помощью других исследований, например теоретических выкладок.

Примечание

: Как известно, уравнение прямой линии имеет вид

Y

=

m

*

X

+

k

, где коэффициент

m

отвечает за наклон линии (

slope

),

k

– за сдвиг линии по вертикали (

intercept

),

k

равно значению Y при Х=0.

Предположим, что мы можем зафиксировать переменную Х (

рабочую температуру процесса

) при некотором значении Х
_i
и произвести несколько наблюдений переменной Y (

прочность нити

). Очевидно, что при одном и том же значении Хi мы получим различные значения Y. Это обусловлено влиянием других факторов на Y. Например, локальные колебания давления в реакторе, концентрации раствора, наличие ошибок измерения и др. Предполагается, что воздействие этих факторов имеет случайную природу и для каждого измерения имеются одинаковые условия проведения эксперимента (т.е. другие факторы не изменяются).

Полученные значения Y, при заданном Хi, будут колебаться вокруг некого

значения

. При увеличении количества измерений, среднее этих измерений, будет стремиться к

математическому ожиданию

случайной величины Y (при Х
_i
) равному μy(i)=Е(Y
_i
).

Подобные рассуждения можно привести для любого значения Хi.

Чтобы двинуться дальше, воспользуемся материалом из раздела

Проверка статистических гипотез

. В статье о

проверке гипотезы о среднем значении генеральной совокупности

в качестве

нулевой

гипотезы

предполагалось равенство неизвестного значения μ заданному μ0.

В нашем случае

простой линейной регрессии

в качестве

нулевой

гипотезы

предположим, что между переменными μy(i) и Хi существует линейная взаимосвязь μ
_y(i)
=α* Х
_i
+β. Уравнение μ
_y(i)
=α* Х
_i
+β можно переписать в обобщенном виде (для всех Х и μ
_y
) как μ
_y
=α* Х +β.

Для наглядности проведем прямую линию соединяющую все μy(i).

Данная линия называется

регрессионной линией генеральной совокупности

(population regression line), параметры которой (

наклон

a и

сдвиг β

) нам не известны (по аналогии с

гипотезой о среднем значении генеральной совокупности

, где нам было неизвестно истинное значение μ).

Теперь сделаем переход от нашего предположения, что μy=a* Х +

β

, к предсказанию значения случайной переменной Y в зависимости от значения контролируемой переменной Х. Для этого уравнение связи двух переменных запишем в виде Y=a*X+β+ε, где ε — случайная ошибка, которая отражает суммарный эффект влияния других факторов на Y (эти «другие» факторы не участвуют в нашей модели). Напомним, что т.к. переменная Х фиксирована, то ошибка ε определяется только свойствами переменной Y.

Уравнение Y=a*X+b+ε называют

линейной регрессионной моделью

. Часто Х еще называют

независимой переменной

(еще

предиктором

и

регрессором

, английский термин

predictor

,

regressor

), а Y –

зависимой

(или

объясняемой

,

response

variable

). Так как

регрессор

у нас один, то такая модель называется

простой линейной регрессионной моделью

(

simple

linear

regression

model

). α часто называют

коэффициентом регрессии.

Предположения линейной регрессионной модели перечислены в следующем разделе.

Предположения линейной регрессионной модели

Чтобы модель линейной регрессии Yi=a*Xi+β+ε
_i
была адекватной — требуется:

Ошибки ε
_i
должны быть независимыми переменными;
При каждом значении Xi ошибки ε
_i
должны быть иметь нормальное распределение (также предполагается равенство нулю математического ожидания, т.е. Е[ε
_i
]=0);
При каждом значении Xi ошибки ε
_i
должны иметь равные дисперсии (обозначим ее σ
²
).

Примечание

: Последнее условие называется

гомоскедастичность

— стабильность, гомогенность дисперсии случайной ошибки e. Т.е.

дисперсия

ошибки σ
²
не должна зависеть от значения Xi.

Используя предположение о равенстве математического ожидания Е[ε
_i
]=0 покажем, что μy(i)=Е[Yi]:

Е[Yi]= Е[a*Xi+β+ε
_i
]= Е[a*Xi+β]+ Е[ε
_i
]= a*Xi+β= μy(i), т.к. a, Xi и β постоянные значения.

Дисперсия

случайной переменной Y равна

дисперсии

ошибки ε, т.е. VAR(Y)= VAR(ε)=σ
²
. Это является следствием, что все значения переменной Х являются const, а VAR(ε)=VAR(ε
_i
).

Задачи регрессионного анализа

Для проверки гипотезы о линейной взаимосвязи переменной Y от X делают выборку из генеральной совокупности (этой совокупности соответствует

регрессионная линия генеральной совокупности

, т.е. μy=a* Х +β). Выборка будет состоять из n точек, т.е. из n пар значений {X;Y}.

На основании этой выборки мы можем вычислить оценки наклона a и сдвига β, которые обозначим соответственно

a

и

b

. Также часто используются обозначения â и b̂.

Далее, используя эти оценки, мы также можем проверить гипотезу: имеется ли линейная связь между X и Y статистически значимой?

Таким образом:

Первая задача

регрессионного анализа

– оценка неизвестных параметров (

estimation

of

the

unknown

parameters

). Подробнее см. раздел

Оценки неизвестных параметров модели

Вторая задача

регрессионного анализа

–

Проверка адекватности модели

(

model

adequacy

checking

).

Примечание

: Оценки параметров модели обычно вычисляются

методом наименьших квадратов

(МНК),

которому посвящена отдельная статья

Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)

Неизвестные параметры

простой линейной регрессионной модели

Y=a*X+β+ε оценим с помощью

метода наименьших квадратов

(в

статье про МНК подробно описано этот метод

Для вычисления параметров линейной модели методом МНК получены следующие выражения:

Таким образом, мы получим уравнение прямой линии Y=

a

*X+

b

, которая наилучшим образом аппроксимирует имеющиеся данные.

Примечание

: В статье про

метод наименьших квадратов

рассмотрены случаи аппроксимации

линейной

квадратичной функцией

, а также

степенной

логарифмической

экспоненциальной функцией

Оценку параметров в MS EXCEL можно выполнить различными способами:

с помощью функций

НАКЛОН()

и

ОТРЕЗОК()

;
с помощью функции

ЛИНЕЙН()

; см. статью

Функция MS EXCEL ЛИНЕЙН()
формулами через статистики выборок

;
в матричной форме

;
с помощью

инструмента Регрессия надстройки Пакет Анализа

.

Сначала рассмотрим функции

НАКЛОН()

,

ОТРЕЗОК()

и

ЛИНЕЙН()

.

Пусть значения Х и Y находятся соответственно в диапазонах

C

23:

C

83

и

B

23:

B

83

(см.

файл примера

внизу статьи).

Примечание

: Значения двух переменных Х и Y можно сгенерировать, задав тренд и величину случайного разброса (см. статью

Генерация данных для линейной регрессии в MS EXCEL

В MS EXCEL наклон прямой линии

а

(

оценку

коэффициента регрессии

), можно найти по

методу МНК

с помощью функции

НАКЛОН()

, а сдвиг

b

(

оценку

постоянного члена

или

константы регрессии

), с помощью функции

ОТРЕЗОК()

. В английской версии это функции SLOPE и INTERCEPT соответственно.

Аналогичный результат можно получить с помощью функции

ЛИНЕЙН()

, английская версия LINEST (см.

статью об этой функции

Формула

=ЛИНЕЙН(C23:C83;B23:B83)

вернет наклон

а

. А формула =

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2)

— сдвиг

b

. Здесь требуются пояснения.

Функция

ЛИНЕЙН()

имеет 4 аргумента и возвращает целый массив значений:

ЛИНЕЙН(известные_значения_y; [известные_значения_x]; [конст]; [статистика])

Если 4-й аргумент

статистика

имеет значение ЛОЖЬ или опущен, то функция

ЛИНЕЙН()

возвращает только оценки параметров модели:

a

и

b

.

Примечание

: Остальные значения, возвращаемые функцией

ЛИНЕЙН()

, нам потребуются при вычислении

стандартных ошибок

и для

проверки значимости регрессии

. В этом случае аргумент

статистика

должен иметь значение ИСТИНА.

Чтобы вывести сразу обе оценки:

в одной строке необходимо выделить 2 ячейки,
ввести формулу в

Строке формул
нажать

CTRL

+

SHIFT

+

ENTER

(см. статью про

формулы массива

).

Если в

Строке формул

выделить формулу =

ЛИНЕЙН(C23:C83;B23:B83)

и нажать

клавишу F9

, то мы увидим что-то типа {3,01279389265416;154,240057900613}. Это как раз значения

a

и

b

. Как видно, оба значения разделены точкой с запятой «;», что свидетельствует, что функция вернула значения «в нескольких ячейках одной строки».

Если требуется вывести параметры линии не в одной строке, а одном столбце (ячейки друг под другом), то используйте формулу =

ТРАНСП(ЛИНЕЙН(C23:C83;B23:B83))

. При этом выделять нужно 2 ячейки в одном столбце. Если теперь выделить новую формулу и нажать клавишу F9, то мы увидим что 2 значения разделены двоеточием «:», что означает, что значения выведены в столбец (функция

ТРАНСП()

транспонировала строку в столбец

Чтобы разобраться в этом подробнее необходимо ознакомиться с

формулами массива

Чтобы не связываться с вводом

формул массива

, можно

использовать функцию ИНДЕКС()

. Формула =

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);1)

или просто

ЛИНЕЙН(C23:C83;B23:B83)

вернет параметр, отвечающий за наклон линии, т.е.

а

. Формула

=ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2)

вернет параметр

b

.

Оценка неизвестных параметров линейной модели (через статистики выборок)

Наклон линии, т.е. коэффициент

а

, можно также вычислить через

коэффициент корреляции

стандартные отклонения выборок

=

КОРРЕЛ(B23:B83;C23:C83) *(СТАНДОТКЛОН.В(C23:C83)/ СТАНДОТКЛОН.В(B23:B83))

Вышеуказанная формула математически эквивалентна отношению

ковариации

выборок Х и Y и

дисперсии

выборки Х:

=

КОВАРИАЦИЯ.В(B23:B83;C23:C83)/ДИСП.В(B23:B83)

И, наконец, запишем еще одну формулу для нахождения сдвига

b

. Воспользуемся тем фактом, что

линия регрессии

проходит через точку

средних значений

переменных Х и Y.

Вычислив

средние значения

и подставив в формулу ранее найденный наклон

а

, получим сдвиг

b

.

Оценка неизвестных параметров линейной модели (матричная форма)

Также параметры

линии регрессии

можно найти в матричной форме (см.

файл примера лист Матричная форма

).

В формуле символом β обозначен столбец с искомыми параметрами модели: β0 (сдвиг

b

), β1 (наклон

a

).

Матрица Х равна:

Матрица

Х

называется

регрессионной матрицей

или

матрицей плана

. Она состоит из 2-х столбцов и n строк, где n – количество точек данных. Первый столбец — столбец единиц, второй – значения переменной Х.

Матрица

Х
^T
– это

транспонированная матрица

Х

. Она состоит соответственно из n столбцов и 2-х строк.

В формуле символом

Y

обозначен столбец значений переменной Y.

Чтобы

перемножить матрицы

используйте функцию

МУМНОЖ()

. Чтобы

найти обратную матрицу

используйте функцию

МОБР()

.

Пусть дан массив значений переменных Х и Y (n=10, т.е.10 точек).

Слева от него достроим столбец с 1 для матрицы Х.

Записав формулу

=

МУМНОЖ(МОБР(МУМНОЖ(ТРАНСП(B7:C16);(B7:C16))); МУМНОЖ(ТРАНСП(B7:C16);(D7:D16)))

и введя ее как

формулу массива

в 2 ячейки, получим оценку параметров модели.

Красота применения матричной формы полностью раскрывается в случае

множественной регрессии

Построение линии регрессии

Для отображения

линии регрессии

построим сначала

диаграмму рассеяния

, на которой отобразим все точки (см.

начало статьи

Для построения прямой линии используйте вычисленные выше оценки параметров модели

a

и

b

(т.е. вычислите

у

по формуле

y

=

a

*

x

+

b

) или функцию

ТЕНДЕНЦИЯ()

.

Формула =

ТЕНДЕНЦИЯ($C$23:$C$83;$B$23:$B$83;B23)

возвращает расчетные (прогнозные) значения ŷi для заданного значения Хi из столбца

В2

.

Примечание

:

Линию регрессии

можно также построить с помощью функции

ПРЕДСКАЗ()

. Эта функция возвращает прогнозные значения ŷi, но, в отличие от функции

ТЕНДЕНЦИЯ()

работает только в случае одного регрессора. Функция

ТЕНДЕНЦИЯ()

может быть использована и в случае

множественной регрессии

(в этом случае 3-й аргумент функции должен быть ссылкой на диапазон, содержащий все значения Хi для выбранного наблюдения i).

Как видно из диаграммы выше

линия тренда

и

линия регрессии

не обязательно совпадают: отклонения точек от

линии тренда

случайны, а МНК лишь подбирает линию наиболее точно аппроксимирующую случайные точки данных.

Линию регрессии

можно построить и с помощью встроенных средств диаграммы, т.е. с помощью инструмента

Линия тренда.

Для этого выделите диаграмму, в меню выберите

вкладку Макет

, в

группе Анализ

нажмите

Линия тренда

, затем

Линейное приближение.

В диалоговом окне установите галочку

Показывать уравнение на диаграмме

(подробнее см. в

статье про МНК

Построенная таким образом линия, разумеется, должна совпасть с ранее построенной нами

линией регрессии,

а параметры уравнения

a

и

b

должны совпасть с параметрами уравнения отображенными на диаграмме.

Примечание:

Для того, чтобы вычисленные параметры уравнения

a

и

b

совпадали с параметрами уравнения на диаграмме, необходимо, чтобы тип у диаграммы был

Точечная, а не График

, т.к. тип диаграммы

График

не использует значения Х, а вместо значений Х используется последовательность 1; 2; 3; … Именно эти значения и берутся при расчете параметров

линии тренда

. Убедиться в этом можно если построить диаграмму

График

(см.

файл примера

), а значения

Хнач

и

Хшаг

установить равным 1. Только в этом случае параметры уравнения на диаграмме совпадут с

a

и

b

.

Коэффициент детерминации R
²

Коэффициент детерминации

R
²
показывает насколько полезна построенная нами

линейная регрессионная модель

.

Предположим, что у нас есть n значений переменной Y и мы хотим предсказать значение yi, но без использования значений переменной Х (т.е. без построения

регрессионной модели

). Очевидно, что лучшей оценкой для yi будет

среднее значение

ȳ. Соответственно, ошибка предсказания будет равна (yi — ȳ).

Примечание

: Далее будет использована терминология и обозначения

дисперсионного анализа

После построения

регрессионной модели

для предсказания значения yi мы будем использовать значение ŷi=a*xi+b. Ошибка предсказания теперь будет равна (yi — ŷi).

Теперь с помощью диаграммы сравним ошибки предсказания полученные без построения модели и с помощью модели.

Очевидно, что используя

регрессионную модель

мы уменьшили первоначальную (полную) ошибку (yi — ȳ) на значение (ŷi — ȳ) до величины (yi — ŷi).

(yi — ŷi) – это оставшаяся, необъясненная ошибка.

Очевидно, что все три ошибки связаны выражением:

(yi — ȳ)= (ŷi — ȳ) + (yi — ŷi)

Можно показать, что в общем виде справедливо следующее выражение:

Доказательство:

или в других, общепринятых в зарубежной литературе, обозначениях:

SST

=

SSR

+

SSE

Что означает:

Total Sum of Squares

=

Regression Sum of Squares

+

Error Sum of Squares

Примечание

: SS — Sum of Squares — Сумма Квадратов.

Как видно из формулы величины SST, SSR, SSE имеют размерность

дисперсии

(вариации) и соответственно описывают разброс (изменчивость):

Общую изменчивость

(Total variation),

Изменчивость объясненную моделью

(Explained variation) и

Необъясненную изменчивость

(Unexplained variation).

По определению

коэффициент детерминации

R
²
равен:

R
²
=

Изменчивость объясненная моделью / Общая изменчивость.

Этот показатель равен квадрату

коэффициента корреляции

и в MS EXCEL его можно вычислить с помощью функции

КВПИРСОН()

или

ЛИНЕЙН()

:

=

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83;;ИСТИНА);3)

R
₂
принимает значения от 0 до 1 (1 соответствует идеальной линейной зависимости Y от Х). Однако, на практике малые значения R2 вовсе не обязательно указывают, что переменную Х нельзя использовать для прогнозирования переменной Y. Малые значения R2 могут указывать на нелинейность связи или на то, что поведение переменной Y объясняется не только Х, но и другими факторами.

Стандартная ошибка регрессии

Стандартная ошибка регрессии

(

Standard Error of a regression

) показывает насколько велика ошибка предсказания значений переменной Y на основании значений Х. Отдельные значения Yi мы можем предсказывать лишь с точностью +/- несколько значений (обычно 2-3, в зависимости от формы распределения ошибки ε).

Теперь вспомним уравнение

линейной регрессионной модели

Y=a*X+β+ε. Ошибка ε имеет случайную природу, т.е. является случайной величиной и поэтому имеет свою функцию распределения со

средним значением

μ и

дисперсией

σ
²
.

Оценив значение

дисперсии

σ
²
и вычислив из нее квадратный корень – получим

Стандартную ошибку регрессии.

Чем точки наблюдений на диаграмме

рассеяния

ближе находятся к прямой линии, тем меньше

Стандартная ошибка.

Примечание

:

Вспомним

, что при построении модели предполагается, что

среднее значение

ошибки ε равно 0, т.е. E[ε]=0.

Оценим

дисперсию σ
²
. Помимо вычисления

Стандартной ошибки регрессии

эта оценка нам потребуется в дальнейшем еще и при построении

доверительных интервалов

для оценки параметров регрессии

a

и

b

.

Для оценки

дисперсии

ошибки ε используем

остатки регрессии

— разности между имеющимися значениями

yi

и значениями, предсказанными регрессионной моделью ŷ. Чем лучше регрессионная модель согласуется с данными (точки располагается близко к прямой линии), тем меньше величина остатков.

Для оценки

дисперсии σ
²
используют следующую формулу:

где SSE – сумма квадратов значений ошибок модели ε
_i
=yi — ŷi (

Sum of Squared Errors

).

SSE часто обозначают и как SSres – сумма квадратов остатков (

Sum

of

Squared

residuals

).

Оценка

дисперсии

s
²
также имеет общепринятое обозначение MSE (Mean Square of Errors), т.е. среднее квадратов

ошибок

или MSRES (Mean Square of Residuals), т.е. среднее квадратов

остатков

. Хотя правильнее говорить сумме квадратов остатков, т.к. ошибка чаще ассоциируется с ошибкой модели ε, которая является непрерывной случайной величиной. Но, здесь мы будем использовать термины SSE и MSE, предполагая, что речь идет об остатках.

Примечание

: Напомним, что когда

мы использовали МНК

для нахождения параметров модели, то критерием оптимизации была минимизация именно SSE (SSres). Это выражение представляет собой сумму квадратов расстояний между наблюденными значениями yi и предсказанными моделью значениями ŷi, которые лежат на

линии регрессии.

Математическое ожидание

случайной величины MSE равно

дисперсии ошибки

ε, т.е.

σ
²
.

Чтобы понять почему SSE выбрана в качестве основы для оценки

дисперсии

ошибки ε, вспомним, что

σ
²
является также

дисперсией

случайной величины Y (относительно

среднего значения

μy, при заданном значении Хi). А т.к. оценкой μy является значение ŷi =

a

* Хi +

b

(значение

уравнения регрессии

при Х= Хi), то логично использовать именно SSE в качестве основы для оценки

дисперсии

σ
²
. Затем SSE усредняется на количество точек данных n за вычетом числа 2. Величина n-2 – это количество

степеней свободы

(

df

–

degrees

of

freedom

), т.е. число параметров системы, которые могут изменяться независимо (вспомним, что у нас в этом примере есть n независимых наблюдений переменной Y). В случае

простой линейной регрессии

число степеней свободы

равно n-2, т.к. при построении

линии регрессии

было оценено 2 параметра модели (на это было «потрачено» 2

степени свободы

).

Итак, как сказано было выше, квадратный корень из s
²
имеет специальное название

Стандартная ошибка регрессии

(

Standard Error of a regression

) и обозначается SEy. SEy показывает насколько велика ошибка предсказания. Отдельные значения Y мы можем предсказывать с точностью +/- несколько значений SEy (см.

этот раздел

). Если ошибки предсказания ε имеют

нормальное распределение

, то примерно 2/3 всех предсказанных значений будут на расстоянии не больше SEy от

линии регрессии

. SEy имеет размерность переменной Y и откладывается по вертикали. Часто на

диаграмме рассеяния

строят

границы предсказания

соответствующие +/- 2 SEy (т.е. 95% точек данных будут располагаться в пределах этих границ).

В MS EXCEL

стандартную ошибку

SEy можно вычислить непосредственно по формуле:

=

КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))

или с помощью функции

ЛИНЕЙН()

:

=

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83;;ИСТИНА);3;2)

Примечание

: Подробнее о функции

ЛИНЕЙН()

см.

эту статью

Стандартные ошибки и доверительные интервалы для наклона и сдвига

В разделе

Оценка неизвестных параметров линейной модели

мы получили точечные оценки наклона

а

и сдвига

b

. Так как эти оценки получены на основе случайных величин (значений переменных Х и Y), то эти оценки сами являются случайными величинами и соответственно имеют функцию распределения со

средним значением

и

дисперсией

. Но, чтобы перейти от

точечных оценок

к

интервальным

, необходимо вычислить соответствующие

стандартные ошибки

(т.е.

стандартные отклонения

).

Стандартная ошибка коэффициента регрессии

a

вычисляется на основании

стандартной ошибки регрессии

по следующей формуле:

где Sx – стандартное отклонение величины х, вычисляемое по формуле:

где Sey –

стандартная ошибка регрессии,

т.е. ошибка предсказания значения переменой Y

(

см. выше

В MS EXCEL

стандартную ошибку коэффициента регрессии

Se можно вычислить впрямую по вышеуказанной формуле:

=

КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))/ СТАНДОТКЛОН.В(B23:B83) /КОРЕНЬ(СЧЁТ(B23:B83) -1)

или с помощью функции

ЛИНЕЙН()

:

=

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83;;ИСТИНА);2;1)

Формулы приведены в

файле примера на листе Линейный

в разделе

Регрессионная статистика

.

Примечание

: Подробнее о функции

ЛИНЕЙН()

см.

эту статью

При построении

двухстороннего доверительного интервала

для

коэффициента регрессии

его границы определяются следующим образом:

где —

квантиль распределения Стьюдента

с n-2 степенями свободы. Величина

а

с «крышкой» является другим обозначением

наклона

а

.

Например для

уровня значимости

альфа=0,05, можно вычислить с помощью формулы

=СТЬЮДЕНТ.ОБР.2Х(0,05;n-2)

Вышеуказанная формула следует из того факта, что если ошибки регрессии распределены нормально и независимо, то выборочное распределение случайной величины

является

t-распределением Стьюдента

с n-2 степенью свободы (то же справедливо и для наклона

b

).

Примечание

: Подробнее о построении

доверительных интервалов

в MS EXCEL можно прочитать в этой статье

Доверительные интервалы в MS EXCEL

В результате получим, что найденный

доверительный интервал

с вероятностью 95% (1-0,05) накроет истинное значение

коэффициента регрессии.

Здесь мы считаем, что

коэффициент регрессии

a

имеет

распределение Стьюдента

с n-2

степенями свободы

(n – количество наблюдений, т.е. пар Х и Y).

Примечание

: Подробнее о построении

доверительных интервалов

с использованием t-распределения см. статью про построение

доверительных интервалов

для среднего

Стандартная ошибка сдвига

b

вычисляется по следующей формуле:

В MS EXCEL

стандартную ошибку сдвига

Seb можно вычислить с помощью функции

ЛИНЕЙН()

:

=

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83;;ИСТИНА);2;2)

При построении

двухстороннего доверительного интервала

для

сдвига

его границы определяются аналогичным образом как для

наклона

:

b

+/- t*Seb.

Проверка значимости взаимосвязи переменных

Когда мы строим модель Y=αX+β+ε мы предполагаем, что между Y и X существует линейная взаимосвязь. Однако, как это иногда бывает в статистике, можно вычислять параметры связи даже тогда, когда в действительности она не существует, и обусловлена лишь случайностью.

Единственный вариант, когда Y не зависит X (в рамках модели Y=αX+β+ε), возможен, когда

коэффициент регрессии

a

равен 0.

Чтобы убедиться, что вычисленная нами оценка

наклона

прямой линии не обусловлена лишь случайностью (не случайно отлична от 0), используют

проверку гипотез

. В качестве

нулевой гипотезы

Н
₀
принимают, что связи нет, т.е. a=0. В качестве альтернативной гипотезы

Н
₁
принимают, что a <>0.

Ниже на рисунках показаны 2 ситуации, когда

нулевую гипотезу

Н
₀
не удается отвергнуть.

На левой картинке отсутствует любая зависимость между переменными, на правой – связь между ними нелинейная, но при этом

коэффициент линейной корреляции

равен 0.

Ниже — 2 ситуации, когда

нулевая гипотеза

Н
₀
отвергается.

На левой картинке очевидна линейная зависимость, на правой — зависимость нелинейная, но коэффициент корреляции не равен 0 (метод МНК вычисляет показатели наклона и сдвига просто на основании значений выборки).

Для проверки гипотезы нам потребуется:

Установить

уровень значимости

, пусть альфа=0,05;
Рассчитать с помощью функции

ЛИНЕЙН()

стандартное отклонение

Se для

коэффициента регрессии

(см.

предыдущий раздел

);
Рассчитать число степеней свободы: DF=n-2 или по формуле =

ИНДЕКС(ЛИНЕЙН(C24:C84;B24:B84;;ИСТИНА);4;2)
Вычислить значение тестовой статистики t
₀
=a/S
_e
, которая имеет

распределение Стьюдента

с

числом степеней свободы

DF=n-2;
Сравнить значение

тестовой статистики

|t0| с пороговым значением t
_альфа
,n-2. Если значение

тестовой статистики

больше порогового значения, то

нулевая гипотеза

отвергается (

наклон

не может быть объяснен лишь случайностью при заданном уровне альфа) либо
вычислить

p-значение

и сравнить его с

уровнем значимости

.

В

файле примера

приведен пример проверки гипотезы:

Изменяя

наклон

тренда k (ячейка

В8

) можно убедиться, что при малых углах тренда (например, 0,05) тест часто показывает, что связь между переменными случайна. При больших углах (k>1), тест практически всегда подтверждает значимость линейной связи между переменными.

Примечание

: Проверка значимости взаимосвязи эквивалентна

проверке статистической значимости коэффициента корреляции

. В

файле примера

показана эквивалентность обоих подходов. Также проверку значимости можно провести с помощью

процедуры F-тест

Доверительные интервалы для нового наблюдения Y и среднего значения

Вычислив параметры

простой линейной регрессионной модели

Y=aX+β+ε мы получили точечную оценку значения нового наблюдения Y при заданном значении Хi, а именно: Ŷ=

a

* Хi +

b

Ŷ также является точечной оценкой для

среднего значения

Yi при заданном Хi. Но, при построении

доверительных интервалов

используются различные

стандартные ошибки

.

Стандартная ошибка

нового наблюдения Y при заданном Хi учитывает 2 источника неопределенности:

неопределенность связанную со случайностью оценок параметров модели

a

и

b

;
случайность ошибки модели ε.

Учет этих неопределенностей приводит к

стандартной ошибке

S(Y|Xi), которая рассчитывается с учетом известного значения Xi.

где SS
_xx
– сумма квадратов отклонений от

среднего

значений переменной Х:

Примечание

: Se –

стандартная ошибка коэффициента регрессии

(

наклона

а

).

MS EXCEL 2010

нет функции, которая бы рассчитывала эту

стандартную ошибку

, поэтому ее необходимо рассчитывать по вышеуказанным формулам.

Доверительный интервал

или

Интервал предсказания для нового наблюдения

(Prediction Interval for a New Observation) построим по схеме показанной в разделе

Проверка значимости взаимосвязи переменных

(см.

файл примера лист Интервалы

). Т.к. границы интервала зависят от значения Хi (точнее от расстояния Хi до среднего значения Х
_ср
), то интервал будет постепенно расширяться при удалении от Х
_ср
.

Границы

доверительного интервала

для

нового наблюдения

рассчитываются по формуле:

Аналогичным образом построим

доверительный интервал

для

среднего значения

Y при заданном Хi (Confidence Interval for the Mean of Y). В этом случае

доверительный интервал

будет уже, т.к.

средние значения

имеют меньшую изменчивость по сравнению с отдельными наблюдениями (

средние значения,

в рамках нашей линейной модели Y=aX+β+ε, не включают ошибку ε).

Стандартная ошибка

S(Yср|Xi) вычисляется по практически аналогичным формулам как и

стандартная ошибка

для нового наблюдения:

Как видно из формул,

стандартная ошибка

S(Yср|Xi) меньше

стандартной ошибки

S(Y|Xi) для индивидуального значения

.

Границы

доверительного интервала

для

среднего значения

рассчитываются по формуле:

Проверка адекватности линейной регрессионной модели

Модель адекватна, когда все предположения, лежащие в ее основе, выполнены (см. раздел

Предположения линейной регрессионной модели

Проверка адекватности модели в основном основана на исследовании остатков модели (model residuals), т.е. значений ei=yi – ŷi для каждого Хi. В рамках

простой линейной модели

n остатков имеют только n-2 связанных с ними

степеней свободы

. Следовательно, хотя, остатки не являются независимыми величинами, но при достаточно большом n это не оказывает какого-либо влияния на проверку адекватности модели.

Чтобы проверить предположение о

нормальности распределения

ошибок строят

график проверки на нормальность

(Normal probability Plot).

В

файле примера на листе Адекватность

построен

график проверки на нормальность

. В случае

нормального распределения

значения остатков должны быть близки к прямой линии.

Так как значения переменной Y мы

генерировали с помощью тренда

, вокруг которого значения имели нормальный разброс, то ожидать сюрпризов не приходится – значения остатков располагаются вблизи прямой.

Также при проверке модели на адекватность часто строят график зависимости остатков от предсказанных значений Y. Если точки не демонстрируют характерных, так называемых «паттернов» (шаблонов) типа вор

о

нок или другого неравномерного распределения, в зависимости от значений Y, то у нас нет очевидных доказательств неадекватности модели.

В нашем случае точки располагаются примерно равномерно.

Часто при проверке адекватности модели вместо остатков используют нормированные остатки. Как показано в разделе

Стандартная ошибка регрессии

оценкой

стандартного отклонения ошибок

является величина SEy равная квадратному корню из величины MSE. Поэтому логично нормирование остатков проводить именно на эту величину.

SEy можно вычислить с помощью функции

ЛИНЕЙН()

:

=

ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83;;ИСТИНА);3;2)

Иногда нормирование остатков производится на величину

стандартного отклонения

остатков (это мы увидим в статье об инструменте

Регрессия

, доступного в

надстройке MS EXCEL Пакет анализа

), т.е. по формуле:

Вышеуказанное равенство приблизительное, т.к. среднее значение остатков близко, но не обязательно точно равно 0.

Источник

Ниворожкина Л.И. Основы статистики с элементами теории вероятностей для экономистов: Руководство для решения задач — файл n1.doc

n1.doc

9.11. Измерение вариации по уравнению регрессии

9.12. Доверительные интервалы для оценки неизвестного генерального значения yген(yх) и индивидуального значения yi

Регрессионный анализ

Линейная регрессия

Нелинейная регрессия

Оценка значимости коэффициентов регрессии. Интервальная оценка коэффициентов регрессии

Интервальная оценка для условного математического ожидания

Проверка значимости уравнения регрессии

Многомерный регрессионный анализ

Факторный анализ

Представление, информации в факторном анализе

Факторное отображение

Определение факторных нагрузок

Метод главных компонент

Приложения

Понятие о регрессионном анализе. Линейная выборочная регрессия. Метод наименьших квадратов (МНК)

Мощность статистического критерия. Функция мощности

Стандартная ошибка по сравнению с R-квадратом в регрессии

Преимущества использования стандартной ошибки

Немного теории и основные понятия

Предположения линейной регрессионной модели

Задачи регрессионного анализа

Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)

Оценка неизвестных параметров линейной модели (через статистики выборок)

Оценка неизвестных параметров линейной модели (матричная форма)

Построение линии регрессии

Коэффициент детерминации R 2

Стандартная ошибка регрессии

Стандартные ошибки и доверительные интервалы для наклона и сдвига

Проверка значимости взаимосвязи переменных

Доверительные интервалы для нового наблюдения Y и среднего значения

Проверка адекватности линейной регрессионной модели

9.12. Доверительные интервалы для оценки неизвестного генерального значения y_ген(_yх) и индивидуального значения y_i

Коэффициент детерминации R
²