Множественная линейная регрессия

В общем случае модель имеет вид:

t = 1 … T

Где:

В матричной форме модель может быть записана как: Y = Xβ + C + ε.

Если константа C задана (нулевое или ненулевое значение), то можно преобразовать модель посредством замены Y → Y + C к классическому виду: Y =Xβ + ε.

Если константу требуется оценить, то вводя дополнительную искусственную переменную со значением «1» во всех наблюдениях и, соответственно, формируя расширенную матрицу X посредством добавления к матрице X единичного столбца, также сводим модель к классическому виду: Y =Xβ + ε.

При этом подразумеваем замену n → n + 1. Для оценивания коэффициентов β или β = (β, C) используем МНК, либо метод сингулярного разложения.

При этом, особо рассматривается случай мультиколлинеарности, когда матрица X'X либо, соответственно, X'X близка к вырожденной (абсолютная величина определителя мала). В этих случаях оценка коэффициентов неоднозначна вследствие линейной зависимости столбцов матрицы X или X. Для получения однозначной оценки исключаем столбцы из матрицы X до тех пор, пока она (или соответствующая матрица X) не станет иметь максимальный ранг.

Дополнительные характеристики модели. Коэффициент детерминации:

Где:

Исправленный коэффициент детерминации (не определено при T = n):

Значение статистики Фишера:

См. также:

Библиотека методов и моделей