При оценке параметров линейного уравнения регрессии. Оценка параметров уравнения регреcсии. Пример. Пример: простой регрессионный анализ

Определение 6 . Определителем третьего порядка, соответствующим матрице системы (1.4), назовем число D , равное

Для того, чтобы вычислить определитель третьего порядка применяют две вычислительные схемы, позволяющие вычислять определители третьего порядка без особых хлопот. Эти схемы известны как " правило треугольника " (или "правило звездочки") и " правило Саррюса ".

По правилу треугольника сначала перемножаются и складываются элементы, соединенными на схеме линиями


т.е. получаем сумму произведений: a 11 a 22 a 33 +a 12 a 23 a 31 +a 21 a 13 a 32 .

Обратите внимание, что перемножаются элементы, соединенные одной линией, прямой или ломанной, а потом полученные произведения складываются.

Затем перемножаются и складываются элементы, соединенные на схеме


т.е. получаем другую сумму произведений a 13 a 22 a 31 +a 12 a 21 a 33 +a 11 a 23 a 32 . И, наконец, чтобы вычислить определитель , из первой суммы вычитают вторую. Тогда окончательно получаем формулу вычисления определителя третьего порядка:

D=(a 11 a 22 a 33 +a 12 a 23 a 31 +a 21 a 13 a 32)-(a 13 a 22 a 31 +a 12 a 21 a 33 +a 11 a 23 a 32).

По правилу Саррюса к определителю справа дописывают два первых столбца, а затем считают сумму произведений элементов определителя в одном направлении и из нее вычитают сумму произведений элементов в другом направлении (см. схему):


Можно убедиться, что результат будет таким же, что и при вычислении определителя по правилу треугольника.

Пример . Вычислить определитель

Решение . Вычислим определитель по правилу звездочки

И по правилу Саррюса

Т.е. получаем одинаковый результат для обеих вычислительных схем, как и ожидалось.

Заметим, что все свойства, сформулированные для определителей второго порядка, справедливы для определителей третьего порядка, в чем можно убедиться самостоятельно. На основании этих свойств сформулируем общие свойства для определителей любого порядка.

Определители и правило Крамера. Определители 2-го и 3-го порядка. Правило Крамера. Миноры и алгебраические дополнения. Разложение определителя по строке или столбцу. Основные свойства определителей Метод элементарных преобразований.

2. ОПРЕДЕЛИТЕЛИ И ПРАВИЛО КРАМЕРА

2.1. Определители второго порядка

Понятие определителя возникло также в связи с задачей решения систем линейных уравнений. Определитель (или детерминант ) есть число, характеризующее квадратную матрицу A и обозначается обычно символами: detA , | A | или . Если матрица задана явно, в виде таблицы, то определитель обозначают, заключая таблицу в вертикальные линии.

Определитель матрицы второго порядка находится следующим образом :

(2.1)
Он равен произведению элементов главной диагонали матрицы минус произведение элементов второй диагонали .

Например,

Следует еще раз подчеркнуть, что матрица есть таблица чисел, тогда как определитель есть число, определяемое через элементы квадратной матрицы.

Рассмотрим теперь систему двух линейных уравнений с двумя неизвестными:

Используя понятие определителя 2-го порядка, решение этой системы можно записать в виде:

(2.2)

Это есть правило Крамера решения системы двух линейных уравнений с двумя неизвестными при условии, что 0.

Пример 2.1. Решить систему линейных уравнений, используя правило Крамера:

Решение . Найдем определители:

Историческая справка. Идея понятия «определителя» могла бы принадлежать Г. Лейбницу (1646-1716), если бы он развил и опубликовал свои идеи относительно определителей, к которым он пришел в 1693 г. Поэтому приоритет в разработке метода определителей решения систем линейных уравнений принадлежит Г. Крамеру (1704-1752), который опубликовал свои исследования по этой теме в 1750 г. Однако Крамер не построил полноценной теории определителей, к тому же ему не доставало удобного обозначения. Первое обширное исследование , посвященное определителям, было А. Вандермондом (1735-1796) в 1772 г. Он дал логическое изложение теории определителей и ввел правило разложения определителя с помощью миноров. Полное изложение теории определителей было дано лишь в 1812 г.
Ж. Бине (1786-1856) и О. Коши (1789-1858). Термин «определитель» («детерминант» ) в современном его значении был введен Коши (ранее этот термин использовался К. Гауссом для обозначения дискриминанта квадратичной формы).

2.2. Определители третьего порядка

Определитель матрицы 3-го порядка находится следующим образом

(2.3)

Естественно, что запомнить эту формулу довольно трудно. Однако есть правила, которые облегчают выписывание выражения для определителя 3-го порядка.


Правило треугольников : три слагаемых, входящих в исходное выражение со знаком плюс, есть произведения элементов главной диагонали или треугольников, основания которых параллельны этой диагонали. Остальные три слагаемых, входящих со знаком минус, находятся таким же образом, но относительно второй диагонали.


Правило Саррюса : припишем к матрице справа первый, а затем второй столбец. Тогда "положительные" слагаемые будут находиться на линиях параллельных главной диагонали, а "отрицательные" на линиях, параллельных второй диагонали .

2.3. Правило Крамера

Рассмотрим систему 3-х уравнений с тремя неизвестными

Используя определители 3-го порядка, решение такой системы можно записать в таком же виде, как и для системы двух уравнений, т.е.

(2.4)

если 0. Здесь

Это есть правило Крамера решения системы трех линейных уравнений с тремя неизвестными .

Пример 2.3. Решить систему линейных уравнений при помощи правила Крамера:

Решение . Находим определитель основной матрицы системы

Поскольку 0, то для нахождения решения системы можно применить правило Крамера, но предварительно вычислим еще три определителя:

Проверка:

Следовательно, решение найдено правильно. 

Правила Крамера, полученные для линейных систем 2-го и 3-го порядка, наводят на мысль, что такие же правила можно сформулировать и для линейных систем любого порядка. Действительно имеет место

Теорема Крамера. Квадратная система линейных уравнений с отличным от нуля определителем основной матрицы системы (0) имеет одно и только одно решение и это решение вычисляется по формулам

(2.5)

где  – определитель основной матрицы ,  i определитель матрицы , полученной из основной, заменой i -го столбца столбцом свободных членов .

Отметим, что если =0, то правило Крамера не применимо. Это означает, что система либо не имеет вообще решений, либо имеет бесконечно много решений.

Сформулировав теорему Крамера, естественно возникает вопрос о вычислении определителей высших порядков.

2.4. Определители n-го порядка

Дополнительным минором M ij элемента a ij называется определитель, получаемый из данного путем вычеркивания i -й строки и j -го столбца. Алгебраическим дополнением A ij элемента a ij называется минор этого элемента, взятого со знаком (–1) i + j , т.е. A ij = (–1) i + j M ij .

Например, найдем миноры и алгебраические дополнения элементов a 23 и a 31 определителя

Получаем

Используя понятие алгебраического дополнения можно сформулировать теорему о разложении определителя n -го порядка по строке или столбцу .

Теорема 2.1. Определитель матрицы A равен сумме произведений всех элементов некоторой строки (или столбца) на их алгебраические дополнения:

(2.6)

Данная теорема лежит в основе одного из основных методов вычисления определителей, т.н. метода понижения порядка . В результате разложения определителя n -го порядка по какой-либо строке или столбцу, получается n определителей (n –1)-го порядка. Чтобы таких определителей было меньше, целесообразно выбирать ту строку или столбец, в которой больше всего нулей. На практике формулу разложения определителя обычно записывают в виде:

т.е. алгебраические дополнения записывают в явном виде через миноры.

Примеры 2.4. Вычислить определители, предварительно разложив их по какой-либо строке или столбцу. Обычно в таких случаях выбирают такой столбец или строку, в которой больше всего нулей. Выбранную строку или столбец будем обозначать стрелкой.

2.5. Основные свойства определителей

Разлагая определитель по какой-либо строке или столбцу, мы получим n определителей (n –1)-го порядка. Затем каждый из этих определителей (n –1)-го порядка также можно разложить в сумму определителей (n –2)-го порядка. Продолжая этот процесс , можно дойти до определителей 1-го порядка, т.е. до элементов матрицы, определитель которой вычисляется. Так, для вычисления определителей 2-го порядка придется вычислить сумму двух слагаемых, для определителей 3-го порядка – сумму 6 слагаемых, для определителей 4-го порядка – 24 слагаемых. Число слагаемых будет резко возрастать по мере увеличения порядка определителя. Это означает, что вычисление определителей очень высоких порядков становится довольно трудоемкой задачей, непосильной даже для ЭВМ. Однако вычислять определители можно и по-другому, используя свойства определителей.

Свойство 1 . Определитель не изменится, если в нем поменять местами строки и столбцы, т.е. при транспонировании матрицы:

.

Данное свойство свидетельствует о равноправии строк и столбцов определителя. Иначе говоря, любое утверждение о столбцах определителя справедливо и для его строк и наоборот.

Свойство 2 . Определитель меняет знак при перестановке двух строк (столбцов).

Следствие . Если определитель имеет две одинаковые строки (столбца), то он равен нулю.

Свойство 3 . Общий множитель всех элементов в какой-либо строке (столбце) можно вынести за знак определителя.

Например,

Следствие . Если все элементы некоторой строки (столбца) определителя равны нулю, то и сам определитель равен нулю.

Свойство 4 . Определитель не изменится, если к элементам одной строки (столбца), прибавить элементы другой строки (столбца), умноженной на какое-либо число.

Например,

Свойство 5 . Определитель произведения матриц равен произведению определителей матриц:

2.6.

Теорема 2.2. Определитель треугольной матрицы равен произведению элементов главной диагонали:

Элементарными преобразованиями матрицы называются следующие преобразования: 1) умножение строки (столбца) на число, не равное нулю; 2) прибавление одной строки (столбца) к другой; 3) перестановка двух строк (столбцов).

Метод элементарных преобразований заключается в том, чтобы при помощи элементарных преобразований, учитывая свойства определителей, привести матрицу к треугольному виду.

Пример 2.5. Вычислить определитель при помощи элементарных преобразований, приведя их к треугольному виду:

Пример 2.6. Вычислить определитель:

.

Решение . Упростим данный определитель , а затем вычислим его:

. 
Пример 2.7. Вычислить определитель
.

Решение . Способ 1 .При помощи элементарных преобразований матрицы, учитывая свойства определителей, будем получать в какой-либо строке или столбце нули, а затем будем разлагать полученный определитель по этой строке или столбцу:


–6

2

-2


.
Способ 2 .При помощи элементарных преобразований матрицы, учитывая свойства определителей, приведем матрицу к треугольному виду:



. 

Вычисление определителей при помощи элементарных преобразований, путем приведения его к треугольному виду, является одним из самых распространенных методов. Это связано с тем, что он является основным методом при реализации вычислений определителей на ЭВМ. Точнее он является одной из модификаций метода Гаусса , который обычно используется при решении систем линейных уравнений.

Пример 2.8. Вычислить определитель методом Гаусса:

Решение. Рассмотрим первый столбец и выберем в нем ту строку, которая содержит 1. Если единиц нет, то нужно эту единицу создать при помощи элементарных преобразований: переставляя строки или столбцы, складывая или вычитая их друг с другом, умножая или деля их на какое-либо число (учитывая при этом, конечно свойства определителей). Возьмем за основу вторую строку и получим при помощи ее нули в первом столбце:

После этого на первую строку больше внимания не обращаем. Рассмотрим 2-й столбец.

В результате, получилась треугольная матрица. Для того чтобы вычислить определитель, осталось только перемножить элементы матрицы, находящиеся на главной диагонали. Таким образом, получаем ответ: –2(–1)(–1)1334 = –264. 

Тема 1. Матрицы и системы

Понятие матрицы

Определение 1. Матрицей

.

Здесь, a i j (i =1,2,...,m ; j =1,2,...n ) - элементы матрицы, i - номер строки, j m=n матрица называется квадратной матрицей порядка n.

i¹j равны нулю, называется диагональной :

единичной

нулевой и обозначается θ.

- матрица строка ; - матрица столбец .

определитель (или детерминант ).

Определители 2-го порядка

Определение 2 . Определителем второго порядка матрицы , то есть

. (3)

Другие обозначения: , .

Таким образом, понятие определителя предполагает одновременно и способ его вычисления. Числа называются элементами определителя. Диагональ, образованная элементами , называется главной, а элементами - побочной.

Пример 1. Определитель матрицы равен

.

Определители 3-го порядка

Определение 2 . Определителем третьего порядка называется число, обозначаемое символом

,

и определяемое равенством

Числа - элементы определителя. Элементы образуют главную диагональ, элементы - побочную .

При вычислении определителя чтобы запомнить, какие слагаемые в правой части равенства (4) берутся со знаком «+», а какие со знаком «-», пользуются символическим правилом треугольников (правилом Саррюса):

Со знаком «+» берутся произведения элементов главной диагонали и элементов, находящихся в вершинах треугольников с основаниями, параллельными главной диагонали; сл знаком «-» – произведения элементов побочной диагонали и элементов, расположенных в вершинах треугольников с основаниями, параллельными побочной диагонали.

Вычисление определителя по правилу приписывания столбцов.

1. Приписываем справа от определителя последовательно первый и второй столбцы.



2. Вычисляем произведения трех элементов по диагонали слева - направо, сверху - вниз от а 11 до а 13 и берем их со знаком «+». Затем вычисляем произведения трех элементов по диагонали слева - направо, снизу вверх от а 31 до а 13 и берем их со знаком «-».

(-) (-) (-) (+) (+) (+)

Пример 2 . Вычислить определитель по правилу приписывания столбцов.

3. Определители n -ого порядка. Миноры и алгебраические дополнения. Вычисление определителей разложением по строке (столбцу).

Рассмотрим понятие определителя n- ного порядка. Определителем n- ного порядка называется число, сопоставляемое матрице n- ного порядка и вычисляемое по определенному закону.

,

здесь - элементы определителя. Чтобы показать правило, по которому раскрывается определитель n -ного порядка, рассмотрим некоторые понятия.

Определение 4. Минором элемента определителя n -го порядка называется определитель (n - 1) порядка, полученный вычеркиванием строки и столбца определителя, на пересечении которых расположен этот элемент.

Определение 5. Алгебраическим дополнением некоторого элемента определителя n -го порядка называется минор этого элемента, умноженный на , то есть .

В определителе третьего порядка можно рассмотреть, например,

, .

, .

Определение 6.Определителем n- ного порядка называется число, равное сумме произведений элементов первой строки определителя, умноженных на их алгебраические дополнения.

Это правило вычисления определителя называется разложением по первой строке .

Теорема (о разложении определителя). Определитель можно вычислить разложением по любой строке или столбцу.

– сумма произведений элементов 1-го столбца на алгебраические дополнения 2-го столбца.

Пример 3 . Вычислить определитель четвертого порядка .

Решение. Умножаем третью строку на (-1) и прибавляем ее к четвертой, затем раскладываем определитель по четвертой строке:

Определитель третьего порядка разложили по первой строке.



Метод Гаусса.

Метод Гаусса заключается в том, что исходную систему путем исключения неизвестный преобразуют к ступенчатому виду. При этом преобразования выполняются над строками в расширенной матрице, так как преобразования, исключающие неизвестные эквивалентны элементарным преобразованиям строк матрицы.

Метод Гаусса состоит из прямого хода и обратного хода. Прямым ходом метода Гаусса является приведение расширенной матрицы системы (1) к ступенчатому виду путем элементарных преобразований над строками. После чего происходит исследование системы на совместность и определенность. Затем по ступенчатой матрице восстанавливается система уравнений. Решение этой ступенчатой системы уравнений является обратным ходом метода Гаусса, в котором, начиная с последнего уравнения, последовательно вычисляются неизвестные с большим порядковым номером, и их значения подставляются в предыдущее уравнение системы.

Исследование системы в конце прямого хода происходим по теореме Кронекера-Капелли сравнением рангов матрицы системы А и расширенной матрицы А´. При этом возможны следующие случаи.

1) Если , то система несовместна (по теореме Кронекера-Капелли).

2) Если , то система (1) является определенной, и наоборот (без доказательства).

3) Если , то система (1) является неопределенной, и наоборот (без доказательства).

Неравенство не имеет места, так как матрица А является частью матрицы А´, неравенство не имеет места, так как число столбцов матрицы А равно п . Кроме того, для системы с квадратной матрицей, то есть если п = т , равенства равносильны тому, что .

Если система является неопределенной, то есть выполняется , то некоторые ее неизвестные объявляются свободными, а остальные через них выражаются. Количество свободных неизвестных равно . При выполнении обратного хода метода Гаусса, если в очередном уравнении после подстановки найденных ранее переменных, неизвестных осталось более одного, то свободными неизвестными объявляются любые неизвестные, кроме одного.

Рассмотрим реализацию метода Гаусса на примерах.

Пример 4. Решить систему уравнений

Решение. Решим систему методом Гаусса. Выпишем расширенную матрицу системы и приведем ее к ступенчатому виду элементарными преобразованиями строк (прямой ход).

~ ~ ~

~ ~ .

Поэтому система совместна и имеет единственное решение, т.е. является определенной.

Составим систему ступенчатого вида и решим ее (обратный ход).

Проверку легко сделать подстановкой.

Ответ : .

Тема 2. Векторная алгебра.

Проекция вектора на ось.

Определение 2. Проекцией вектора на ось l называется число равное длине отрезка АВ этой оси, заключенного между проекциями начала и конца вектора , взятое со знаком «+», если отрезок АВ ориентирован (считая от А к В ) в положительную сторону оси l и знаком «-» – в противном случае (см. рис.2).

Обозначение: .

Теорема 1. Проекция вектора на ось равна произведению его модуля на косинус угла между вектором и положительным направлением оси (рис. 3):

. (1)

Рис.3. Рис.4.

Доказательство . Из (рис. 3) получаем . Направление отрезка совпадает с положительным направлением оси , поэтому справедливо равенство . В случае противоположной ориентации (рис.4) имеем . Теорема доказана.

Рассмотрим свойства проекций.

Свойство 1. Проекция суммы двух векторов и на ось равна сумме их проекций на ту же ось, то есть .

Рис.5.

Доказательство в случае одного из возможных расположений векторов следует из рисунка 5. Действительно, по определению 2

Свойство 1 справедливо для любого конечного числа слагаемых векторов.

Свойство 2. При умножении вектора на число l его проекция умножается на это число

. (2)

Докажем равенство (2). При векторы и образуют с осью один и тот же угол. По теореме 1

При векторы и образуют с осью соответственно углы и . Потеореме 1

При , получаем очевидное равенство

Следствие из свойств 1 и 2. Проекция линейной комбинации векторов равна такой же линейной комбинации проекций этих векторов, т.е.

Тема 1. Матрицы и системы

Понятие матрицы

Определение 1. Матрицей размером называется прямоугольная таблица чисел или буквенных выражений , записанных в виде

.

Здесь, a i j (i =1,2,...,m ; j =1,2,...n ) - элементы матрицы, i - номер строки, j - номер столбца. Матрицы обычно обозначаются большими буквами латинского алфавита A, B, Cи т.д., а также или . При m=n матрица называется квадратной матрицей порядка n.

Квадратная матрица, у которой все элементы с неравными индексами i¹j равны нулю, называется диагональной :

Если все отличные от нуля элементы диагональной матрицы равны единице, то матрица называется единичной . Единичную матрицу принято обозначать буквой E.

Матрица, все элементы которой равны нулю, называется нулевой и обозначается θ.

Существуют также матрицы, состоящие из одной строки или из одного столбца.

- матрица строка ; - матрица столбец .

Числовой характеристикой квадратной матрицы является определитель (или детерминант ).

Определители 2-го порядка и 3-го порядка, их свойства.

Определители 2-го порядка

Определение 2 . Определителем второго порядка матрицы (или просто определителем второго порядка) называется число, обозначаемое символом и определяемое равенством , то есть

. (3)

Другие обозначения: , .

определителей

Определение. Матрицей размера mn называется прямоугольная таблица чисел, состоящая из m строк и n столбцов :

. (1)

Числа стоящие в матрице называются ее элементами и обозначаются буквой с двумя индексами, первый из которых равен номеру строки, а второй  номеру столбца в пересечении которых находится данный элемент. Элементы матрицы обычно обозначаются малыми буквами, а сами матрицы  соответствующими заглавными. Если матрица задаётся перечислением своих элементов, то таблица элементов заключается в круглые или квадратные скобки.

Например, матрица a размера 23 записывается в виде:

Эта матрица состоит из 6 элементов , гдеi =1,2 – есть номер строки, j =1,2,3 – номер столбца. Матрицы используются в технических науках и в экономике для записи табличной информации. В программировании матрицы называются двумерными массивами.

Матрица у которой число строк равно числу столбцов называется квадратной , а число строк (столбцов) этой квадратной матрицы называется ее порядком . Квадратная матрица n – го порядка состоит из n 2 элементов:

. (2)

Каждой квадратной матрице по определённому правилу сопоставляется число, которое называется определителем этой матрицы. Определитель, в отличие от матрицы обозначается вертикальными линиями:

.

Сформулируем правила вычисления определителей 1-го, 2-го, 3-го порядков.

    Определителем матрицы 2-го порядка называется число

.

Например:

.

2. Определителем матрицы 3-го порядка называется число

Это правило называется правилом треугольников (Саррюса) . Для его запоминания используется следующая схематическая запись, где элементы, расположенные на месте черных точек перемножаются:

Например:

Определение: Транспонированной матрицей для матрицы A называется матрица A T , столбцами которой являются соответствующие строки матрицы A. Диагональ, исходящая из левого верхнего угла матрицы, называется её главной диагональю . Для квадратной матрицы (2) транспонированная матрица записывается так:

Рассмотрим теперь свойства определителей, справедливые для определителей любого порядка. Для определённости будем их записывать для определителей 3-го порядка.

І. Определители квадратной матрицы A и её транспонированной A T совпадают, т.е. |A|=|A T |.

Дальнейшие свойства определителей мы будем формулировать для его строк. Из первого свойства следует, что все они справедливы и для столбцов.

ІІ. При перемене местами двух строк матрицы, её определитель меняет свой знак на противоположный .

Например:

.

В определителе поменяли местами вторую и третью строки.

ІІІ . Определитель матрицы с двумя одинаковыми строками равен 0 .

В самом деле, при перемене местами этих строк, согласно свойству 2, определитель должен удовлетворять уравнению . Отсюда,, следовательно.

І V . Если все элементы одной строки квадратной матрицы умножить на число , то её определитель умножится на это число .

Например: .

V . Если квадратная матрица содержит нулевую строку, то её определитель равен 0 .

Это свойство получается из предыдущего при = 0.

V І . Если одна из строк определителя записывается в виде суммы двух строк, то определитель записывается в виде суммы двух определителей у которых на месте этой строки стоят соответственно первые и вторые слагаемые. Остальные соответствующие строки всех трёх определителей равны .

Например:

V ІІ. Если к одной строке матрицы прибавить другую её строку, умноженную на число , то определитель матрицы при этом не изменится .

Линейная регрессия сводится к нахождению уравнения вида:

(или
) (3)

Первое выражение позволяет по заданным значениям фактора х рассчитать теоретические значения результативного признака, подставляя в него фактические значения факторах . На графике теоретические значения лежат на прямой, которые представляют собой линию регрессии.

Построение линейной регрессии сводится к оценке ее параметров - а иb . Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК).

МНК позволяет получить такие оценки параметров а иb , при которых сумма квадратов отклонений фактических значенийу от теоретических минимальна:

, или
(4)

Для нахождения минимума надо вычислить частные производные суммы (4) по каждому из параметров - а иb - и приравнять их к нулю.

(5)

Преобразуем, получаем систему нормальных уравнений:

(6)

В этой системе n - объем выборки, суммы легко рассчитываются из исходных данных. Решаем систему относительноа иb , получаем:

(7)

(8)

Выражение (7) можно записать в другом виде:

(9)

где со v (х,у) - ковариация признаков, - дисперсия факторах .

Параметр b называется коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу. Возможность четкой экономической интерпретации коэффициента регрессии сделала линейное уравнение парной регрессии достаточно распространенным в эконометрических исследованиях.

Формально а - значениеу прих=0. Еслих не имеет и не может иметь нулевого значения, то такая трактовка свободного членаа не имеет смысла. Параметра может не иметь экономического содержания. Попытки экономически интерпретировать его могут привести к абсурду, особенно приа < 0 . Интерпретировать можно лишь знак при параметреа . Еслиа > 0 , то относительное изменение результата происходит медленнее, чем изменение фактора. Сравним эти относительные изменения:

при.

Иногда линейное уравнение парной регрессии записывают для отклонений от средних значений:

y′ = b·x" , (10)

где
,
. При этом свободный член равен нулю, что и отражено в выражении (10). Этот факт следует из геометрических соображений: уравнению регрессии отвечает та же прямая (3), но при оценке регрессии в отклонениях начало координат перемещается в точку с координатами
. При этом в выражении (8) обе суммы будут равны нулю, что и повлечет равенство нулю свободного члена.

Рассмотрим в качестве примера по группе предприятий, выпускающих один вид продукции, регрессионную зависимость издержек от выпуска продукции у = a + bx + ε.

Таблица 1

Выпуск продукции тыс.ед.(x )

Затраты на производство, млн.руб.(y )

x 2

y 2

Система нормальных уравнений будет иметь вид:

Решая её, получаем а = -5,79, b = 36,84.

Уравнение регрессии имеет вид:

Подставив в уравнение значения х , найдем теоретические значенияy (последняя колонка таблицы).

Величина а не имеет экономического смысла. Если переменныех иу выразить через отклонения от средних уровней, то линия регрессии на графике пройдет через начало координат. Оценка коэффициента регрессии при этом не изменится:

, где
,

В качестве другого примера рассмотрим функцию потребления в виде:

С = К·у + L

где С - потребление,у -доход,K , L – параметры. Данное уравнение линейной регрессии обычно используется в увязке с балансовым равенством:

y = C + I – r,

где I – размер инвестиций,r – сбережения.

Для простоты предположим, что доход расходуется на потребление и инвестиции. Таким образом, рассматривается система уравнений:

Наличие балансового равенства накладывает ограничения на величину коэффициента регрессии, которая не может быть больше единицы, т.е. К ≤ 1.

Предположим, что функция потребления составила:

Коэффициент регрессии характеризует склонность к потреблению. Он показывает, что из каждой тысячи рублей дохода на потребление расходуется в среднем 650 руб., а 350 руб. инвестируется. Если рассчитать регрессию размера инвестиций от дохода, т.е.
, то уравнение регрессии составит
. Это уравнение можно и не определять, поскольку оно выводится из функции потребления. Коэффициенты регрессии этих двух уравнений связаны равенством:

Если коэффициент регрессии оказывается больше единицы, то у < С + 1, и на потребление расходуются не только доходы, но и сбережения.

Коэффициент регрессии в функции потребления используется для расчета мультипликатора:

.

Здесь m≈ 2,86, поэтому дополнительные вложения 1 тыс. руб. на длительный срок приведут при прочих равных условиях к дополнительному доходу 2,86 тыс. руб.

При линейной регрессии в качестве показателя тесноты связи выступает линейный коэффициент корреляции r :

(11)

Его значения находятся в границах: 0 < r ≤ 1 . Еслиb > 0 , то0 ≤ r ≤ 1 , приb < 0, – 1 ≤ r < 0 . По данным примераr =0,991, что означает очень тесную зависимость затрат на производство от величины объема выпускаемой продукции.

Для оценки качества подбора линейной функции рассчитывается коэффициент детерминации как квадрат линейного коэффициента корреляцииr 2 . Он характеризует долю дисперсии результативного признакаy , объясняемую регрессией, в общей дисперсии результативного признака:

12

Величина 1 - r 2 характеризует долю дисперсииу, вызванную влиянием остальных, не учтенных в модели факторов.

В примере σ 2 = 0,092. Уравнением регрессии объясняется 98,2% дисперсииу, а на прочие факторы приходится 1,8%, это остаточная дисперсия.