Метод наименьших квадратов

Простейший случай

• Гильза.

Допустим, в рамках некого эксперимента было проведено измерений. Каждое измерение представляет собой пару где — вход, — выход (такую пару будет называть «точкой»).

Результаты эксперимента могут быть записаны в таблице. В первом столбце будут находиться все значения входов: а во втором все значения выходов:

Мы хотим описать экспериментальные данные линейной функцией («подогнать» их к линии). Почти никогда не встречается ситуация, при которой все точки будут лежать на одной прямой. Поэтому наша цель — найти такую прямую (линейную функцию), которая бы в некотором смысле наилучшим образом описывала полученные результаты. Значения этой функции будем называть оцененными и обозначим Сама функция будет иметь вид:

Каждому измерению входа будет соответствовать реальное значение и оцененное значение Разницу между реальным и оцененным значением будем называть отклонением и обозначим

Таким образом, нам нужна такая линейная функция, общее отклонение реальных экспериментальных значений от которой было бы наименьшим. При этом общее отклонение не обязательно должно быть измерено как сумма отклонений для всех измерений.

• Первый слой.

Существует большое количество способов измерить общее отклонение реальных экспериментальных значений от оцененных. Приведём самые очевидные из них:

1. сумма значений отклонений:
2. сумма асболютных значений отклонений:
3. сумма квадратов отклонений:

• Перенесено из старой версии статьи. Отредактировать.

Каждый из этих способов имеет как свои плюсы, так и свои минусы. В каком-то смысле, все они «плохие», поэтому наша задача выбрать наименее «плохой» из них: тот, чьи плюсы перевесят минусы. Для выбора рассмотрим их по отдельности.

Несомненным достоинством первого способа (суммы отклонений) является его чрезвычайная простота. Однако, такой способ не гарантирует нам защиты от того, что статистики называют «робастностью», т. е. статистическими выбросами. Действительно, если у нас есть два значительных выброса в разные стороны от прямой, то они могут друг друга погасить. И мы получим картину неверную вплоть до неверного знака коэффициента .

Казалось бы, недостатки первого способа полностью снимаются вторым. Взятие абсолютного значения (модуля) должно обезопасить нас от проблем с взаимопогашающимися разносторонними выбросами. Однако и у этого способа есть существенные недостатки. Забегая несколько вперед, скажем, что для получения коэффициентов наилучшей линейной функции мы воспользуемся математическим аппаратом дифференцирования. Модуль же не является всюду дифференцируемой функций. И если это кажется не такой большой проблемой в нашем примере, то когда мы расширим МНК на случай многих независимых переменных, это может сделать вычислительную задачу чрезвычайно трудноразрешимой (а в момент, когда этот метод был открыт и просто практически неразрешимой). Кроме того, неприемлимость данного способа (бо́льшую приемлимость другого) доказал в своё время великий русский математик Андрей Андреевич Марков, чьи работы позволили использовать метод наименьших квадратов в статистическом оценивании.

Третий способ, давший имя методу наименьших квадратов, позволяет избежать проблем, связанных с робастностью. Вместе с этим, уходит и проблема, связанная с дифференцированием: квадратическая функция является всюду дифференцируемой. Этим, а также и другими причинами (в том числе и причинами, выявленными А. А. Марковым в связи с использованием МНК в статистическом оценивании), был обусловлен выбор способа.

Таким образом мы можем формализовать лексически описанную нами задачу: необходимо наити такие значения коэффициентов и , при которых функция примет наименьшее значение.