Метод наименьших квадратов

Простейший случай

• Гильза.

Допустим, в рамках некого эксперимента было проведено измерений. Каждое измерение представляет собой пару где — вход, — выход (такую пару будет называть «точкой»).

Результаты эксперимента могут быть записаны в таблице. В первом столбце будут находиться все значения входов: а во втором все значения выходов:

Мы хотим описать экспериментальные данные линейной функцией («подогнать» их к линии). Почти никогда не встречается ситуация, при которой все точки будут лежать на одной прямой. Поэтому наша цель — найти такую прямую (линейную функцию), которая бы в некотором смысле наилучшим образом описывала полученные результаты. Значения этой функции будем называть оцененными и обозначим Сама функция будет иметь вид:

Каждому измерению входа будет соответствовать реальное значение и оцененное значение Разницу между реальным и оцененным значением будем называть отклонением и обозначим

Таким образом, нам нужна такая линейная функция, общее отклонение реальных экспериментальных значений от которой было бы наименьшим. При этом общее отклонение не обязательно должно быть измерено как сумма отклонений для всех измерений.

• Первый слой.

Существует большое количество способов измерить общее отклонение реальных экспериментальных значений от оцененных. Приведём самые очевидные из них:

1. сумма значений отклонений:
2. сумма асболютных значений отклонений:
3. сумма квадратов отклонений:

Каждый из этих способов имеет как свои плюсы, так и минусы.