Метод наименьших квадратов

Простейший (парный) случай

• Гильза.

Допустим, в рамках некого эксперимента было проведено наблюдений. Каждое наблюдение представляет собой пару где — вход, — выход (такую пару будет называть «точкой»).

Результаты эксперимента могут быть записаны в таблице ¹). В первом столбце будут находиться все значения входов: а во втором все значения выходов:

Мы хотим описать экспериментальные данные линейной функцией («подогнать» их к линии). Почти никогда не встречается ситуация, при которой все точки будут лежать на одной прямой. Поэтому наша цель — найти такую прямую, которая бы наилучшим образом (в некотором смысле) описывала полученные результаты. Таким образом, нам нужна такая линейная функция, отклонения от которой реальных экспериментальных значений были бы наименьшими.

Примечания

¹) В математической статистике и эконометрике такую таблицу принято называть выборкой (sample), вектора — переменными (variables), а изображение множества точек выборки на прямоугольной системе координат — диаграммой рассеяния (scatter diagram).