Метод наименьших квадратов

Простейший (парный) случай

Был проведен эксперимент.

Эксперимент состоял из наблюдений.

Каждое наблюдение состояло из пары где — вход, — выход. Такую пару наблюдений можно назвать «точкой».

Данные по всем входам и выходам могут быть записаны в виде векторов и .

Вектор входов:

Вектор выходов:

Мы предполагаем, что взаимосвязь между входами и выходами линейна.

Крайне редко бывает, что все точки лежат на одной прямой.

Поэтому мы будем искать такую прямую, которая бы наилучшим образом описывала результаты эксперимента.