Метод наименьших квадратов

Простейший (парный) случай

Был проведен эксперимент.

Эксперимент состоял из наблюдений.

Каждое наблюдение состояло из пары где — вход, — выход. Такую пару наблюдений можно назвать «точкой».

Данные по всем входам и выходам могут быть записаны в виде векторов и .

Вектор входов:

Вектор выходов:

Мы предполагаем, что взаимосвязь между входами и выходами линейна.

Крайне редко бывает, что все точки лежат на одной прямой.

Поэтому мы будем искать такую прямую, которая бы наилучшим образом описывала результаты эксперимента.

, где — оцененное (как заменить слово?) значение.

Разницу между реальным и оцененным значением обозначим $$e sub i = y sub i - y hat sub i$.$