Вопрос 12. Приближение функций, метод наименьших квадратов

 

Пусть в результате изменений в процессе опыта получена таблица некоторой зависимости f:

 

x	x1	x2	….	xn
f(x)	y1	y2	….	yn

 

Нужно найти формулу, выражающую эту зависимость аналитически. То есть найти функцию заданного вида y=F(x) (*), которая в точках x₁, x₂, …, x_n принимает значения как можно ближе к табличным значениям y₁, y₂, …, y_n.

Практический вид приближающей функции F можно определить следующим образом. По таблице строится точечный график функции f, а затем проводится кривая по возможности наилучшим образом приближающая характер расположения точек.

По полученной таким образом кривой устанавливается вид приближающей функции. Формула (*) называется уравнением регрессии y на x.

Рассмотрим один из распространенных способов нахождения формулы (*). Предположим, что приближающая функция F в точках x₁, x₂, …, x_n имеет значение y₁*, y₂*, …, y_n* (**). Требование близости табличных значений y₁, y₂, …, y_n и значений можно истолковать следующим образом. Будем рассматривать совокупность точек таблицы и (**) как координаты двух точек n-мерного пространства.

 

Задачу формируем таким образом: найти такую функцию F заданного вида, чтобы расстояние между точками M(y₁, …, y_n) и M*(y₁*, …, y_n*) было наименьшим, .т.е

что равносильно

Эта задача носит название приближения функции методом наименьших квадратов.

В качестве приближающих функций в зависимости от характера точечного графика функции f часто используют следующие функции:

1.

2.

3.

4.

5.

6.

7.

8.

Здесь a, b, c, n – параметры

Когда вид приближающей функции установлен, задача сводится только к отысканию значений параметров.

Рассмотрим метод нахождения параметров приближающей функции в общем виде на примере приближающих функции с тремя параметрами:

Имеем

i=1, …, n

Найдем параметры. Используем необходимое условие экстремума.

 

 

Введем обозначения:

(*)

Решив систему получим значения параметров a и b, следовательно конкретный вид линейной функции.

 

В случае нахождения приближающей функции в виде квадратного трехчлена:

(**)

Решение системы (**) дает значение параметров a, b, c для корректной квадратичной функции. Аналогично могут быть найдены функции в виде других элементарных функций.

 

То есть

Решив эту систему 3 уравнений с 3 неизвестными относительно параметров a, b, c, мы получим конкретный вид функции F(x,a,b,c).

Естественно ожидать, что значения найденной функции в точках x₁, x₂, …, x_n будут отличаться от табличных значений y₁, y₂, …, y_n. Значения разностей y_i-F(x_i,a,b,c)= _i называются отклонениями эмпирической формулы должно быть наименьшей.

 

 

2.6.2. Нахождение приближающей функции в виде линейной функции и квадратного трехчлена (линейная и квадратичная регрессии)

 

Приближение функции с использованием метода наименьших квадратов