Вопрос 12. Приближение функций, метод наименьших квадратов

 

Пусть в результате изменений в процессе опыта получена таблица некоторой зависимости f:

 

x x1 x2 …. xn
f(x) y1 y2 …. yn

 

Нужно найти формулу, выражающую эту зависимость аналитически. То есть найти функцию заданного вида y=F(x) (*), которая в точках x1, x2, …, xn принимает значения как можно ближе к табличным значениям y1, y2, …, yn.

Практический вид приближающей функции F можно определить следующим образом. По таблице строится точечный график функции f, а затем проводится кривая по возможности наилучшим образом приближающая характер расположения точек.

По полученной таким образом кривой устанавливается вид приближающей функции. Формула (*) называется уравнением регрессии y на x.

Рассмотрим один из распространенных способов нахождения формулы (*). Предположим, что приближающая функция F в точках x1, x2, …, xn имеет значение y1*, y2*, …, yn* (**). Требование близости табличных значений y1, y2, …, yn и значений можно истолковать следующим образом. Будем рассматривать совокупность точек таблицы и (**) как координаты двух точек n-мерного пространства.

 

Задачу формируем таким образом: найти такую функцию F заданного вида, чтобы расстояние между точками M(y1, …, yn) и M*(y1*, …, yn*) было наименьшим, .т.е

что равносильно

Эта задача носит название приближения функции методом наименьших квадратов.

В качестве приближающих функций в зависимости от характера точечного графика функции f часто используют следующие функции:

1.

2.

3.

4.

5.

6.

7.

8.

Здесь a, b, c, n – параметры

Когда вид приближающей функции установлен, задача сводится только к отысканию значений параметров.

Рассмотрим метод нахождения параметров приближающей функции в общем виде на примере приближающих функции с тремя параметрами:


Имеем

i=1, …, n

Найдем параметры. Используем необходимое условие экстремума.

 

 

Введем обозначения:

(*)

Решив систему получим значения параметров a и b, следовательно конкретный вид линейной функции.

 

В случае нахождения приближающей функции в виде квадратного трехчлена:

(**)

Решение системы (**) дает значение параметров a, b, c для корректной квадратичной функции. Аналогично могут быть найдены функции в виде других элементарных функций.

 

То есть

Решив эту систему 3 уравнений с 3 неизвестными относительно параметров a, b, c, мы получим конкретный вид функции F(x,a,b,c).

Естественно ожидать, что значения найденной функции в точках x1, x2, …, xn будут отличаться от табличных значений y1, y2, …, yn. Значения разностей yi-F(xi,a,b,c)= i называются отклонениями эмпирической формулы должно быть наименьшей.

 

 

2.6.2. Нахождение приближающей функции в виде линейной функции и квадратного трехчлена (линейная и квадратичная регрессии)

 

Приближение функции с использованием метода наименьших квадратов