Отсев грубых погрешностей. Критерий 3сигм, Романовского, Диксона

Грубая погрешность, или промах, – это погрешность результатаотдельного измерения, входящего в ряд измерений, которая для данныхусловий резко отличается от остальных результатов этого ряда.Источником грубых погрешностей нередко бывают ошибки, допущенныеоператором во время измерений. К ним можно отнести:

− неправильный отсчет по шкале измерительного прибора,происходящий из-за неверного учета цены малых делений шкалы;

− неправильная запись результата наблюдений, значений отдельных мер использованного набора, например гирь.

Грубые погрешности, как правило, возникают при однократных измерениях и обычно устраняются путем повторных измерений. Их причинами могут быть внезапные и кратковременные изменения условий измерения или оставшиеся незамеченными неисправности в аппаратуре. Под промахом понимается значение погрешности, отклонение которого от центра распределения существенно превышает значение, оправданное объективными условиями измерения. Поэтому с точки зрения теории вероятности появление промаха маловероятно.

Корректная статистическая обработка выборки возможна только при ее однородности, т.е. в том случае, когда все ее члены принадлежат к одной и той же генеральной совокупности. В противном случае обработка данных бессмысленна. «Чужие» отсчеты по своим значениям могут существенно не отличаться от «своих» отсчетов. Их можно обнаружить только по виду гистограмм или дифференциальных законов распределения. Наличие таких аномальных отсчетов принято называть загрязнениями выборки, однако выделить члены выборки, принадлежащие каждой из генеральных совокупностей, практически невозможно. Если «свои» и «чужие» отсчеты различаются по значениям, то их исключают из выборки. Особую неприятность доставляют отсчеты, которые хотя и не входят в компактную группу основной массы отсчетов выборки, но и не удалены от нее на значительное расстояние, – так называемые предполагаемые промахи. Отбрасывание «слишком» удаленных от центра выборки отсчетов называется цензурированием выборки.

Это осуществляется с помощью специальных критериев. При однократных измерениях обнаружить промах не представляется возможным. Для уменьшения вероятности появления промахов измерения проводят два-три раза и за результат принимают среднее арифметическое полученных отсчетов. При многократных измерениях для обнаружения

промахов используют статистические критерии, предварительно определив, какому виду распределения соответствует результат измерений.

Вопрос о том, содержит ли результат наблюдений грубую погрешность, решается общими методами проверки статистических гипотез Проверяемая гипотеза состоит в утверждении, что результат наблюдения х, не содержит грубой погрешности, т.е. является одним из значений измеряемой величины. Пользуясь определенными статистическими критериями, пытаются опровергнуть выдвинутую гипотезу. Если это удается, то результат наблюдений рассматривают как содержащий грубую погрешность и его исключают. Для выявления грубых погрешностей задаются вероятностью q -уровнем значимости того, что сомнительный результат действительно мог иметь место в данной совокупности результатов измерений.

Для исключения грубых погрешностей применяют аппарат проверки статистических гипотез. Проверку статистической гипотезы проводят для принятого уровня значимости q (принимается равным 0,1; 0,05; 0,01 и т. д.). Так принятый уровень значимости q = 0,05 означает, что выдвинутая нулевая статистическая гипотеза может быть принята с доверительной вероятностью P = 0,95. Или есть вероятность отвергнуть эту гипотезу (совершить ошибку первого рода), равная P = 0,95. Нулевая статистическая гипотеза подтверждает принадлежность проверяемого “подозрительного” результата измерения (наблюдения) данной группе измерений.

Формальным критерием аномальности результата наблюдений (а, следовательно, и основанием для принятия конкурирующей гипотезы: “подозрительный” результат не принадлежит данной группе измерений) при этом служит граница, отнесенная от центра распределения на величину tS ,т. е.:

 

 

где xiпод – результат наблюдения, проверяемый на наличие грубой погрешности;

t – коэффициент, зависящий от вида и закона распределения, объема выборки, уровня значимости .

Таким образом, границы погрешности зависят от вида распределения, объема выборки и выбранной доверительной вероятности. При обработке уже имеющихся результатов наблюдений произвольно отбрасывать отдельные результаты не следует, так как это может привести к фиктивному повышению точности результата измерений. Группа измерений (выборка) может содержать несколько грубых погрешностей и их

исключение производят последовательно, по одному. Все методы исключения грубых погрешностей (промахов) могут быть разделены на два основных типа:

а) методы исключения при известном генеральном СКО;

б) методы исключения при неизвестном генеральном СКО.

В первом случае Xц. р. и СКО вычисляется по результатам всей выборки, во втором случае из выборки перед вычислением удаляются подозрительные результаты.

В случае ограниченного числа наблюдений и (или) сложности оценки параметров закона распределения рекомендуется исключать грубые погрешности, используя приближенные коэффициенты вида распределения. При этом исключаются значения xi < xr− и xi > xr+ , где xr− , xr+ – границы промахов, определяемые выражениями:

 

где A – коэффициент, значение которого выбирается в зависимости от заданной доверительной вероятности в диапазоне от 0.85 до 1.30 .

γ – контрэксцесс, значение которого зависит от формы закона распределения величины (ЗРВ). После исключения промахов операции по определению оценок центра

распределения и СКО результатов наблюдений и измерений необходимо повторить.

Критерий «трех сигм» применяется для результатов измерений, распределенных по нормальному закону. По этому критерию считается, что результат, возникающий с вероятностью q < 0,003, мало вероятен и его можно считать промахом, если X − xi > 3Sx , где Sx – оценка СКО измерений. Величины X и Sx вычисляют без учета экстремальных значений xi . Данный критерий надежен при числе измерений n ≥ 20...50. Это правило обычно считается слишком жестким, поэтому рекомендуется назначать границу цензурирования в зависимости от объема выборки: при 6 < n ≤1000 она равна 4 Sx ; при 100 < n ≤1000 − 4,5 Sx ; при 1000 < n ≤10000 − 5 Sx . Данное правило также используется только при нормальном распределении.

Критерий Романовского применяется в случае, если число измерений n<20. При этом вычисляется отношение

 

 

и сравнивается с критерием β, выбранным по таблице при заданном уровне значимости Полученное значение υ сравнивают с теоретическим значением υт, определенным для установленного уровня значимости q (q = 1− P).. Если β ≥ βт , то результат xi считается промахом и отбрасывается.

 

Вариационный критерий Диксона – удобный и достаточно мощный (с малыми вероятностями ошибок). При его применении полученные результаты наблюдений записывают в вариационный возрастающий ряд x1,x2 ,…, xn x1 < x2 < …< xn.

Критерий Диксона определяется как

 

 

Критическая область для этого критерия P(KД > Zq )= q . Значения Zq

приведены в таблице 4.3 [27].

 

 

 

 

Применение рассмотренных критериев требует осмотрительности и учета объективных условий измерений. Конечно, оператор должен исключить результат наблюдения с явной грубой погрешностью и выполнить новое измерение. Но он не имеет права отбрасывать более или менее резко отличающиеся от других результаты наблюдений. В сомнительных случаях лучше сделать дополнительные измерения (не взамен сомнительных, а кроме них) и затем привлекать на помощь рассмотренные выше статистические критерии. Кроме рассмотренных критериев существуют и другие, например критерии Граббса и Шовенэ.

Проверка гипотезы нормального распределения.

Для статистических методов построения эмпирических зависимостей очень важно, чтобы результаты измерений подчинялись нормальному закону распределения. Поэтому проверка нормальности распределения-основное содержание предварительной обработки результатов наблюдений. Рассмотрим вопрос проверки согласованности распределений с использованием наиболее употребительных критериев.

 

Критерий хи-квадрат К. Пирсона

Использование этого критерия основано на применении такой меры (статистики) расхождения между теоретическим F(x) и эмпирическим распределением Fп(x), которая приближенно подчиняется закону распределения c 2. Гипотеза Н0 о согласованности распределений проверяется путем анализа распределения этой статистики. Применение критерия требует построения статистического ряда.

Критерий рекомендуется применять при n>200, допускается применение при n>40, именно при таких условиях критерий состоятелен (как правило, отвергает неверную нулевую гипотезу).

Пример.Проверить с помощью критерия хи-квадрат гипотезу о нормальности распределения случайной величины, представленной статистическим рядом в табл. 2.4 при уровне значимости a = 0,05.

Решение. В примере 2.3 были вычислены значения оценок моментов: m 1=27,51, m 2 = 0,91, s = 0,96. На основе табл. 2.4 построим табл. 3.2, иллюстрирующую расчеты.

Таблица 3.2

Номер интервала, i
n i
xi 26,37 26,95 27,53 28,12 28,70 ¥
F (xi) 0,117 0,280 0,508 0,737 0,892
D Fi 0,117 0,166 0,228 0,228 0,155 0,108
Fi 5,148 7,304 10,032 10,032 6,820 4,752
(ni -Fi)2/Fi 0,004 0,394 0,0001 0,1062 0,486 0,328

В этой таблице:

ni – частота попаданий элементов выборки в i-й интервал;

xi – верхняя граница i-гоинтервала;

F(xi) – значение функции нормального распределения;

D Fi – теоретическое значение вероятности попадания случайной величины в i-й интервал

 

Fi = D Fi*n – теоретическая частота попадания случайной величины в i-й интервал;

(n i – Fi)2/Fi – взвешенный квадрат отклонения.

Для нормального закона возможные значения случайной величины лежат в диапазоне от – ¥ до ¥ , поэтому при расчетах оценок вероятностей крайний левый и крайний правый интервалы расширяются до – ¥ и ¥ соответственно. Вычислить значения функции нормального распределения можно, воспользовавшись стандартными функциями табличного процессора или полиномом наилучшего приближения.

Сумма взвешенных квадратов отклонения c 2 =1,32. Число степеней свободы k=6–1–2=3 (уклонения связаны линейным соотношением , кроме того, на уклонения наложены еще две связи, так как по выборке были определены два параметра распределения). Критическое значение c 2(3;0,05)= 7,815 Поскольку соблюдается условие c 2 <c 2 (3;0,05), то полученный результат нельзя считать значимым и гипотеза о нормальном распределении генеральной совокупности не противоречит ЭД.

Критерий А.Н. Колмогорова

Для применения критерия А.Н. Колмогорова ЭД требуется представить в виде вариационного ряда (ЭД недопустимо объединять в разряды). В качестве меры расхождения между теоретической F(x) и эмпирической Fn(x) функциями распределения непрерывной случайной величины Х используется модуль максимальной разности

dn = max|F(x) - Fn(x)| (3.8)

А.Н. Колмогоров доказал, что какова бы ни была функция распределения F(x) величины Х при неограниченном увеличении количества наблюдений n функция распределения случайной величины dn асимптотически приближается к функции распределения

Иначе говоря, критерий А.Н. Колмогорова характеризует вероятность того, что величина dn не будет превосходить параметр l для любой теоретической функции распределения. Уровень значимости a выбирается из условия , в силу предположения, что почти невозможно получить это равенство, когда существует соответствие между функциями F(x) и Fn(x). Критерий А.Н. Колмогорова позволяет проверить согласованность распределений по малым выборкам, он проще критерия хи-квадрат, поэтому его часто применяют на практике. Но требуется учитывать два обстоятельства.

Во-первых, в точном соответствии с условиями его применения необходимо пользоваться следующим соотношением

 

где .

Во-вторых, условия применения критерия предусматривают, что теоретическая функция распределения известна полностью (известны вид функции и ее параметры). Но на практике параметры обычно неизвестны и оцениваются по ЭД. Это приводит к завышению значения вероятности соблюдения нулевой гипотезы, т.е. повышается риск принять в качестве правдоподобной гипотезу, которая плохо согласуется с ЭД (повышается вероятность совершить ошибку второго рода). В качестве меры противодействия такому выводу следует увеличить уровень значимости a , приняв его равным 0,1 – 0,2, что приведет к уменьшению зоны допустимых отклонений.

Пример 3.2. Проверить с помощью критерия А.Н. Колмогорова гипотезу о том, что ЭД, представленные в табл. 2.3, подчиняются нормальному распределению при уровне значимости a =0,1.

Решение. Исходные данные и результаты вычислений сведены в табл. 3.3. Необходимые вычисления можно провести с использованием табличного процессора: значение эмпирической функции распределения Fn(xi)=i/44; значения теоретической функции F(xi) – это значение функции нормального распределения в точке xi.

Таблица 3.3

i
xi 25,79 25,98 25,98 26,12 26,13 26,49 26,52 26,60 26,66 26,69 26,74
Fn(xi) 0,023 0,046 0,068 0,091 0,114 0,136 0,159 0,182 0,204 0,227 0,250
F(xi) 0,036 0,055 0,055 0,073 0,075 0,144 0,151 0,170 0,188 0,196 0,211
dn+ 0,014 0,009 0,013 0,018 0,038 0,008 0,008 0,012 0,016 0,032 0,039
dn- 0,036 0,032 0,010 0,005 0,016 0,031 0,014 0,011 0,006 0,009 0,016
i
xi 26,85 26,90 26,91 26,96 27,02 27,11 27,19 27,21 27,28 27,30 27,38
Fn(xi) 0,273 0,296 0,318 0,341 0,364 0,386 0,409 0,432 0,455 0,477 0,500
F(xi) 0,246 0,263 0,267 0,284 0,305 0,337 0,371 0,378 0,406 0,412 0,447
dn+ 0,027 0,032 0,051 0,057 0,059 0,050 0,038 0,054 0,049 0,065 0,053
dn- 0,004 0,010 0,028 0,034 0,036 0,027 0,015 0,031 0,026 0,042 0,031

 

i
xi 27,40 27,49 27,64 27,66 27,71 27,78 27,89 27,89 28,01 28,10 28,11
Fn(xi) 0,523 0,546 0,568 0,591 0,614 0,636 0,659 0,682 0,705 0,727 0,750
F(xi) 0,456 0,492 0,555 0,561 0,583 0,610 0,656 0,656 0,701 0,731 0,735
dn+ 0,067 0,053 0,013 0,030 0,031 0,026 0,003 0,026 0,003 0,004 0,015
dn- 0,044 0,031 0,010 0,007 0,008 0,003 0,019 0,003 0,020 0,027 0,008
i
xi 28,37 28,38 28,50 28,63 28,67 28,90 28,99 28,99 29,03 29,12 29,28
Fn(xi) 0,773 0,795 0,818 0,841 0,864 0,886 0,909 0,932 0,955 0,977 1,000
F(xi) 0,817 0,819 0,851 0,879 0,888 0,928 0,939 0,940 0,944 0,954 0,968
dn+ 0,044 0,024 0,032 0,038 0,024 0,042 0,030 0,008 0,010 0,024 0,032
dn- 0,067 0,046 0,055 0,061 0,047 0,064 0,053 0,031 0,013 0,001 0,009

В данном примере максимальные значения dn+ и dn–одинаковы и равны 0,067. Из табл. П.1 при a =0,1 найдем l =1,22. Для n=44 критическое значение 0,184. Поскольку величина max dn=0,067 меньше критического значения, гипотеза о принадлежности выборки нормальному закону не отвергается.

Критерий Мизеса

В качестве меры различия теоретической функции распределения F(x) и эмпирической Fn(x) по критерию Мизеса (критерию w 2) выступает средний квадрат отклонений по всем значениям аргумента x

 

(3.9)

Статистика критерия

 

(3.10)

При неограниченном увеличении n существует предельное распределение статистики nw n2. Задав значение вероятности a можно определить критические значения nw n2(a ). Проверка гипотезы о законе распределения осуществляется обычным образом: если фактическое значение nw n2окажется больше критического или равно ему, то согласно критерию Мизеса с уровнем значимости a гипотеза Но о том, что закон распределения генеральной совокупности соответствует F(x), должна быть отвергнута.

Пример 3.3. Проверить с помощью критерия Мизеса гипотезу о том, что ЭД, представленные вариационным рядом, табл. 2.3, подчиняются нормальному распределению при уровне значимости a = 0,1.

Решение. Исходные данные и результаты вычислений представлены в табл. 3.4.

Та3.4

i
xi 25,79 25,98 25,98 26,12 26,13 26,49 26,52 26,60 26,66 26,69 26,74
Fn(xi) 0,011 0,034 0,057 0,080 0,102 0,125 0,148 0,171 0,193 0,216 0,237
F(xi) 0,036 0,055 0,055 0,073 0,075 0,144 0,151 0,170 0,188 0,196 0,211
D i 0,618 0,429 0,003 0,047 0,726 0,378 0,009 0,000 0,025 0,409 0,742
i
xi 26,85 26,90 26,91 26,96 27,02 27,11 27,19 27,21 27,28 27,30 27,38
Fn(xi) 0,261 0,284 0,307 0,330 0,352 0,375 0,398 0,421 0,443 0,466 0,489
F(xi) 0,246 0,263 0,267 0,284 0,305 0,337 0,371 0,378 0,406 0,412 0,447
D i 0,231 0,439 1,572 2,071 2,243 1,467 0,717 1,790 1,391 2,866 1,755
i
xi 27,40 27,49 27,64 27,66 27,71 27,78 27,89 27,89 28,01 28,10 28,11
Fn(xi) 0,511 0,534 0,557 0,580 0,602 0,625 0,648 0,671 0,693 0,716 0,739
F(xi) 0,456 0,492 0,555 0,561 0,583 0,610 0,656 0,656 0,701 0,731 0,735
D i 3,103 1,765 0,003 0,332 0,374 0,216 0,063 0,213 0,067 0,238 0,013
I
xi 28,37 28,38 28,50 28,63 28,67 28,90 28,99 28,99 29,03 29,12 29,28
Fn(xi) 0,761 0,784 0,807 0,830 0,852 0,875 0,898 0,921 0,943 0,966 0,989
F(xi) 0,817 0,819 0,851 0,879 0,888 0,928 0,939 0,940 0,944 0,954 0,968
D i 3,090 1,230 1,908 2,461 1,271 2,791 1,737 0,381 0,001 0,149 0,432

В этой таблице:

Fn(xi)=(i–0,5)/44 – значение эмпирической функции распределения;

F(xi) – значение теоретической функции распределения, соответствует значению функции нормального распределения в точке xi;

D i =1000[Fn(xi) – F(xi)]2 . Здесь масштабный множитель 1000 введен для удобства отображения данных в таблице, при расчетах он не используется.

Критическое значение статистики критерия Мизеса при заданном уровне значимости равно 0,347, табл. П.2. Фактическое значение статистики , что меньше критического значения. Следовательно, гипотеза Н0 не противоречит имеющимся данным.

Достоинством критерия Мизеса является быстрая сходимость к предельному закону, для этого достаточно не менее 40 наблюдений в области часто используемых на практике больших значений nw n (а не несколько сот, как для критерия хи-квадрат).

Сопоставляя возможности различных критериев, необходимо отметить следующие особенности. Критерий Пирсона устойчив к отдельным случайным ошибкам в ЭД. Однако его применение требует группирования данных по интервалам, выбор которых относительно произволен и подвержен противоречивым рекомендациям. Критерий Колмогорова слабо чувствителен к виду закона распределения и подвержен влиянию помех в исходной выборке, но прост в применении. Критерий Мизеса имеет ряд общих свойств с критерием Колмогорова: оба основаны непосредственно на результатах наблюдения и не требуют построения статистического ряда, что повышает объективность выводов; оба не учитывают уменьшение числа степеней свободы при определении параметров распределения по выборке, а это ведет к риску принятия ошибочной гипотезы. Их предпочтительно применять в тех случаях, когда параметры закона распределения известны априори, например, при проверке датчиков случайных чисел.

При проверке гипотез о законе распределения следует помнить, что слишком хорошее совпадение с выбранным законом распределения может быть обусловлено некачественным экспериментом (“подчистка” ЭД) или предвзятой предварительной обработкой результатов (некоторые результаты отбрасываются или округляются).

Выбор критерия проверки гипотезы относительно произволен. Разные критерии могут давать различные выводы о справедливости гипотезы, окончательное заключение в таком случае принимается на основе неформальных соображений. Точно также нет однозначных рекомендаций по выбору уровня значимости.

Рассмотрим экспресс-методы оценки нормальности распределения. Для не очень больших выборок (n<120) можно использовать следующее условие:

 

где: - среднее абсолютное отклонение

Некоторое представление о близости эмпирического распределения нормальному может дать показатель асимметрии β1 и эксцесса β2. Для симметричных распределений β1=0, а для нормального распределения β2=3. Несмещенная оценка для показателей асимметрии и эксцесса определяется по формулам:

 

Для проверки гипотезы нормального распределения следует также вычислить среднеквадратические отклонения для показателей асимметрии и эксцесса:

 

Если выполняются условия :

 

То гипотеза нормальности исследуемого распределения может быть принята.

Преобразование распределений к нормальному.

Надо подчеркнуть важность проверки распределения на нормальность тем, что наличие оптимальных свойств у метода наименьших квадратов обусловлено нормальностью вектора погрешностей. Поэтому, если для полученной выборки гипотеза нормальности не выполняется, то надо попытаться преобразовать полученное распределение к нормальному. Большую помощь на первоначальном этапе могут оказать гистограмма и полигон распределения. Часто, при обработке результатов наблюдений встречаются логарифмические нормальные распределения, которые можно легко преобразовать к нормальному распределению. Отличительной чертой этого распределения является крутая левая ветвь и пологая правая. При логарифмировании исходного распределения левая ветвь сильно растягивается и распределение принимает приближённо нормальный характер. Если при преобразовании x’=lg x получаются значения, расположенные между 0 и 1 , то все полученные значения для удобства и во избежание отрицательных параметров необходимо умножить на 10а,чтобы цифры были больше 1, т.е необходимо выполнить преобразование x’’=10alg x . Асимметричное распределение часто приводится к нормальному преобразованием x’=lg (x±а). В отдельных случаях можно применять другие преобразования:

 

Алгоритм предварительной обработки данных.

Прямые многократные измерения делятся на равноточные и неравноточные.

Равноточными называются измерения, которые проводятся средствами измерений одинаковой точности по одной и той же методике при неизменных внешних условиях. При равноточных измерениях СКО результатов всех рядов измерений равны между собой. Задача обработки результатов многократных измерений заключается в нахождении оценки измеряемой величины и доверительного интервала, в котором находится ее истинное значение. Обработка должна проводиться в соответствии с ГОСТ 8.207–76 «ГСИ. Прямые измерения с многократными наблюдениями. Методы обработки результатов наблюдений. Общие положения».

Исходной информацией для обработки является ряд из n (n > 4) результатов измерений x1, x2 ……, xn , из которых исключены известные систематические погрешности, – выборка. Число n зависит как от требований к точности получаемого результата, так и от реальной возможности выполнять повторные измерения. Последовательность обработки результатов прямых многократных измерений состоит из ряда этапов.