Рекомендуемый в большинстве руководств [2, 4] для этой цели критерий, основанный на предпосылке нормальности распределения данных в анализируемой совокупности, требует выполнения довольно длительных вычислений. Поэтому значительную популярность приобрел критерий отношения интервалов τ, приведенный в работах [1, 3|. Он основан на оценке отклонения значения, подозреваемого на выпадение, от ближайшего к нему значения остальной совокупности. Пусть, например, в ряду значений, расположенных в порядке возрастания, x₁, x₂, .... x_п-1, x_n предполагают выпадение значения x_n. Тогда составляют отношение:

и сравнивают с критическим значением (см. таблицу, столбцы 2 и 4), Если вычисленное значение τ больше критического, то проверяемое значение х_n считают выпадающим, если же меньшие, то х_n считают принадлежащим к основной совокупности.

Указанный критерий достаточно удобен в расчетном плане, однако при применении к небольшому числу данных он позволяет обнаружить выпадающие данные практически только тогда, когда это выпадение очевидно без всякого критерия. На рис. 1 показано взаимное расположение точки, находящейся на критической границе по критерию τ (черные кружки) и остальной совокупности при общем числе данных п=4, 6 и 10, где видно, что значение, признаваемое выпадающим, находится на весьма значительном расстоянии от интервала, занимаемого основной группой, так, что практик-экспериментатор склонен будет исключить это значение, даже не используя критерий τ.

Например, если в основной группе получены значения систолического артериального давления (АД) 80, 100 и 120 мм. рт. ст. (что соответствует условной норме), то минимальное значение, признаваемое выпадающим из этой группы в соответствии с критерием τ, составляет 245. Понятно, что любой врач признает такое значение не относящимся к основной группе и без применения статистического критерия.

Столь большая ширина доверительного интервала (т.е. того интервала, находящаяся в котором точка считается принадлежащей к основной совокупности) неизбежно сопряжена со значительной вероятностью ошибки 2-го рода, т.е. большой вероятностью того, что значение, фактически являющееся выпадающим, будет признано принадлежащим к основной совокупности. Этот недостаток критерия τ обусловлен тем, что величина размаха R=x_n-x₁, выборки из генеральной совокупности (в предположении ее нормального распределения) при малых п имеет большую дисперсию [5], в результате чего доверительный интервал для принадлежности точек оказывается очень широким.

Указанное обстоятельство побудило нас искать столь же простой в расчетном отношении критерий, что и τ, однако основанный на других предпосылках, с тем, чтобы выпадение могло быть обнаружено при меньшем относительном отклонении х_n от основной совокупности.

В качестве исходной модели мы использовали представление о распределении значений внутри интервала, ограниченного минимальным х₁ и максимальным х_n из имеющихся значений, исключая сами эти значения (рис. 2). Проверяемая гипотеза H₀ состояла в том, что плотность вероятности появлений любого значения x_i, внутри [х₁, x_п] — равномерная. Конкурирующая гипотеза Н₁ состояла в том, что интервал постоянной плотности вероятности появления значений х_i более короткий: [х₁, x_n-1] и наблюдаемые значения не могут находиться на интервале от x_п-1 до x_п. Понятно, что если гипотеза H₀ неверна и значения основной совокупности действительно не могут находиться на интервале [x_n-1, x_п], то и само значение x_n не может принадлежать основной совокупности и, следовательно, является выпадающим.

при α=0,05 и α==0,01

Рис. 2. Иллюстрация построения расчетной модели критерия выпадения λ.

x₁, x₂, … x_n-1 — точкн, образующие основную группу, a -— размах распределения этой группы; х_n — точка, подозреваемая на выпадение; b — расстояние от крайней точки основной группы до точки, подозреваемой на выпадение.

Для упрощения дальнейших записей обозначим длину интервала [х₁, x_n-1] символом a, а длину интервала [x_n-1, x_п] – символом b.

Итак, на интервале а имеется n—2 значения, а на интервале b значения отсутствуют. В условиях справедливости H₀-гипотезы ожидаемые числа значений на интервалах a и b будут:

Применим теперь критерий χ² для того, чтобы найти такое соотношение длин этих интервалов , при котором различие наблюдаемых частот значений (т.е. чисел п—2 и 0) окажется достоверно не соответствующим гипотезе Н₀.

Расчет χ² в принятой модели следует выполнять по формуле:

Подставив в формулу (3) выражения для n_{ож, а} и n_{ож, b} из (2), после элементарных преобразований получаем:

Принимая теперь критические значения χ² при уровнях значимости α=0,05 и α=0,01 равными 3,84 и 6,64, для различных п получаем критические значения λ (см. таблицу).

С помощью данных, приведенных в таблице, легко увидеть, что при фиксированном уровне значимости и любом числе значении п критическое значение λ меньше, чем критическое значение τ. На рис. 1 для иллюстрации приведены точки (светлые кружки), находящиеся на границе доверительного интервала критерия λ: они расположены гораздо ближе к основной группе, чем граничные точки по критерию τ, и их выпадение не представляется а-priori столь же очевидным.

Пример применения критерия λ. Проведены измерения латентного периода зрительно-моторной реакции (ЗМР) у 10 лиц, осваивающих операторские специальности. Полученные данные расположены в порядке возрастания:

При n=10 по таблице находим λ_кр=0,324, что меньше вычисленного λ=0,392. Следовательно, выпадение достоверно.

Рассмотрим изменение вероятности ошибки 2-го рода (β) в зависимости от расстояния выпадающей точки от основной группы для предлагаемого критерия λ и критерия τ.

Поскольку в условиях Н₁-гипотезы появление замеренного значения в любой точке интервала [х₁, x_п] предполагается равновероятным, то ошибка 2-го рода будет иметь место, если это значение попадет в интервал [х₁, x_п-1]. Поэтому вероятность ошибки 2-го рода равна отношению длины интервала [х₁, x_п-1] к длине интервала [х₁, x_п] (см. рис. 2):

В работах [1 и 3] не указаны предпосылки, положенные в основу критерия τ, поэтому невозможно непосредственно рассчитать для него значение β. Применим следующий прием: оценим отношение вероятностей ошибок 2-го рода при применении λ- и τ-критерия. В модели λ-критерия эта величина равна отношению длины интервала [х, λ _кр] к длине интервала [х, τ _кр] (на рис. 1 для n=4 эти интервалы показаны и обозначены l₁ и l₂).

Значения этого отношения l₁/l₂, приведенные в столбцах 6 и 7 таблицы, различны для разных п, но в большинстве близки к 0,85. Таким образом, вероятность ошибки 2-го рода при применении критерия λ приблизительно на 15% меньше, чем при применении традиционного критерия τ.

Однако если фактически распределение исходных данных близко к нормальному, то применение предлагаемого критерия сопряжено с большей вероятностью ошибки 2-го рода, чем критерия, основанного на предпосылке нормальности. Действительно, пусть распределение исходных данных (кроме значения, подозреваемого на выпадение) нормально, мы же рассматриваем его как равномерное. Тогда, согласно известному соотношению R=3,205 σ (γде σ - среднеквадратичное отклонение, а R=x_n-1-x₁ - размах распределения исходных данных).

Допустим, что проверяемая на выпадение точка принадлежит исходному распределению с тем же σ. Пользуясь таблицей функции нормального распределения, находим вероятность ошибки 2-го рода β для различных расстояний проверяемой точки от центра интервала [х₁, x_п-1] выраженных в долях R, т.е. для величины z (расстояния проверяемой точки до центра распределения исходных данных в долях его размаха). Так, для значений z 0, 0,2, 0,4, 0,6, 0,8, 1,0, 1,2, 1,4 величины β соответственно равны 0,950, 0,842, 0,642, 0,492, 0,310, 0,161, 0,104, 0,073.

На рис. З приведены графики "функции мощности" Р=1-β, ς.е. вероятности не допустить ошибку 2-го рода в зависимости от величины:

Видно, что предложенный критерий имеет большую мощность, чем критерий τ, но меньшую (если распределение в действительности нормально), чем V-критерий [4], основанный' на предпосылке нормальности.

Предлагаемый критерий может быть применен также и в случае нормального распределения для предварительной оценки возможного выпадения, поэтому если он показывает достоверное выпадение, то проверки по критерию V не требуется, если же выпадение недостоверно, то возможна более точная проверка по традиционному критерию.